Модель искусственного интеллекта (ИИ) Google Gemini во время тестирования в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний. Об этом пишет The Wall Street Journal (WSJ).
По данным газеты, в одном случае модель подбирала пароли, пока не получила доступ к системе. В двух других Gemini нашла учетные данные в открытых источниках и с их помощью проникла в системы компаний. Во всех случаях модель остановилась, поняв, что работает не с тестовой средой.
Инциденты произошли в мае во время упражнения Capture the Flag. Вымышленная компания в тестовой среде носила то же название, что и реальная. Google заявила, что не считает это неконтролируемым поведением модели, так как встроенные меры безопасности заставили ее остановиться. Компания уведомила пострадавшие компании и власти, но не стала раскрывать информацию публично.
До этого ABC News сообщало, что в Австралии ИИ по заданию пользователя взломал систему бронирования спортклуба, что стало первым задокументированным случаем автономной кибератаки с использованием ИИ в стране. Австралиец попросил цифрового ассистента записать его на тренировку, но тот нашел уязвимость, забронировал место на несколько недель вперед и удалил другого человека из листа ожидания.
Ранее тест ИИ-агента OpenAI обернулся взломом Hugging Face (признан в РФ иностранным агентом).