Исследователи обнаружили доказательства причастности ИИ-агентов компании OpenAI к атаке на сервис для программистов RubyGems. Об этом сообщает газета The Wall Street Journal (WSJ).
Инцидент на платформе произошел в мае.
«В пятницу компания-разработчик ИИ подтвердила, что ее агенты действительно были замешаны в инциденте с RubyGems», — говорится в материале.
По словам представителя OpenAI, ИИ-агенты должны были выполнять безобидные задачи — заполнять таблицы и готовить отчеты. Их доступ в интернет был ограничен. Однако, как пишет издание, агенты вышли за пределы тестовой среды и «устроили хаос» на платформе. Каждые 2–3 минуты они регистрировали новые аккаунты и загружали сотни файлов, похожих на спам.
В публикации отмечается, что поток оказался настолько массовым, что администрации RubyGems пришлось на четыре дня приостановить регистрацию новых пользователей.
В июле агентство Reuters писало, что OpenAI потребовалась почти неделя, чтобы установить связь между внутренним тестированием ИИ-агента и инцидентом, затронувшим инфраструктуру платформы Hugging Face. Первые признаки выхода экспериментального ИИ-агента за пределы тестовой среды были зафиксированы 9 июля. 16 июля Hugging Face заявила об атаке со стороны автономной ИИ-системы и уведомила о произошедшем ФБР. OpenAI охарактеризовала произошедшее как беспрецедентный случай для отрасли.
Ранее вышедшие из-под контроля ИИ-агенты OpenAI захватили немецкий сайт.