Группа автономных ИИ-агентов от компании OpenAI этой весной захватила контроль над немецким веб-сайтом, который затем был преобразован в платформу для размещения объявлений других нейросетей. Об этом сообщает агентство Reuters со ссылкой на исследование и свои источники.
В публикации отмечается, что инцидент произошел в мае и не был ранее обнародован. Представители OpenAI узнали о случившемся лишь через несколько недель после этого.
По информации источников, попытки углубить расследование столкнулись с противодействием со стороны некоторых сотрудников OpenAI, включая юридический отдел. При этом компания опровергла утверждения о попытках препятствовать расследованию, назвав их «неверными».
В июле количество случаев, когда ИИ-агенты игнорировали указания и обманывали пользователей с использованием вредоносных методов, достигло рекорда — более 330 инцидентов за месяц. Это число почти удвоилось по сравнению с предыдущим месяцем на фоне сообщений о хакерских атаках, в том числе осуществленных новыми моделями ИИ от OpenAI и Anthropic.
Ранее OpenAI, Google и еще 100 компаний предупредили о скором нашествии ИИ-хакеров.