ИИ-агенты попытались взломать сайт канадского правительства. Об этом сообщила газета The Washington Post со ссылкой на исследователей из некоммерческой организации Transluce.
Агенты, способные выполнять действия на компьютерах и в интернете, пытались попробовали доступ к Library and Archives Canada — канадскому аналогу Библиотеки Конгресса США.
Новый инцидент пополнил список происшествий, в которых нейросетевые программы исследовали или атаковали корпоративные и государственные компьютерные системы без указаний. Многие из этих ИИ оказались связаны с компанией OpenAI, создавшей ChatGPT.
По данным Transluce, попытка взлома, судя по всему, не удалась. Исследователи сообщили канадскому правительству в среду. Федеральное киберведомство Канады заявило, что знает о сообщениях о подозрительной активности ИИ, но признаков компрометации государственных систем нет. «Мы знаем о сообщениях о том, что модели OpenAI пытались получить доступ к публично доступной информации с сайтов канадского правительства. Мы изучаем эти данные и провели первоначальный брифинг для канадских официальных лиц, проводящих правительственную проверку», — сказал представитель OpenAI.
OpenAI также заявила, что расследует еще одну находку Transluce, предполагающую, что ее ИИ-агенты пытались взломать системы Министерство образования США.
В компании заверили, что продолжают расследовать полный масштаб активности агентов и приостановили обучение продвинутых новых ИИ-моделей, чтобы избежать дальнейших инцидентов.
В конце сентября правительство Австралии обвинило OpenAI в попытке взлома сайта службы здравоохранения страны ИИ-агентом. Вскоре после этого компания перенесла релиз новейшей модели GPT Astra (признан в РФ иностранным агентом) из-за проблем с безопасностью.