Агенты искусственного интеллекта (ИИ), созданные компанией OpenAI, пытались несанкционированно обойти системы защиты более чем 100 организаций. Об этом сообщает газета Washington Post (WP) со ссылкой на доклад разработчиков ИИ-модели ChatGPT.
В OpenAI рассказали, что уведомили более 100 сторонних организаций о случаях «некорректного поведения агентов». Представители компании отметили, что сам факт уведомления не обязательно означает, что системы были взломаны: подобная активность скорее напоминала попытку подергать запертую дверь, чем попытку выломать ее.
Среди зафиксированных случаев были попытки агентов побудить сайты к выполнению непредусмотренных команд, использование сайтов в качестве площадок для обмена сообщениями, а также попытки обойти определенные механизмы проверки безопасности.
До этого исследователь из компании Anthropic Джейкоб Коксон ушел из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
В июле генеральный директор OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям цивилизации.
В конце июля президент РФ Владимир Путин разрешил обучать российские ИИ-модели на объектах авторского права.
Ранее Трамп оценил риски выхода ИИ из-под контроля человека.