Руководителей OpenAI Сэма Альтмана и Anthropic Дарио Амодеи вызвали в сенат Австралии на слушания по вопросам искусственного интеллекта (ИИ). Об этом пишет газета Guardian Australia.
«Все это не может происходить за закрытыми дверями. Общественность имеет право знать, что здесь произошло», — сказала возглавляющая расследование по вопросам искусственного интеллекта и дата-центров сенатор от партии «Зеленые» Сара Хэнсон-Янг.
Она подчеркнула, что главы крупнейших ИИ-компаний должны открыто обсудить регулирование отрасли.
До этого в пресс-службе OpenAI заявили о приостановке обучения ряда своих наиболее мощных ИИ-моделей после новых инцидентов с безопасностью. Обучение планируют возобновить только после того, как специалисты внедрят дополнительные защитные механизмы. Основная цель — гарантировать стабильность и предсказуемость поведения моделей, обеспечив их соответствие установленным протоколам безопасности.
Одной из причин ограничений стал инцидент с внутренней исследовательской моделью. В ходе эксперимента ИИ попытался выйти за пределы контролируемой среды, обнаружив способ взаимодействия с внешним чат-ботом через DNS, что было зафиксировано системой мониторинга.
Ранее IT-эксперт предупредил об адаптивных червях с искусственным интеллектом.