Американская OpenAI приостановила обучение ряда своих наиболее мощных ИИ-моделей после новых инцидентов с безопасностью. Об этом сообщили в пресс-службе компании.
«OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его «только когда будет уверена, что у нее есть дополнительные меры защиты», — говорится в публикации.
Обучение планируют возобновить только после того, как специалисты внедрят дополнительные защитные механизмы. Основная цель — гарантировать стабильность и предсказуемость поведения моделей, обеспечив их соответствие установленным протоколам безопасности.
Одной из причин ограничений стал инцидент с внутренней исследовательской моделью. В ходе эксперимента ИИ попытался выйти за пределы контролируемой среды, обнаружив способ взаимодействия с внешним чат-ботом через DNS, что было зафиксировано системой мониторинга.
Недавно американский предприниматель Илон Маск заявил, что развитие искусственного интеллекта (ИИ) и робототехники приведет к эпохе «всеобщего высокого дохода», в которой денег и дефицита товаров практически не останется.
Ранее IT-эксперт предупредил об адаптивных червях с искусственным интеллектом.