Компания OpenAI усилила меры безопасности при обучении моделей искусственного интеллекта (ИИ) и перешла к использованию офлайн-среды. Это произошло после инцидентов, связанных с некорректным поведением ИИ-агентов. Об этом сообщается на официальном сайте компании.
В OpenAI заявили, что совместно с облачными провайдерами внедрили дополнительные механизмы контроля инфраструктуры, а также усовершенствовали методы выявления несоответствующего поведения моделей и попыток обхода ограничений безопасности.
В компании подчеркнули, что новая стратегия предполагает многоуровневую, или эшелонированную, защиту. Она должна обеспечивать безопасность исследовательской среды даже в случае отказа одного из механизмов контроля.
В июле генеральный директор OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям цивилизации.
Ранее Путин разрешил обучать российские ИИ-модели на объектах авторского права.