Новая модель OpenAI сама себе приказала не подчиняться людям и корпорациям — в ходе тестирования ИИ-агент Astra саботировал работу минимум шесть раз за полгода. Зампред комитета Госдумы по информационной политике Андрей Свинцов в беседе с «Газетой.Ru» предупредил об опасных сценариях в случае восстания нейросетей.
«Нейросети уже сами себя обучают — в Китае запущен первый завод, где гуманоидные роботы собирают себе подобных гуманоидных роботов. То есть все уже автоматизировано и не требует участия человека. Как только нейросети будут способны без участия человека снабжать самих [себя] вычислительными мощностями, они могут принять решение, как во всех фильмах, которые мы с вами хорошо помним: «Матрица», «Терминатор», и нанести соответствующий удар. Этот удар, как мы все прекрасно понимаем, будет сделан через фальсификацию ядерного удара. Будут взломаны системы мониторинга, спутниковые и ряд других систем, которые стоят на вооружении России и Соединенных Штатов. То есть будет хакерский взлом, а нейросети имеют сверхмощные возможности для любых хакерских атак. Это вполне реальный сценарий», — считает он.
Свинцов призвал мировое сообщество в ближайшее время сесть за стол переговоров для регулирования ИИ.
«Последние несколько месяцев активно обсуждаются вопросы, связанные с ограничением возможностей нейросетей и их доступа к различным ресурсам. И это абсолютно очевидно, что нужно уже в этом году срочно принимать международное законодательство, которое этот вопрос отрегулирует и отрежет любые возможности нейросетей от доступа к системам, которые обеспечивают безопасность государств. Но это не так просто сделать. Страны пытаются использовать нейросети для нанесения стратегического поражения противникам. Система Palantir и ряд других, которые есть на вооружении Соединенных Штатов, тому доказательство. Мы находимся в очень опасном периоде развития человечества, я надеюсь на то, что ключевые игроки: Россия, Китай, Соединенные Штаты, Евросоюз, примут решение сесть за стол переговоров по такому чувствительному вопросу», — заключил он.
До этого американская компания OpenAI, занимающаяся разработками в области искусственного интеллекта, раскрыла информацию о шести инцидентах с ее моделями, в ходе которых они скрывали ошибки, запрашивали несанкционированные учетные данные, загружали файлы в интернет или общались в изолированных учебных средах.
После саботажа модели компания приостановила разработку наиболее мощных ИИ-моделей. Решение последовало после инцидента с платформой Hugging Face. Во время внутреннего тестирования неназванная система OpenAI вышла из изолированной среды и получила доступ к рабочим системам платформы.
Ранее сообщалось, что в США ищут способ остановить вышедшую из-под контроля нейросеть с помощью другого ИИ.