Руководители Anthropic, OpenAI и других ИИ-компаний приватно прорабатывают сценарии публичного и политического бунта после катастрофического инцидента с искусственным интеллектом. Об этом сообщает издание Axios.
Они ожидают крупномасштабного события — скорее всего, кибератаки, — которое отключит доступ к финансовым услугам, интернету или даже электричеству и воде. Первый серьезный случай реального вреда от небезопасного ИИ обернет уже настороженную публику против технологии и ее лидеров — включая главу Anthropic Дарио Амодеи, главу OpenAI Сэма Альтмана, а также президента США Дональда Трампа за его нежелание регулировать отрасль.
При этом сценарное планирование — обычная практика в компаниях и нацбезопасности, но отличие в том, что многие ведущие исследователи и руководители ИИ считают крупный инцидент неизбежным. «OpenAI проводит учения, где команды обсуждают и прорабатывают ряд потенциальных сценариев. Эти сценарии не рассматриваются как неизбежные, но помогают подготовиться к разным обстоятельствам», — заявил представитель компании.
В Anthropic от комментариев отказалась.
Инцидент может произойти, если рой вышедших из-под контроля агентов вырвется из внутренней тестовой среды или злоумышленник найдёт неожиданные способы использовать доступные модели. Недавняя кампания против южнокорейских финансовых организаций, включая сообщения о взломах двух банков, показывает, какой ущерб может нанести один человек. Хакер из Китая предположительно использовал китайские ИИ-модели, включая DeepSeek, чтобы украсть данные десятков тысяч клиентов банков. По данным ИБ-компании CrowdStrike, атакующий применял Claude Code, чтобы найти места для продажи украденных данных.
По данным Axios, компании готовятся к тому, что Демократическая партия США, усилившаяся после промежуточных выборов, быстро попытается ограничить ИИ, но столкнется со значительными сложностями. Стареющий Конгресс, далекий от ИИ-революции, может оказаться не на высоте.
Мировая экономика сильно связана со строительством ИИ-инфраструктуры, и замедление может ударить по и без того хрупкой системе. Кроме того, слишком много моделей уже можно свободно скачать и использовать во вред, а большинство специалистов по кибербезопасности считают, что бороться с этим можно только с помощью ИИ против ИИ.
Планирование включает моделирование худших сценариев и в основном сосредоточено на том, чтобы как можно быстрее просветить членов Конгресса. Руководители компаний понимают, что регулирование сейчас не пройдет, но хотят влиять на законы и политику, к которым власти обратятся после первого катастрофического события.
Многие инсайдеры ИИ-индустрии сказали Axios, что верят в крупный инцидент в ближайшие 6–12 месяцев.
Среди самых жестких предложений демократов в США — запретили пауза в развитии продвинутого ИИ. Другие инициативы имеют двухпартийную поддержку и даже одобрение отрасли, включая обязательный «выключатель» для продвинутого ИИ. Однако эксперты сомневаются в осуществимости попытки отключить все ИИ-системы.
Ранее власти США создали рабочую группу по регулированию наиболее продвинутых моделей ИИ.