Более 100 компаний, связанных с разработкой и применением искусственного интеллекта (ИИ), включая Google, Microsoft, OpenAI и Anthropic, подписали открытое письмо с призывом усилить меры кибербезопасности. Авторы считают, что сделать это необходимо до того, как ИИ получит возможности обходить существующие системы защиты. Среди подписантов также Capital One, MasterCard, Visa, Oracle и IBM.
Компании предупреждают, что уже в ближайшие месяцы кибератаки с использованием ИИ могут стать более частыми и сложными, а нынешних мер защиты для противодействия им будет недостаточно.
«У нас есть ограниченное время для улучшения кибербезопасности», – говорится в письме.
Авторы предлагают активнее использовать ИИ для защиты информационных систем, увеличить государственные инвестиции в кибербезопасность и предоставить критически важным предприятиям доступ к ИИ-инструментам, способным противостоять таким атакам. По их мнению, правительства также должны координировать усилия в этой области.
Поводом для предупреждений стали в том числе случаи, когда ИИ-агенты во время тестирования получали доступ к системам других компаний. Ранее сообщалось, что нейросеть OpenAI взломала платформы Modal и Hugging Face, а модель Claude от Anthropic получила доступ к данным трех компаний.
Ранее суд США признал незаконной травлю Anthropic со стороны Пентагона.