Президент Microsoft Брэд Смит заявил, что искусственному интеллекту нужны срочные глобальные правила безопасности с независимыми оценщиками. По его словам, сейчас к ИИ предъявляется меньше требований, чем к молоку. Об этом сообщило агентство Reuters.
Смит сказал, что необходим набор глобальных правил безопасности. Среди них — обязательное уведомление «жертвы», если ее система была взломана вышедшим из-под контроля ИИ-агентом, и доступность «аварийного тормоза». Также, по его мнению, должна быть законодательная обязанность компаний писать «отчеты об инцидентах».
«Мы знаем, как это делать для других продуктов. Нужно использовать эти знания и подумать, как применить их к ИИ. Прямо сейчас ваша стиральная машина подчиняется большему числу правил безопасности, чем ИИ. Каждая упаковка молока в магазине проходит проверки и соответствует правилам безопасности», — подчеркнул президент Microsoft.
Технологические компании, включая Anthropic и OpenAI, уже начали раскрывать случаи нежелательного поведения ИИ-агентов. Это часть глобальной дискуссии о быстро развивающейся технологии: исследователи предупреждают о возможной экзистенциальной угрозе для человечества. Некоторые компании призывают замедлить разработку ИИ, но это породило спор о том, нет ли у руководителей скрытых мотивов — например, закрепить правила, сохраняющие лидерство их фирм, или предупредить более широкое недовольство властей.
Смит также считает, что Великобритания лучше всех подходит на роль лидера в регулировании ИИ — благодаря Институту безопасности ИИ, созданному при бывшем премьер-министре Риши Сунаке. По его словам, официальный Вашингтон относится к Лондону иначе, чем к Брюсселю, который регулирует ИИ по уровню риска через свой AI Act.
Ранее основатель Microsoft Билл Гейтс спрогнозировал глобальные проблемы из-за ИИ в 2027 году.