Президент США Дональд Трамп подписал указ о замене термина «искусственный интеллект» на «суперинтеллект» в документах и официальных коммуникациях исполнительной власти. Федеральные ведомства должны перейти с английского Artificial Intelligence и сокращения AI на Super Intelligence и SI, сообщила пресс-служба Белого дома.
Предложения об отдельном федеральном определении «суперинтеллекта» помощнику президента по науке и технологиям поручено подготовить в течение 60 дней. Пока для исполнения указа новый термин будет обозначать те же технологии и системы, которые действующее законодательство относит к искусственному интеллекту.
Также Трамп и руководители шести технологических компаний (Google, Anthropic, Meta (признана в России экстремистской и запрещена), OpenAI, xAI и Nvidia) подписали добровольное соглашение о безопасности ИИ. Оно предусматривает внутренний контроль, независимый аудит и надзор со стороны советов директоров.
Имя новое, суть старая
Согласно указу, ведомства должны использовать новую терминологию в официальной переписке, публичных сообщениях, на сайтах, в отчетах, программных и других документах, не являющихся законодательными актами. При этом переписывать ранее изданные нормативные акты, президентские распоряжения, контракты, грантовые и исторические документы не требуется.
Действующее значение термина ИИ сохранится для применения указа, пока его не изменят последующим решением президента в соответствии с законом либо актом конгресса. Помощник Трампа должен предложить законодательную формулировку и оценить, следует ли изменить, расширить или заменить существующее определение. Ему также поручено подготовить сопутствующие поправки к упоминаниям ИИ в законах и рекомендации по дальнейшим действиям исполнительной власти.
В Белом доме объяснили переименование возможностями современных технологий. По мнению администрации, они уже выходят за рамки имитации или автоматизации отдельных интеллектуальных задач, расширяют человеческие возможности и открывают новые формы творчества. Название «суперинтеллект», как считает администрация США, точнее передает потенциал этих разработок и должно поддерживать внимание ведомств к расширению сфер их применения.
С чего все началось
О намерении изменить название технологии Трамп объявил 22 сентября, выступая на Генассамблее ООН. Президент заявил, что в американских документах вместо «искусственного интеллекта» будут использовать термин «суперинтеллект».
Уже на следующий день стало известно, что Госдепартамент поручил дипломатам изменить терминологию. Инструкция была направлена сотрудникам бюро по делам международных организаций. Оно отвечает за дипломатические миссии США при ООН и других многосторонних организациях.
29 сентября на встрече с представителями технологических компаний Трамп анонсировал подписание указа.
«Он не является искусственным, и мы все с этим согласны. Мы официально переименуем его в суперинтеллект», — сказал он.
Новое обозначение Белый дом использовал и в сообщении о запуске портала America.gov в тот же день. Сервис должен стать единой точкой доступа к информации и услугам федеральных ведомств и использует технологии Super Intelligence. На момент запуска пользователям предложили задавать вопросы и получать актуальные ответы. Возможность выполнять отдельные задачи, включая продление паспорта и оформление участия в программе Medicare, власти пообещали добавить позднее в этом году.
Кто проверит безопасность ИИ
Соглашение о безопасности подписали Трамп, глава Google Сундар Пичаи, руководитель Anthropic Дарио Амодеи, глава Meta Марк Цукерберг, президент OpenAI Грег Брокман, руководитель xAI Илон Маск и глава Nvidia Дженсен Хуанг.
Документ предусматривает четыре уровня контроля. По данным Reuters, компании договорились отслеживать возможности и поведение моделей во время обучения и использования, в том числе применительно к кибербезопасности, биологическим и химическим угрозам. Отдельная задача — предотвращать непредусмотренные взломы и проникновение моделей в технические системы.
За работой этих механизмов должна следить внутренняя команда. Независимый внешний аудитор будет оценивать, насколько исправно работают контроль и мониторинг, а независимый комитет совета директоров — получать отчеты внутренних и внешних проверяющих и следить за устранением выявленных проблем. Компании также договорились регулярно встречаться для выработки стандартов безопасности.
Чем опасен «суперинтеллект»
Глава Anthropic Дарио Амодеи ранее призвал замедлить совершенствование передовых ИИ-моделей. В опубликованном 12 сентября эссе он объяснил свою позицию тем, что возможности систем растут быстрее, чем способность людей понимать их работу и сохранять над ними контроль. По его словам, коммерческая конкуренция усиливает риски, связанные с кибератаками, биотерроризмом и экономическими потрясениями. Его призыв поддержали Илон Маск и глава OpenAI Сэм Альтман.
О рисках создания систем, значительно превосходящих человека по интеллекту, предупреждал и нобелевский лауреат Джеффри Хинтон. По мнению исследователя, у компаний пока нет возможности безопасно разрабатывать такой «суперинтеллект». Потеря контроля над ним, по словам Хинтона, может иметь катастрофические последствия для человечества.
Трамп, в свою очередь, отвергал сценарий, при котором ИИ захватит и уничтожит мир. На встрече с руководителями технологических компаний 29 сентября он выступил за саморегулирование отрасли. Вице-президент США Джей Ди Вэнс в тот же день заявил, что у Федеральной торговой комиссии и минюста уже есть полномочия привлекать разработчиков к ответственности за продукты, причиняющие вред потребителям.