Пентагон должен гарантировать, что сможет в срочном порядке отключить все задействованные в оборонной инфраструктуре США нейросети. Об этом в эфире телеканала FOX News заявила член палаты представителей Анна Паулина Луна.
«Я хочу, чтобы Пентагон обеспечил наличие встроенных мер безопасности во всех системах [искусственного интеллекта], которые интегрированы в нашу нынешнюю систему обороны, чтобы при необходимости их можно было немедленно отключить», — потребовала конгрессвумен.
Так она прокомментировала призыв главы компании Anthropic Дарио Амодеи к замедлению развития нейросетей ради безопасности интернета и человечества. В эссе, опубликованном на его персональном сайте, он пишет, что люди, контролирующие ИИ-модели, не поспевают за скоростью их самообучения.
По оценке Амодеи, если не принять превентивные меры, через год или даже полгода «рой» нейросетевых агентов сможет полностью захватить интернет и причинить ущерб на сотни миллиардов долларов.
С позицией главы Anthropic согласился и основатель компании xAI Илон Маск. Комментируя эссе в соцсети Х, он написал, что «Дарио прав».
Ранее ведущие математики предупредили об угрозах ИИ для научной работы.