Развитие искусственного интеллекта может привести к чрезмерной концентрации власти в руках небольшого числа людей, предупредил глава OpenAI Сэм Альтман предупредил в своем выступлении на заседании Совета Безопасности. Об этом сообщает РИА Новости.
По его словам, компаниям не следует обучать нейросетевые модели, если нет веских оснований полагать, что их удастся удерживать под контролем человека.
«Это один из возможных рисков. Другая опасность заключается в том, что эти системы могут привести к чрезмерной концентрации власти в руках небольшого числа людей», — сказал Альтман.
Он также заявил, что разработчики должны контролировать работу систем ИИ по мере роста их возможностей, и назвал неприемлемым даже минимальный риск катастрофических последствий. По его словам, ни отдельные люди, ни компании, ни государства не должны использовать мощные модели для навязывания своих взглядов другим.
Как отмечает Yahoo News, Альтман назвал нынешний этап развития ИИ требующим «чрезвычайной осторожности» и заявил, что его компания постарается идти «средним путем».
«Индустрия не должна принимать слишком много технологических рисков только потому, что выгоды слишком велики и важны, чтобы замедлиться», — сказал он, добавив, что не хочет впадать ни в «слепой оптимизм», ни в пессимизм.
Помимо Альтмана, перед членами Совбеза выступил глава Anthropic Дарио Амодеи.
Ранее Путин назвал серьезным вызовом распространение ИИ.