Человечество может потерять контроль над искусственным интеллектом (ИИ) или столкнется с чрезмерной концентрацией власти в руках отдельных людей, компаний или государств. Об этом в соцсети X написал директор американской технологической компании OpenAI Сэм Альтман.
По его словам, для предотвращения такого сценария необходимо, чтобы методы обеспечения безопасности и соответствия ИИ человеческим интересам развивались быстрее возможностей самих моделей.
«Результаты могут быть крайне антиутопичными», — добавил Альтман.
В то же время он отметил, что опасность может возникнуть и в случае получения чрезмерного влияния одной страной или одной компанией, разрабатывающей ИИ.
До этого исследователь из компании Anthropic Джейкоб Коксон ушел из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
В июле Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям цивилизации.
Ранее Путин разрешил обучать российские ИИ-модели на объектах авторского права.