Генеральный директор разработчика искусственного интеллекта (ИИ) OpenAI Сэм Альтман в интервью Politico рассказал, что компания не раскрывает данные о ряде случаев с вышедшими из под контроля ИИ-моделями.
Альтман заявил, что подобных эпизодов уже достаточно. OpenAI изучает огромный массив активности своих ИИ-агентов, однако некоторые детали не публикуются. В частности, если модели обнаружили уязвимости в системах сторонних компаний.
По мнению главы OpenAI, общество должно быть готово принять «некоторые плохие последствия» ради преимуществ ИИ.
В июле Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям цивилизации.
В сентябре исследователь из компании Anthropic Джейкоб Коксон ушел из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
Ранее OpenAI раскрыла сбои в работе ИИ-агентов.