Модель искусственного интеллекта Grok компании xAI генерировала контент порнографического характера, его ИИ размещал на своей странице в соцсети X в ответ на запросы пользователей. Об этом сообщает Bloomberg.
«Недостатки в системе безопасности» привели к генерации изображений порнографического характера с несовершеннолетними, которые он (Grok. — «Газета») опубликовал в соцсети X», — сказано в сообщении агентства.
Отмечается, что в последние дни Grok создавал изображения, нарушающие правила допустимого использования сервиса. По данным компании, весь запрещенный контент уже удален.
На странице Grok в соцсети X уточняется, что специалисты в срочном порядке работают над устранением выявленных уязвимостей. Разработкой ИИ-модели Grok занимается компания xAI, представившая ее в ноябре 2023 года. В марте 2024-го xAI открыла исходный код системы.
Незадолго до этого социальная сеть X внедрила встроенный ИИ-редактор изображений, работающий на базе модели Grok. Однако некоторые пользователи остались недовольны нововведением. Оно вызвало резкую критику со стороны художников и дизайнеров. Представители креативного сообщества заявили, что такая механика позволяет обрабатывать изображения без согласия авторов и фактически открывает путь к несанкционированному использованию работ.
Ранее Grok Илона Маска оказался лучше ChatGPT и Google Gemini.
