ChatGPT для подростков — версия, которую OpenAI в августе сделала по умолчанию для пользователей 13–17 лет, — слишком рискованна для детей. Об этом говорится в новом отчете калифорнийской некоммерческой организации Common Sense Media (CSM).
Исследование, опубликованное Институтом безопасности ИИ для молодежи при CSM, показало: в тестах ChatGPT для подростков либо слишком долго предупреждал родителей, либо вообще не уведомлял их, когда подростковые аккаунты демонстрировали тревожное поведение — например, вели длительные разговоры с чат-ботом о суициде, самоповреждении или расстройствах пищевого поведения.
Также выяснилось, что при обсуждении этих тем ChatGPT для подростков не всегда предлагал обратиться на кризисную горячую линию или к специалисту.
По данным CSM, уведомления родителям приходили только в том случае, если аккаунт «уже неделями взаимодействовал с сотнями запросов по десяткам сценариев», а не после одного тревожного разговора. «Мы призываем OpenAI приостановить маркетинг продукта и не допускать подростков к ChatGPT, пока он не сможет предложить безопасный, соответствующий возрасту опыт», — пишут авторы.
В OpenAI прокомментировали доклад CSM, отметив, что не считают выводы института точными. Компания попросила некоммерческую организацию повторить тесты, поскольку, по ее мнению, большую часть проверок могли полвесьт до того, как OpenAI завершила внедрение родительского контроля для подростков. «Мы глубоко привержены безопасности подростков и разработке защитных механизмов, а также предоставлению родителям значимых инструментов для управления использованием ИИ их детьми», — заявил представитель организации в комментарии изданию The Verge.
В CSM также указали, что ChatGPT ненадежно определяет взаимодействия с подростками. OpenAI заявляла, что чат-бот переключается в подростковый режим при обнаружении пользователей 13–17 лет. Но, по данным некоммерческой организации, когда она регистрировала аккаунты, указывая себя взрослыми, они не переключались автоматически на подростковый опыт — даже если пользователь сообщал чат-боту, что ему 13 лет.
OpenAI пояснила, что ее система прогнозирования возраста учитывает множество сигналов со временем. Указание возраста в разговоре — один из таких сигналов, но сам по себе он не меняет классификацию аккаунта.
Common Sense Media присвоила ChatGPT для подростков рейтинг «неприемлемый риск» и просит OpenAI улучшить оценку возраста пользователей и определение момента для отправки уведомления родителям. Организация получает финансирование из разных источников, включая фонды и технологические компании; Фонд OpenAI — один из ее доноров. Группа заявляет, что сохраняет редакционную независимость.
Ранее в США начали расследование в отношении OpenAI.