Компания OpenAI объявила о планах запустить специализированную версию своего чат-бота ChatGPT, предназначенную для пользователей младше 18 лет, которая будет включать функции родительского контроля. Эта инициатива направлена на усиление мер безопасности для подростков, использующих искусственный интеллект (ИИ). Об этом сообщает CNBC.
В OpenAI сообщили, что при идентификации пользователя как несовершеннолетнего, он будет автоматически перенаправлен на соответствующую версию ChatGPT. Эта версия будет блокировать графический и сексуальный контент, а в редких случаях сильного эмоционального дистресса предусмотрена возможность привлечения правоохранительных органов.
Компания также разрабатывает технологию для более точного определения возраста пользователя. Если новая система не сможет точно определить возраст человека, она будет переключаться на режим для пользователей младше 18 лет.
Обновления безопасности следуют за недавним расследованием Федеральной торговой комиссии (FTC) США, которая изучает, как чат-боты с ИИ, такие как ChatGPT, потенциально могут негативно влиять на детей и подростков. Агентство заявило, что стремится понять, какие шаги предприняли эти компании для «оценки безопасности этих чат-ботов, когда они выступают в роли компаньонов».
В прошлом месяце OpenAI также рассказала о том, как ChatGPT будет обрабатывать «деликатные ситуации», после иска от семьи, которая обвинила чат-бот в самоубийстве их сына-подростка.
Ранее в Госдуме предложили ввести госнейроконтроль за ИИ.