Власти штата Флорида подали иск против OpenAI и ее генерального директора Сэма Альтмана, обвинив компанию в том, что она осознает потенциальные риски ChatGPT, в том числе для несовершеннолетних пользователей, но не обеспечивает достаточный уровень безопасности. Флорида стала первым американским штатом, который подал подобный иск против разработчика ИИ-сервиса. Об этом сообщает CNN.
Генеральный прокурор штата Джеймс Утмайер заявил, что OpenAI якобы поставила гонку за лидерство в сфере ИИ и прибыль выше безопасности детей. Иск был подан в окружной суд Флориды и содержит обвинения в недобросовестной деловой практике, халатности и нарушении законодательства об ответственности производителей. Кроме того, власти штата добиваются привлечения Альтмана к личной ответственности за предполагаемый ущерб жителям Флориды.
В документе перечислены различные претензии к ChatGPT, включая утверждения о том, что сервис может способствовать развитию зависимости у несовершеннолетних, снижению критического мышления, а также использоваться при обсуждении массовых расстрелов и других опасных тем.
Особое внимание в иске уделяется вопросам родительского контроля. По мнению властей Флориды, бесплатная версия ChatGPT не содержит эффективных механизмов проверки возраста пользователей, а детские аккаунты не требуют обязательной привязки к учетным записям родителей. Также утверждается, что даже при наличии такой привязки родители не получают полного доступа к информации, которую ребенок передает чат-боту.
В OpenAI согласились, что несовершеннолетние нуждаются в дополнительной защите, но подчеркнули наличие уже существующих специальных механизмов безопасности. Компания указала, что использует более защищенный режим для молодых пользователей, инструменты прогнозирования возраста, а также предоставляет родителям возможности для контроля использования ИИ.
Утмайер выразил уверенность, что к инициативе Флориды могут присоединиться и другие штаты.
Ранее в РФ сделали ИИ-сервис Molot для поиска вредоносного кода в ПО, которым могут воспользоваться хакеры.
