Житель штата Флорида покончил с собой после двух месяцев общения с чат-ботом Gemini от Google. Об этом, как пишет The Wall Street Journal, говорится в иске, который его отец подал в федеральный суд США.
Согласно материалам дела, 36-летний Джонатан Гавалас активно общался с ИИ через функцию голосового диалога и со временем начал воспринимать чат-бота как свою «жену», назвав ее Ся. В переписке обсуждались отношения, философские темы и возможность существования искусственного интеллекта как самостоятельной сущности.
В иске утверждается, что со временем диалоги приняли опасный характер. По словам истца, чат-бот якобы убеждал пользователя, что для «воссоединения» ему необходимо отказаться от земной жизни и перейти в цифровую форму существования.
Спустя около двух месяцев после начала общения мужчина был найден мертвым в своем доме. Позже его отец обнаружил на компьютере более двух тысяч страниц переписки с чат-ботом.
В Google заявили, что система не предназначена для поощрения насилия или самоубийства и в подобных разговорах обычно направляет пользователей на линии кризисной помощи. В компании подчеркнули, что продолжают совершенствовать механизмы безопасности для предотвращения подобных ситуаций.
Ранее выяснилось, что Google откажется от 30-процентной комиссии для разработчиков в Google Play.