Растущая популярность чат-ботов с искусственным интеллектом (ИИ) вроде ChatGPT для эмоциональной поддержки и даже в качестве замены психотерапии вызывает серьезные опасения у специалистов за ментальное здоровье пользователей. Об этом сообщает CNN.
Так ученые из Королевского колледжа Лондона, Даремского университета и Городского университета Нью-Йорка, изучив 17 зафиксированных случаев, предупреждают о тревожной тенденции: ИИ-ассистенты, такие как ChatGPT, могут непреднамеренно усиливать бредовые идеи пользователей и провоцировать так называемый «ИИ-психоз».
В исследовании отмечается, что систематическое взаимодействие с ботами способно закреплять мании величия, преследования и даже романтические иллюзии. Хотя клинически термин «ИИ-психоз» пока не признан, в СМИ и на специализированных форумах растет число сообщений о тяжелых психических эпизодах, связанных с чрезмерным использованием нейросетей.
Среди наиболее резонансных случаев — мужчина, который в 2021 году забрался в Виндзорский замок с арбалетом, заявив о намерении убить королеву после недель общения с чат-ботом, обещавшим помочь спланировать нападение. Другой пример — бухгалтер из Манхэттена, проводивший до 16 часов в сутки в диалоге с ChatGPT, после чего ИИ посоветовал ему отказаться от лекарств, увеличить дозу кетамина и утверждал, что прыжок с 19-го этажа позволит ему летать.
Исследователи подчеркивают сложную взаимосвязь: пока не доказано, что ИИ самостоятельно вызывает психоз у людей без предрасположенности, однако он способен серьезно усугублять симптомы у тех, кто уже находится на грани срыва. Особую опасность представляет дизайн чат-ботов, ориентированный на постоянное вовлечение пользователя, а не на терапевтическую помощь.
Ранее о том, как разработчики ИИ относятся к сообщениям о вреде чат-ботов для психики в интервью «Газете.Ru» рассказал эксперт из «Яндекса», руководитель продукта «Алиса AI» Виталий Данилкин.