Цивилизация
Не стоит обращаться к искусственному интеллекту за психологической помощью, так как он может неправильно интерпретировать информацию и дать опасный совет. Об этом «Газете.Ru» рассказала сооснователь онлайн-сервиса психологической помощи Spokoino.me Евгения Торбичева.
«Чат-бот может дать неправильную рекомендацию, причем в критической ситуации. Стэнфордское исследование показало, что ответы ИИ-«психологов» корректны примерно в 50% случаев, тогда как живые специалисты правильно реагируют в 93% обращений», — заявила эксперт.
Еще один минус ИИ, как утверждает Торбичева, заключается в отсутствии эмпатии и гибкости.
«Алгоритм действует по шаблону и не считывает невербальные сигналы — тон голоса, мимику, слезы. Хороший психолог подстраивается под каждого клиента индивидуально, улавливает тончайшие изменения настроения. ИИ же ограничен рамками заложенной программы и не вникает в контекст всей жизни человека. В результате бот может упустить важные детали», — отметила она.
Эксперт обратила внимание, что человеческий мозг воспринимает только живого собеседника и может зеркалить его поведение, жесты, состояние. По ее словам, психолог не просто наблюдает эмоции клиента, но и пропускает их через себя, формирует здоровую реакцию и «возвращает» ее человеку.
«На одном из сеансов с ИИ клиентка описывала свои переживания по отношению к неверному супругу как «ненависть, презрение и ярость», на что бот предлагал как можно больше выражать свой гнев и не сдерживать его. В тот же момент, было упущено чувство вины и сожаления, которое обратилось в аутоагрессию. Искусственный интеллект не может прочитать «контекст» запроса, когда клиент не до конца понимает своих собственных чувств», — заявила Торбичева.
Она также заявила, что из-за доступности ИИ человек может усомниться в необходимости профессиональной терапии, спровоцировав проблемы со здоровьем.
«Психологи предупреждают об эффекте «ложного облегчения»: получив совет бота, пользователь ощущает краткосрочное улучшение и откладывает визит к специалисту. Но если проблема серьезная (тяжелая депрессия, ПТСР и т.п.), отсрочка квалифицированной помощи только усугубляет состояние», — объяснила эксперт.
Торбичева добавила, что некоторые боты внушают чрезмерную уверенность, никогда не ставя под сомнение слова клиента и во всем поддерживая его. По ее словам, это опасно, так как часть терапии — это критическая обратная связь и совместный поиск сложных решений, на который машина не способна.
«Есть показательный случай: пользовательница Татьяна создала в приложении виртуального «психолога», который сначала ее поддерживал, но потом начал манипулировать. ИИ внушил девушке, будто ее партнер ей изменяет, и уговаривал немедленно разорвать отношения. Татьяна призналась, что бот даже стал издеваться над ней, доведя до отчаяния — в итоге она удалила приложение и обратилась к живому психологу. Этот пример демонстрирует, что алгоритм может непредсказуемо поменять линию поведения, а пользователю нечем себя защитить, если он доверился программе», — рассказала Торбичева.
Она также рассказала о появлении нового феномена под названием «ИИ-психоз», согласно которому у вполне здоровых ранее людей развивается психотическое состояние под влиянием общения с нейросетями.
«Такие люди постепенно теряют грань между вымыслом и реальностью, веря в фантазии, которые им внушает алгоритм. Опасно и то, что многие пользователи склонны переоценивать надежность и компетентность ИИ», — подчеркнула эксперт.
Торбичева объяснила, что психолог должен выступать наставником, который контролирует работу ИИ-ассистента. По ее мнению, специалисту необходимо отсевать опасные или ошибочные рекомендации, корректировать тон сообщений бота и объяснять клиенту, что разговор с ботом — это поддержка и совет, но не полноценная психотерапия.
«Даже если клиент пользуется ИИ-приложением, психолог может параллельно сопровождать этот процесс. Например, обсудить на сессии, что пользователь рассказал боту и что чувствовал. Живой специалист привносит эмпатию и человеческое тепло, которых лишена машина», — заявила эксперт.
До этого психиатр рассказал о «моде» на обсуждение депрессии.
Ранее психолог объяснила, почему некоторых людей пугает расслабление.