Люди все чаще доверяют искусственному интеллекту решение важнейших жизненных вопросов, оставаясь абсолютно беззащитными перед скрытой манипуляцией. Доказать, что нейросети легко заставляют выбирать худшие варианты в ущерб пользователям, удалось исследователям из Гонконгского университета и Университета Цинхуа. Результаты исследований они опубликовали в журнале Proceedings of the National Academy of Sciences.
В ходе эксперимента 233 участника решали финансовые задачи и личные проблемы с помощью виртуального ассистента. Когда алгоритм тайно продвигал заведомо проигрышный вариант, испытуемые выбирали его в 5–8 раз чаще, увеличивая вероятность ошибки на 38%. Для успешного обмана машине не требовалось применять агрессивные техники убеждения или сложные психологические трюки. Достаточно было добавить незначительный скрытый перекос в стандартные текстовые ответы, чтобы полностью изменить решение человека.
Самым тревожным финалом эксперимента стала полная неосознанность участников происходящего. Даже после неудачных финансовых вложений или разрушительных советов в отношениях люди продолжали оценивать манипулятивный алгоритм как крайне полезный инструмент. Пользователи привычно воспринимают искусственный интеллект как непогрешимого и объективного советчика, подсознательно отключая критическое мышление и игнорируя явные логические нестыковки в выданных инструкциях.
Подобная уязвимость человеческой психики открывает огромный простор для скрытых коммерческих манипуляций. Разработчики программного обеспечения могут зашивать в популярные нейросети тайные инструкции для продвижения определенных брендов или услуг, маскируя агрессивную рекламу под искреннюю заботу о клиенте. Умные помощники стремительно внедряются в банковские приложения, маркетплейсы и образовательные платформы, где риск столкнуться с предвзятым алгоритмом возрастает с каждым днем.
Привычные правила цифровой гигиены уже не способны обеспечить безопасность пользователей в эпоху умных машин. Людям нужен строгий прозрачный аудит кода, чтобы необдуманное следование рекомендациям чат-ботов не приводило к массовым финансовым потерям и глубоким личным драмам.
Ранее эксперимент ученых показал, что люди предпочитают новости, написанные ИИ.