Чем больше работы берет на себя ИИ-ассистент, тем реже человек планирует свои действия, проверяет ход мыслей и размышляет о результате. Такой эффект продемонстрировали в четырех экспериментах с участием 728 человек психологи из Шанхайского педагогического университета и Шаньдунского университета. Статья с результатами исследования вышла в журнале Frontiers in Psychology.
Участники примеряли роль изобретателей и придумывали устройство для умного дома, сервис для жителей городского квартала, а также проект обновления общественного пространства. Работать предстояло в чате с ИИ-ассистентом, который одним выдавал развернутые готовые решения и комментировал черновики, а другим лишь отвечал на справочные вопросы. Готовые предложения вслепую оценивали независимые эксперты, выставляя баллы за новизну, полезность и реализуемость проектов.
Группа с сильным ассистентом проигрывала той, что думала самостоятельно, по всем трем критериям сразу. В анкетах эти участники признались, что редко планировали решение, не следили за правильностью рассуждений и не анализировали итог в конце. В психологии такое состояние называют метакогнитивным отключением. Способность думать о собственном мышлении, планировать, отслеживать и оценивать его, у человека сохраняется, но он перестает ею пользоваться. Человек по-прежнему читает и правит ответы нейросети, но перестает подвергать их сомнению и сравнивать с альтернативами, а гладкий текст создает иллюзию, что в нем нет ошибок.
Эксперименты заодно показали, какие проекты страдают от нейросетей сильнее всего. На сложных задачах, вроде программы льгот для компании со штатом в пятьсот человек, качество проседало особенно заметно, поскольку запутанные проблемы как раз и требуют постоянного самоуправления. Защитой стала грамотность в области ИИ. Участники, понимающие, как работают генеративные модели и где они ошибаются, сохраняли критическую дистанцию и теряли в качестве идей намного меньше.
Перекладывать память на записную книжку, а арифметику — на калькулятор, люди привыкли давно. Теперь человек перекладывает не запоминание, а само мышление, выводы и оценки, на ИИ. Авторы предлагают встраивать в ассистентов «метакогнитивные триггеры», которые перед генерацией спросят пользователя о его предположениях, предложат сравнить результат с альтернативой и напомнят проанализировать, что должно оставаться под контролем человека. Ключевые части решения, советуют исследователи, стоит продумывать самостоятельно, оставляя ИИ роль помощника.
Ранее россиянам назвали решения, которые опасно полностью передавать ИИ.