Неспособность объяснить подготовленный нейросетью вывод, проверить расчеты или назвать ограничения решения может указывать на чрезмерную зависимость от ИИ. Об этом «Газете.Ru» рассказал генеральный директор, управляющий партнер Umbrella Consulting Group Кирилл Агапов.
«Риск возникает, когда сотрудник передает модели не только повторяющиеся операции, но и постановку задачи, анализ и принятие решений. Если консультант поручает модели собрать данные и сформулировать гипотезы, но сам оценивает логику, риски и рекомендации — это усиление работы. Если же он отправляет клиенту сгенерированный текст, не понимая, откуда взяты выводы, — это уже подмена экспертизы», — пояснил Агапов.
Он сослался на исследование Microsoft Research и Carnegie Mellon University. Авторы опросили 319 специалистов и выявили связь между более высоким доверием к генеративному ИИ и меньшими усилиями на критическую проверку. Выводы основаны на самоотчетах участников о рабочих задачах.
Особое внимание требуется начинающим сотрудникам, считает Агапов. Если они не учатся самостоятельно собирать данные и обосновывать решения, им сложнее сформировать базовую экспертизу, подчеркнул эксперт.
Для сохранения навыков он рекомендовал сначала намечать собственное решение, затем сопоставлять его с предложением модели. Ключевые задачи полезно периодически выполнять самостоятельно, добавил эксперт.
Также стоит отдельно проверять источники, цифры и допущения, запрашивать альтернативные объяснения и контраргументы, уверен Агапов.
Хорошим ориентиром он назвал способность без подсказки объяснить, почему решение подходит, где заканчивается его применимость и что изменится при других исходных данных.
Ранее сообщалось, что каждый четвертый опрошенный россиянин регулярно использует ИИ в работе.