Компании передают ИИ сбор статусов, сведение отчетности, подготовку черновиков и первичный анализ данных, поэтому готовый ответ модели теперь попадает в работу почти каждого сотрудника. Редким при этом становится умение сказать, что рекомендация модели неверна, и взять ответственность за это решение на себя, рассказал «Газете.Ru» руководитель направления контроля качества Битрикс24 Олег Строкатый.
По его словам, критически отнестись к ответу ИИ — это отдельный навык, потому что человек склонен согласиться с убедительным готовым ответом. Раньше когда сотрудник не был уверен, он спрашивал коллегу, а особенно спорный случай доходил до руководителя, пояснил эксперт. Но ИИ-модель сразу отвечает уверенно, и сотрудник часто не проверяет ее ответ дополнительно, поэтому компания узнает об ошибке лишь по последствиям, посетовал Строкатый.
«В недавнем эксперименте исследователи случайно разделили консультантов на две группы, и одна группа работала самостоятельно, вторая вместе с ИИ-моделью. На типовых задачах участники с доступом к нейросети работали быстрее почти на четверть и закрывали больше задач. В задаче, где требовалось сопоставить цифры из отчета и детали интервью и усомниться в самом отчете, эти же участники приходили к верному решению на 19% реже, чем те, кто работал без ИИ-модели. Они получали убедительный ответ и принимали его, хотя правильное решение требовало этот ответ оспорить», — отметил Строкатый.
По его словам, известны случаи, когда юридическое заключение, подготовленное с помощью нейросети, содержало ссылки на несуществующие статьи закона, и сотрудник передавал документ на согласование, даже не переходя по ним. Цена такой ошибки растет, потому что звеньев в цепочке согласований компании постепенно становится меньше, констатировал Строкатый. Когда решение проходит через несколько руководителей, ответственность распределяется между ними и ошибку с большей вероятностью кто-то из них сможет отследить, пояснил эксперт.
Само по себе умение проверять у сотрудника не появится, потому что оспорить готовый ответ дольше и труднее, чем принять его, предупредил эксперт. Он пояснил, что сотрудника торопят коллеги и руководство, поиск дополнительных источников отнимает время, и в случае несогласия ему еще предстоит объяснить, почему он не согласен с системой, лицензии которой компания оплачивает.
Ранее стало известно, какие задачи поручать ИИ.