Отказы в социальных выплатах, вынесенные с помощью алгоритмов, следует пересматривать с участием человека в срок до пяти дней. Для других значимых решений, например при приеме на работу или выдаче кредита, срок пересмотра может составлять до десяти рабочих дней. Такое предложение в беседе с «Газетой.Ru» высказал бизнес-аналитик, преподаватель Колледжа мировой экономики и передовых технологий Александр Высоких.
«Если решение алгоритма существенно влияет на жизнь человека, у него должно быть гарантированное право на пересмотр живым специалистом. Причем специалистом, который действительно может изменить решение, а не просто объяснить, почему компьютер отказал», — подчеркнул он.
По словам аналитика, формального участия сотрудника недостаточно: тот может согласиться с выводом системы, не проверив обстоятельства. Поэтому человеку необходимо объяснять, какие сведения использовал алгоритм, откуда они получены и что повлияло на результат, считает аналитик.
Высоких отметил, что система может опираться на устаревшую информацию — например, человек уже сменил работу или его финансовое положение улучшилось, но модель продолжает оценивать прежние данные. При этом эксперт призвал отличать искусственный интеллект от обычной автоматической проверки сведений: ошибки возможны в обоих случаях.
Статья 16 закона «О персональных данных» уже ограничивает принятие значимых для человека решений исключительно на основе автоматизированной обработки. Она предусматривает возможность заявить возражение, которое оператор обязан рассмотреть в течение 30 дней.
При подозрении на ошибку Высоких рекомендовал письменно запросить основания отказа, проверить исходные данные и сохранить документы и переписку.
Ответственность за решение, по его мнению, должна оставаться на организации, которая его приняла. Ссылаться на алгоритм как на самостоятельного виновника ошибки нельзя, заключил аналитик.
Подробнее — в материале «Газеты.Ru».
Ранее стало известно, какие задачи поручать ИИ.