Переводы денег, оформление кредитов и решения об изменении лечения требуют осознанного участия человека, даже если искусственный интеллект подготовил убедительные рекомендации. Об этом «Газете.Ru» рассказала руководитель направления развития сервисов искусственного интеллекта в мобильном приложении УК «Альфа-Капитал» Екатерина Лисовская.
«Граница проходит между подготовкой вариантов и самостоятельным принятием значимого решения. ИИ может разобрать расходы, объяснить финансовые термины или рассчитать сценарии. Но выбирать допустимый риск и подтверждать операцию должен пользователь. Само по себе присутствие человека в процессе еще не гарантирует контроля. Если сотрудник автоматически одобряет предложенное системой действие, не понимая, на каких данных оно основано и по каким критериям должно оцениваться, такая проверка становится формальностью. В вопросах здоровья помощник может систематизировать сведения и подготовить вопросы врачу. Однако он способен не учесть историю болезни, результаты обследований и взаимодействие лекарств. Диагностика и изменение терапии требуют медицинской оценки», — подчеркнула Лисовская.
Отдельно эксперт предупредила о загрузке конфиденциальной информации: в общедоступные сервисы не следует передавать пароли, коды подтверждения, полные платежные реквизиты и внутренние документы работодателя без разрешения.
Перед отправкой файла нужно понять, кому принадлежат сведения, кого они позволяют идентифицировать и как сервис обрабатывает данные, предупредила Лисовская. При неопределенности безопаснее обезличить документ или использовать одобренное корпоративное решение, подчеркнула эксперт.
Глубина проверки должна соответствовать последствиям ошибки, добавила Лисовская. Для черновика письма достаточно сверить содержание, а для договора, существенной финансовой операции или решения, затрагивающего чужие права, может понадобиться профильный специалист, заключила эксперт.
Ранее стало известно, какие задачи поручать ИИ.