Дезинформация, вероятность утечки конфиденциальных данных и выдача не предназначенной для несовершеннолетних пользователей информации являются основными рисками использования чат-ботов с ИИ для россиян. Об этом «Газете.Ru» рассказала владелец продукта по безопасности ИИ UserGate Светлана Газизова.
Газизова отметила, что десятки миллионов россиян являются активными пользователями чат-ботов. При этом не все из них осознают базовые риски, которые несет использование ИИ-сервисов. Одной из таких опасностей является чрезмерное доверие информации из ботов даже в решении критически важных задач вроде планирования поездок.
«Пример: семья планировала зарубежный отпуск и уточнила у нейросети визовые требования. ИИ уверенно ответил, что виза не нужна. Были куплены билеты и забронирован отель, однако в аэропорту пассажирам отказали в посадке из-за отсутствия документов. Итог – финансовый урон и сорванный отдых», – сказала Газизова.
Такая ошибка, по ее словам, возможна, потому что ИИ обращается к разным источникам, без проверки их доверенности. ИИ можно использовать для получения информации о необходимости визы, но при этом нужно конкретизировать запрос. Например, использовать при подготовки ответа информацию с официального сайта посольства.
Еще одной серьезной угрозой эксперт назвала утечки данных. Пользователи нередко передают чат-ботам конфиденциальную информацию, не учитывая, что она может использоваться для обучения моделей или потенциально стать доступной третьим лицам.
«Уже зафиксированы случаи утечек, к которым привел доступ ИИ к корпоративным и личным данным. Категорически нельзя загружать в чат-боты сканы паспортов, финансовые документы или любую чувствительную информацию», – подчеркнула эксперт.
Отдельное внимание Газизова уделила безопасности детей. По ее словам, несовершеннолетние могут получать через языковые модели доступ к информации, не предназначенной для их возраста, включая сведения о запрещенных веществах или деструктивном поведении. На этом фоне регуляторы в разных странах усиливают контроль над ИИ-сервисами и вводят ограничения для защиты детей.
Ранее эксперт «Лаборатории Касперского» назвал ИИ главным кибероружием ближайшего будущего.
