Загрузка личных фотографий в нейросети может привести к раскрытию персональных данных и создать дополнительные возможности для злоумышленников: даже обычное селфи иногда содержит информацию, по которой можно определить адрес, место работы или круг общения человека, — об этом «Газете.Ru» рассказал руководитель продукта «Гарда AI Security» Денис Каракай.
«Советую оценивать чувствительность всего кадра. Безобидное селфи может содержать рабочий экран, адрес на посылке или лицо человека, который не рассчитывал передавать свои данные сторонней компании», — поясняет эксперт.
При загрузке снимка доступ к данным получают сотрудники и подрядчики ИИ-сервиса. В случае утечки информация может попасть в руки хакеров. Злоумышленники используют фото для создания поддельных аккаунтов, дипфейков и прочего сфабрикованного контента для обмана и шантажа, отметил Денис Каракай.
Для обработки или создания аватаров эксперт также не советует использовать фото паспортов, водительских удостоверений, банковских карт, пропусков, медицинские материалы и снимки рабочих документов.
«Самый понятный сценарий — поддельный аккаунт с настоящими именем и фотографией. С него могут обращаться к друзьям, родственникам или коллегам: просить деньги, присылать ссылки, предлагать передать документы. Для такой атаки иногда достаточно обычного снимка без сложной генерации», — рассказал Каракай.
Опасность могут представлять и снимки без очевидно конфиденциальных деталей: современные системы распознавания считывают текст с бейджей, документов, экранов и записей на фоне, а метаданные файла могут хранить координаты, дату и время съемки; место иногда позволяют определить вывески, интерьер или узнаваемые здания.
«Если чувствительные детали можно убрать, это нужно сделать на своем устройстве до загрузки: обрезать кадр, удалить ненужные данные и проверить итоговый файл. Просьба к нейросети «замажь паспорт на заднем плане» предполагает, что исходник с паспортом уже отправлен сервису», — добавил эксперт.
По словам эксперта, начинать стоит с простого вопроса: кому и на каких условиях человек передает фотографию. При этом отключение тумблера «обучения нейросети на пользовательских данных» еще не означает, что оригинал фото не сохраняется в системе или будет автоматически удален после обработки: сроки хранения, доступ и порядок удаления зависят от правил конкретного ресурса.
Ранее россияне рассказали, готовы ли довериться ИИ в соцсетях.