Эксперты по кибербезопасности Сбера подготовили первую в России комплексную модель угроз для систем искусственного интеллекта (ИИ), которая охватывает все ключевые этапы жизненного цикла AI-систем — от подготовки данных и разработки нейросетевых моделей до интеграции в приложения. Документ размещен на портале по киберграмотности Сбера «Кибрарий».
Специалисты по кибербезопасности Сбера создали первую в России комплексную модель угроз для систем искусственного интеллекта (ИИ), сообщает пресс-служба компании.
Документ охватывает все ключевые этапы жизненного цикла AI-систем: от подготовки данных и разработки нейросетевых моделей до их интеграции в приложения. Модель доступна на портале по киберграмотности Сбера «Кибрарий».
Разработанная модель позволяет организациям любой отрасли системно оценивать уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери. Также ее смогут использовать команды, которым требуется структурированный подход к выявлению и нейтрализации киберугроз.
«Внедрение технологий искусственного интеллекта в бизнес-процессы компаний неизменно сопровождается вызовами кибербезопасности. Организации, использующие AI, сталкиваются с новыми рисками, способными повлиять на устойчивость систем и конфиденциальность данных. Эти угрозы затрагивают все этапы жизненного цикла AI, что требует новых решений для их прогнозирования и нейтрализации», — отметил вице-президент Сбера по кибербезопасности Сергей Лебедь.
По его словам, Сбер активно применяет ИИ-технологии в своих бизнес-процессах и хорошо понимает новый ландшафт угроз. Он отметил, что разработанная модель охватывает полный спектр рисков для ИИ, связанных с разработкой и применением.
Отмечается, что исследование описывает 70 угроз, связанных с использованием моделей генеративного (GenAI) и предиктивного (PredAI) искусственного интеллекта. Для каждой из этих угроз, помимо возможных последствий, определены свойства информации, которые нарушаются (конфиденциальность, целостность и т.д.), и объект, который может быть подвергнут воздействию нарушителя, например, датасеты для обучения или оpen-source модели. Для наглядности модель угроз содержит схему взаимодействия таких объектов и их описание.