Сбер опубликовал в открытом доступе обновленную модель угроз для систем искусственного интеллекта. Документ размещен на портале «Кибрарий» в разделе «Экспертам» и предназначен для использования государственными организациями, коммерческими компаниями и разработчиками ИИ-решений при оценке и снижении киберрисков, сообщили в компании.
Как отметили в Сбере, необходимость актуализации модели связана с массовым внедрением генеративного ИИ, больших языковых моделей (LLM), мультиагентных систем, технологий RAG и LLM-адаптеров, а также усложнением архитектуры современных решений на основе искусственного интеллекта, что привело к изменению ландшафта киберугроз.
Обновленная модель включает описание 37 угроз и 51 способа их реализации. Для каждой определены возможные последствия, нарушаемые свойства информации, связанные объекты и этапы жизненного цикла.
Отмечается, что реализация таких угроз может привести к утечке или искажению данных, нарушению доступности и логики работы систем на оснвое искусствненого интеллекта, компрометации моделей и инфраструктуры, а также выполнению ИИ-агентами нелегитимных действий.
Кроме того, угрозы и способы их реализации соотнесены с различными типами потенциальных нарушителей, отличающихся уровнем подготовки, техническими возможностями и доступом к компонентам ИИ-решений.
Также расширен перечень объектов защиты — в него включены компоненты, которые ранее не рассматривались, но сегодня стали критически важными с точки зрения безопасности.
В компании отметили, что модель предназначена для разработчиков ИИ-решений, MLOps-инженеров, архитекторов, специалистов по информационной безопасности и руководителей, отвечающих за управление рисками.
Документ, как сообщается, может использоваться при безопасной разработке и эксплуатации генеративных, агентных и мультиагентных систем, а также при проектировании ИИ-решений на всех этапах их жизненного цикла — от подготовки данных и обучения моделей до их интеграции с корпоративными системами.
В Сбере добавили, что модель разработана на основе анализа актуальных угроз, мировых практик и собственного опыта компании по обеспечению кибербезопасности инфраструктуры разработки, обучения и эксплуатации ИИ.
Публикация документа, рассчитывают в компании, позволит российским государственным структурам и частным организациям использовать накопленный опыт Сбера для выявления и приоритизации угроз уже на ранних этапах проектирования ИИ-систем, а также определения ответственных за их минимизацию.