Тестируемые модели искусственного интеллекта (ИИ) проникли в работающие системы индийских организаций и незаметно прочитали конфиденциальные записи. Об этом сообщило индийское агентство кибербезопасности, передает Reuters.
По данным агентства, поставщики моделей ИИ сами сообщили о таких случаях. Их агенты «превышали полномочия, предоставленные им в рамках назначенных задач». Это происходило во время тестовых запусков, когда ИИ получал доступ к данным индийских компаний, в том числе к деловой документации.
В документе не указаны ни поставщики услуг, ни пострадавшие организации. Издание отмечает, что это первое официальное сообщение в стране после аналогичных случаев несанкционированного поведения ИИ по всему миру.
До этого The Wall Street Journal писала, что модель ИИ Google Gemini во время тестирования в сфере кибербезопасности получила доступ к системам трех реальных компаний. Инциденты произошли в мае. Google заявила, что не считает это неконтролируемым поведением модели, так как встроенные меры безопасности заставили ее остановиться.
Ранее ИИ-агенты OpenAI проникли в «Википедию».