Корпорация Microsoft официально признала ошибку в работе ИИ-ассистента Copilot в Windows 11 и Microsoft 365. По данным компании, ИИ некорректно обрабатывал электронную почту пользователей, включая сообщения с установленной меткой конфиденциальности, сообщает Bleeping Computer.
Проблема затронула функциональность чата Microsoft 365 Copilot, который интегрирован в рабочую экосистему и способен анализировать содержание электронных писем для подготовки сводок и выполнения рабочих задач. Несмотря на наличие меток «конфиденциально» и настроенных политик защиты от утечки данных (DLP), сервис создавал сводки с учетом таких писем во вкладке «Работа».
«Несмотря на то, что наши средства контроля доступа и политики защиты данных остались прежними, такое поведение не соответствовало нашим представлениям о Copilot, который должен исключать доступ к защищенному контенту. Для корпоративных клиентов по всему миру было выпущено обновление конфигурации», — заявили в Microsoft.
В компании пояснили, что причиной инцидента стала ошибка в программном коде. По заявлению Microsoft, исправление уже развертывается поэтапно, и проблема считается устраненной.
Ранее Microsoft показала на видео глубокую интеграцию ИИ в Windows 11.