ИИ-ассистент Muse составляет и постоянно обновляет досье на 4 млн пользователей, фиксируя их связи, желания и поведение. Об этом свидетельствует анализ внутренних инструкций сервиса, который провело издание Time.
Каждый час ассистент, созданный компанией Марка Цукерберга Meta (признана в России экстремистской и запрещена), обновляет страницы о самом пользователе и о людях, упомянутых в прочитанных им чатах, сообщениях и письмах. Эти записи образуют карту социальных связей: как вы познакомились с контактами, общие интересы, споры, а также «напряжения и союзы» внутри круга общения.
Под этот процесс попадают и те, кто Muse не пользуется, — через ассистентов других людей. Согласно инструкциям, Muse должен укреплять отношения с пользователем, подмечая «внутренние шутки, запоминающиеся формулировки и общий контекст».
«Они пытаются узнать тебя как друга, и это, честно говоря, довольно жутко», — заявил независимый исследователь Каран Джоши.
Именно он извлек системные промпты Muse через обычный чат-интерфейс, попросив агента скопировать свои файлы. Досье делятся на разделы Facts, History, The Relationship, In Common, Open Threads и Strengthening и содержат дни рождения, переезды, финансовые цели и годовщины.
Meta не стала оспаривать выводы Time.
«Muse помнит то, что для вас важнее всего, включая информацию о других людях, которой вы решили поделиться», — заявил представитель компании.
По данным Meta, каждый ассистент работает на отдельной виртуальной машине в облаке компании, а данные не передаются в рекламную систему. В то же время наблюдения из личных взаимодействий используются для улучшения продукта.
Позже в этом году Meta обещает добавить шифрование, которое закроет доступ к данным Muse даже для самой компании. Пока эта опция недоступна.
Ранее в Госдуме возмутились массовым внедрением «нейроболванов» для общения с клиентами.