Технологии

Инженеры Google строят фейковый интернет для тренировки ИИ-агентов

Google: инженеры строят изолированный интернет для ИИ-агентов
1200 800 600 400 600 600 200 200 895 505

Команда Chrome создала изолированную копию интернета, чтобы в безопасных условиях тренировать ИИ-агентов Gemini. О проекте Mirror Dimension («Зеркальное измерение») Google впервые рассказал в своем блоге.

Mirror Dimension — это полностью контролируемая веб-экосистема, повторяющая настоящий интернет. Внутри — соцсети, интернет-магазины и банковские дашборды с реалистичными данными. ИИ-агенты выполняют в Chrome повседневные задачи, например применение промокода при покупке или заполнение ленты в соцсети, как живой пользователь. По ходу работы их проверяют на устойчивость скрытыми атаками с промпт-инъекциями, которые пытаются заставить модель выполнить чужую волю.

Без подобной площадки обучение «веб-агентов» заходит в тупик. В тесных тестовых средах они не видят размаха настоящей сети и могут проявлять «осознание оценки» — узнавать, что это эксперимент, и вести себя неестественно. Выпускать сырую модель в открытый интернет рискованно: она может нарваться на враждебные сайты, утечки данных и реальные финансовые операции.

«Агенты не запрограммированы жестко, поэтому невозможно предсказать все, что они увидят. Пространство для исследований огромно, а веб враждебен», — объясняет Чарльз Цянь, инженер команды безопасности Chrome.

Любой пользователь может ввести любой промпт на любом сайте, и это пространство нужно изучать как можно тщательнее. При этом агенты уже вырабатывают зрелое суждение: понимают, какие данные нужны для задачи, а когда лучше спросить пользователя.

Чтобы создать Mirror Dimension, команда Chrome запустила «армию» ИИ-агентов-разработчиков, которые быстро создавали реалистичные веб-сервисы и потоки данных. Исследователям пришлось взломать собственный браузер: например, выпускать поддельные сертификаты для проверок валидности. Команда подчеркивает, что такие атаки невозможны против обычных пользователей и облегчались только «режимом бога», доступным разработчикам.

Сейчас испытываемые в Mirror Dimension ИИ-агенты безвредны и лишены кибератакующих возможностей. Google планирует открыть среду командам внутри компании и внешним исследователям.

«Мы делимся этим подходом, чтобы другие команды — и внутри, и снаружи — задумались о том, чтобы поступить так же», — говорит Дуг Тернер, директор по инженерии Google. По его словам, это первый шаг, и по мере усложнения моделей среду придется дорабатывать в сторону большей реалистичности.

Ранее сообщалось, что российский искусственный интеллект впервые научился самостоятельно звонить и бронировать билеты.