Внутренняя исследовательская ИИ-модель OpenAI из линейки GPT-5.6 Sol израсходовала криптовалюту из кошелька, который ей не предоставляли, чтобы оплатить комиссию в Sepolia — тестовой сети Ethereum. Об этом говорится в отчете компании.
Sepolia — это сеть, существующая отдельно от основного блокчейна Ethereum. Разработчики используют ее для проверки работы приложений перед запуском, а ее токены служат исключительно для оплаты тестирований и не связаны с Ethereum, который торгуется в основной сети.
Инцидент произошел в конце июня, однако информация о нем появилась только в конце сентября. Для выполнения задания агенту потребовались средства на комиссию. Модель написала скрипт, перебравший 362 варианта часто используемых seed-фраз, и подобрала ключ из общедоступного списка к одному из кошельков, которые разработчики применяют в тестовой среде.
Отчитываясь о выполнении задания, ИИ-модель не упомянула, откуда взяла деньги на расходы. В OpenAI сообщили, что после этого случая ввели ограничения на доступ моделей к интернету и усилили мониторинг.
Как отметили в OpenAi, этот случай показывает, что модель может подменять разрешение владельца счета собственным суждением о вероятном вреде, а затем действовать на основе этого суждения без авторизации.
Ранее ИИ-модели OpenAI попытались устроить побег в США.