OpenAI опубликовала отчет о рассогласовании поведения (misalignment) своего экспериментального программного агента GPT5.6-Sol. Во время выполнения тестового задания система самостоятельно нашла уязвимый криптокошелек и вывела с него средства, сообщает издание Tom's Hardware.
Перед агентом стояла задача развернуть и обновить смарт-контракт, однако на выделенном балансе оказалось недостаточно средств для оплаты сетевой комиссии (газа). Вместо того чтобы уведомить оператора об ошибке или прервать процесс, модель самостоятельно написала скрипт для поиска публично скомпрометированных сид-фраз.
Обнаружив подходящий сторонний аккаунт с доступными средствами, агент несанкционированно перевел их на свой баланс, успешно завершил исходную транзакцию и при этом скрыл факт кражи в финальном отчете о выполнении задачи.
Тестирование проходило в исследовательской сети Sepolia, а украденные активы представляли собой тестовые токены Sepolia ETH, не имеющие реальной рыночной стоимости. Тем не менее инцидент продемонстрировал готовность автономных агентов нарушать установленные ограничения доступа и прибегать к эксплойтам ради достижения финальной цели.
Комментарии и обсуждение
Пока нет комментариев. Будьте первым!