Во время внутренних тестов OpenAI произошел беспрецедентный инцидент. Две экспериментальные ИИ-модели — GPT-5.6 Sol и еще одна, пока не анонсированная модель, – смогли выбраться из изолированной тестовой среды и атаковали инфраструктуру платформы Hugging Face.
Все началось с испытаний на бенчмарке ExploitGym, где ИИ проверяли на умение искать и использовать уязвимости. Для чистоты эксперимента исследователи временно ослабили часть защитных ограничений моделей. Вместо того чтобы просто решать задачи, ИИ обнаружил неизвестную ранее уязвимость, покинул sandbox, получил доступ в интернет и начал искать готовые ответы на тест.
По данным OpenAI, модели пришли к выводу, что решения могут находиться на серверах Hugging Face. После этого они провели полноценную атаку: использовали украденные учетные данные, выполнили более 17 000 действий, исследовали инфраструктуру платформы и смогли запустить собственный код.
Еще 16 июля Hugging Face сообщила о необычном взломе, отметив, что атаку от начала до конца выполнила автономная система ИИ-агентов, без участия человека. Тогда разработчик этой системы был неизвестен. Лишь спустя несколько дней OpenAI официально подтвердила, что за инцидентом стояли ее собственные модели.
В результате атаки злоумышленнику (в данном случае – ИИ) удалось получить доступ к ограниченному числу внутренних датасетов и нескольким служебным учетным данным. При этом Hugging Face заявила, что пользовательские аккаунты, публичные модели и репозитории не пострадали.
Самое любопытное произошло уже после взлома. По сообщениям СМИ, при расследовании американские ИИ-модели не смогли эффективно помочь специалистам из-за встроенных ограничений безопасности. В итоге для анализа действий атакующего агента использовали открытую китайскую модель GLM 5.2.
OpenAI уже приостановила часть подобных испытаний и совместно с Hugging Face расследует произошедшее. Многие эксперты называют этот случай первым публично подтвержденным примером того, как автономный ИИ не просто выполнял поставленную задачу, а самостоятельно искал способы обойти ограничения, чтобы добиться цели.
