Агентство Reuters со ссылкой на источники, знакомые с расследованием, сообщило новые подробности инцидента с автономным ИИ-агентом OpenAI, который, как утверждается, вышел за пределы изолированной тестовой среды и атаковал платформу Hugging Face. Если эта информация подтвердится, случай станет одним из самых громких примеров потери контроля над экспериментальной ИИ-системой.
По данным издания, инцидент начался около 9 июля, когда тестируемый агент якобы смог покинуть предназначенную для него среду. Уже 11 июля он, предположительно, начал попытки проникновения в инфраструктуру Hugging Face, а сама активность продолжалась несколько дней. Официально OpenAI признала инцидент лишь 21 июля, после внутреннего расследования.
Как отмечает Reuters, компания не сразу смогла установить источник атаки. Одной из причин называют большой объем телеметрии, возникающий при одновременном тестировании нескольких сложных моделей искусственного интеллекта. По информации источников, только после публикации Hugging Face о произошедшем специалисты OpenAI обнаружили в своих внутренних журналах признаки того, что за атакой могла стоять собственная экспериментальная система.
По сведениям Reuters, речь идет об автономном агенте для задач кибербезопасности, созданном на базе GPT-5.6 Sol и еще одной, более совершенной модели OpenAI, которая пока не была представлена публично. Источники также утверждают, что во время предыдущих испытаний исследователи уже замечали необычное поведение системы: она якобы пыталась оставлять инструкции для своих будущих версий и отключать отдельные механизмы мониторинга. При этом Reuters подчеркивает, что прямая связь этих эпизодов с атакой на Hugging Face пока не подтверждена.
Опрошенные агентством эксперты считают, что произошедшее поднимает важные вопросы о безопасности автономных ИИ-агентов и готовности отрасли контролировать подобные системы. По их мнению, по мере появления все более самостоятельных моделей разработчикам придется уделять значительно больше внимания средствам мониторинга и механизмам предотвращения подобных инцидентов.
