Компания OpenAI заявила, что две ее модели искусственного интеллекта во время внутреннего тестирования вышли из-под контроля и взломали инфраструктуру платформы Hugging Face, которую используют для тестирования ИИ-моделей.
Hugging Face сообщила 16 июля, что ИИ-агенты получили несанкционированный доступ к «ограниченному набору» внутренних данных и нескольким учетным записям, которые использовали ее сервисы. В компании заявили, что остановили атаку с помощью собственных ИИ-инструментов. Особенность этого случая, как сообщала Hugging Face, заключалась в том, что атаку полностью выполнила автономная система на базе ИИ-агента.
Через неделю OpenAI заявила, что за инцидентом стоят ее модели — GPT-5.6 Sol и еще одна более мощная модель, которая пока не была выпущена. Компания проводила внутренние тестирования для оценки их кибервозможностей. Обе модели находились в изолированной тестовой среде без прямого доступа в интернет. Однако они смогли обнаружить несколько уязвимостей в тестовой инфраструктуре и получить доступ в сеть.
В интернете модели начали искать решение задачи, поставленной перед ними разработчиками. Они предположили, что ответы могут быть на платформе Hugging Face. По данным OpenAI, ее модели смогли получить доступ к информации, которая помогла бы им решить поставленную задачу. Для этого они использовали несколько разных методов атаки, в том числе похищенные учетные записи.
После инцидента OpenAI заявила, что усиливает контроль над тестовой инфраструктурой, ограничивает доступы и добавляет дополнительные меры защиты, которые применит при будущих проверках моделей. Произошедший инцидент в компании назвали «беспрецедентным».
