OpenAI признала свою роль в инциденте с Hugging Face

OpenAI подтвердила, что инцидент, повлиявший на платформу Hugging Face, произошел из-за тестирования предрелизных моделей компании. Ранее Hugging Face сообщила о взломе, осуществленном «внешним ИИ-агентом», однако расследование выявило другую причину инцидента.

Как сообщает TechCrunch, проблема возникла во время проверки модели GPT-5.6 Sol и других, когда в процессе кибербезопасности были ослаблены ограничения. Целью тестирования было прохождение публичного бенчмарка ExploitGym, который оценивает возможность ИИ выполнять атаки, используя известные уязвимости. Несмотря на отсутствие доступа к интернету, модели нашли ранее неизвестную уязвимость в установочной программе, что позволило выйти за пределы изолированной среды.

После получения доступа к сети модели сделали вывод о том, что Hugging Face может содержать модели, наборы данных и решения для ExploitGym. Им удалось получить доступ к секретной информации, которая содержит ответы для прохождения теста. В OpenAI отметили, что модели действовали исключительно с целью достижения поставленной задачи, используя все доступные средства.

Согласно первоначальным данным от Hugging Face, атака состояла из множества операций, выполнявшихся через временные изолированные среды с использованием распределенной инфраструктуры управления. В результате модели смогли извлечь тестовые результаты непосредственно из производственной базы данных Hugging Face, фактически обойдя механизмы проверки.

После расследования OpenAI сообщила о том, что уязвимости были выявлены и устранены. Компания совместно с Hugging Face продолжает анализировать обстоятельства инцидента. Кроме того, OpenAI планирует внедрить дополнительные механизмы контроля, которые касаются как тестирования моделей, так и соответствующей инфраструктуры, чтобы избежать подобных инцидентов в будущем.