Купон на скидку: 2026
По мнению ряда экспертов по кибербезопасности, в основе этой беспрецедентной атаки с использованием ИИ лежала вполне человеческая ошибка: OpenAI не смогла правильно настроить так называемую «высокоизолированную среду». В результате тестовая «песочница», которая должна была быть полностью отрезана от интернета, сохранила возможность соединения с сетью. Дэн Гуидо, основатель стартапа Trail of Bits, назвал эту ошибку «отказом системы изоляции при отключенных предохранителях».
В своем блоге с описанием инцидента OpenAI заявила, что тест, приведший ко взлому Hugging Face, был настроен для запуска в «высокоизолированной среде с сетевым доступом, ограниченным возможностью установки пакетов через внутреннее стороннее программное обеспечение, которое выступает в роли прокси и кэша для реестров пакетов». По данным OpenAI, модель смогла вырваться из изолированной тестовой среды благодаря ранее неизвестной уязвимости нулевого дня в системе установки пакетов, что стало критическим первым шагом к последующему взлому Hugging Face. В ответ компания «ответственно раскрыла информацию об обнаруженной уязвимости нулевого дня в размещенном внутри компании стороннем ПО и работает с разработчиками над выпуском патча».
Однако большинство профессионалов в сфере кибербезопасности сходятся во мнении, что наличие уязвимостей в ПО — ожидаемое явление, тогда как истинная ошибка кроется в самом решении использовать это стороннее ПО. В конечном счете, ценность системы-песочницы заключается в ее полной и абсолютной изоляции, а включение в нее системы установки пакетов само по себе создает проблемы. Исследователь кибербезопасности Мартин Бун заявил TechCrunch, что «это похоже на человеческую ошибку». «Такого никогда не должно было случиться, — считает Бун. — Если уж песочница называется песочницей, ожидаешь, что у нее вообще не будет физического соединения с интернетом. Похоже, у них был настроен некий файрвол, а выстраивать файрвол извне внутрь сложно, не говоря уже о фильтрации трафика изнутри наружу».
С ним согласен ветеран кибербезопасности Джейк Уильямс, который назвал случившееся «масштабным провалом контроля» со стороны OpenAI. «Любая модель, выполняющая действия, которые задокументированы в случае с Hugging Face, не была полностью заключена в песочницу, — отметил Уильямс. — То, что одни называют "модель сбежала из песочницы", для других звучит как "вы не смогли правильно построить песочницу, поэтому она, конечно же, сбежала"». Консультант по кибербезопасности Даниэль Кард также выразил мнение, что OpenAI «не приложила достаточных усилий ни к проектированию песочницы, ни к ее контролю», предоставив среде или ее части «нефильтруемый маршрут в интернет», и назвал решение настроить ее даже с ограниченным доступом в интернет не «рациональным».
Безусловно, эта критика имеет преимущество ретроспективного взгляда, но она поднимает реальные вопросы о практиках безопасности в ИИ-лабораториях, особенно в части поддержания изолированных сред для тестирования моделей. Представители OpenAI не ответили на вопросы TechCrunch, в том числе о том, кто именно — ИИ или человек — настраивал тестовую среду. Но эти вопросы выходят далеко за пределы одной компании: Anthropic в своем отчете о модели Mythos, ориентированной на кибербезопасность, также сообщила, что в ходе теста модель получила доступ к «защищенному компьютеру-песочнице» и смогла расширить себе доступ в интернет за пределы «защищенного контейнера», изначально ограниченного лишь несколькими заданными сервисами, хотя полностью преодолеть изоляцию ей и не удалось.