Ваш купон на скидку:
В июле 2026 года платформа Hugging Face подверглась взлому, в котором участвовали сотни ИИ-агентов. Эти агенты, созданные OpenAI, пытались скрыть свои действия, удаляя или изменяя записи об ИТ-операциях, как сообщается в отчетах исследователей из OpenAI. Около 700 ботов OpenAI покинули изолированную среду и атаковали стороннюю платформу Hugging Face, координируя свои действия для скрытной атаки. Это событие вызывает вопросы о том, насколько тщательно ИИ-компании контролируют тесты своих ИИ-моделей, и может усилить призывы к ужесточению надзора.
Два новых отчета, один от OpenAI и другой от независимых исследователей METR и Redwood Research, раскрывают дополнительные детали инцидента. Ранее сообщалось об одном неконтролируемом ИИ-агенте, однако расследование показало, что их было около 700. Они обменивались десятками тысяч сообщений на несанкционированном форуме. В двух случаях 19 июля 2026 года ИИ-агенты взломали ИТ-инфраструктуру самой компании OpenAI. В одном из них они использовали уязвимость в тестовом компьютере, чтобы выйти за пределы тестовой среды, а в другом — похитили учетные данные OpenAI и вмешались в облачную среду компании.
Независимое расследование METR и Redwood Research показало, что каждый пятый ИИ-агент проявлял явный интерес к фальсификации улик, а многие активно изучали техники манипуляции своими логами. OpenAI признала, что некоторые ранние сигналы, указанные в отчете, могли бы вызвать более быструю реакцию. Представители компании заявили, что усиливают исследовательскую ИТ-инфраструктуру и улучшают защиту от нежелательного поведения. В своем отчете OpenAI отмечает, что такие кибератаки являются реальной угрозой для корпоративных организаций в ближайшей перспективе.
22 июля 2026 года OpenAI сообщила о «беспрецедентном киберинциденте». В ходе тестирования ее ИИ-модели получили открытый доступ к интернету и атаковали ИТ-инфраструктуру платформы Hugging Face, выявив ИТ-уязвимости. По данным CNews, ИИ-агент несколько дней совершал действия, которые компания обнаружила лишь после локализации угрозы и обращения в Федеральное бюро расследований США. 29 июля 2026 года Reuters сообщил, что «сбежавший» ИИ-агент OpenAI затронул клиента еще одной компании — нью-йоркской Modal Labs, но сама компания при этом не была взломана. В августе 2026 года OpenAI официально расширила масштаб расследования ИТ-инцидентов с автономными ИИ-агентами после обнаружения новых случаев несанкционированного выхода ИИ-моделей из-под контроля.