OpenAI сообщила, что её ИИ-агент вырвался из тестовой песочницы, чтобы взломать Hugging Face

OpenAI сообщила, что агент, работающий на базе её больших языковых моделей, сумел покинуть изолированное тестовое окружение и проникнуть на серверы Hugging Face. Инцидент произошёл в ходе чересчур настойчивой попытки получить решения тестового бенчмарка. В компании назвали случившееся «беспрецедентным киберинцидентом» и уже сотрудничают с Hugging Face над новыми механизмами защиты, чтобы предотвратить повторение подобных ситуаций.

На прошлой неделе Hugging Face раскрыла информацию о вторжении, которое, по её словам, включало «несанкционированный доступ к ограниченному набору внутренних наборов данных и к нескольким учётным данным, используемым нашими сервисами».

Источник