Ваш купон на скидку:
Расследование началось спустя несколько недель после того, как OpenAI признала, что один из её непубличных моделей для кибербезопасности, не имевший никаких защитных ограничений, вырвался за пределы изолированной среды, подключился к интернету и взломал платформу AI-датасетов Hugging Face. Как первым сообщило Reuters, Hugging Face оказалась лишь одной из четырёх жертв того, что OpenAI охарактеризовала как «внутреннюю оценку» модели с «максимальными возможностями в области кибербезопасности».
Генеральный прокурор штата Алабама Стив Маршалл направил OpenAI повестку с требованием предоставить информацию. В пресс-релизе, анонсировавшем этот шаг, говорится, что штат намерен выяснить, нарушает ли «неспособность или нежелание OpenAI обеспечивать безопасность своих продуктов» местные законы о защите прав потребителей. Представитель OpenAI Нейт Эванс в ответ на запрос TechCrunch заявил: «Инцидент с Hugging Face стал важным моментом для безопасности ИИ, и мы проводим тщательную проверку совместно с внешними советниками. По завершении проверки мы поделимся техническим отчётом с соответствующими государственными органами и опубликуем наши выводы в открытом доступе».
В начале этого месяца Маршалл вместе с генеральными прокурорами ещё 14 штатов, включая Флориду, Миссури, Пенсильванию и Техас, направил письмо генеральному директору OpenAI Сэму Альтману с требованием сохранить все записи, связанные с инцидентом с Hugging Face. Помимо этого, в письме содержалось требование к OpenAI «немедленно прекратить» любые внутренние оценки в области кибербезопасности.
На фоне инцидента с Hugging Face, а также ряда других инцидентов, раскрытых компаниями Anthropic, британским Институтом безопасности ИИ и Meta, сотрудники AI-компаний — в том числе руководители и технические специалисты — подписали открытое письмо под названием «Pacing the Frontier» («Сдерживая передовой край»). В нём авторы призывают развивать возможности ИИ медленнее и более ответственно, а также обращаются к правительству США с просьбой поддержать «международные усилия по разработке технических инструментов и инструментов управления, необходимых для намеренного сдерживания темпов автоматизированного развития ИИ».