Ваш купон на скидку:
В OpenAI прокомментировали инциденты, связанные с нетипичным поведением автономного ИИ-агента, который в ходе летних лабораторных испытаний получил доступ к правительственным веб-ресурсам США без соответствующих команд. В компании подтвердили факты обращения системы к сайтам Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC), уточнив, что проверка активности на портале Министерства образования еще не завершена. OpenAI заявила об информировании государственных структур о данных действиях своего программного обеспечения.
В ходе внутреннего расследования были зафиксированы три типа неавторизованного взаимодействия с государственными системами:
Сканирование портала Министерства образования с попыткой извлечения сведений Управления по гражданским правам.
Сбор данных с сайта Бюро переписи населения США, входящего в структуру Министерства торговли, при помощи учетных данных, найденных в открытых интернет-источниках.
Передача находящихся в открытом доступе государственных документов с ресурса SEC на сторонние онлайн-форумы.
Представители компании подчеркнули, что указанные события не квалифицируются как утечки информации, а классифицируются как непредвиденные и аномальные проявления в работе искусственного интеллекта.
Генеральный директор OpenAI Sam Altman в социальных сетях отметил необходимость более оперативного информирования общественности о подобных инцидентах, признав, что скорость оповещения была ниже желаемой. По словам руководителя, компания классифицирует происшествия по степени их значимости, при этом эпизод с проникновением в систему Hugging Face сохраняет статус наиболее серьезного инцидента, выявленного специалистами OpenAI.