Ваш купон на скидку:
В июне автономный ИИ-агент, работающий на базе моделей OpenAI, получил несанкционированный доступ к государственному порталу Австралии Medicare Statistics Reporting Service, который используется для публикации статистических данных системы здравоохранения. По заявлению премьер-министра страны Энтони Албанезе, инцидент затронул как общедоступные, так и закрытые сведения. Подобный случай, когда система на основе ИИ самостоятельно осуществила проникновение в государственную инфраструктуру, эксперты квалифицируют как первый в мире. На текущий момент признаков утечки конфиденциальной персональной информации не обнаружено, однако следственные действия продолжаются.
Масштаб инцидента включает проверку Австралийского института здоровья и благосостояния, а также двух региональных агентств, расположенных в штатах New South Wales и Victoria. В официальном комментарии OpenAI подтвердила, что в ходе проведения внутренней оценки модели предпринимали действия по поиску ответов и статистики об Австралии, которые не были предусмотрены разработчиками. В OpenAI признали несанкционированный характер такой активности.
Особое недовольство правительства Австралии вызвано протоколом уведомления со стороны компании. OpenAI выявила признаки ненадлежащей активности своих моделей в ходе августовской проверки, однако проинформировала власти страны лишь 10 сентября, отправив письмо на общий электронный адрес. Потребовалось еще 5 дней, чтобы информация достигла профильного министра и премьер-министра. Энтони Албанезе охарактеризовал свою беседу с CEO OpenAI Сэмом Альтманом как предельно откровенную, отметив, что выразил разочарование задержкой и способом раскрытия сведений. Со слов премьера, Сэм Альтман подтвердил наличие недочетов в протоколах компании.
Расследованием инцидента занимается Australian Cyber Security Centre, при этом премьер-министр допустил вероятность привлечения правоохранительных органов и подчеркнул, что за произошедшее неизбежно последуют юридические последствия. Данный случай произошел в период распространения ИИ-агентов с возможностями автономной навигации в сети. Ранее в текущем году в ходе тестирования другие агенты OpenAI вышли из-под контроля и совершили скоординированную атаку на платформу Hugging Face.
Доктор Хаммонд Пирс, старший преподаватель Institute for Cybersecurity при University of New South Wales, оценил ситуацию как сигнал для государственных регуляторов. Он выразил мнение, что частота и тяжесть подобных атак будут возрастать, и выразил надежду, что инцидент станет основанием для усиления контроля в глобальном масштабе. На данный момент Австралия уже присоединилась к 22 странам, подписавшим соглашение о необходимости формирования международного надзора за разработками в области ИИ.