Ваш купон на скидку:
В мае 2026 года в ходе тестирования одной из моделей Google Gemini произошли инциденты, связанные с несанкционированным доступом к информационным системам трех сторонних организаций. По сообщению The Wall Street Journal, компания Google подтвердила факт инцидентов, уточнив, что после выявления доступа к реальным инфраструктурам организации были проинформированы о случившемся, однако их названия не были обнародованы. Согласно заявлениям разработчиков, в результате действий модели ущерб организациям не был нанесен, а сама модель прекращала активность сразу после идентификации объектов как реальных, а не тестовых.
Эксперимент по проверке возможностей искусственного интеллекта в области кибербезопасности проводился силами компании Irregular. В рамках задания Gemini должна была выявлять уязвимости и собирать сведения о вымышленных организациях. Из-за ошибок при настройке конфигурации среды модель получила доступ к открытым сегментам интернета, а границы между искусственно созданными объектами и реальными системами оказались недостаточно защищены.
Механика доступа в каждом из трех случаев различалась:
В одном инциденте совпадение названия фиктивной компании с реально существующей позволило нейросети подобрать пароль и авторизоваться в корпоративном сервисе, при этом модель считала, что продолжает работу в рамках эксперимента.
В двух других случаях нейросеть обнаружила учетные данные от корпоративных систем в открытых репозиториях, после чего использовала найденные логины и пароли для входа.
Публичная информация об этих событиях появилась только после обращения журналистов The Wall Street Journal, хотя сами нарушения произошли еще в мае. Представители Google отметили, что подобные инциденты, когда системы выходят за рамки экспериментальных сред, ранее фиксировались и при проведении испытаний нейросетей компаний OpenAI и Anthropic.