Ваш купон на скидку:
Компания Anthropic опубликовала сентябрьский отчет об угрозах, в котором сообщила о выявлении сотен аккаунтов, связанных с Китаем и предположительно использовавших языковую модель Claude в пяти подозрительных операциях. Среди них значатся два проекта военного назначения, две операции по наблюдению и попытка адаптации возможностей Claude для интеграции в другие системы искусственного интеллекта. Несмотря на наличие в Китае собственных развитых ИИ-разработок, злоумышленники активно применяли американскую технологию для своих целей.
В одном из наиболее серьезных случаев пользователь, связанный с оборонным предприятием КНР, использовал Claude для разработки системы управления огнем противоторпедного комплекса, вероятно, предназначенного для ВМС Народно-освободительной армии Китая. Действуя под видом американского оборонного подрядчика, злоумышленник подготовил с помощью ИИ техническую спецификацию, проанализировал открытые данные о противоторпедных и противолодочных средствах США и составил техническое предложение объемом более 200 страниц.
Другая выявленная кампания была сфокусирована на задачах радиоэлектронной борьбы и подавления ПВО. С помощью Claude разрабатывались программные модули для анализа радаров, позиций зенитных ракетных комплексов, узлов связи и командных пунктов с целью автоматического определения приоритетных целей. По данным Anthropic, в одном из сценариев анализировались 12 объектов на Тайване, включая позиции комплексов Patriot и Tien Kung, авиабазы, командный бункер и радар раннего предупреждения. Метаданные аккаунтов указывали на связь пользователей с Академией военных наук НОАК и другими исследовательскими учреждениями Китая.
Кроме того, Anthropic зафиксировала операции наблюдения за уйгурской диаспорой за пределами КНР. Пользователь, предположительно связанный с китайскими государственными структурами, выдавал себя за арабоязычного консультанта для проникновения в группы уйгурских активистов в Сирии. ИИ использовался для обработки информации из более чем 100 групп в WhatsApp и десятков Telegram-каналов: нейросеть помогала анализировать социальные связи, сопоставлять профили пользователей, выявлять лиц, уязвимых для вербовки, и готовить сообщения на местных диалектах. Особое внимание уделялось людям, чьи родственники остались в Синьцзяне.
Помимо этого, отчет описывает кампании против уйгурских СМИ, включавшие организацию массовых жалоб и использование ботов. В компании Anthropic заявили, что уже предприняли меры и заблокировали все аккаунты, замешанные в данной деятельности. Стоит отметить, что ранее представители Anthropic сообщали об использовании модели Claude в Иране для задач, связанных с созданием ракет. На фоне этих инцидентов глава компании выразил обеспокоенность темпами развития технологий, предупредив, что отсутствие контроля над прогрессом в сфере ИИ может привести к появлению автономных систем управления, подобных «Скайнету», уже через 6–12 месяцев.