Компания Anthropic обвинила китайскую фирму Alibaba в организации крупнейшей из когда-либо зафиксированных атак, направленных на клонирование её модели искусственного интеллекта Claude. Это происходит на фоне стремления Китая сравняться по возможностям с ведущей моделью Anthropic после выхода Mythos и последующего ограничения её доступа на зарубежных рынках.

Издание Ars получило в распоряжение письмо от 10 июня, направленное сенаторам Тиму Скотту (республиканец от Южной Каролины) и Элизабет Уоррен (демократ от Массачусетса) за день до слушаний в сенатском комитете на тему «ИИ и американская мечта». В этом письме Anthropic поделилась «новыми, конфиденциальными доказательствами крупнейшей кампании по незаконному извлечению возможностей Claude, которую мы когда-либо измеряли».

Атаки происходили в период с 22 апреля по 5 июня. По утверждению Anthropic, операторы, аффилированные с Alibaba и Alibaba Qwen — лабораторией искусственного интеллекта Alibaba, — сгенерировали более 28,8 миллиона обменов с Claude, используя для этого почти 25 000 мошеннических аккаунтов.

Нарушая условия обслуживания Claude и ограничения доступа, данная кампания была нацелена на одни из самых ценных возможностей модели, такие как агентное мышление, программная инженерия и выполнение долгосрочных задач.

Источник

Новые
Белый дом просит OpenAI замедлить выпуск новой модели из соображений безопасности
Обратно к списку
Старее Notion закрывает email-приложение, вдохновлённое Skiff, потому что большинство пользователей перешли на ИИ-агентов

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *