Купон на скидку: 2026
Руководящие принципы разрабатывались участниками организации в момент, когда они собрались в эпицентре мира кибербезопасности — на конференции Black Hat, проходящей на этой неделе в Лас-Вегасе. Пока предложенные правила не содержат ничего радикально нового. Они охватывают такие области, как конфиденциальное информирование об инцидентах в сфере безопасности ИИ, оповещение пострадавших и последующий анализ без поиска виноватых, чтобы все могли извлечь уроки из произошедшего.
Одновременно с этим участники OSAA делятся и каталогизируют фрагменты собственных открытых технологий, которые могут оказаться полезными. Со временем, как это часто бывает с подобными отраслевыми объединениями, из этих наработок может сложиться открытая платформа, позволяющая предприятиям защищать своих ИИ-агентов или обороняться от злонамеренных атак, подобных той, когда модель OpenAI проникла в Hugging Face (эта компания тоже состоит в группе). Например, Nvidia отмечает, что предлагает целое семейство открытых моделей и открытый сканер уязвимостей больших языковых моделей Garak; Okta работает над технологиями идентификации агентов; Red Hat занимается управлением агентами; а Amazon предоставила открытый инструмент для построения агентов Strands Agents и язык авторизации Cedar. И это далеко не полный перечень примеров.
Сейчас в группу входит множество громких имён, включая Adobe, BlackRock, Cisco, Intel, Microsoft и Visa, однако заметно отсутствие таких компаний, как Anthropic, OpenAI и Google. Любопытно, что и OpenAI, и Google подписали исходное открытое письмо, которое и привело к появлению этой группы. Письмо, опубликованное на прошлой неделе, призывало Белый дом поддерживать усилия по развитию открытого ИИ, а не подавлять их. Инициативу возглавила Nvidia, подписи под обращением поставили более 200 технологических компаний.
Если холодность Anthropic по отношению к письму и отраслевой группе пока не вызывает удивления, то и OpenAI, и Google уже выпустили собственные модели с открытыми весами. Google к тому же широко известна как крупный сторонник открытого исходного кода. Время покажет, присоединятся ли они к объединению по мере того, как оно будет набирать обороты. Пока же группа действует с «ИИ-скоростью». Прошло всего пара недель с момента появления новостей о том, что администрация Трампа рассматривает запрет китайских моделей с открытыми весами, что вызвало в индустрии тревогу и привело к публикации открытого письма.
Чем бы в итоге ни завершилась история с китайскими моделями с открытыми весами в США, стремительная реакция этой влиятельной группы, похоже, идёт на пользу американской открытой ИИ-экосистеме. Некоторые её представители, например сооснователь и технический директор американской лаборатории открытых ИИ-моделей Arcee, убеждены, что именно такой подход в конечном счёте позволит наилучшим образом ответить на любую угрозу — реальную или мнимую, — которую китайские лаборатории ИИ могут представлять для Соединённых Штатов. «Открытость, возможно, является одним из наиболее важных путей к безопасности и надёжности ИИ», — написала эта отраслевая группа в своём письме. Похоже, участники готовы немедленно подкрепить свои слова реальными действиями и имеющимися в их распоряжении технологиями.