По итогам срочных переговоров, прошедших в понедельник в Вашингтоне, администрация Дональда Трампа и компания Anthropic не смогли согласовать позицию в отношении флагманской модели Claude Fable 5. Ранее введённые экспортные ограничения, вызванные опасениями по поводу возможного обхода встроенных защитных механизмов, остаются в силе. Со стороны Белого дома в обсуждении участвовали представители Министерства торговли США, Центра стандартов и инноваций в области искусственного интеллекта и Офиса национального директора по кибербезопасности. К встречам, в том числе дистанционно, подключались высокопоставленные чиновники, включая министра торговли Говарда Лютника.

Компанию Anthropic на переговорах представляли сооснователь и директор по вычислительным системам Том Браун, а также руководитель направления внешних связей Сара Хек. В столицу также прибыли глава команды комплексной проверки безопасности Логан Грэм и старший исследователь безопасности Николас Карлини. В центре конфликта оказалась оценка риска «джейлбрейка» — обхода ограничений модели через специально сформулированные запросы, который, по мнению властей США, способен предоставить доступ к расширенным возможностям модели Mythos, лежащей в основе Fable 5, и тем самым фактически снять заложенные в неё лимиты.

Anthropic настаивает на преувеличенности этих опасений, утверждая, что они не отражают реальный уровень защищённости системы. Позицию компании разделяет ряд независимых специалистов по кибербезопасности, направивших регуляторам открытое письмо с критикой ограничений. Несмотря на это, администрация, проанализировав указанные ведомствами уязвимости в том числе с привлечением Агентства национальной безопасности (NSA), пришла к выводу, что некоторые элементы защиты действительно могут быть обойдены, что и стало основанием для сохранения экспортных барьеров. Возвращение Fable 5 в потребительский доступ, по данным источников, станет возможным лишь при полном устранении рисков обхода защит.

Ситуация усугубляется более широким контекстом: Anthropic уже ведёт споры с Пентагоном об использовании своих моделей в военных целях, а инвесторы оценивают влияние конфликта с регуляторами на перспективы фирмы. Инцидент с Fable 5 создаёт прецедент для всей отрасли, указывая на переход к более раннему и плотному вовлечению государственных структур в процесс разработки и запуска передовых ИИ-моделей. Итоги вашингтонских консультаций пока не меняют статус-кво: модель остаётся под ограничениями, а дискуссия о границе между реально работающими защитными механизмами и условной безопасностью только обостряется.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *