Вопрос о том, как именно ведущие ИИ-модели получили разрешение на выпуск, остаётся без чёткого ответа. Мина Нараянан, старший аналитик Центра безопасности и новейших технологий Джорджтаунского университета, призналась TechCrunch: «Откровенно говоря, у меня нет видимости этих точных процессов, поэтому я не чувствую, что обладаю достаточной информацией, чтобы сказать, адекватны они или нет». Она отметила, что Anthropic сообщила о диалоге с правительством, разработала классификатор для выявления попыток взлома и внедрила эшелонированную защиту, но содержание переговоров между государством, Anthropic и OpenAI остаётся неизвестным. Бывший советник Трампа Дин У. Болл, ныне работающий в OpenAI, написал в своей рассылке, что «никто не знает, какие требования нужно выполнить для получения лицензии». Энди Конвински, специалист по информатике и сооснователь Databricks, Perplexity и Laude Institute, заявил, что никогда не общался ни с кем, кто понимает этот процесс, включая сотрудников передовых лабораторий, и назвал это экзистенциальной проблемой — вопрос о том, кто обладает властью принимать решения и кто играет роль привратника, выдающего разрешения.
Спустя полтора года после возвращения администрации Трампа ясности по-прежнему мало. В прошлом месяце, после многомесячных внутренних споров, был опубликован указ, описывающий дорожную карту оценки передовых моделей, однако конкретика не заполнена — за исключением того, чего не будет. Шрирам Кришнан, бывший партнёр Andreessen Horowitz и до недавнего времени старший советник Белого дома по ИИ, заявил Financial Times: «Не будет никакого FDA для ИИ». Примечательно, что до сих пор нет согласия ни по типам моделей, требующих государственной проверки, ни по ведомству или ведомствам, которые должны проводить такую оценку. Сейчас инициативу, судя по всему, перехватил Центр стандартов и инноваций в области ИИ при Министерстве торговли, но указ предписывает шести правительственным агентствам определить окончательный порядок к началу августа.
Тем временем сложился, в лучшем случае, ситуативный подход. Генеральный директор OpenAI Сэм Альтман в эфире CNBC пояснил, что процесс включал беседы с такими чиновниками, как министр торговли Говард Латник, министр финансов Скотт Бессент и национальный директор по кибербезопасности Шон Кэрнкросс, однако не ясно, кто именно из экспертов тестировал модели и каким образом. OpenAI отказалась раскрывать TechCrunch детали правительственной процедуры, сославшись на результаты нескольких внешних оценок в карте безопасности новейшей модели со стороны организаций вроде британского AISI, SecureBio и Irregular. Как и в случае с выпуском модели Fable от Anthropic, OpenAI заранее показала модель правительству и избранным пользователям перед более широким запуском, но состав этих пользователей и критерии их отбора неизвестны. В конце июня компания заявила в блоге, что подобный порядок государственного доступа не должен становиться долгосрочной практикой по умолчанию, пообещав совместно с властями выработать иной путь.
Контекст таких бесед, однако, включает сообщения о том, что Альтман якобы предложил до 5% акций OpenAI для так называемых «счетов Трампа» при администрации, а президент OpenAI Грег Брокман выступил крупнейшим публично известным донором предвыборной операции Трампа. Внешним наблюдателям трудно отделить эти шаги от заметно более мягкого подхода правительства к регулированию модели Sol. Модель Fable от Anthropic, напротив, была временно отозвана с открытого доступа, когда правительство США запретило её использование иностранными гражданами — отчасти из-за реальных опасений по поводу взлома модели для получения хакерских навыков, отчасти из-за личностных трений между Anthropic и администрацией. Угроза экспортного запрета, возможно, также подтолкнула OpenAI к более тесному сотрудничеству с (неизвестными публике) запросами властей.
С точки зрения отрасли, подход с минимальным вмешательством может выглядеть привлекательным, но система, зависящая от личных связей с чиновниками, порождает неопределённость и дурные стимулы. Конвински в беседе с TechCrunch выразил тревогу, что подлинные эксперты в этой технологии — специалисты по безопасности, согласованию, интерпретируемости, а также data-инженеры и представители всей технологической цепочки — играют недостаточную роль в процессе выпуска моделей. Он считает, что «открытое сообщество» является лучшим способом сбалансировать безопасность и инновации, и ссылается на модели вроде FDA, NIH или национальных лабораторий, где исследователи, госслужащие и частные компании совместно достигают консенсуса по вопросам безопасности. Болл в своей публикации подчеркнул, что дальнейший путь будет зависеть от лицензированных государством сторонних аудиторских организаций, которые станут оценивать подход передовых лабораторий к безопасности. Конвински также с оптимизмом смотрит на новые институциональные форматы — например, специализированные исследовательские организации, способные помочь более независимым экспертам из академической среды и некоммерческого сектора получать доступ к передовым моделям и оценивать их.
Пока же завеса секретности вокруг разработки ИИ не исчезает и одновременно создаёт политические риски для отрасли, которую американцы воспринимают всё более скептически. Профессор компьютерных наук Висконсинского университета в Мадисоне Ремзи Арпачи-Дюссо на конференции Open Frontier отметил: «Нет ощущения, что ответственные люди двигают эти изменения». Там же Дэвид Сигел, специалист по вычислительной технике и основатель одного из самых успешных количественных хедж-фондов Two Sigma, предложил аудитории представить ситуацию, «которая, по-моему, была бы очень плохой: небольшое число фирм контролирует технологию; правительство в своих секретных лабораториях оценивает, пригодна ли она к использованию; а широкая общественность и научное сообщество по сути не имеют доступа ни к чему из этого». Судя по всему, воображать уже не нужно.