Купон на скидку: 2026
Спустя две недели после того, как правительство США приостановило модели Fable и Mythos компании Anthropic, новая модель OpenAI, похоже, движется к тому же подвешенному состоянию. В четверг издание The Information сообщило, что GPT 5.6 будет выпущена только в ограниченный предварительный доступ, причём правительство станет одобрять выпуск «клиент за клиентом» до тех пор, пока не будет санкционирован полноценный запуск. Если такой предпоказ продлится лишь «пару недель», как, по имеющимся данным, прогнозирует Сэм Альтман, это может и не стать большой проблемой. Однако Mythos находится в предварительном доступе уже несколько месяцев, и нет никаких признаков того, что в ближайшее время он доберётся до полноценного релиза. Даже несколько недель, проведённых на стадии проверки, способны серьёзно ограничить экономическую отдачу от дорогостоящей новой системы — в тот момент, когда ИИ-лаборатории отчаянно пытаются улучшить свою финансовую устойчивость. Если в результате темпы разработки моделей замедлятся, это, вероятно, окажет сходное охлаждающее влияние на продолжающееся строительство дата-центров. При неблагоприятном сценарии под угрозой может оказаться вся индустрия.
Принципиально важно, что сейчас OpenAI и Anthropic находятся в абсолютно одинаковом положении, сталкиваются с теми же проблемами и рискуют столкнуться с одинаковой катастрофой в случае неудачи. Дискуссии внутри технологической отрасли часто сосредоточены на роли той или другой стороны в возникновении этой ситуации: одни обвиняют Anthropic в реализации схемы регуляторного захвата, другие упрекают OpenAI в заигрывании с Трампом, чтобы вытеснить конкурента. Это понятно: многие из наиболее заметных фигур индустрии поставили миллиарды долларов на ту или иную компанию. Но происходящее сейчас гораздо масштабнее. Издержки внедрения беспорядочной правительственной процедуры одобрения для каждой передовой модели очевидны, и не существует решения, которое помогло бы одной лаборатории, не помогая при этом другим.
Самая насущная проблема заключается в создании такого процесса выпуска, который имел бы смысл. В том, что правительство тестирует модели перед релизом, нет ничего плохого (аналогичный подход применяется ко многим потребительским продуктам). Однако, как подробно описал сегодня утром в красноречивой публикации сотрудник Университета Джорджа Мейсона (и будущий работник OpenAI) Дин Болл, неясно, какие именно гарантии безопасности могли бы удовлетворить регулирующие органы. У правительства США нет ни экспертизы, ни ресурсов для проведения тех видов тестирования, которые здесь потребовались бы. Непонятно даже, от чего регуляторы пытаются защититься, поскольку не было предпринято никаких попыток чётко сформулировать, какие риски на самом деле беспокоят государство.
Было бы заманчиво считать правительственную процедуру сутью всей проблемы, но под ней кроются реальные поводы для опасений. Даже если не верить шумихе вокруг Mythos, существуют явные свидетельства того, как ИИ-инструменты революционизируют кибербезопасность. Сходные процессы идут в сферах биорисков и выравнивания поведения ИИ-систем. Ограничение выпуска моделей само по себе не может быть полноценным ответом — оно лишь сократит то, что доступно для широкой публики, — однако реальные вызовы необходимо решать. Лучшие идеи для этого, изложенные Боллом, подразумевают совместную работу. Они подразумевают доверие к независимым группам, направляющим процесс, даже если их цели не полностью совпадают с вашими. Они подразумевают консолидацию вокруг наименее плохих из доступных регуляторных вариантов вместо того, чтобы до последнего бороться с любым регулированием. И в первую очередь — борьбу за ИИ как за индустрию, вместо того чтобы воспринимать безопасность и регулирование как возможности получить преимущество. Для многих людей, работающих в сфере ИИ, принять это будет непросто. К сожалению, ИИ-модели достигли стадии, когда их возможности имеют реальные политические последствия. Работа с этими последствиями потребует коллективных действий. В ближайшие недели мы выясним, способна ли на это индустрия.