Купон на скидку: 2026
В Национальном институте стандартов и технологий США объявлено о расширении сотрудничества с ведущими компаниями в области искусственного интеллекта. Подразделение Центра стандартов и инноваций в области ИИ (CAISI) заключило новые соглашения с Google DeepMind, Microsoft и xAI. Эти соглашения касаются системной проверки передовых моделей ИИ до их публичного запуска и после, с особым акцентом на оценку рисков для национальной безопасности.
CAISI фактически становится центральной точкой взаимодействия между государственными структурами и индустрией искусственного интеллекта. По поручению министра торговли Говарда Лютника, структура будет координировать тестирование, совместные исследования и разработку стандартов для коммерческих ИИ-систем. Одним из ключевых нововведений является предоставление государству доступа к моделям ещё до их релиза, что позволяет проводить независимую оценку их возможностей и потенциальных угроз на раннем этапе. По данным ведомства, уже выполнено более 40 таких проверок, включая анализ новейших систем, которые ещё не представлены широкой публике.
Директор CAISI Крис Фолл подчеркнул, что независимая и строгая метрология имеет критическое значение для понимания возможностей передового ИИ и его влияния на национальную безопасность. По его словам, новые соглашения расширяют эту работу в условиях усиления конкуренции в сфере ИИ. Особое внимание уделяется тестированию в условиях, приближенных к реальным рискам. Разработчики могут предоставлять версии моделей с ослабленными защитными механизмами для оценки их потенциально опасного поведения. В проверках участвуют специалисты из различных ведомств, объединённые в межведомственную группу TRAINS, которая занимается вопросами ИИ и национальной безопасности.
Соглашения также предусматривают обмен данными между государством и компаниями, что должно ускорить доработку продуктов и повысить прозрачность оценки их возможностей. Часть исследований будет проводиться в закрытых, в том числе засекреченных средах, что позволит более тщательно анализировать и улучшать модели ИИ.