Глава Microsoft AI призвал США не откладывать внедрение мер безопасности в сфере искусственного интеллекта из-за конкуренции с Китаем

В процессе обсуждения перспектив развития сферы искусственного интеллекта глава подразделения Microsoft AI Мустафа Сулейман обозначил необходимость внедрения механизмов контроля, несмотря на текущую конкуренцию между США и Китаем. В интервью CNN, опубликованном 20 сентября, он подчеркнул, что соперничество между государствами не может служить основанием для переноса или отмены мер по обеспечению безопасности ИИ-систем.

По мнению Мустафы Сулеймана, США следует сосредоточиться на разработке собственных инструментов мониторинга мощных моделей, не отказываясь при этом от взаимодействия с Китаем в тех областях, где цели сторон совпадают. Его позиция заключается в том, что вопросы технической безопасности, такие как системы аудита, механизмы принудительной остановки ИИ и процедура независимой проверки, должны развиваться параллельно с процессом достижения глобальных международных договоренностей.

Ключевым аспектом контроля, по словам Мустафы Сулеймана, является сохранение человеческого участия в процессах принятия решений искусственным интеллектом. Специалист настаивает на обеспечении возможности для человека в любое время отслеживать ход работы системы, проверять логику её выводов и, при необходимости, прерывать выполнение задачи. Эти принципы являются его личной публичной позицией и не отражают официально принятую политику Microsoft или содержание законодательных инициатив.

Вопрос организации независимого аудита требует определения конкретных параметров взаимодействия между разработчиками и внешними проверяющими. Для оценки безопасности и эффективности механизмов ограничения ИИ оценщикам потребуется доступ к внутренней инфраструктуре систем. В рамках такого процесса необходимо урегулировать следующие аспекты:

Порядок выбора субъектов, уполномоченных проводить независимую проверку.

Перечень данных, предоставляемых внешним специалистам для анализа.

Алгоритм действий компании при выявлении экспертами критических уязвимостей или нарушений в поведении модели.

Текущая дискуссия в США затрагивает опасения о том, что ужесточение требований безопасности может негативно сказаться на темпах технологического прогресса в сравнении с достижениями Китая. Мустафа Сулейман предлагает разделять технологическое развитие и внедрение стандартов безопасности, аргументируя это тем, что создание защищенных журналов аудита и независимая верификация моделей должны стать приоритетом вне зависимости от скорости формирования международных правовых норм.

Источник