Ваш купон на скидку:
Генеральный директор Nvidia Дженсен Хуанг заявил, что безопасность искусственного интеллекта является инженерной задачей, а не юридической, поскольку речь идет о разработке сложных вычислительных систем. По его мнению, нет необходимости в принятии новых законов или нормативных актов для регулирования ИИ. Хуанг считает, что свободный рынок сам по себе будет достаточным стимулом для компаний, чтобы не выпускать небезопасные продукты. Он подчеркнул, что компании, не уверенные в функциональности, возможностях или безопасности своих продуктов или услуг, не должны их выпускать.
Хуанг продолжил, что компании должны развиваться в своем темпе, пока не будут уверены в качестве выпускаемого продукта, который будет оценен рынком. Он утверждает, что рыночные силы уже действуют, и новые законы или регулирования не требуются. По его словам, инновации, скорость и безопасность продуктов — это ложный выбор, и компании могут добиваться всего одновременно. Он призвал компании работать максимально быстро, но при этом делать паузу, если чувствуют, что теряют контроль или продукт может оказаться небезопасным, чтобы убедиться в правильности своих действий.
Такой подход может показаться успокаивающим, учитывая, что Дженсен Хуанг является одним из ведущих экспертов в области ИИ, чья компания Nvidia разрабатывает аппаратные компоненты для ИИ с момента появления технологий, предшествующих ChatGPT, и теперь выпускает модели с открытым исходным кодом, агентов, фреймворки и песочницы. Однако, с другой стороны, такая точка зрения неудивительна для человека, чья компания получила значительную выгоду от бума ИИ. Введение регулирования могло бы замедлить стремление Nvidia к увеличению продаж систем и программного обеспечения для ИИ. Сам Хуанг заявил, что его амбиции возросли, и благодаря повышению производительности продуктов, которое обеспечивает ИИ, для его компании, как и для всех отраслей и стран, «небо — это предел».
Тем не менее, даже компании с самыми благими намерениями иногда выпускают продукты с дефектами и непреднамеренными последствиями, в том числе программное обеспечение. В качестве примера можно привести фиаско с «синим экраном смерти» от CrowdStrike в 2024 году, которое привело к отмене тысяч авиарейсов и другим серьезным сбоям в работе бизнеса. Существуют также компании, которых обвиняют в преднамеренных действиях с недобрыми намерениями: Meta недавно выплатила 18 миллиардов долларов для урегулирования иска о вреде, причиненном детям социальными сетями. ИИ уже привел к ущербу, независимо от намерений или мер безопасности: от взлома Hugging Face моделью OpenAI до исков против ИИ-лаборатории в связи с самоубийствами молодых людей, которые вели длительные беседы с чат-ботом.
Стратегия «оставить их в покое», позволяющая компаниям выпускать продукты по своему усмотрению, может оказаться недальновидным подходом к безопасности ИИ с точки зрения общества. Хотя Хуанг прав в том, что существующие законы об ответственности за качество продукции потенциально могут распространяться и на ИИ, остается неясным, как они будут применяться, если ИИ не приведет к катастрофическим последствиям до того, как соответствующие дела будут рассмотрены в судах. Другой возможный путь — саморегулирование отрасли, которое, похоже, начинает формироваться. Хуанг, в свою очередь, активно продвигает модели с открытым исходным кодом и их использование компаниями в качестве конкурентного противовеса проприетарным ИИ-лабораториям.
Однако сейчас у отрасли есть короткое окно возможностей для внедрения саморегулирования и поощрения ИИ-лабораторий по всему миру, включая Китай, к участию в этом процессе. Как отметил генеральный директор Microsoft Сатья Наделла на саммите All-In, Китай должен так же серьезно относиться к вопросам безопасности ИИ, как и США, поскольку проблемы взлома и стремление к тому, чтобы граждане получали выгоду от ИИ, являются общими. Пока же, если Хуанг выступает против нового регулирования ИИ, его влияние может оказаться достаточным, чтобы добиться своего. На этой неделе он также продемонстрировал, что имеет прямой доступ к бывшему президенту Трампу.