Купон на скидку: 2026
Это ключевой подтекст попытки Илона Маска закрыть коммерческое подразделение OpenAI. Его адвокаты утверждают, что организация изначально была создана как благотворительная, сосредоточенная на безопасности ИИ, но утратила свои принципы в погоне за прибылью. Чтобы доказать это, они ссылаются на старые электронные письма и заявления основателей организации о необходимости создания общественно ориентированного противовеса Google DeepMind. Сегодня они вызвали единственного эксперта, который мог бы напрямую высказаться о технологии ИИ: Стюарта Рассела, профессора компьютерных наук из Калифорнийского университета в Беркли, изучающего ИИ на протяжении десятилетий. Его задачей было предоставить информацию об ИИ и доказать, что эта технология достаточно опасна, чтобы вызывать беспокойство. В марте 2023 года Рассел подписал открытое письмо с призывом к шестимесячной паузе в исследованиях ИИ. Примечательно, что Маск также подписал это письмо, даже когда запускал xAI, свою собственную коммерческую лабораторию ИИ.
Рассел рассказал присяжным и судье Ивонн Гонсалес Роджерс о различных рисках, связанных с развитием ИИ, начиная от угроз кибербезопасности и заканчивая проблемами несоответствия и характером "победитель получает всё" в разработке искусственного общего интеллекта (AGI). В конечном итоге он отметил, что существует напряжение между стремлением к AGI и безопасностью. Более широкие опасения Рассела по поводу экзистенциальных угроз неограниченного ИИ не были озвучены в открытом суде после того, как адвокаты OpenAI возразили, и судья ограничила его показания. Однако Рассел давно критиковал динамику гонки вооружений, созданную передовыми лабораториями по всему миру, стремящимися первыми достичь AGI, и призывал правительства к более строгому регулированию этой области.
Адвокаты OpenAI в ходе перекрестного допроса пытались установить, что Рассел не оценивал непосредственно корпоративную структуру организации или ее конкретные политики безопасности. Однако этот репортер (как и судья и присяжные) будет оценивать, насколько значима связь между корпоративной жадностью и проблемами безопасности ИИ. Практически каждый из основателей OpenAI настоятельно предупреждал о рисках ИИ, одновременно подчеркивая его преимущества, стремясь как можно быстрее развивать ИИ и разрабатывая планы по созданию коммерческих предприятий, ориентированных на ИИ, которые они могли бы контролировать.
Снаружи ясно видна проблема: после основания OpenAI стало очевидно, что организации просто необходимо больше тратить на вычислительные мощности, чтобы добиться успеха. Эти деньги могли поступить только от коммерческих инвесторов. Страх основателей перед AGI в руках одной организации подтолкнул их к поиску капитала, который в конечном итоге разорвал команду, создав гонку вооружений, которую мы знаем сегодня, и привел к этому судебному разбирательству. Та же динамика уже проявляется на национальном уровне: инициатива сенатора Берни Сандерса по введению моратория на строительство дата-центров отражает опасения по поводу ИИ, выраженные Илоном Маском, Сэмом Альтманом, Джеффри Хинтоном и другими. Ходан Омаар из торговой организации Центр инноваций в области данных возразил против использования Сандерсом их опасений без учета их надежд, заявив TechCrunch, что "неясно, почему общественность должна игнорировать все, что говорят технические миллиардеры, кроме тех случаев, когда их слова можно использовать для заполнения пробелов в шатком аргументе". Теперь обе стороны дела просят суд сделать именно это: принять часть аргументов Альтмана и Маска всерьез, но игнорировать те части, которые менее полезны для их юридической позиции.