Купон на скидку: 2026
В четверг федеральный суд в Окленде заслушал показания бывшего сотрудника и члена совета директоров, который заявил, что усилия компании по продвижению продуктов на основе искусственного интеллекта на рынок подорвали её приверженность безопасности ИИ. Рози Кэмпбелл присоединилась к команде OpenAI по готовности к созданию искусственного общего интеллекта (AGI) в 2021 году, но покинула компанию в 2024 году после расформирования её команды. В тот же период была закрыта и другая команда, ориентированная на безопасность, — команда Super Alignment. Она свидетельствовала: "Когда я присоединилась, компания была сосредоточена на исследованиях, и обсуждение проблем AGI и безопасности было обычным делом. Со временем она стала больше ориентироваться на продукт".
Во время перекрёстного допроса Кэмпбелл признала, что значительное финансирование, вероятно, необходимо для достижения цели лаборатории по созданию AGI, но отметила, что создание супер-интеллектуальной компьютерной модели без соответствующих мер безопасности не соответствует миссии организации, в которую она изначально вступила. Кэмпбелл указала на инцидент, когда Microsoft развернула версию модели GPT-4 компании в Индии через свою поисковую систему Bing до того, как модель была оценена Советом по безопасности развертывания (DSB) компании. Она отметила, что сама модель не представляла большой угрозы, но компании необходимо "установить сильные прецеденты по мере того, как технология становится более мощной. Мы хотим иметь надёжные процессы безопасности, которые мы знаем, что соблюдаются".
Адвокаты OpenAI также заставили Кэмпбелл признать, что, по её "спекулятивному мнению", подход OpenAI к безопасности превосходит подход в xAI, компании ИИ, основанной Маском и приобретённой SpaceX ранее в этом году. OpenAI публикует оценки своих моделей и делится рамками безопасности публично, но компания отказалась комментировать свой текущий подход к согласованию AGI. Дилан Скандинаро, нынешний глава отдела готовности, был нанят из Anthropic в феврале. Альтман заявил, что этот найм позволит ему "спать спокойнее". Однако развертывание GPT-4 в Индии стало одним из тревожных сигналов, которые привели к кратковременному увольнению генерального директора Сэма Альтмана в 2023 году. Это произошло после того, как сотрудники, включая тогдашнего главного научного сотрудника Илью Сутскевера и тогдашнего технического директора Миру Мурати, пожаловались на его стиль управления, избегающий конфликтов.
Таша МакКолей, член совета директоров в то время, дала показания о беспокойствах, что Альтман недостаточно откровенен с советом для того, чтобы его необычная структура могла функционировать. МакКолей также обсудила широко освещаемую тенденцию Альтмана вводить совет в заблуждение. В частности, Альтман солгал другому члену совета о намерении МакКолей отстранить Хелен Тонер, третьего члена совета, которая опубликовала белую книгу с некоторой критикой политики безопасности OpenAI. Альтман также не проинформировал совет о решении публично запустить ChatGPT, и члены были обеспокоены его недостаточной прозрачностью в отношении потенциальных конфликтов интересов. "Мы являемся некоммерческим советом, и наша задача состояла в том, чтобы иметь возможность контролировать коммерческую организацию под нами", — заявила МакКолей в суде. "Наш основной способ сделать это был подвергнут сомнению. У нас не было высокого уровня уверенности в том, что информация, передаваемая нам, позволяла принимать обоснованные решения". Однако решение об увольнении Альтмана совпало с предложением о выкупе акций сотрудниками компании. МакКолей отметила, что когда сотрудники OpenAI начали поддерживать Альтмана, а Microsoft работала над восстановлением статус-кво, совет в конечном итоге изменил курс, и члены, выступавшие против Альтмана, ушли в отставку.
Очевидная неспособность некоммерческого совета влиять на коммерческую организацию напрямую связана с делом Маска, утверждающего, что трансформация OpenAI из исследовательской организации в одну из крупнейших частных компаний в мире нарушила негласное соглашение основателей организации. Дэвид Шизер, бывший декан юридического факультета Колумбийского университета, который был нанят командой Маска в качестве эксперта, поддержал опасения МакКолей. "OpenAI подчёркивает, что ключевой частью её миссии является безопасность, и они будут ставить безопасность выше прибыли", — сказал Шизер. "Часть этого заключается в серьёзном отношении к правилам безопасности, если что-то должно быть подвергнуто проверке на безопасность, это должно произойти. Важен процесс". С учётом того, что ИИ уже глубоко интегрирован в коммерческие компании, проблема выходит далеко за рамки одной лаборатории. МакКолей заявила, что неудачи внутреннего управления в OpenAI должны стать причиной для принятия более строгих государственных регуляций продвинутого ИИ — "если всё сводится к одному генеральному директору, принимающему такие решения, и на кону стоит общественное благо, это крайне не оптимально".