Купон на скидку: 2026
Комментарии Амодеи были сделаны в ответ на инвестора Гэвина Бейкера, который утверждал — как в подкасте All-In, так и в социальной сети X — что предупреждения Амодеи о рисках, связанных с искусственным интеллектом, способствовали возникновению негативной реакции в США, особенно против дата-центров. Бейкер заявил, что Амодеи «проиграл спор» в вопросах регулирования ИИ (Anthropic выступает за некоторые меры регулирования, включая законопроект в Калифорнии, который накладывает требования по прозрачности на крупные компании в области ИИ), и, учитывая, что «он собирается стать генеральным директором одной из самых важных компаний в мире», Бейкер написал: «Я с уважением считаю, что он должен стараться быть более позитивным адвокатом своей отрасли». Бейкер не единственный, кто утверждает, что скептицизм в отношении ИИ и даже государственные репрессии являются естественной реакцией на мрачные предостережения некоторых руководителей в области ИИ. Однако в серии публикаций Амодеи не согласился с мнением о том, что его «сообщения были непропорционально негативными». Вместо этого он заявил, что его статьи «в равной степени сбалансированы между рисками и преимуществами», и что он написал свое эссе «Машины любви» потому, что «не чувствовал, что индустрия ИИ рисует достаточно вдохновляющую картину того, как технология может радикально изменить мир к лучшему».
Тем не менее, Амодеи признал, что «общественность имеет негативное мнение о ИИ» и согласился с тем, что «это большая проблема». Он не согласился с мнением о том, что этот негатив в основном вызван Амодеи «или любым другим лидером ИИ, предупреждающим о рисках ИИ». «Я думаю, что это в основном кризис доверия», — сказал Амодеи. «Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы разрабатываем какой-то новый способ обмануть их». Действительно, «доверие» — это слово, которое часто появляется в заголовках о генеральном директоре OpenAI Сэма Альтмана, и, похоже, это также проблема для других руководителей ИИ, таких как Амодеи. По словам Амодеи, это кризис, который формировался на протяжении десятилетий, и негативная реакция на ИИ — это «просто последняя его итерация». «Я думаю, что наиболее точная критика ИИ-компаний, включая Anthropic, заключается в том, что мы еще не выполнили свои большие обещания по улучшению мира», — сказал Амодеи. «Это полностью на нас, и я думаю, что это критика, которую вы должны делать, вместо всего этого о сообщениях и маркетинге». Иными словами, он сказал, что обещание о том, что ИИ вылечит рак, «больше клише, чем вдохновение»; то, что действительно изменит мнение людей о ИИ, — это «настоящее излечение рака».
Что касается регулирования, Амодеи утверждал, что Бейкер рисует «ложный выбор» между широким распространением ИИ без регулирования и концентрацией технологии в руках нескольких компаний через регулирование. «Я знаю, что существует своего рода краткое изложение из Силиконовой долины, где регулирование = захват регуляторов = концентрация власти, но я всегда считал это чрезмерно упрощенной картиной мира», — сказал Амодеи. «Многие люди за пределами этого пузыря рассматривают регулирование как нечто, что ограничивает корпоративную власть и приносит пользу обычным людям». Амодеи добавил, что он «не обязательно согласен с этой точкой зрения», но сказал, что именно поэтому Anthropic всегда очень тщательно формулирует свои предложения по политике. «Мы очень стараемся делать предложения, которые ставят в невыгодное положение (замедляют) компании, работающие на переднем крае ИИ, в то время как *выгодно* меньшим конкурентам», — сказал он. Почему вообще делать такие предложения? Амодеи отметил, что, по его мнению, «ИИ — это *структурно* технология, которая склонна концентрировать власть», и что «открытые веса действительно помогают в этом, но это далеко не достаточное решение, потому что они просто немного смещают концентрацию к тем, у кого больше вычислительных мощностей и чипов». «В отличие от этого, я думаю, что правильные «правила игры» могут одновременно (а) решить риски ИИ в кибернетике/биологии/выравнивании, (б) институционально ограничить власть компаний на переднем крае ИИ и (в) оставить место для моделей с открытыми весами, одновременно решая конкретные риски, которые они приносят», — сказал он. Этот пост был обновлен, чтобы включить больше цитат из публикаций Амодеи, включая те, которые касаются открытых весов.