Купон на скидку: 2026
Как первая реакция — для меня это однозначное «нет». Я бы даже не назвал этот вопрос сложным. Однако Америка полна разных точек зрения, и одну из них на выходных высказал основатель Comma AI и ветеран джейлбрейк-сцены Джордж Хотц. Пост стал ответом на череду масштабных планов по выравниванию ИИ, последним из которых стал программный документ AI Futures Project «AI 2040: Plan A». Документ рисует мир, в котором исследователи коллективно решат замедлить развитие ИИ на 14 лет ради общего блага. Но, конечно, далеко не все согласны с его предпосылками или выводами.
Хотц не принимает саму идею, будто прогрессом ИИ нужно управлять ради коллективного блага. В своём посте он утверждает, что сценарий быстрого взлёта — гипотетическая ситуация, когда ИИ стремительно обретает сверхчеловеческие способности, — лишён смысла. Лучшим подходом к выравниванию и безопасности ИИ он считает локально контролируемые модели, которые точно соответствуют интересам своих владельцев. Идея интересная, особенно на контрасте с тем, что нынешний ИИ строится вокруг централизованно управляемых сервисов вроде Claude и ChatGPT. Массовому развёртыванию персонального ИИ мешают, помимо прочего, инфраструктурные ограничения: содержание больших моделей очень дорого, а большинство людей используют их недостаточно интенсивно в течение дня, чтобы такие расходы окупались. Но по мере развития технологий эти факторы теряют значимость. Экспериментальный и DIY-подход OpenClaw именно этим и радовал, и было бы здорово, если бы больше ИИ-продуктов пытались вернуть такой дух.
Однако Хотц по природе провокатор и этим не ограничивается. Он сравнивает ИИ, выровненный под конкретного пользователя, с оружием: такой ИИ не станет жаловаться, если вы используете его для убийства мачехи (хотя, кажется, существуют и другие ограничения на этот счёт). По-настоящему выровненный ИИ, пишет Хотц, сможет заказать на Amazon Prime оборудование для нарколаборатории и показать, как им пользоваться, если вы этого захотите и попросите. Он даже заявляет, что готов умереть, защищая этот принцип, хотя представить цепочку событий, которая привела бы к такому исходу, сложно. «Мы либо живём в мире свободы, либо нет», — пишет Хотц.
Если выбирать только из этих двух вариантов, мир свободы, конечно, звучит лучше. И всё же не всё сводится к одной свободе. Любая структура, объединяющая много людей — общества, рынки, корпорации, — требует баланса интересов, увязывания индивидуальных потребностей в сеть взаимозависимых предпочтений и систем ответственности. Любой, кто запускает массовые технологические продукты, наверное, должен думать об этой сети целиком, а значит, принимать всерьёз интересы ещё не убитых супругов и приёмных родителей. Свобода, которую испытывает Хотц, на самом деле является пространством потенциальных будущих возможностей, созданных коллективным предприятием; все эти возможности исчезли бы в одночасье, начни мы вести себя как маленькие ИИ-диктаторы. Как гласит ставший мемом комментарий: мы живём в обществе.
И тем не менее идея иметь локальный ИИ, готовый ради моей выгоды бросить вызов корпоративному миру, звучит здорово. Жду не дождусь обзорного образца.