Купон на скидку: 2026
Создатели ИИ-модели Claude из компании Anthropic провели встречи с представителями различных религий, включая христианство, иудаизм, индуизм, сикхизм и мормонскую церковь, с целью поиска «этических принципов» для искусственного интеллекта. Anthropic расширяет свой уникальный проект по определению моральных ориентиров для чат-бота Claude. После серии закрытых встреч с христианскими лидерами представители компании вместе с сотрудниками OpenAI приняли участие в межрелигиозном круглом столе Faith-AI Covenant в Нью-Йорке, где обсуждали этические аспекты искусственного интеллекта с представителями нескольких мировых религий.
Эта инициатива является продолжением более ранних действий Anthropic. В апреле компания организовала серию встреч и ужинов с 15 христианскими лидерами, чтобы обсудить «духовное развитие Claude» и получить советы по вопросам морали и поведения ИИ-систем. Anthropic официально не раскрывает, как именно такие консультации будут применяться в разработке Claude, однако компания уже давно строит модель вокруг идеи «конституции» — набора этических принципов, которыми должна руководствоваться модель.
Создание универсальной системы морали оказалось более сложной задачей, чем ожидали разработчики генеративного ИИ. Внутри Anthropic признают: они опасаются, что попытки внедрить в модель «достаточно хорошие» моральные ценности могут не увенчаться успехом. Поэтому компания начала искать внешние источники этических ориентиров, включая религиозные организации. По данным Associated Press, встречи координируются швейцарской неправительственной организацией Interfaith Alliance for Safer Communities. В будущем планируется проведение подобных мероприятий в Китае, Кении и ОАЭ.
К обсуждениям также присоединилась Джоанна Шилдс, британский политик и бывший технологический руководитель, известная своей работой в сфере цифровой безопасности. Пока неясно, насколько такие встречи реально влияют на поведение Claude. Компании не публиковали конкретных рекомендаций, полученных от религиозных лидеров, и не сообщали о прямом внедрении религиозных принципов в модель. Однако сама тенденция показывает, насколько ИИ-индустрия столкнулась с фундаментальной проблемой: современные языковые модели принимают решения в ситуациях, для которых невозможно заранее прописать жесткие правила.
Глава некоммерческой организации Humane Intelligence Румман Чоудхури считает, что технологические компании постепенно осознают невозможность создания универсальной этики. По ее словам, Кремниевая долина долгое время исходила из наивной идеи, что можно сформулировать единый набор моральных принципов для всех людей. Теперь разработчики начинают понимать, что это практически недостижимо, и потому обращаются к религии как к одному из способов работы с серой зоной этических решений. При этом Anthropic, судя по всему, не стремится превратить Claude в носителя конкретной религиозной доктрины. Скорее компания ищет общие моральные закономерности, которые могли бы помочь модели вести себя более предсказуемо и безопасно.
Тем не менее, остаётся открытым вопрос: способен ли искусственный интеллект вообще «усвоить» мораль — или же все эти попытки лишь создают иллюзию этического поведения у систем, которые на самом деле не понимают ни ценностей, ни последствий собственных решений.