Ваш купон на скидку:
На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в том, что компания оказывала на него давление, чтобы он не упоминал соавтора, работающего в Anthropic, при решении важной математической задачи. Он также задался вопросом, не использовала ли компания их работу с Codex для создания собственного революционного доказательства за выходные марафонских вычислений. В четверг OpenAI отозвала спонсорство математического мероприятия в Калифорнийском технологическом институте после критики со стороны исследователей университета. Хотя способность моделей искусственного интеллекта решать выдающиеся математические задачи может принести пользу человечеству, авторы нового письма утверждают, что это возможно только в том случае, если эти решения смогут быть поняты и донесены математическим сообществом и, в конечном итоге, остальным миром.
«Часто эти решения объявляются в спешке, не оставляя времени на надлежащее оформление, выделение новых методов и идей, а также цитирование соответствующих предыдущих работ других авторов», — написали они, отмечая, что доказательство OpenAI остается непроверенным. «Как и во всех творческих профессиях, это поднимает серьезные вопросы атрибуции и плагиата. Более того, без математиков, готовых заниматься развитием и интеграцией идей в математический канон, концепции, созданные ИИ, никогда не обретут полноценную жизнь, и критически важная цепочка передачи знаний между математиками будет утрачена». Поскольку другие математики начинают опасаться, что их использование Codex в свою очередь могло быть использовано для обучения новых моделей OpenAI, возникает реальный страх, что культура открытых исследований окажется под угрозой. Сегодня, если передовые лаборатории видят полезный путь к открытию, они могут потратить десятки миллионов долларов, используя большие языковые модели, чтобы опередить первоначальных исследователей с доказательством — динамика, которая будет стимулировать секретность.
Это письмо следует за Лейденской декларацией, опубликованной рабочей группой математиков в июне. Этот документ также рассматривает способы, которыми доказательства с помощью больших языковых моделей изменят их работу, и предлагает набор рекомендаций для математиков, институтов и политиков. Как и в случае с разработкой программного обеспечения и других областях, где инструменты ИИ меняют рабочие процессы, математики находят обоснование в работе вокруг работы: ценность математики заключается не только в доказательствах и том, кто получает признание, но и в интеллектуальной суперструктуре, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию.
«Проблемы, с которыми сейчас сталкивается математическое сообщество, аналогичны проблемам, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться все человечество: как убедиться, что по мере того, как ИИ меняет способ выполнения работы, мы не упускаем из виду то, для чего эта работа изначально предназначалась», — написали авторы письма. И если вас не особенно волнует безжалостный мир высокоставочных математических доказательств, не забывайте: ваша область интересов — следующая.