Автор представляет новую модель ИИ и обновлённый инструмент для управления затратами на токены

В четверг компания Writer, предлагающая инструменты и агенты на основе ИИ для маркетологов, представила свою новую флагманскую модель под названием Palmyra X6, направленную на решение проблем своих пользователей. Эта модель построена как посттренировочный вариант открытой модели Z.ai GLM-5.2. Writer утверждает, что новая система должна предоставить возможности для развертывания по значительно более низкой цене. Компания оценивает, что новая модель, в сочетании с изменениями в инфраструктуре компании, позволит сократить затраты для клиентов до 50% на базовые задачи. Вместе с новой моделью компания также выпустила значительные обновления для своего стандартного агентского инструмента. Оба нововведения станут доступны клиентам Writer начиная с четверга.

«Я думаю, что предприятия абсолютно устали от гонки за следующими показателями», — сказала генеральный директор May Habib в интервью TechCrunch. «Им нужно снижение затрат, и, похоже, никто не может этого обеспечить». Новый подход делает особый акцент на сложных многоступенчатых задачах, которые выполняются быстрее и с меньшим количеством токенов. Writer рассматривает оптимизацию инструмента как ключевой рычаг для достижения этой цели. Недавняя работа исследователей Writer подтверждает этот подход, тестируя небольшие изменения в эффективности инструмента на различных моделях. Исследование показало, что в большинстве случаев изменения в инструменте были более надежным способом снижения затрат, чем выбор модели, при этом затраты снижались в среднем на 40% в ходе тестирования.

«Инструмент — это тот компонент, эффективность которого умножается на каждую модель, которую организация использует, как настоящую, так и будущую», — написали исследователи. Для клиентов Writer опыт остается независимым от модели: Palmyra X6 будет работать наряду с другими моделями Writer или внешними моделями, импортированными через Azure или Amazon Bedrock. Однако Habib также отмечает, что стремление сократить затраты приводит к более широкому недоверию к крупным лабораториям ИИ, которые имеют финансовый стимул увеличивать использование токенов. «Взрыв затрат здесь просто беспрецедентен для клиентов, и также беспрецедентна степень, в которой CIO отказываются от лабораторий», — добавила Habib в интервью TechCrunch, отметив, что лаборатории ИИ «не понимают, как помочь предприятию извлечь выгоду из ИИ».

Источник