Ваш купон на скидку:
Стартап TypeSafe AI представил Jev, трансформерную модель, работающую по принципам, отличным от стандартных больших языковых моделей. Разработчик проекта Диогу Алмейда, в прошлом исследователь OpenAI и участник команды создателей ChatGPT и системы RLHF, полагает, что избыточная оптимизация современных нейросетей под человеческую речь сужает возможности их использования в сфере автоматизации процессов, где требуются точные решения, а не генерация текста.
Технология Jev не занимается созданием произвольных текстовых ответов, что исключает появление галлюцинаций в классическом виде. Модель выдает вероятности заранее установленных решений, что делает процесс работы значительно дешевле и быстрее. Компания выбрала модель оплаты, при которой оплачиваются только входные токены, тогда как исходящие предоставляются бесплатно. Высокий интерес к API привел к временным трудностям с доступностью сервиса из-за высокой нагрузки.
Практическое внедрение Jev в Vercel позволило повысить скорость обработки инструкций в 5-18 раз при улучшении точности, о чем сообщил инженер компании Пранит Шарма. Сравнительные тесты также показали, что при классификации деловой переписки модель уступает Gemini в точности, однако превосходит ее по экономичности в 10-20 раз. Пользователи отмечают преимущество в возможности получения числового значения вероятности для каждого принятого моделью решения.
Сценарии использования включают совместную работу с LLM для контроля действий ИИ-агентов, мониторинга последовательностей команд и выявления попыток обхода ограничений. Также система применима для маршрутизации запросов, определяя в режиме реального времени необходимость привлечения более мощных ресурсов или достаточность использования легковесного решения.
Подход к обучению Jev основывается на использовании исключительно синтетических данных через собственную методику компании, называемую «обучением с подкреплением на основе калиброванных решений». Детальное описание архитектуры модели не публикуется. В планах TypeSafe AI стоит расширение возможностей Jev для работы с другими типами данных.
Название проекта отсылает к экономическому парадоксу Уильяма Стэнли Джевонса, который гласит, что падение стоимости ресурса провоцирует увеличение объемов его потребления. Компания намерена следовать этой логике, обеспечивая низкую стоимость и высокую скорость простых интеллектуальных решений, чтобы упростить их интеграцию напрямую в программное обеспечение.