AI-лаборатория представила новый режим под названием Ultrafast, который, по ее словам, предназначен для значительного ускорения работы самой последней и мощной модели GPT-5.6 Sol. Компания утверждает, что Ultrafast может работать с производительностью в 14 раз выше стандартной обработки, обеспечивая до 750 токенов вывода в секунду. Эти токены представляют собой отдельные фрагменты текста, генерируемые языковой моделью (LLM) при взаимодействии с человеком. В блоге компании, опубликованном в четверг, говорится: «До сих пор получение реальной скорости обычно означало выбор меньшей или более специализированной модели. Ultrafast указывает на прогресс в новом направлении: больше полезной работы за секунду».

Конкуренты OpenAI, такие как Anthropic, также запустили ускоренные версии своих моделей. Claude имеет режим быстрой работы, хотя он не достигает той скорости, которую предлагает OpenAI. Компания предполагает, что эта высокопроизводительная версия GPT-5.6 Sol может быть развернута в различных корпоративных рабочих процессах, особенно в таких областях, как реагирование на инциденты, обслуживание и поддержка клиентов, анализ финансовых рынков и электронная коммерция.

Режим Ultrafast, который в настоящее время находится в стадии предварительного релиза, поддерживается партнерством OpenAI с производителем чипов Cerebras. На данный момент этот предварительный доступ предоставляется только небольшой группе клиентов, однако OpenAI заявляет, что расширит доступ к функции по мере «увеличения мощностей».

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *