Купон на скидку: 2026
Французский AI-стартап ZML, получивший поддержку лауреата премии Тьюринга Яна Лекуна, выпустил программное обеспечение для инференса, позволяющее запускать множество открытых больших языковых моделей на различных чипах — включая решения Nvidia, AMD, Google TPU, Apple Metal и Intel Arc. Представленный инференс-сервер ZML/LLMD призван разрушить существующие технологические барьеры и дать возможность задействовать разные ускорители для задач искусственного интеллекта на их максимальной скорости, а в некоторых случаях даже быстрее, рассказал TechCrunch основатель компании Стив Морин.
По словам Морина, по мере интеграции ИИ в работу и повседневную жизнь оптимизация инференса — то есть обработки запросов — по значимости уже опережает обучение моделей, но за кулисами этот процесс зачастую остаётся фрагментированным: программные и архитектурные ограничения ведут к привязке к одному вендору. Обещание пиковой производительности на разных чипах — не только технологическое достижение, но и потенциальный рыночный перелом на фоне растущих опасений по поводу затрат на ИИ. ZML надеется дать корпоративным заказчикам и облачным провайдерам возможность использовать смесь ускорителей, часть которых может быть дешевле или энергоэффективнее. «Идея в том, чтобы вернуть людям возможность создавать собственные системы и добиться реального роста эффективности, который позволит ИИ распространяться», — пояснил Морин.
Программная поддержка такого рода способна помочь новым производителям ИИ-чипов, многие из которых базируются в Европе, отметил Морин, упомянув Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud и VSORA. Однако для него важнее не регион происхождения, а возможность работать с ними над «вещами, которые ещё никто и нигде в мире не делал». Это не означает скепсиса в отношении Nvidia — напротив, у ZML сложились хорошие отношения с гигантом, активно готовящимся к буму инференса, в том числе благодаря существующим поставкам.
Сектор инференса переживает настолько интенсивный приток инвестиций, что тренд уже окрестили «золотой лихорадкой инференса». У ZML есть конкуренты, такие как Baseten (недавно оценённый в $13 млрд), Inferact от создателей открытого проекта vLLM и RadixArk — коммерческая компания, стоящая за SGLang. И vLLM, и SGLang частично конкурируют с LLMD, но амбиции Морина выходят далеко за рамки узкой ниши. «Мы достигли стадии совместного проектирования кремния», — заявил он.
Быстрое продвижение стартапа из Парижа Морин связывает с компактной командой из 20 человек и готовностью к новым релизам. Капитализация небольшого коллектива также сыграла роль: благодаря своему бэкграунду в должности VP of engineering в Zenly (сервис был куплен Snapchat за девятизначную сумму в 2017 году) основатель привлёк $20 млн от венчурных фондов, среди которых 20VC Гарри Стеббингса, >commit, AALVC, Drysdale Ventures, Kima Ventures Ксавье Ньеля, Kindred Capital, LocalGlobe и Puzzle Ventures.
В отличие от первого публичного проекта ZML — фреймворка для инференса, выпущенного в 2024 году и обновлённого в марте, — ZML/LLMD не является открытым ПО. Однако он запускается как бесплатный продукт с целью изучения поведения пользователей. «Я предпочитаю сначала измерить показатели, а уже потом монетизировать там, где это будет наиболее эффективно, не тормозя рост глупой жадностью с самого начала», — прокомментировал Морин. Говорить о сроках перехода ZML/LLMD на платную модель и масштабах внедрения пока рано. При этом таблица капитализации стартапа подтверждает интерес других основателей: в списке инвесторов значатся создатель Dagger и Docker Соломон Хайкс, Клеман Деланг и Жюльен Шомон из Hugging Face, а также сам Ян Лекун, теперь работающий с AMI Labs. По словам Морина, всё это укрепляет уверенность в том, что европейские AI-стартапы способны строить бизнес, не покидая родного региона: «Я бы не смог создать ZML нигде, кроме Парижа».