Купон на скидку: 2026
Стартап Tenstorrent, специализирующийся на разработке ускорителей для искусственного интеллекта на базе чипов с архитектурой RISC-V, продемонстрировал возможности своих новейших серверов Galaxy Blackhole, которые могут составить конкуренцию Nvidia GB300 как в плане производительности, так и стоимости токена. В частности, в режиме Blitz, оптимизированном для высокопроизводительных задач ИИ, серверы Galaxy способны обрабатывать до 350 токенов в секунду в Deepseek R1-0528 671B. Компания представила следующие данные: декодирование в DeepSeek-R1-0528 671B достигает скорости более 350 токенов в секунду, что превосходит самые быстрые системы вывода от Groq и Cerebras по производительности и пропускной способности. Время предварительного заполнения для получения первого токена составляет менее 4 секунд при контексте 100K.
Как видно на графике, производительность и стоимость токена по сравнению с GPU, в данном случае GB300, значительно лучше. Однако стоит учитывать, что это не универсальный результат. Кроме того, Tenstorrent продемонстрировала, что её решение может быть в 10 раз мощнее в области Video GenAI. Система способна создавать видео из 81 кадра в разрешении 720p всего за 2,4 секунды, что позволяет генерировать 5-секундное видео быстрее, чем в реальном времени.
Технически, ядро Tensix, лежащее в основе чипов Blackhole, включает пять RISC-процессоров с блоками умножения матриц, векторными блоками и локальной SRAM. Каждый RISC-процессор полностью программируем, и каждое ядро подключено к высокоскоростному сетевому центру управления. Несколько таких ядер объединяются для создания чипа.
Что касается стоимости, сервер Tenstorrent Galaxy Blackhole будет доступен в стоечной конфигурации с воздушным охлаждением по цене от 110 000 долларов. Такая система предлагает производительность 23 PFLOP в режиме FP8 при использовании 32 чипов Blackhole, 6,2 ГБ встроенной памяти SRAM со скоростью 2,9 ПБ/с, 1 ТБ DRAM со скоростью 16 ТБ/с и 56 портов Ethernet 800G с пропускной способностью до 11,2 ГБ/с.