Американский стартап Tenstorrent показала серверы Galaxy Blackhole на базе собственных RISC-V чипов p150 и заявила, что система обходит актуальные GPU-решения в инференсе DeepSeek R1, демонстрируя феноменальную скорость вывода и стоимости токена. В режиме Blitz кластер из 16 серверов выдал 350+ токенов/с на DeepSeek-R1-0528 671B, а генерация 5-секундного 720p-видео заняла 2,4 секунды.

Внутри кластера стоят 32 чипа Blackhole с архитектурой RISC-V и Tensix-ядрами для ИИ-задач, общий объем SRAM достигает 6,2 ГБ при пропускной способности 2,9 ПБ/с. Базовый сервер, по заявлениям компании, дает 23 PFLOPS FP8, а также система имеет 56 портов 800G Ethernet. Ставка делается на полностью открытый стек без использование проприетарных решений, вроде NVLink и дорогостоящей HBM. При этом сравнение с NVIDIA пока выглядит спорным, потому что NVIDIA оперирует другими метриками TCO и токенов на доллар для GB300 NVL72.

😅 Канал Serverflow в MAX: Подписаться

В сеть утекли тесты PassMark новейшего мобильного APU-чипа AMD Ryzen AI Max Pro 495 Gorgon Halo. В сравнении AI Max Pro 395 прирост, конечно, не велик, но он все равно делает Gorgon Halo самым производительным чипом AMD — + 4,1% в CPU-производительности, а также переход на новую графику Radeon 8065S вместо Radeon 8060S также обеспечит увеличение эффективности GPU-задач. Но самое важное, что чип будет поддерживать аж 192 ГБ оперативки вместо 128 ГБ у AI Max 395 или Nvidia DGX Spark. Скорее всего, именно AMD Ryzen AI Max Pro 495 Gorgon Halo будет применяться в грядущих ИИ-ПК AMD Halo Box.

😅 Канал Serverflow в MAX: Подписаться