Победитель лотереи в честь GTC 2026 продал на аукционе подарочный ИИ-ускоритель RTX Pro 6000 Blackwell Workstation Edition с золотой подписью Дженсена Хуанга за колоссальные $57 450, тогда как рекомендуемая стоимость GPU равна $16 000.

😅 Канал Serverflow в MAX: Подписаться

Американская компания Exxact, специализирующаяся на сборке ПК и рабочих станций, выставила на продажу систему NVIDIA DGX Station GB300 за колоссальную сумму в $94 930 👀

😅 Канал Serverflow в MAX: Подписаться

Компания d-Matrix на Hot Chips 2026 представила Raptor — ИИ-ускоритель для инференса, в котором вычислительный кристалл размещен непосредственно поверх 3D DRAM.

Вычислительный кристалл Raptor производится по техпроцессу TSMC N4 и объединяется с DRAM методом face-to-face стекирования. Благодаря этому ускоритель получит пропускную способность, близкую с феноменальной скорости SRAM-памяти, при этом сохраняя объем и используя сравнительно дешевые микросхемы памяти.

В одном Raptor используется 32 ГБ 3D-DRAM, а пропускная способность достигает колоссальные 100 ТБ/с — это в 5 раз больше, чем у стэка HBM4 с 20 ТБ/с. При этом 3D-DRAM требует всего 0,3-0,4 пДж/бит энергии на передачу данных, тогда как у HBM-памяти с такой же скоростью требовалось бы в 10 раз больше энергии.

Основной сценарий использования Raptor — это выполнение декодирования, где LLM последовательно генерирует токены и упирается именно в пропускную способность памяти. d-Matrix рассчитывает, что 72 карты Raptor с 32 ГБ каждая смогут разместить модель класса 3 трлн параметров с контекстом 1 млн токенов, а заявленная производительность достигает примерно 1 000 токенов/с на пользователя.

😅 Канал Serverflow в MAX: Подписаться

Xiaomi показала первый прототип ИИ-ПК AI Cube для локального вывода LLM объемом до 200 миллиардов параметров. Самое интересное, что Xiaomi запихнула в столь компактное устройство сразу три процессора: O3, O100 и D100.

🔥Хост-процессор XRing O3 представляет из себя SoC-чип с 10 вычислительными ядрами ARM, 16 графическими ядрами G2 Ultra NX и NPU с производительностью до 200 TOPS.

🔥Первый ИИ-ускоритель XRing O100 имеет встроенную DRAM-память для выполнения вычислений в памяти и обеспечивает пропускную способность до 1,22 ТБ/с.

🔥Второй ИИ-ускоритель XRing D100 является SoC-решением 20 ядрами CPU, 16 ядрами NPU и 160 ГБ унифицированной памяти LPDDR6, что позволяет запускать модели до 200 миллиардов параметров.

Сам AI Cube выполнен в цельнолитом алюминиевом корпусе, а система охлаждения позволяет отводить тепло до 150 Вт. Xiaomi также заявляет о поддержке двух режимов работы: быстрый и медленный.

Подробностей о распределении нагрузки между тремя чипами пока нет, более точных характеристик и результатов тестов тоже не предоставили. Цена и сроки выпуска устройства не объявлены.

😅 Канал Serverflow в MAX: Подписаться