Microsoft официально представила Maia 300, третье поколение своих ИИ-ускорителей. И впервые собственный чип компании выглядит как реальный конкурент NVIDIA: по вычислительной мощности он примерно на уровне Blackwell Ultra B300.

До этого чипы Maia были скорее экспериментом: Maia 200 выпустили всего несколько десятков тысяч штук, и к концу июля они работали лишь в 2 ЦОД в США. Теперь масштаб другой: Microsoft договаривается с TSMC о мощностях более чем на 300 000 чипов с поставкой в 2027 году и хочет убедить перейти на них крупных облачных клиентов вроде Anthropic.

Maia 300 построен на техпроцессе TSMC N2P и получил 288 ГБ HBM4 с пропускной способностью 18 ТБ/с, 13,8 PFLOPS в FP4 и 6,9 PFLOPS в FP8 при TDP 950 Вт. У B300 те же 288 ГБ, но HBM3E со скоростью 7,7 ТБ/с, 13,5-14 PFLOPS в FP4 и 4,5 PFLOPS в FP8 при TDP до 1100 Вт.

Получается, что при одинаковом объеме памяти Maia почти догоняет B300 по FP4, обгоняет на 53% по FP8, а ее память быстрее в 2,34 раза. Для условной модели на 70 млрд параметров весом 40 ГБ теоретический потолок у Maia 300 составит 450 токенов в секунду, а у B300 около 192 — потенциальное преимущество в 2,34 раза за счет скорости памяти.

Microsoft также объявила о готовности выпускать ИИ-стойки на базе Maia 300 — системы будут вмещать 96 ИИ-ускорителей против 72 у GB300 NVL72, а суммарная пропускная способность памяти достигает 1728 ТБ/с против 576 ТБ/с, то есть в 3 раза больше, чем у Nvidia. Microsoft также заявляет на 40% больше токенов на мегаватт, чем у ведущих GPU-систем.

Microsoft заявляет, что поставки Maia 300 начнутся в 2027 году, однако к тому времени Nvidia уже выведет на рынок решения Vera Rubin c 288 ГБ HBM4 с пропускной способностью 22 ТБ/с и NVLink 6 на 3,6 ТБ/с, то есть свое преимущество Maia 300 полностью растеряет. К тому же, у Nvidia есть CUDA, а что есть у Microsoft?

😅 Канал Serverflow в MAX: Подписаться

NVIDIA объявила, что сообщество Open Compute Project (OCP) займется разработкой стоек Vera Rubin по своим открытым стандартам, чтобы упростить сборку и обслуживание ИИ-инфраструктуры. Ключевое изменение касается вычислительных лотков: в них не будет кабелей, шлангов и вентиляторов. Вместо этого NVIDIA использует модульную конструкцию с жидкостным охлаждением, позволяющую сократить время сборки с нескольких часов до нескольких десятков минут.

Еще одно изменение касается электропитания. В стойки добавляют шинопроводы с СЖО, рассчитанные на ток силой до 5000 А без увеличения габаритов конструкции. Это позволяет повышать плотность мощности и размещать больше вычислительных ресурсов в том же пространстве.

Для обслуживания жидкостного охлаждения NVIDIA представила разъемы MQD (MGX Quick Disconnect) и MQDB (MGX Quick Disconnect Blind-mate). Они позволяют отсоединять и заменять элементы охлаждения, включая холодные пластины, без сложной разборки и с меньшим риском утечек. Эти решения входят в обновление спецификации OCP MGX 1.2.

Платформа Vera Rubin будет доступна в нескольких форм-факторах на базе MGX 3.0. Партнеры смогут собирать собственные конфигурации процессорных систем Vera, используя общую архитектуру питания, охлаждения и сетевого взаимодействия. Такой подход рассчитан на разные сценарии, включая ИИ-инференс, агентные нагрузки и хранение данных.

Nvidia Vera Rubin NVL официально превращается в конструктор.

😅 Канал Serverflow в MAX: Подписаться

NVIDIA и Cisco разработали USFP — оптический модуль для ИИ-кластеров с плотностью передачи данных в 4 раза выше, чем у 200G OSFP. При сопоставимых габаритах он рассчитан на скорость до 400 Гбит/с на линию и общую пропускную способность до 12,8 Тбит/с на модуль.

USFP расшифровывается как Ultra-Dense Small Form Factor Pluggable. Модуль использует до 32 электрических линий, каждая из которых может работать на скорости 200 или 400 Гбит/с. Однако первые продукты от партнеров NVIDIA и Cisco будут выпускать USFP в конфигурациях на 16 линий с общей пропускной способностью 6,4 Тбит/с.

Переход с 200G на 400G на линию увеличивает энергопотребление примерно в 1,5 раза, но, по данным NVIDIA и Cisco, энергоэффективность при этом улучшается в 1,3 раза. В сочетании с 4-кратным ростом плотности пропускной способности это позволяет передавать больше данных через ту же площадь передней панели коммутатора, не увеличивая пропорционально занимаемое пространство.

Разработка потребовала изменений не только в самом модуле, но и в сетевой инфраструктуре. NVIDIA и Cisco работают с производителями компонентов Amphenol и TE Connectivity, чтобы сформировать экосистему для внедрения USFP. Решение также должно интегрироваться с инфраструктурой NVIDIA Spectrum-X Ethernet и сетями Cisco Ethernet на базе Silicon One.

😅 Канал Serverflow в MAX: Подписаться

AMD представила Helion — открытую архитектуру ИИ-стоек для агентных нагрузок на базе всего семейства процессоров EPYC и ускорителей Instinct. Проект основан на спецификации Open Compute Project (OCP) и платформе стоечных систем AMD Helios. Его задача — дать заказчикам возможность подбирать соотношение CPU, GPU и энергопотребления под конкретные ИИ-нагрузки.

Helion предусматривает гибкую конфигурацию вычислительных узлов и возможность сочетать обработку запросов, инференс и вспомогательные задачи в одной инфраструктуре.

AMD предлагает 2 варианта ИИ-стоек Helion:

🖥 Первый использует только процессоры AMD EPYC 9006 и предлагает до 32 768 процессорных ядер. Такая конфигурация предназначена прежде всего для гиперскейлеров: она выделяет ресурсы под выполнение ИИ-агентов, подключенных к отдельной инфраструктуре инференса.

🖥 Второй вариант объединяет серверы с AMD EPYC, 16 ИИ-ускорителей AMD Instinct MI350P и узлы общего назначения. Это универсальная платформа для корпоративного ИИ, в которой процессорные и графические ресурсы можно распределять между разными задачами.

Обе конфигурации используют стандарт Open Rack v3 (ORv3) со стойкой высотой 44 OU (Open Units). Helion предусматривает варианты с жидкостным и воздушным охлаждением и поддерживает открытое программное обеспечение.

Заказчики смогут адаптировать состав стойки под требования к производительности, энергопотреблению и стоимости, а также интегрировать агентные нагрузки в существующую ИТ-инфраструктуру.

AMD планирует передать спецификацию Helion в OCP, чтобы другие участники отрасли могли развивать платформу и создавать совместимые решения. Конфигурации стоек сейчас разрабатываются вместе с партнерами; их доступность ожидается в ноябре 2026 года.

😅 Канал Serverflow в MAX: Подписаться

Intel впервые показала, как в действительности будут выглядеть ИИ-ускорители Crescent Island, а также раскрыла их название — D-Series.

Первым представителем D-Series станет GPU D270 — его чип содержит 32 ядра Xe3P и 256 движков XMX для матричных вычислений, а объем системной памяти будет варьироваться от 160 ГБ в базовой конфигурации до 480 ГБ LPDDR5X в полной конфигурации. Производительность в FP8 будет достигать 1,3 PFLOPS, а также будет поддерживаться FP4, однако эффективность в этом режиме не раскрыта.

По оценке самой компании, одна карта Intel D270 рассчитана на запуск моделей размером до 300 млрд параметров, а кластер из восьми ускорителей сможет работать с моделями на 1 трлн параметров.

Intel переработала архитектуру движка XMX по сравнению с обычной Xe3: вместо 4-ступенчатой систолической структуры используется 16-ступенчатая. У каждого ядра Xe3P предусмотрены 1 МБ регистровой памяти и 512 КБ кеша L1, а общий кэш L2 составляет 32 МБ.

У карты также есть и медиаблок с 4 аппаратными кодировщиками и четырьмя декодировщиками. Он может пригодиться при работе с мультимодальными моделями, которым необходимо не только генерировать текст, но и анализировать или создавать видео. При этом графические блоки для вывода изображения отсутствуют: чип проектировался именно для ИИ-инференса, а не для обычной графики.

D-Series выполнена в виде стандартной карты PCIe 5.0 x16 с энергопотреблением 350 Вт и воздушным охлаждением для установки в традиционные серверы.

Поставки тестовых образцов заказчикам уже начались, однако цены, сроки массового выхода и независимые результаты производительности пока не опубликованы.

😅 Канал Serverflow в MAX: Подписаться

AMD впервые показала EPYC Verano — серверный CPU EPYC 9006 LP на сокете SP8, оптимизированный для инфраструктуры агентного ИИ. Новинка сочетает ядра Zen 6 с памятью LPDDR5X в компактном форм-факторе SOCAMM2. AMD рассчитывает использовать Verano в качестве хост-процессора для ИИ-стоек, где CPU обслуживает агентов, запускает изолированные среды выполнения и координирует работу ускорителей.

Чип имеет 8 кристаллов CCD с ядрами Zen 6, 2 крупных кристалла ввода-вывода и 4 контроллера памяти LPDDR5X, расположенных по краям. Судя по опубликованным изображениям, вычислительные кристаллы могут использовать стандартные 12-ядерные ядра Zen 6, а не более плотную компоновку Zen 6C, однако AMD пока не подтвердила эту деталь.

По данным AMD, Verano получит до 192 ядер. Ранее компания упоминала конфигурацию максимум на 72 ядра для односокетной платформы, поэтому пока неясно, будет ли новый предел достигаться одним процессором или системой с двумя 96-ядерными чипами. Для подключения ускорителей предусмотрен интерфейс xGMI со скоростью до 112 Гбит/с. Он должен обеспечивать обмен данными с будущими GPU AMD Instinct MI500 в стойках следующего поколения.

Выход AMD EPYC 9006 LP Verano запланирован на 2027 год.

😅 Канал Serverflow в MAX: Подписаться