Broadcom тихо захватывает рынок AI-инфраструктуры

Пока все внимание приковано к GPU от Nvidia, в тени остается не менее важный элемент AI-систем – интерконнекты, которые связывают тысячи ускорителей в единое целое. И здесь Broadcom незаметно выстраивает свою империю. В отличие от Nvidia с ее закрытой экосистемой, Broadcom действует как поставщик "merchant silicon" и IP-блоков. Они продают свои чипы и разработки кому угодно, позволяя гиперскейлерам (вроде Google с их TPU или, по слухам, Apple) создавать кастомные AI-ускорители, не изобретая заново все связующие технологии.

Основной козырь Broadcom – это Ethernet-коммутаторы. Для кластера из 128 тысяч ускорителей может понадобиться более 5000 коммутаторов. Broadcom решает эту проблему коммутаторами с очень высокой плотностью портов (high radix), такими как Tomahawk 5 (51.2 Тбит/с) и недавний Tomahawk 6 (102.4 Тбит/с). Чем выше плотность, тем меньше коммутаторов нужно. Например, для того же кластера из 128к GPU, подключенных на скорости 200 Гбит/с, понадобится всего 750 коммутаторов на базе TH6, что кардинально упрощает архитектуру сети.

Но Broadcom идет дальше и позиционирует Ethernet не только для scale-out, но и для scale-up сетей внутри стойки. Это прямой ответ на проприетарный NVLink от Nvidia и зарождающийся открытый стандарт UALink. Идея Broadcom в том, чтобы использовать для высокоскоростной связи между GPU в стойке уже существующий Ethernet-стек (они называют это Scale-Up Ethernet, SUE) вместо разработки нового протокола. Практичность подхода подтверждается тем, что Intel уже использует Ethernet в своих системах Gaudi, а AMD планирует туннелировать UALink поверх Ethernet в своих первых стоечных системах.

Другое важное направление – это Co-Packaged Optics (CPO). Технология предполагает перенос оптики (лазеров, DSP) из съемных трансиверов прямо на подложку вместе с ASIC коммутатора. Это значительно снижает энергопотребление (по данным Broadcom, их CPO-технология в 3.5 раза эффективнее обычных трансиверов) и повышает плотность. Новое поколение их CPO будет работать в паре с Tomahawk 6. Более того, Broadcom уже демонстрировала оптические Ethernet-чиплеты, которые можно размещать прямо на упаковке рядом с GPU, что позволяет строить огромные scale-up системы на несколько стоек, соединенных оптикой.

На уровне самого железа, Broadcom предлагает готовые архитектурные решения и шаблоны для создания сложных многокристальных процессоров, используя технологию 3.5D-упаковки XDSiP (eXtreme Dimension System in Package). Это их ответ на такие архитектуры, как у AMD MI300X. Ключевое отличие – использование стекирования кристаллов "лицом к лицу" (face-to-face) с помощью технологии гибридной медной пайки (hybrid copper bonding, HCB). Это обеспечивает более плотные и быстрые соединения между чиплетами.

В итоге, пока все смотрят на GPU от Nvidia, Broadcom незаметно становится фундаментом для всего AI.

Типичный 🥸 Сисадмин