Как вы наверняка уже знаете, вчера Apple показала новое 18-ое поколение iPhone, и компания уделила большое внимание локальному нейро-функционалу своих передовых смартфонов.

В частности, наиболее важным ИИ-нововведением стал обновленный Neural Engine в чипе A20 Pro — теперь процессор поддерживает сразу 2 NPU по 32 ядра каждый, обеспечивая производительность 140 TFLOPS в FP8 (по 70 на каждый NPU). А это, на минуточку, почти 1/2 от ИИ-производительности Nvidia A100 с 312 TFLOPS в FP16 — то есть, если бы A100 поддерживал FP8 на аппаратном уровне, его эффективность была бы почти на одном уровне со смартфонным чипом.

Быстрой памяти у A20 Pro, конечно, немного (всего 12 ГБ LPDDR5X), но сам факт наличия такой производительности говорит о готовности Apple создавать “карманное” железо для ИИ-инференса.

😅 Канал Serverflow в MAX: Подписаться

ASUS тоже подтянулась и выпустила свою вариацию Nvidia DGX Station GB300 — ExpertCenter Pro ET900N G3. По начинке все стандартно, но интересно, что каждый партнер Nvidia по выпуску Station по-разному справляется с охлаждением системы, и делает это действительно качественно. Тем временем, что мы видим в AMD Threadripper Halo Station? Сетевую карту, которая никак не охлаждается, 4 супергорячих GPU и не менее горячий CPU, посаженных на СЖО или вовсе на воздух.

😅 Канал Serverflow в MAX: Подписаться

CUDA Toolkit 13.4 вышла с поддержкой Windows on Arm — так Nvidia готовится к грядущему старту продаж ноутбуков и ИИ-ПК на базе RTX Spark. Помимо этого, в релиз вошел превью-доступ к архитектуре Vera Rubin, новые оптимизации для матричных библиотек, новый инструмент Multi-Process Service V3 для слайсинга памяти GPU в контейнерных средах и другие нововведения для улучшения функционала ИИ-ускорителей Nvidia и ПО-экосистемы CUDA.

😅 Канал Serverflow в MAX: Подписаться

Когда-нибудь видели такую здоровенную оперативку? Теперь видели.

Это CDIMM — проприетарный форм-фактор оперативной памяти DDR3 и DDR4, разработанный специально для систем IBM Power с процессорами IBM Power8 и Power9. Такие плашки внутри сервера размещались экстремально плотно и обеспечивали от 16 до 256 ГБ RAM на один модуль при частоте 1600 МГц.

Так как модули были сугубо серверные, они имели регистровую микросхему и поддержку ECC, но главной особенностью была дополнительная буферная микросхема под названием Centaur. Этот чип не только управлял потоками данных, но и содержал в себе 16 МБ кэш-памяти 4-го уровня (L4 cache), что позволило серверам IBM достичь рекордной для своего времени пропускной способности памяти — до 230 Гбайт/с на сокет.

Хотите узнать о CDIMM больше? Мы уже сняли новый познавательный шортс об этом необычном форм-факторе оперативки!

😅 Канал Serverflow в MAX: Подписаться

OpenAI все-таки приостановила оформление подписок Pro из-за ажиотажа вокруг GPT-6 Astra. Обещают увеличить ресурсы инфраструктуры, поэтому уже в ближайшее время покупку подписок за $200 восстановят.

😅 Канал Serverflow в MAX: Подписаться

d-Matrix присоединилась к программе NVIDIA NVLink Fusion и будет интегрировать свой новый инференс-ускоритель Raptor в стоечную архитектуру NVIDIA MGX. В результате XPU сможет работать рядом с NVIDIA Vera Rubin, BlueField-4, ConnectX-9 и Spectrum-X, а операторы смогут собирать гибридные ИИ-системы из GPU и специализированных ускорителей. Первые стойки с Raptor ожидаются в четвертом квартале 2027 года.

😅 Канал Serverflow в MAX: Подписаться

Китайский ИИ-энтузиаст похвастался вот таким необычным ИИ-ускорителем.

Это MLU-370-S4 — NPU-ускоритель от компания Cambrico, которая в Китае обзавелась репутацией главного конкурента компании Huawei. Карточка базируется на собственной архитектуре MLUarch03 (кристалл на 7-нм техпроцесс TSMC), имеет 24 ГБ быстрой памяти LPDDR5 и обеспечивает до 192 TOPS в INT8 и до 72 TFLOPS в FP16.

Вставляется все это дело в слот PCIe 4.0 x16, греется всего на 75 Вт и поставляется в однослотовом низкопрофильном форм-факторе.

😅 Канал Serverflow в MAX: Подписаться

В документации Kimi Code нашли упоминание Kimi K2.8 Preview (скорее всего, модель выйдет под названием Kimi K2.8 Code). Судя по описанию, нейронка приближается по уровню производительности Kimi K3, при этом она имеет “более эффективное мышление”, нативную поддержку мультимодального ввода (изображения + видео), а также контекстное окно в 1 миллион токенов. Видимо, со дня на день будет релиз в API, а потом выкатят и веса.

😅 Канал Serverflow в MAX: Подписаться

Что будет, если дефицит компонентов доберется и до корпусов 👀

😅 Канал Serverflow в MAX: Подписаться

Anthropic в очередной раз обвинила DeepSeek и Moonshot во всех бедах — по данным компании, китайские ИИ-лаборатории перенаправляли запросы своих юзеров на Claude, а потом якобы выдавали ответы западной нейронки за свои. Anthropic также поделились отчетом, согласно которому Moonshot отправили более 300 000 запросов к Claude всего за 10 дней, используя 5380 аккаунтов. Каким образом API Kimi и DeepSeek в таком случае остаются кратно дешевле самых дешевых моделей Claude, не уточняется.

😅 Канал Serverflow в MAX: Подписаться