⚙️ Топ-GPU не нужны: Китайские модели учатся работать на старых GPU
После запрета на закупку топовых видеокарт NVIDIA китайские разработчики пошли другим путем: теперь ИИ-модели вроде Kimi K2-Thinking обучаются для эффективной работы на дешевых GPU с поддержкой BF16 и INT4, без необходимости в FP4 и других передовых функциях Blackwell.
Вместо PTQ (квантование после обучения) используется QAT, при котором ошибки компенсируются прямо во время тренировки. Такой подход особенно важен для масштабирования длинных цепочек рассуждений.
Похоже, квантование окончательно перестало быть компромиссом — теперь это фундамент локального инференса.
После запрета на закупку топовых видеокарт NVIDIA китайские разработчики пошли другим путем: теперь ИИ-модели вроде Kimi K2-Thinking обучаются для эффективной работы на дешевых GPU с поддержкой BF16 и INT4, без необходимости в FP4 и других передовых функциях Blackwell.
В нейронках серии K2 применяется квантование W4A16 — веса в 4 бита, активации в 16. Это снижает задержку при сохранении качества и делает модель совместимой с более доступными картами.
Вместо PTQ (квантование после обучения) используется QAT, при котором ошибки компенсируются прямо во время тренировки. Такой подход особенно важен для масштабирования длинных цепочек рассуждений.
Инженеры Kimi отмечают, что INT4 не просто ускоряет вывод, но и ускоряет само обучение RL на 10-20 %. А главное — снижает аппаратные барьеры: модели можно запускать даже на A100 или L40S.
Похоже, квантование окончательно перестало быть компромиссом — теперь это фундамент локального инференса.
1👍1
🎮 Крипто-консольный Франкенштейн за $120 запускает GTA V и Cyberpunk
Бывшая майнинговая плата AMD BC250, созданная на базе APU от PlayStation 5, внезапно стала находкой для бюджетных геймеров.
Внутри урезанный чип от PS5 (AMD BC250 APU) — 6 ядер Zen 2 до 3,5 ГГц и графика RDNA 2 с 24 CU, 16 ГБ GDDR6 на общей шине (8 системных + 8 видеопамяти). Плата запитывается через PCIe 8 pin, есть разъемы USB, DisplayPort и Ethernet, но нет разъема PCIe x16.
Производительность уровня Radeon RX 6600 по цене офисной затычки выглядит заманчиво. Главное — не забыть про охлаждение: подобные экс-майнеры изначально рассчитаны на стойки с мощным охлаждением, а не на домашний ПК-корпус.
Бывшая майнинговая плата AMD BC250, созданная на базе APU от PlayStation 5, внезапно стала находкой для бюджетных геймеров.
За ~120 $ на eBay и AliExpress продаются рабочие экземпляры, которые, после небольшой доработки, превращаются в мини-ПК под Linux и тянут GTA V (1440p, 65 fps) и Cyberpunk 2077 (1080p, 40 fps).
Внутри урезанный чип от PS5 (AMD BC250 APU) — 6 ядер Zen 2 до 3,5 ГГц и графика RDNA 2 с 24 CU, 16 ГБ GDDR6 на общей шине (8 системных + 8 видеопамяти). Плата запитывается через PCIe 8 pin, есть разъемы USB, DisplayPort и Ethernet, но нет разъема PCIe x16.
Производительность уровня Radeon RX 6600 по цене офисной затычки выглядит заманчиво. Главное — не забыть про охлаждение: подобные экс-майнеры изначально рассчитаны на стойки с мощным охлаждением, а не на домашний ПК-корпус.
1👍3💅1
🗓 Коротко о главных новостях за эту неделю
❗️ В блоге ServerFlow вышла новая статья о набирающем популярность ИИ-движке SGLang.
❗️ Мы также сделали подробный обзор свежей версии дистрибутива Linux Ubuntu 25.10 Questing Quokka.
❗️ Moonshot AI представила новую ИИ-модель Kimi K2 Thinking, которая обходит GPT-5 и Claude 4.5 Sonnet.
❗️ Google объявила о выходе в продакшен передовых TPU Ironwood и CPU Axion.
❗️ Разработчики из команды LMSYS выпустили ИИ-движок диффузионных моделей SGLang Diffusion.
❗️ Мы запилили новое видео с обзором на необычное китайское серверное шасси Gooxi.
Это новая рубрика на нашем канале, поддержите реакциями!
❗️ В блоге ServerFlow вышла новая статья о набирающем популярность ИИ-движке SGLang.
❗️ Мы также сделали подробный обзор свежей версии дистрибутива Linux Ubuntu 25.10 Questing Quokka.
❗️ Moonshot AI представила новую ИИ-модель Kimi K2 Thinking, которая обходит GPT-5 и Claude 4.5 Sonnet.
❗️ Google объявила о выходе в продакшен передовых TPU Ironwood и CPU Axion.
❗️ Разработчики из команды LMSYS выпустили ИИ-движок диффузионных моделей SGLang Diffusion.
❗️ Мы запилили новое видео с обзором на необычное китайское серверное шасси Gooxi.
ServerFlow
SGLang vs vLLM: новый движок инференса LLM и почему он быстрее TensorRT-LLM | Блог Serverflow
2👍9
🦘 Intel Arc Pro И60 внезапно вышли в розницу в Австралии
Вслед за выходом в продажу в Европе, профессиональные видеокарты Intel Arc Pro B60, в том числе версия с пассивным охлаждением от ASRock, которая ранее числилась “только для бизнеса”, заметили в интернет-магазинах Австралии.
Напомним, что Arc Pro B60 относится к серии Battlemage, имеет 24 ГБ GDDR6 на 192 бит и четыре DisplayPort 2.1, форм-фактор — однослотовый. У решения есть и версия с активным охлаждением Arc Pro B60 Creator, а также двухчиповая вариация Maxsun Arc Pro B60 Dual 48G Turbo (48 ГБ GDDR6) под рабочие станции и ИИ-задачи.
Цены на Intel Arc Pro B60 — от ~$531 до $1 534 (в пересчете с автралийских долларов).
Вслед за выходом в продажу в Европе, профессиональные видеокарты Intel Arc Pro B60, в том числе версия с пассивным охлаждением от ASRock, которая ранее числилась “только для бизнеса”, заметили в интернет-магазинах Австралии.
В частности, магазин Scorptec открыл розничные заказы Arc Pro B60, а первые поставки обещаны к концу ноября.
Напомним, что Arc Pro B60 относится к серии Battlemage, имеет 24 ГБ GDDR6 на 192 бит и четыре DisplayPort 2.1, форм-фактор — однослотовый. У решения есть и версия с активным охлаждением Arc Pro B60 Creator, а также двухчиповая вариация Maxsun Arc Pro B60 Dual 48G Turbo (48 ГБ GDDR6) под рабочие станции и ИИ-задачи.
Возможно, эти решения также поступят в открытую продажу, что коррелирует с релизом в Европе и Австралии.
Цены на Intel Arc Pro B60 — от ~$531 до $1 534 (в пересчете с автралийских долларов).
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
🔥 Теперь понятно, как Nvidia стала самой дорогой компанией в мире
Молодой Дженсен еще в 2009 году поучаствовал в интервью, где сделал несколько судьбоносных пророчеств похлеще любой Ванги.
Спустя 16 лет все произошло именно так, как предсказывал Хуанг — GPU действительно стали фундаментом современных вычислений, а ванильные CPU ушли на второй план.
Но в чем-то Хуанг был не прав — Nvidia все-таки начала производить собственные CPU Grace и разрабатывая грядущие Vera, в каком-то роде став полноценным конкурентом Intel, превзойдя синих даже в этом секторе, уже не говоря о направлении GPU.
И нет, Дженсен не владеет никакой древней китайской магией 🔮 — только четкий расчет и умение видеть перспективные ниши. С таким CEO любая компания может стать лидером рынка.
Молодой Дженсен еще в 2009 году поучаствовал в интервью, где сделал несколько судьбоносных пророчеств похлеще любой Ванги.
Спустя 16 лет все произошло именно так, как предсказывал Хуанг — GPU действительно стали фундаментом современных вычислений, а ванильные CPU ушли на второй план.
Но в чем-то Хуанг был не прав — Nvidia все-таки начала производить собственные CPU Grace и разрабатывая грядущие Vera, в каком-то роде став полноценным конкурентом Intel, превзойдя синих даже в этом секторе, уже не говоря о направлении GPU.
И нет, Дженсен не владеет никакой древней китайской магией 🔮 — только четкий расчет и умение видеть перспективные ниши. С таким CEO любая компания может стать лидером рынка.
1👍5
❌ Производство Baikal M сворачивают в Калининграде
В Калининградской области на фабрике GS Nanotech три года испытывали корпусирование SoC Baikal M. Удалось добиться 74-85% рабочих чипов на этапе финальной сборки, когда кристалл помещают в корпус и припаивают контакты.
Из-за это было принято решение приостановить проект, и теперь ждать массовых поставок Baikal M в ближайшее время точно не стоит.
Тем не менее, генеральный директор “Байкал Электроникс” Андрей Евдокимов считает эксперимент удачным и называет его “шагом вперед”.
В Калининградской области на фабрике GS Nanotech три года испытывали корпусирование SoC Baikal M. Удалось добиться 74-85% рабочих чипов на этапе финальной сборки, когда кристалл помещают в корпус и припаивают контакты.
Несмотря на то, что на эту фабрики возлагали большие надежды, для серийного выпуска с КПД ~98% требовалось в разы больше кристаллов, которых просто нет — ранее их изготавливали на заводах TSMC, но из-за санкционных ограничений кристаллы делать перестали, а производство так и не переехало.
Из-за это было принято решение приостановить проект, и теперь ждать массовых поставок Baikal M в ближайшее время точно не стоит.
Напомним, что Baikal M — это серия центральных Arm-процессоров, предназначенных для интеграции в десктопные системы потребительского и коммерческого сегмента рынка РФ.
Тем не менее, генеральный директор “Байкал Электроникс” Андрей Евдокимов считает эксперимент удачным и называет его “шагом вперед”.
1👍4🌭1
🇯🇵 Однослотовая RTX PRO 4000 Blackwell уже в продаже в Японии
В Японии стартовали продажи профессиональной видеокарты NVIDIA RTX PRO 4000 Blackwell — однослотовой модели с архитектурой Blackwell и 24 ГБ памяти GDDR7. Цена вопроса — ~$1 870.
Потребляет профессиональная видюха.до 140 Вт, а питание подается через 16-pin PCIe CEM5.
Модель рассчитана на компактные рабочие станции под задачи рендеринга, 3D-моделирования и, конечно же, для работы с ИИ.
Это, пожалуй, первая профессиональная Blackwell, которая поместится даже в узкий, компактный ПК-корпус.
В Японии стартовали продажи профессиональной видеокарты NVIDIA RTX PRO 4000 Blackwell — однослотовой модели с архитектурой Blackwell и 24 ГБ памяти GDDR7. Цена вопроса — ~$1 870.
Карточка имеет 8 960 ядер CUDA, шину памяти в 192 бита, пропускную способность 672 ГБ/с. RTX PRO 4000 также поддерживает PCIe 5.0 x16 и оснащена четырьмя портами DisplayPort 2.1b.
Потребляет профессиональная видюха.до 140 Вт, а питание подается через 16-pin PCIe CEM5.
Габариты — 241×112 мм, что меньше, чем у двухслотовой RTX PRO 5000 (267×111 мм).
Модель рассчитана на компактные рабочие станции под задачи рендеринга, 3D-моделирования и, конечно же, для работы с ИИ.
Это, пожалуй, первая профессиональная Blackwell, которая поместится даже в узкий, компактный ПК-корпус.
1👍4
🇨🇳 Мини-рабочие станции MS-R1 от Minisforum вышли в продажу!
Minisforum запустила продажи рабочей станции MS-R1 на базе 12-ядерного процессора с частотой 2,6 ГГц CIX P1 (CP8180, без многопоточки) на архитектуре Arm с ядрами Cortex-A720/A520 и встроенной графикой Immortalis-G720 MC10.
Решение также имеет до 64 ГБ распаянных LPDDR5 5500 с поддержкой ECC, слот под SSD до 1 ТБ, 2 сетевых портов 10Gbase-T, 2 слотов M.2 (с переходником на U.2), 8 портов USB и 4 DisplayPort через USB-C. TDP 16-40 Вт. А еще можно накатить Debian.
Цена стартует от ~500 USD за версию с 32 ГБ LPDDR5 и без SSD.
Для виртуализации, легких ИИ-задач или, например, мобильных ферм на Android — неплохой вариант.
Minisforum запустила продажи рабочей станции MS-R1 на базе 12-ядерного процессора с частотой 2,6 ГГц CIX P1 (CP8180, без многопоточки) на архитектуре Arm с ядрами Cortex-A720/A520 и встроенной графикой Immortalis-G720 MC10.
Да-да, конфиг как у смартфона под Clash of Clans, но не спешите с выводами.
Решение также имеет до 64 ГБ распаянных LPDDR5 5500 с поддержкой ECC, слот под SSD до 1 ТБ, 2 сетевых портов 10Gbase-T, 2 слотов M.2 (с переходником на U.2), 8 портов USB и 4 DisplayPort через USB-C. TDP 16-40 Вт. А еще можно накатить Debian.
Но самое главное — в нее можно установить низкопрофильную видюху в физические x8 линий PCIe Gen4 (всего x16). Добавить Nvidia L4 на 24 ГБ GDDR6 — и у вас уже неплохая ИИ-конфетка без всяких DGX Spark!
Цена стартует от ~500 USD за версию с 32 ГБ LPDDR5 и без SSD.
Для виртуализации, легких ИИ-задач или, например, мобильных ферм на Android — неплохой вариант.
👍5
💹 Sandisk подняла цены на NAND на 50 % — на рынке памяти бушует дефицит
По данным DigiTimes, в ноябре Sandisk увеличила контрактные цены на флэш-накопители NAND примерно на 50% из-за дефицита и взрывного спроса на память, вызванного требованиями ИИ-инфраструктуры.
С лета 2025 года цены на NAND уже успели удвоиться, а годовой рост ценников на DRAM достиг 172%. Transcend зафиксировала рост выручки до 4,11 млрд TWD (+63%) и чистой прибыли +334%, Innodisk — 3,8 млрд TWD (+64%), Apacer — 3,22 млрд TWD (+70%).
Скоро в блоге ServerFlow выйдет новая статья, где мы подробно расскажем о причинах и последствиях кризиса памяти.
По данным DigiTimes, в ноябре Sandisk увеличила контрактные цены на флэш-накопители NAND примерно на 50% из-за дефицита и взрывного спроса на память, вызванного требованиями ИИ-инфраструктуры.
Несколько производителей NAND, такие как Transcend, Innodisk и Apacer, приостановили поставки и прием новых заказов, чтобы пересчитать цены и обязательства перед клиентами.
С лета 2025 года цены на NAND уже успели удвоиться, а годовой рост ценников на DRAM достиг 172%. Transcend зафиксировала рост выручки до 4,11 млрд TWD (+63%) и чистой прибыли +334%, Innodisk — 3,8 млрд TWD (+64%), Apacer — 3,22 млрд TWD (+70%).
Ранее глава Phison Кэйн-Сенг Пуа предупреждал, что дефицит NAND может продлиться до конца десятилетия: отрасль переориентировалась на память HBM для обучения/инференса ИИ, тогда как NAND снова стала дефицитом.
Скоро в блоге ServerFlow выйдет новая статья, где мы подробно расскажем о причинах и последствиях кризиса памяти.
💩3🌭2
❌ Firefox 145 вышел, но без 32-битной версии для Linux
Mozilla выпустила Firefox 145, но без привычных 32-битных сборок под Linux. Последними версиями с их поддержкой останутся Firefox 144 и Firefox 140 ESR — дальше браузер будет развиваться только в 64-битной ветке.
В релизе добавлена полноценная поддержка контейнера Matroska (MKV) для популярных кодеков — AVC, HEVC, VP8, VP9, AV1, AAC, Opus и Vorbis. Это упростит воспроизведение видео без внешних плагинов и снизит нагрузку на систему.
Люди, застрявшие в 2011 году — соболезнуем 🕯
Mozilla выпустила Firefox 145, но без привычных 32-битных сборок под Linux. Последними версиями с их поддержкой останутся Firefox 144 и Firefox 140 ESR — дальше браузер будет развиваться только в 64-битной ветке.
32-битные сборки все еще используются в сегменте edge-вычислений и на устройствах с малым объемом RAM, но с поддержкой 64-бит (Pentium 4 или Raspberry Pi 2 Model B) — это объясняется легковесностью таких сборок, что позволяет запускать их на слабых системах.
В релизе добавлена полноценная поддержка контейнера Matroska (MKV) для популярных кодеков — AVC, HEVC, VP8, VP9, AV1, AAC, Opus и Vorbis. Это упростит воспроизведение видео без внешних плагинов и снизит нагрузку на систему.
Переход на 64-битную сборку позволит Mozilla активнее внедрять новые функции безопасности и улучшать производительность, особенно при работе с мультимедиа и многопоточными вкладками.
Люди, застрявшие в 2011 году — соболезнуем 🕯
1👍3🌭1
This media is not supported in your browser
VIEW IN TELEGRAM
👟 Кроссовки с лого TSMC стали вирусными на Тайване
TSMC провела ежегодное спортивное соревнование, в котором принял участие даже Дженсен Хуанг, но внимание местных СМИ привлек совсем не он, а CEO TSMC Си Си Вэй, который пришел тряхнуть стариной вот в таких интересных подкрадулях.
Кроссы с лого TSMC были сделаны на заказ мастером из Гаосюна еще в 2017. После восьми лет собирания пыли на полке, они сохранились в идеальном состоянии. Вэй и производитель намекнули, что брендированные кроссовки TSMC могут появиться в официальном мерче компании.
Рюкзак-сова, кстати, тоже весьма прикольный 🦉
TSMC провела ежегодное спортивное соревнование, в котором принял участие даже Дженсен Хуанг, но внимание местных СМИ привлек совсем не он, а CEO TSMC Си Си Вэй, который пришел тряхнуть стариной вот в таких интересных подкрадулях.
Кроссы с лого TSMC были сделаны на заказ мастером из Гаосюна еще в 2017. После восьми лет собирания пыли на полке, они сохранились в идеальном состоянии. Вэй и производитель намекнули, что брендированные кроссовки TSMC могут появиться в официальном мерче компании.
Если это произойдёт, TSMC может пополнить список технокомпаний, запустивших обувные коллаборации — вроде Xbox × Adidas или PlayStation × Nike.
Рюкзак-сова, кстати, тоже весьма прикольный 🦉
1👍3