This media is not supported in your browser
VIEW IN TELEGRAM
NVIDIA представила Nemotron 3.5 Super VL — открытую мультимодальную модель для ИИ-агентов, способных анализировать документы, изображения и видео, писать код и работать с внешними инструментами. Nemotron 3.5 Super VL построена на архитектуре MoE с 120 млрд параметров, из которых активны 12 млрд на каждый токен.
Super VL рассчитана на сложные многоэтапные задачи: от поиска и проверки информации в интернете до анализа финансовых документов и обнаружения уязвимостей. Модель может извлекать данные из таблиц и графиков, учитывать структуру многостраничных документов и связывать сведения из разных источников.
По данным NVIDIA, на бенчмарке CharXiv для анализа графиков модель набрала 80,8% против 63% у Nemotron 3 Nano Omni. В задачах интерпретации Python-кода результат составил 84%. В оценках Hermes Bench и LangChain Evals она также опередила Nemotron 3 Ultra: 63,44% против 56,33% и 87,05% против 84,3% соответственно.
Отдельный акцент сделан на скорости работы агентов. NVIDIA заявляет о 4-кратном ускорении выполнения задач относительно других открытых моделей своего класса в определенных тестовых сценариях. Для локального запуска на DGX Spark предусмотрена технология спекулятивного декодирования LiLiCorr, которая, по данным компании, повышает скорость генерации токенов в 2,3 раза. Эти показатели зависят от конкретной нагрузки и конфигурации.
Модель можно дообучать на собственных данных с помощью NVIDIA NeMo. Для этого доступны SFT, LoRA и обучение с подкреплением RL. NVIDIA также публикует обучающие наборы данных, включая материалы для финансовых задач, использования инструментов и визуального анализа.
Веса доступны на Hugging Face.
😅 Канал Serverflow в MAX: Подписаться
Super VL рассчитана на сложные многоэтапные задачи: от поиска и проверки информации в интернете до анализа финансовых документов и обнаружения уязвимостей. Модель может извлекать данные из таблиц и графиков, учитывать структуру многостраничных документов и связывать сведения из разных источников.
По данным NVIDIA, на бенчмарке CharXiv для анализа графиков модель набрала 80,8% против 63% у Nemotron 3 Nano Omni. В задачах интерпретации Python-кода результат составил 84%. В оценках Hermes Bench и LangChain Evals она также опередила Nemotron 3 Ultra: 63,44% против 56,33% и 87,05% против 84,3% соответственно.
Отдельный акцент сделан на скорости работы агентов. NVIDIA заявляет о 4-кратном ускорении выполнения задач относительно других открытых моделей своего класса в определенных тестовых сценариях. Для локального запуска на DGX Spark предусмотрена технология спекулятивного декодирования LiLiCorr, которая, по данным компании, повышает скорость генерации токенов в 2,3 раза. Эти показатели зависят от конкретной нагрузки и конфигурации.
Модель можно дообучать на собственных данных с помощью NVIDIA NeMo. Для этого доступны SFT, LoRA и обучение с подкреплением RL. NVIDIA также публикует обучающие наборы данных, включая материалы для финансовых задач, использования инструментов и визуального анализа.
Веса доступны на Hugging Face.
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭9👍3🍾3
This media is not supported in your browser
VIEW IN TELEGRAM
Black Forest Labs выпустила FLUX 3 Image Klein Base — открытую модель на 5,6 млрд параметров для генерации изображений и их редактирования, которую можно запустить даже на потребительской видеокарте 8 ГБ VRAM. Она умеет создавать картинку по текстовому запросу, изменять изображение по одному референсу и объединять до 10 исходных изображений в единую композицию.
За генерацию отвечает трансформер изображений на 5,6 млрд параметров, а за обработку текста — отдельный энкодер Qwen3-VL-4B-Instruct. Модель также поддерживает отрисовку текста внутри изображений и управление композицией через ограничивающие рамки (bounding boxes). Для размещения объектов можно задавать координаты на сетке от 0 до 1000, а затем текстовыми инструкциями перемещать, заменять, перекрашивать или удалять элементы. Рамки задают примерное положение и масштаб объектов, но не ограничивают область редактирования жесткой маской. Генерация контента происходит в 50 шагов.
Доступна Base-версия для дообучения и создания LoRA-адаптеров в формате BF16, FP8 и NVFP4, а также дистиллированная версия с идентичным количеством параметров, но ускоренным инференсом с генерацией за 16 шагов.
Веса лежат на Hugging Face.
😅 Канал Serverflow в MAX: Подписаться
За генерацию отвечает трансформер изображений на 5,6 млрд параметров, а за обработку текста — отдельный энкодер Qwen3-VL-4B-Instruct. Модель также поддерживает отрисовку текста внутри изображений и управление композицией через ограничивающие рамки (bounding boxes). Для размещения объектов можно задавать координаты на сетке от 0 до 1000, а затем текстовыми инструкциями перемещать, заменять, перекрашивать или удалять элементы. Рамки задают примерное положение и масштаб объектов, но не ограничивают область редактирования жесткой маской. Генерация контента происходит в 50 шагов.
Доступна Base-версия для дообучения и создания LoRA-адаптеров в формате BF16, FP8 и NVFP4, а также дистиллированная версия с идентичным количеством параметров, но ускоренным инференсом с генерацией за 16 шагов.
Веса лежат на Hugging Face.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍15🍾3
Meta* выпустила Muse Spark Open — мультимодальную модель с открытыми весами, ориентированную на программирование, сложные агентные сценарии и многошаговое рассуждение. Она умеет работать с длинными задачами, использовать инструменты и поддерживает контекстное окно в 1 048 576 токенов.
В основе модели — архитектура Mixture of Experts (MoE). Всего Muse Spark Open содержит 816 млрд параметров, но на обработку каждого токена приходится около 42 млрд активных параметров.
Muse Spark Open набрала 89,2 балла в MCP-Atlas против 84,5 у Qwen3.8 и 84,2 у GLM 5.3; 76,4 в Terminal-Bench 2.1 против 85,0 у Kimi K3, 83,9 у GLM 5.3 и 82,0 у Qwen3.8; 58,5 в SciCode против 59,5 у Kimi K3 и 59,0 у GLM 5.3. В тесте профессиональных задач GDPval-AA v2 модель получила 1401 балл, уступив GLM 5.3 (1653), Qwen3.8 (1613) и Kimi K3 (1537), зато в сложных задачах на знания HLE-Diamond без инструментов набрала 26,1 против 22,2 у Kimi K3, 17,3 у Qwen3.8 и 16,4 у GLM 5.3.
Muse Spark Open поддерживается в MLX, SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, MLX, llama.cpp и Unsloth.
Веса доступны на Hugging Face.
*Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена
😅 Канал Serverflow в MAX: Подписаться
В основе модели — архитектура Mixture of Experts (MoE). Всего Muse Spark Open содержит 816 млрд параметров, но на обработку каждого токена приходится около 42 млрд активных параметров.
Muse Spark Open набрала 89,2 балла в MCP-Atlas против 84,5 у Qwen3.8 и 84,2 у GLM 5.3; 76,4 в Terminal-Bench 2.1 против 85,0 у Kimi K3, 83,9 у GLM 5.3 и 82,0 у Qwen3.8; 58,5 в SciCode против 59,5 у Kimi K3 и 59,0 у GLM 5.3. В тесте профессиональных задач GDPval-AA v2 модель получила 1401 балл, уступив GLM 5.3 (1653), Qwen3.8 (1613) и Kimi K3 (1537), зато в сложных задачах на знания HLE-Diamond без инструментов набрала 26,1 против 22,2 у Kimi K3, 17,3 у Qwen3.8 и 16,4 у GLM 5.3.
Muse Spark Open поддерживается в MLX, SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, MLX, llama.cpp и Unsloth.
Веса доступны на Hugging Face.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8🌭2💩1
Nvidia совместно с ChipAgents разработала собственный ИИ-бенчмарк Build-A-Chip-Bench, который позволяет тестировать модели на возможности в проектировании процессоров. Пока в тесте лидирует Fable 5.1
😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍12🍾1
ServerFlow | Новости и Железо 💾
Кажется, RTX 5090 реально сняли с производства — сеть магазинов Micro Center теперь отмечает видюху статусом “не продается” вместо “нет в наличии”. Похожая ситуация наблюдается и в других магазинах США, Европы и Азии, а там, где запасы GPU еще остались, продавцы…
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯25👍7💩6🌭1
NVIDIA представила Nemotron 3.5 Bolt 74B-A9B — открытую модель для локальных ИИ-агентов, которая при объеме в 74 млрд параметров умещается в 24 ГБ видеопамяти. Благодаря архитектуре MoE на каждый токен активируются только 9 млрд параметров, а агрессивная 2-битная квантизация позволяет запускать модель на потребительских видеокартах RTX и компактных системах DGX Spark и RTX Spark. Заявленная скорость генерации составляет около 84 токенов/с.
У Bolt необычная схема квантизации. Большая часть весов, относящихся к экспертам MoE, использует формат IQ2_XXS с эффективной разрядностью 2,0625 бита на параметр. Линейные слои Mamba переведены в NVFP4, а эмбеддинги, attention и выходной слой — в Q8_0. Чтобы компенсировать потерю точности при сжатии, NVIDIA применила дистилляцию с учётом квантизации (QAD): компактная версия учится воспроизводить ответы исходной модели.
В тестах NVIDIA Bolt превосходит Qwen3.6 35B-A3B и Gemma 4 26B-A4B по ряду показателей агентных навыков, веб-навигации и работы в терминале. Среди моделей с сопоставимыми требованиями к памяти она занимает первое место в PinchBench и второе в WebArena и BrowseComp. Однако по скорости генерации она уступает некоторым менее требовательным конкурентам: в AIPerf SPEED-Bench-Coding Bolt показывает 84 токена/с, тогда как Qwen3.6 35B-A3B выдаёт 96,6, а Gemma 4 26B-A4B — 100,6 токена/с. При этом плотная Qwen3.8 27B генерирует лишь 28,3 токена/с.
NVIDIA опубликовала версию на 24 ГБ в формате NVFP4 и GGUF, отдельную черновую модель LiLiCorr, а также неквантизованный чекпойнт BF16 для дообучения. Основная версия оптимизирована для llama.cpp на RTX Spark и vLLM на DGX Spark.
Веса модели лежат на Hughing Face.
😅 Канал Serverflow в MAX: Подписаться
Bolt создана с помощью сжатия более крупной Nemotron 3.5 Super VL. Для дистилляции NVIDIA использовала фреймворк Star Elastic для автоматического подбора архитектуры под заданный бюджет памяти. После сжатия модель дообучили для работы с изображениями, а затем обучили выполнять агентные задачи в симулированных средах, улучшив рассуждения и использование инструментов.
У Bolt необычная схема квантизации. Большая часть весов, относящихся к экспертам MoE, использует формат IQ2_XXS с эффективной разрядностью 2,0625 бита на параметр. Линейные слои Mamba переведены в NVFP4, а эмбеддинги, attention и выходной слой — в Q8_0. Чтобы компенсировать потерю точности при сжатии, NVIDIA применила дистилляцию с учётом квантизации (QAD): компактная версия учится воспроизводить ответы исходной модели.
За ускорение генерации отвечает LiLiCorr — технология спекулятивного декодирования с черновой моделью на 1,13 млрд параметров. При прогнозировании семи токенов система в среднем принимает 4,68 токена при жадном декодировании и 4,25 при вероятностной выборке. Это сокращает число последовательных вычислений, необходимых для генерации ответа.
В тестах NVIDIA Bolt превосходит Qwen3.6 35B-A3B и Gemma 4 26B-A4B по ряду показателей агентных навыков, веб-навигации и работы в терминале. Среди моделей с сопоставимыми требованиями к памяти она занимает первое место в PinchBench и второе в WebArena и BrowseComp. Однако по скорости генерации она уступает некоторым менее требовательным конкурентам: в AIPerf SPEED-Bench-Coding Bolt показывает 84 токена/с, тогда как Qwen3.6 35B-A3B выдаёт 96,6, а Gemma 4 26B-A4B — 100,6 токена/с. При этом плотная Qwen3.8 27B генерирует лишь 28,3 токена/с.
В тесте AA-AgentPerf Local Bolt справилась с задачами за 601 секунду. Для сравнения, Qwen3.6 потребовалось 454 секунды, Gemma 4 — 481 секунд, а Qwen3.8 27B — 1043 секунд. Bolt не самая быстрая модель в этом сравнении, но заметно опережает более плотную Qwen3.8 27B и, по оценкам NVIDIA, обеспечивает лучший баланс между точностью и требованиями к памяти.
NVIDIA опубликовала версию на 24 ГБ в формате NVFP4 и GGUF, отдельную черновую модель LiLiCorr, а также неквантизованный чекпойнт BF16 для дообучения. Основная версия оптимизирована для llama.cpp на RTX Spark и vLLM на DGX Spark.
Веса модели лежат на Hughing Face.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7🌭2🍾2💩1
Orange Pi представила O1 — компактный одноплатный компьютер размером 90 x 70 мм для запуска ИИ-моделей и обработки данных непосредственно на периферийных устройствах. В основе лежит чип Sophgo BM1688 с 8 ядрами Arm Cortex-A53 на частоте 1,65 ГГц, дополнительным ядром RISC-V C906 на 1,2 ГГц и встроенным TPU производительностью до 16 TOPS в INT8. Платформа рассчитана на анализ изображений, обнаружение объектов, распознавание речи и другие задачи компьютерного зрения и обработки естественного языка.
Объем оперативной памяти LPDDR4/LPDDR4X составляет 8 или 16 ГБ. Для хранения данных предусмотрены слот microSD, разъем M.2 M-Key с PCIe 3.0 для NVMe SSD, интерфейс SATA-3 и опциональная eMMC на 16, 32, 64 или 128 ГБ. Производитель заявляет поддержку Ubuntu и языковых моделей, включая Gemma 2B, Qwen1.5 1.8B и ChatGLM3 6B.
Для подключения периферии есть 2 порта USB 3.0 Type-A и два USB 2.0 Type-A, HDMI 2.0 с выводом изображения до 4K при 60 Гц, аудиогнездо 3,5 мм и 2 интерфейса MIPI CSI для камер. Дисплеи можно подключать через MIPI DSI, а для собственных устройств предусмотрена 26-контактная колодка GPIO с UART, I²C, SPI и PWM. Сетевые возможности включают 2 порта Gigabit Ethernet, Wi-Fi 6E и Bluetooth 5.3 LE; дополнительно можно установить модем 4G или 5G в слот M.2 B-Key с SIM-картой.
Отдельный VPU отвечает за аппаратное кодирование и декодирование видео H.264/H.265. Заявлена обработка до 10 каналов 1080p30 при кодировании и до 16 каналов 1080p30 при декодировании. Питание подается через USB Type-C при 20 В и 3,25 А, то есть до 65 Вт; предусмотрена возможность установки кулера с радиатором и вентилятором.
Цена Orange Pi O1 — $195 за версию с 8 ГБ ОЗУ и $325 за вариант с 16 ГБ.
* Указана рекомендуемая розничная цена без учета НДС и логистических затрат. Реальная стоимость оборудования будет отличаться.
😅 Канал Serverflow в MAX: Подписаться
Объем оперативной памяти LPDDR4/LPDDR4X составляет 8 или 16 ГБ. Для хранения данных предусмотрены слот microSD, разъем M.2 M-Key с PCIe 3.0 для NVMe SSD, интерфейс SATA-3 и опциональная eMMC на 16, 32, 64 или 128 ГБ. Производитель заявляет поддержку Ubuntu и языковых моделей, включая Gemma 2B, Qwen1.5 1.8B и ChatGLM3 6B.
Для подключения периферии есть 2 порта USB 3.0 Type-A и два USB 2.0 Type-A, HDMI 2.0 с выводом изображения до 4K при 60 Гц, аудиогнездо 3,5 мм и 2 интерфейса MIPI CSI для камер. Дисплеи можно подключать через MIPI DSI, а для собственных устройств предусмотрена 26-контактная колодка GPIO с UART, I²C, SPI и PWM. Сетевые возможности включают 2 порта Gigabit Ethernet, Wi-Fi 6E и Bluetooth 5.3 LE; дополнительно можно установить модем 4G или 5G в слот M.2 B-Key с SIM-картой.
Отдельный VPU отвечает за аппаратное кодирование и декодирование видео H.264/H.265. Заявлена обработка до 10 каналов 1080p30 при кодировании и до 16 каналов 1080p30 при декодировании. Питание подается через USB Type-C при 20 В и 3,25 А, то есть до 65 Вт; предусмотрена возможность установки кулера с радиатором и вентилятором.
Цена Orange Pi O1 — $195 за версию с 8 ГБ ОЗУ и $325 за вариант с 16 ГБ.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍15🤯4💩4💅3
Всплыли новые фотки нового ИИ-ускорителя Intel D270. Оказалось, что решение базируется сразу на двух GPU, о чем Intel ранее не упоминала.
😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯12🍾2💅2
ServerFlow | Новости и Железо 💾
Photo
Решили детальнее изучить фотку платы Intel D270, и выяснили что чип, расположенный справа от QSFP-порта, это…SmartNIC NVIDIA ConnectX. Сетевые коммутаторы NVIDIA, конечно, пользуются огромным авторитетом, но ведь у Intel есть собственные сетевые карты, вроде E830 — неужели NIC синих настолько плохи, что даже в собственных ИИ-ускорителях Intel предпочла использовать решения конкурентов? Очень неоднозначное решение…
😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯22🌭2💅1
Власти Китая ограничили возможности отечественных ИИ-лабораторий — теперь чтобы DeepSeek, Alibaba или Z.ai могли выложить веса ИИ-модели объемом от 2 триллионов параметров или модели обученной на мощностях более 10e26 FLOPS, им потребуется получить разрешение Министерства коммерции КНР.
😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯52💩19👍6😡2
ServerFlow | Новости и Железо 💾
IBM объявила о возможности выпуска кремниевых пластин по нормам 0,7-нм с помощью технологии Nanostack. Вместо дальнейшего масштабирования по плоскости компания предлагает двигаться в третье измерение: транзисторы собираются в вертикальные стеки из нанолистов…
IBM заявила, что комплекты технологии проектирования чипов на техпроцессе Nanostack по нормам 0,7-нм поступят партнерам компании в 2027 году — для тестов техпроцесса IBM выдаст инструкции и скрипты для EDA-инструментов, и чипмейкеры начнут адаптировать архитектуры своих CPU, GPU, NPU и других процессоров для будущих 0,7-нм норм.
😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍10🍾5💅2
Друзья, мы ни на что не намекаем, просто ненавязчиво сообщаем, что к нам приехало немного NVIDIA DGX Spark 👀
Так что если вдруг Spark нужен вам, вашей жене, детям, бабушке, дедушке или даже вашим домашним питомцам, то закупиться
🌐 можно по ссылке
🌐 можно по ссылке
🌐 можно по ссылке
Так что если вдруг Spark нужен вам, вашей жене, детям, бабушке, дедушке или даже вашим домашним питомцам, то закупиться
🌐 можно по ссылке
🌐 можно по ссылке
🌐 можно по ссылке
💅31💩13👍6🌭3
Журнал TIME включил ИИ-чип OpenAI Jalapeño в список “лучших изобретений 2026 года”. Безусловно, появление ASIC-решения для инференса от самой известной ИИ-лаборатории — событие, безусловно, стоящее внимания, но так ли он хорош, чтобы попадать в титульные полосы столь престижного издания? А что бы вы хотели увидеть на месте Jalapeño?
😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13💩1
На стенде AMD на саммите OCP 2026 показали несколько вариантов ИИ–ускорителей AMD Instinct MI350P нового формата OAC (Open Adapter Card), который должен прийти на смену PCIe-картам в серверах для ИИ.
Сейчас у ИИ-ускорителей есть два основных формата — обычные PCIe-карты, которые ставятся в стандартные серверы, но они упираются в лимит TDP 600 Вт, и проприетарные модули, вроде OAM или SXM, которые совместимы только со специализированными платами, но их TDP не ограничен. А между ними образовался провал.
И OAC — это не единоличная инициатива AMD: рабочая группа OAC была сформирована в начале 2026 года и включает AMD, Dell, Intel, NVIDIA и Qualcomm. То есть в одной лодке оказались все три главных производителя ускорителей. Стандарт пока в разработке: последняя версия базовой спецификации v0.90 вышла 9 октября 2026 года в рамках третьего раунда обсуждения.
Такую мощность уже не подать через обычный разъем. Поэтому основное питание идет через шину и разъем BK125, способный передать до 5 кВт, а слоты OAC не поддерживают горячую замену. На одной из показанных карт прямо указано, что она принимает 12 или 50 В при токе до 160 А. А на фотографиях сервера хорошо видна медная шина питания рядом с массивными разъемами для карт и целый ряд быстроразъемных фитингов для жидкости.
😅 Канал Serverflow в MAX: Подписаться
Сейчас у ИИ-ускорителей есть два основных формата — обычные PCIe-карты, которые ставятся в стандартные серверы, но они упираются в лимит TDP 600 Вт, и проприетарные модули, вроде OAM или SXM, которые совместимы только со специализированными платами, но их TDP не ограничен. А между ними образовался провал.
Именно его и решили закрыть в OCP. Логика такая: инференс и языковые модели малого и среднего размера станут следующей большой волной железа для корпоративного и периферийного ИИ, а значит, нужно решение между классическими PCIe-картами и стоечными системами мегаваттного масштаба, которое одинаково хорошо подойдет и для старых, и для новых ЦОД, для 19- и 21-дюймовых стоек.
opencompute
И OAC — это не единоличная инициатива AMD: рабочая группа OAC была сформирована в начале 2026 года и включает AMD, Dell, Intel, NVIDIA и Qualcomm. То есть в одной лодке оказались все три главных производителя ускорителей. Стандарт пока в разработке: последняя версия базовой спецификации v0.90 вышла 9 октября 2026 года в рамках третьего раунда обсуждения.
Самое впечатляющее в OAC — запас по энергопотреблению. ИИ-ускоритель с жидкостным охлаждением сможет потреблять до 5000 Вт, то есть почти в 8,5 раза больше, чем стандартная PCIe-карта на 600 Вт. Для сравнения, даже полноценный NVIDIA Rubin SXM потребляет около 2300 Вт.
Такую мощность уже не подать через обычный разъем. Поэтому основное питание идет через шину и разъем BK125, способный передать до 5 кВт, а слоты OAC не поддерживают горячую замену. На одной из показанных карт прямо указано, что она принимает 12 или 50 В при токе до 160 А. А на фотографиях сервера хорошо видна медная шина питания рядом с массивными разъемами для карт и целый ряд быстроразъемных фитингов для жидкости.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯13👍3🌭1