ServerFlow | Новости и Железо 💾
4.25K subscribers
4.95K photos
392 videos
12 files
2.42K links
Серверы, нейронки, инсайды и немного технической магии. Мы препарируем железо, тестим AI-движки и рассказываем всё как есть.

Хотите поболтать?
https://t.me/serverflow_chat

Оформить заказ?
@ServerFlow

Сотрудничество?
@marketing_sf

https://serverflow.ru
Download Telegram
🖥 ORICO выпустила мини-ПК OmniPro в стиле Mac Pro с Ryzen 7 8845HS

Китайская компания ORICO представила компактный ПК OmniPro, который подозрительно похож на уменьшенный Mac Pro.

Корпус с габаритами 139 × 61 × 185 мм выполнен из алюминия, а внутри стоит 8-ядерный Ryzen 7 8845HS (16 потоков, до 5,1 ГГц) с графикой Radeon 780M на архитектуре RDNA 3.

Заявленная вычислительная мощность — до 38 TOPS, что позволяет использовать устройство для легких ИИ-задач и мультимедийных приложений.


Базовая версия без памяти и накопителя оценивается в ~$550, а вариант с 32 ГБ ОЗУ и 1 ТБ SSD стоит ~$605.

Модель уже доступна для заказа в Китае и, судя по форм-фактору, будет конкурировать с мини-ПК от китайских Beelink и Minisforum в нише компактных рабочих станций.
👍3
🤔 Nova Lake может вернуть AVX10 и APX в потребительские процессоры Intel

В свежих сборках NASM 3.1 нашли упоминания инструкций AVX10 и APX для архитектуры Intel Nova Lake. Это указывает, что наборы расширений для 512-битных вычислений и продвинутого векторного умножения могут появиться не только в серверных Xeon, но и в потребительских чипах. Ранее компилятор GCC отмечал их отсутствие в ранних версиях Nova Lake.

Согласно утечкам, Nova Lake получит до 52 ядер16 P-ядер, 32 E-ядер и 4 низкопрофильных, которые будут поддерживать инструкции AVX10, AMX и APX.

AVX10 — это тот же набор инструкций AVX512, но для работы на E-ядрах с 256-битным регистром. В свою очередь, AMX и APX ускоряют матричные операции и расширяют доступ к регистрам.


Таким образом, весь стек ядер Nova Lake получит ускорение для ИИ, кодирования и создания контента.

Если инфа верна, это станет первым случаем, когда Intel предложит полноценный AVX-512 в настольных CPU.

Пока подтверждений со стороны Intel нет.
👍2
⚒️ MaxKB: RAG-движок для самых важных шишек

Разработчики из сообщества LangChain (популярный RAG-конструктор) вывели на open-source рынок свой новый проект под названием MaxKB.

Эта платформа корпоративного уровня представляет из себя набор инструментов для создания ИИ-агентов корпоративного уровня, объединяющий принципы RAG, workflow и MCP в одном ядре.

В основе решения лежит RAG-конвейер с автоматическим парсингом и векторизацией документов, чтобы снизить галлюцинации моделей. Агентский движок строит управляемые цепочки действий, а интеграция с любыми LLM (DeepSeek, Qwen, OpenAI, Gemini и др.) делает платформу доступной для любых компаний.


Сценарии использования MaxKB — от клиентской поддержки до исследовательских помощников и обучения.

В комплекте также есть мультимодальная поддержка текста, изображений, аудио и видео, что превращает MaxKB в универсальную среду для ИИ-сервисов внутри компании.

Ссылочка на GitHub.
1👍1🌭1
🚀 Qwen3-Max Thinking — мощная, бесплатная и с рассуждением!

Alibaba запустила Qwen3-Max с функцией Thinking в веб-версии и мобильном приложении, что еще раз укрепляет позицию этой LLM как самой мощной нейронки от восходящего китайского ИИ-гиганта.

Модель имеет все те же 1 трлн параметров, базируется на архитектуре MoE и имеет контекстное окно в 262 000 токенов. Примечательно, что пользователи могут задать бюджет расхода токенов для рассуждения прямо в интерфейсе.

Открытых весов к сожалению, нет, а также Alibaba не поделилась подробными бенчмарками, так как релиз все еще предварительный.


Тем не менее, очевидно, что Qwen3-Max Thinking — далеко не слабый инструмент, и он будет крайне полезен для тяжелых задач кодинга и агентских операций.
👍1
⚙️ ByteDance продвигает новый формат MXINT8

Исследователи ByteDance выложили статью, где сравнили форматы вычислений MXINT8 и MXFP8. По их данным, целочисленный MXINT8 показывает лучшую точность и энергоэффективность при мелкозернистом квантовании, чем формат с плавающей запятой FP8.

Это открытие может стать началом сдвига в дизайне будущих ИИ-ускорителей, ознаменовав переход от FP к INT, особенно для массовых нагрузок инференса.


Целочисленные схемы проще и дешевле, а выигрыши в производительности при том же энергопотреблении становятся заметными уже на 8-битном уровне.
👍1
🕵️‍♂️ У NVIDIA есть своя ОС для DGX. И мы её достали.

Знали, что NVIDIA для DGX-систем использует отдельную операционку — DGX-OS?

Не Debian не Rocky, а собственный образ, который ставят на DGX серваки с GB200/GB300.

Мы нашли старую версию и запустили её в live-режиме. Установить не удалось, но этого хватило, чтобы убедиться:

• отдельный дистрибутив, не просто “Ubuntu с драйверами”
• встроенные Mellanox + NVSwitch драйверы
• полностью подготовленная среда под многогранную GPU-архитектуру DGX
• для работы с ним нужна подписка Nvidia AI Enterprise

Это закрытая экосистема. NVIDIA вкладывается, чтобы DGX работал как единый организм, а не как сервер “на коленке”.

Позже разберёмся, что там под капотом, и можно ли вытащить часть этих фишек в обычную инфраструктуру(можно), а пока статья в разработке.
1👍2💅11
🧪 ИИ-ученые? Наконец-то! Выпустили ИИ-проект Denario для написания научных статей

Исследователи из команды Astropilot AI представили мультиагетскую систему Denario, которая способна выполнять полный цикл научных исследований: от формирования гипотезы до выполнения экспериментов и написания статьи.

Denario объединяет десятки ИИ-агентов, среди которых есть “генератор идей”, “критик” и управляющий уровень, который координирует их взаимодействие.

Denario умеет анализировать литературу, разрабатывать экспериментальные методы, писать и запускать код, строить графики и даже оценивать собственные результаты. По данным разработчиков, ИИ уже создал и опубликовал научные статьи в 13 областях — от квантовой физики до нейробиологии. Эксперты подтвердили новизну идей, предложенных системой.


Если проект будет успешен, Denario станет первой полноценной платформой для автономных исследований, где человек выступает не автором, а заказчиком эксперимента.

Идеальный кандидат на следующую Нобелевскую премию найден.
👍2
⌛️ Как быстро все меняется…

Три года назад, в ноябре 2022 года, OpenAI представила своего революционного чат-бота ChatGPT, который разделил мир на до и после.

Только представьте — в те времена у Intel было больше дата-центров, чем у Nvidia, синие все еще не сдали свои позиции AMD, а главными направлением IT-индустрии были облачные технологии, метавселенные и Web 3.0.

Никто даже подумать не мог, что релиз ChatGPT и вызванный им ИИ-бум перекроит индустрию раз и навсегда, превратив Nvidia из поставщика GPU для геймеров в ключевого игрока ИИ-инфраструктуры и самую дорогую компанию с капитализацией $5 трлн.


И все это всего за 3 года. Революция только начинается…
👍2
😱 А вот так выглядит самая мощная рабочая станция в мире.

Да, это тот самый "DGX системник", который так расхваливал Хуанг — в нем стоит суперчип GB300 на базе двух GPU Blackwell Ultra B300 и CPU Grace.

На самом деле, язык с трудом поворачивается назвать этого монстра рабочей станцией, ведь характеристики выдают в нем полноценный сервер: 288 ГБ памяти HBM3E с пропускной способностью 8 ТБ/с, 1 440 PFLOPS в FP4 и мощность в 1400 Вт.

Другими словами, полноразмерные нейкронки без квантизации на такой машине можно щелкать как орешки.


В продажу эти DGX-станции еще не вышли, но уже известно, что поставкой займутся ASUS, Dell, Lenovo, HP и другие OEM-партнеры Nvidia.
1👍3
🤯 Tencent и Tsinghua предлагают концепцию непрерывного мышления в ИИ

Исследователи компании Tencent и университета Цинхуа представили концепцию Continuous Autoregressive Language Models (CALM) — архитектуру, которая отказывается от дискретного предсказания токенов. Вместо этого модель генерирует непрерывные векторы, охватывающие сразу несколько элементов текста.

По данным авторов, такой подход снижает количество шагов прогнозирования примерно в 4 раза и сокращает затраты на обучение на ~44 %. В CALM нет словаря токенов и функции softmax: модель обучается как система, предсказывающая не символы, а смыслы. Для оценки качества введена новая метрика — BrierLM, пришедшая на смену традиционной perplexity.


Если идея концепт будет работать на масштабных моделях, это может стать новым подходом к развитию архитектуры трансформеров, позволив перейти от дискретного языка к “потоковому” мышлению.
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
🦙 Llama.cpp теперь с WebUI: локальный ChatGPT прямо в браузере

Создатель движка инференса llama.cpp Георгий Герганов объявил об интеграции веб-интерфейса, который превращает консольный инструмент в полноценное веб-приложение для работы с локальными LLM. Теперь запустить модель можно через llama-server, подключившись к WebUI по адресу в браузере — даже с телефона.

Движок тянет обработку текстов, PDF и формул, а при работе с мультимодальными моделями можно работать с картинками и видео. Еще история чатов, ветвления диалогов, кеш префиксов и поддержка моделей с длинным контекстом, включая State Space Models — короче, максимальное удобство.

Система все еще не имеет RAG-модуля, зато есть интеграция с MCP, поэтому можно запускать локальные тесты нейронок с любого устройства.


Llama.cpp догнал Ollama и LM Studio по удобству. Похоже, движки инференса перестают быть утилитами “для своих” и становятся user-friendly инструментами для всех.
👍2💅1
🚀 Azure HBv5: AMD EPYC 9V64H с HBM3 — феноменальная эффективности в HPC

Microsoft открыла доступ к виртуальным машинам HBv5, построенным на специальных процессорах AMD EPYC 9V64H с памятью HBM3. Эти Zen 4-чипы без SMT предлагают до 368 ядер на сервер и 6,9 ТБ/с пропускной способности памяти, используя до 450 ГБ HBM3 (до 9 ГБ на ядро).

Несмотря на архитектуру Zen 4, а не более современную Zen 5, скорость работы чипов с большими наборами данных впечатляет — EPYC 9V64H демонстрирует 35-60% прирост скорости в сравнении с HBv4 на базе Genoa-X с 3D V-Cache. Тесты проводились на Ubuntu 24.04 LTS с ядром Linux 6.14.


HBv5 создает новый класс VM с локальной HBM-памятью, а AMD впервые вывела HBM в серверный сегмент Azure. Конфиг на базе Zen 5, скорее всего, не за горами, и он может стать новым витком эффективности в HPC-задачах.
👍41
🤣 Защита лувра: Windows Server 2003 и пароль “Louvre”

Музей лувра недавно ограбили, и это подняло весь мир на уши. Обстоятельства события все еще выясняются, а воры до сих пор не пойманы, но в ходе расследования стали известны интересные подробности о системе защиты музея.

Система видеонаблюдения работала, вы не поверите, на устаревшей Windows Server 2003 (тот же Windows XP, но под сервера), которая не получала патчи уже больше 15 лет. Дыр в ней больше, чем в швейцарском сыре — уязвимость SMBv1, критические RCE всех видов, слабая обработка шифров, бэкдоры IE и сотни других проблем.

Все стало еще смешнее, когда вскрылось, что паролем от системы было слово “Louvre”. Если у системы нет кулдауна ввода пароля (а его 100% нет) взлом лувра брутфорсом занял бы примерно 5 секунд.

Короче, самый известный музей в мире с технической точки зрения охранялся хуже, чем продуктовый магазин.


А вот если бы они купили сервер видеонаблюдения в ServerFlow, все могло бы закончиться куда лучше…
5👍522
💣 Apple готовит M5 Ultra для Mac Studio — релиз ожидается в 2026 году

По данным Bloomberg, что Apple планирует выпустить чип M5 Ultra для Mac Studio примерно в середине 2026 года. Это будет продолжение традиции выпуска Ultra-версий, которые появляются спустя несколько месяцев после моделей Pro и Max.

M5 Ultra объединит два кристалла M5 Max через шину UltraFusion, как и прошлые Ultra-чипы. Чип должен лечь в основу обновленного Mac Studio и, возможно, появится в новой версии Mac Pro.

По слухам, внешне топовые рабочие станции Apple на базе M5 Ultra не будут отличаться от предыдущих поколений — скорее всего, компания вложит время и средства не в пресловутый дизайн, а в наращивание вычислительной мощности и энергоэффективности.


Ждем будущую звезду локального инференса!
2👍2💅1