ServerFlow | Новости и Железо 💾
5.55K subscribers
5.54K photos
428 videos
12 files
2.83K links
Серверы, нейронки, инсайды и немного технической магии. Мы препарируем железо, тестим AI-движки и рассказываем всё как есть.

Хотите поболтать?
https://t.me/serverflow_chat

Оформить заказ?
@ServerFlow

Сотрудничество?
@marketing_sf

https://serverflow.ru
Download Telegram
⚡️ Ещё одна крайне интересная сборка отправляется к заказчику

На этот раз полноценная рабочая станция-сервер в формате Tower, заточенная под локальный инференс нейросетей.

В основе серверная платформа AMD EPYC SP5 и сразу три NVIDIA RTX PRO 6000 Blackwell Max-Q с суммарными 288 ГБ GDDR7!

Конфигурация:

🖥 Supermicro H13SSL-N - SP5 (EPYC 9004/9005), 12 слотов DDR5

🧠 AMD EPYC 9354 - 32 ядра / 64 потока

🎮 3x RTX PRO 6000 Blackwell Max-Q - 288 ГБ VRAM

💾 192 ГБ DDR5 ECC REG - 12x16 ГБ, 4800 МТ/с

⚡️ WD Black SN7100 4 ТБ - 2280, NVMe

🔌 Seasonic PRIME PX-2200 - 2200w, 80 PLUS PLATINUM

❄️ COOLSERVER CS-SP5-4UM98 PRO - 4U, 445W TDP

📦 Phanteks Enthoo Pro 2 Server Edition - Full-Tower


Такая система позволяет запускать большие языковые модели, распределять инференс между несколькими GPU и одновременно обслуживать множество запросов.

Уже через несколько дней на нашем YouTube-канале выйдет большой ролик с этой сборкой.

Будет много интересных тестов. Не пропустите! 👀
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯19👍8🍾6💩1💅1
На днях стало известно о серьезной атаке на российских хостинг-провайдеров. Злоумышленники воспользовались уязвимостью в системе управления виртуальными серверами VMmanager 6 и запустили на серверах программу для кражи данных клиентов. Об инцидентах сообщили в FirstVDS и других хостинг-провайдерах.

VMmanager — это российская платформа для управления виртуализацией от компании ISPsystem, которая входит в Группу Астра, ответственную за разработку ОС Astra Linux. С ее помощью физические серверы объединяют в кластеры, создают виртуальные машины, управляют их ресурсами, сетями, хранилищами и миграцией.


Сам по себе VMmanager не проприетарный гипервизор, как ESXi. Под капотом у него обычные QEMU/KVM и libvirt, а сверху надстроен централизованный слой управления. Так что ближайшие аналоги — Proxmox VE или связка VMware vSphere с vCenter, только с упором на автоматизацию VPS-хостинга.

Именно этот управляющий слой и стал целью атаки.


По данным ForestsNet Cloud, заражение панелей VMmanager производилось с 11 по 16 октября, а активная фаза атаки развернулась в ночь с 16 на 17 октября. Получив доступ к панели, злоумышленники оказались в очень выгодной позиции: у них был список серверов и их IP-адресов, электронные адреса клиентов, пароли администратора и пароли для удаленного управления серверами через VNC-консоль.

А дальше вредоносная программа подключала диски клиентских VPS/VDS в режиме только для чтения и копировала с них файлы. Под угрозой оказались:

🔑 Пароли и SSH-ключи
☁️ Токены доступа к облачным сервисам, GitHub и GitLab
⚙️ Файлы конфигурации, включая .env и настройки Docker
📜 История введенных команд
💰 Криптокошельки и документы пользователей

То есть под атакой оказались не сами виртуальные машины, а система, которая управляет физическим сервером, на котором они развернуты. А значит, клиенту не помогли бы ни обновленная ОС, ни настроенный файрвол, ни надежный SSH: чтение диска происходило снаружи, с уровня гипервизора, и внутри гостевой системы следов могло не остаться.

Больше всего рисковали хостинг-провайдеры, ведь уязвимость находилась в части системы для хостеров, поэтому именно они и стали сообщать об инцидентах. Помимо FirstVDS и ForestsNet Cloud, о взломе сообщали MHost, HSH Network и YaColo. А вместе с ними под ударом оказались и их клиенты, многие из которых могли даже не знать, на какой платформе работает их VPS.


Сам разработчик подробностей не раскрывает. В Группе Астра заявили, что не раскрывают перечень и количество затронутых операторов, а также детали того, как мог быть получен доступ, но исправления уже вышли, и их рекомендуется оперативно установить:

Если у вас локальная версия VMmanager 6, нужно:

🛠 Установить последние исправления от ISPsystem
🛠 Ограничить сетевой доступ к панели и узлам виртуализации, разрешив его только доверенным адресам
🛠 Проверить логи панели и узлов на признаки чужой активности
🛠 Сменить все учетные данные панели, узлов и интеграций

Если вы арендуете VPS, нужно:

☁️ Уточнить у хостинга, на какой платформе работает ваш сервер и затронул ли его инцидент
☁️ При подтвержденном затрагивании считать все секреты на диске раскрытыми
☁️ Отозвать и заменить SSH-ключи, пароли, API-токены и ключи от облаков

И важный момент: переустановка VPS здесь не спасет. Если ключи уже украли, их нужно именно отозвать, иначе ими продолжат пользоваться.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯21👍5😡5
NVIDIA RTX Pro 5500 еще не вышла в продажу, а крупнейшие китайские технологические компании уже грозятся устроить дефицит этих ИИ-ускорителей — по данным Reuters, ByteDance, Alibaba и Tencent разместили заказы более чем на 3 млн карт общей стоимостью свыше $35 млрд, тогда как другие источники оценивают совокупные заявки китайских компаний более чем в 6 млн экземпляров. При этом за весь 2027 год Nvidia планирует выпустить не более 3 млн карт для мирового рынка.

Из-за этого Nvidia, как сообщается, предупредила партнеров, что не сможет гарантировать выполнение всех заказов. По данным источников, клиенты могут получить лишь 5-10% от запрошенных объемов.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯11👍4
DeepSeek выпустила DeepInfer — высокопроизводительный фреймворк с открытым исходным кодом для инференса ИИ-моделей инференса. Движок базируется на vLLM и использует компоненты SGLang + TensorRT-LLM.

Пока поддерживается DeepSeek-V4.1-Flash, а сам проект предоставляет основные механизмы для запуска модели и обработки запросов в продакшен-сервисах. Это еще не полностью готовый серверный стек: система кэширования KV, балансировка нагрузки между репликами и полноценное разделение Prefill и Decode в ПО не входят, хотя большая часть необходимой логики движка уже реализована.

DeepInfer использует оптимизированные вычислительные ядра FlashMLA, DeepGEMM, DeepEP, TileKernels и DeepSelect, а также собственные CUDA-подобные операции на TileLang. Для масштабирования вычислений предусмотрены параллелизм по Attention, сбалансированный Context Parallelism, распределение MoE-экспертов и EPLB — балансировка нагрузки между ними.

Для ускорения генерации реализованы DSpark и проверка черновых токенов. Также есть механизм SWA bounded replay, который уменьшает объем повторных вычислений при Prefill, обрабатывая только ограниченный суффикс последовательности. Асинхронный планировщик перекрывает подготовку батчей на CPU с выполнением операций на ускорителе и включён по умолчанию.

По аппаратной части необходим Linux, GCC 13 или новее и Python 3.12, для NVIDIA дополнительно нужны CUDA 13, а для Ascend — CANN 9.2.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯12👍3
Microsoft вводит ограничения на подключение USB-накопителей и внешних HDD/SSD с файловой системой ReFS (Resilient File System). Начиная с января 2027 года Windows будет по умолчанию запрещать монтирование таких томов. Изменение затронет Windows 11, поддерживаемые установки Windows 10 и Windows Server.

Изменения вводятся в два этапа. С 13 октября 2026 года обновление безопасности включает аудит: Windows записывает информацию о соответствующих томах в Event Viewer под Event ID 524, но пока продолжает открывать их. С января 2027 года начнет действовать блокировка — для доступа к накопителям администраторам придется обходить ограничение.

ReFS разработана Microsoft прежде всего для серверов и корпоративных систем хранения. По сравнению с NTFS она предлагает дополнительные механизмы целостности данных, устойчивости к повреждениям и масштабирования, а также блочное клонирование, ускоряющее некоторые операции.

При этом ReFS официально не поддерживает съемные накопители. Microsoft объясняет новое ограничение повышением безопасности, но конкретную уязвимость, которая послужила причиной решения, не называет. Содержимое дисков при блокировке не удаляется — однако Windows перестанет предоставлять к нему доступ обычным способом.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯91
This media is not supported in your browser
VIEW IN TELEGRAM
Nvidia GTC Berlin на подходе 🔜

Уже завтра старина Хуанг выступит со своим докладом о передовых аппаратных разработках и достижениях в области ИИ.

Будем следить за новостями и оперативно делиться с вами самыми горячими анонсами 🔥

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6🍾1
Куртка наконец-то вышел на сцену 👀

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13🍾2💅1
По всей видимости, начало основного доклада будет посвящено робототехнике и беспилотным авто, так как Хуанг пока готовился к GTC активно тусил с CEO Mersedes.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6🤯2💅2
Хуанг напомнил, что Nvidia теперь не просто производитель GPU, как в 93-году, а Full-Stack разработчик аппаратного и программного обеспечения для всей ИИ-индустрии.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍15🤯3🍾3💩2
Смотрим конфу всем коллективом 👀

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
💅16👍6🍾5💩1
А вот и первый взгляд на вычислительные ноды на базе компонентов поколения Vera Rubin.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6💩2
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13🤯2💩2
Слева — NVLink Switch нового поколения. Справа — вычислительная нода Vera Rubin NVL72.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍10💩2
Кто-то из зала начал перебивать Хуанга...

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯14💩2💅1
И еще 2 новые ноды: Vera MGX и Spectrum-X.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4💩1
SemiAnalysis ходит под Nvidia — теперь ни у кого не будет сомнений.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5💩2🤯1
Модульные ИИ-кластеры Nvidia DSX также переходят на поколение Vera Rubin.

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7🤯2💩2
Боль каждого вайб-кодера..

😅 Канал Serverflow в MAX: Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍17