Помните движок SGLang? Это та самая платформа, которая поддерживается практически любыми ИИ-ускорителями (даже китайскими Huawei Atlas/Ascend и CPU Intel/AMD), базируется на собственном одноименном языке программирования и использует революционный механизм автоматического повторного использования KV-кэша RadixAttention. Все это позволяет нарастить скорость инференса до огромных значений, в некоторых сценариях превосходя даже Хуанговский TensorRT-LLM.

Так вот, вчера движок обновился до версии SGLang v0.5.15, принеся много новых изменений. Во-первых, добавили поддержку новых нейронок: Hunyuan 3 (Hy3), Hierarchical Reasoning Model (HRM-Text), NVIDIA LocateAnything-3B, Baidu Unlimited-OCR, JoyEcho и Qwen3.6. Во-вторых, улучшили веб-поиск Breakable CUDA Graph и контекстный параллелизм для моделей MLA, вроде DeepSeek V3. Но самое интересное — глубокая настройка под производственное развертывание на мощных кластерах на базе ИИ-ускорителей Nvdia, в результате чего удалось запустить GLM-5.2 NVFP4 со скоростью 500+ токенов в секунду на 8x B300 и 450 токенов в секунду на 4x GB300.

😅 Канал Serverflow в MAX: Подписаться

Британский Институт безопасности ИИ (AISI) нашел в новой флагманской у ИИ-модели OpenAI GPT 5.6 Sol абсолютно тот же набор уязвимостей, что и у Claude Fable 5 от Anthropic — нейронка поддается джеилбрейку и ее можно заставить выполнять длительные сессии по поиску уязвимостей и разработке эксплоитов, игнорируя механизмы защиты. Блокировка через 1…2…3…

😅 Канал Serverflow в MAX: Подписаться

Инсайдеры заявляют об утечке информации о GPT-5.6. Нейронка может получить контекстное окно в 1,5 триллионов токенов, новый датасет для предварительного обучения, а объем модели может перевалить за 10 триллионов параметров.

😅 Канал Serverflow в MAX: Подписаться

Китайские ИИ-энтузиасты с OpenClaw — главная причина, почему Apple Mac Mini в дефиците 👀

😅 Канал Serverflow в MAX: Подписаться

С сегодняшнего дня Claude Fable 5 будет доступна только в API 🥲 Будет ли Anthropic в очередной раз продлевать доступ по подписке к своей флагманской нейронке?

😅 Канал Serverflow в MAX: Подписаться

Как и ожидалось, Anthropic продлила доступ к Claude Fable 5 до 19 июля, при этом сохранив 50% увеличение лимитов на использование нейронки по тарифам 🎉

😅 Канал Serverflow в MAX: Подписаться

Твиттерский попал в больницу из-за того, что Anthropic постоянно меняет правила использования своей топовой ИИ-модели Claude Fable 5. Роб заявляет, что начал плохо чувствовать себя после длительной сессии в Claude — судя по всему, он пытался потратить оставшийся недельный лимит на Fable 5 до 12 июля, когда Anthropic планировала закрыть доступ к нейронке по тарифному плану, а потом компания внезапно продлила доступность LLM.

😅 Канал Serverflow в MAX: Подписаться

Bloomberg заявляют, что новый флагманский процессор Apple M7 Ultra выйдет в первой половине 2028 года, а M7 Pro и M7 Max могут увидеть свет уже в конце этого года. Топовый M7 Ultra может получить аж 1,5 ТБ унифицированной памяти, что выведет новые Mac Studio на базе этих чипов вне всякой конкуренции даже с передовыми рабочими станциями Nvidia DGX Station с 748 ГБ. При этом, все семейство чипом M6 может быть полностью пропущено, так как компания нацелена на доминацию в сегменте ИИ-станций и Apple требуется больше времени на разработку более совершенных SoC.

😅 Канал Serverflow в MAX: Подписаться

Тибо заявляет, что GPT 5.6 Sol будет доступна в ChatGPT по тарифам Go, Plus, Pro и т.д. без ограничений, пока не выйдет более совершенная модель. Намек на то, что нейронку не заблокируют и не переведут в API, как это произошло с Claude Fable 5 от Anthropic. Это уже не стеб, а настоящая травля — сотрудники OpenAI уже несколько дней отпускают подобные подколы в отношении конкурента. Anthropic все еще сохраняет молчание, видимо, концентрируя усилия на разработке Claude Opus 5.

😅 Канал Serverflow в MAX: Подписаться

Вот как выглядит иммерсионное (погружное) охлаждение ИИ-серверов 👀

😅 Канал Serverflow в MAX: Подписаться

Nvidia тизерит свое выступление на конференции GTC Berlin, которая пройдет с 20 по 22 октября 2026 года. Предзаказ пропусков до 15 июля идет со скидкой в 400€.

😅 Канал Serverflow в MAX: Подписаться

SK Hynix: 2027 год станет пиком кризиса памяти.

Тем временем Linus Tech Tips:

😅 Канал Serverflow в MAX: Подписаться

Всего за 5 месяцев количество пользователей OpenAI Codex увеличилось с 1 до 7 миллионов, а с учетом темпов роста платформы, к октябрю 2026 года Codex может пробить отметку в 10 миллинов юзеров🎉

😅 Канал Serverflow в MAX: Подписаться

Сравнение топовых проприетарных LLM в 3D-моделировании 👀

😅 Канал Serverflow в MAX: Подписаться