293K subscribers
5.14K photos
1.17K videos
17 files
5.5K links
Погружаемся в машинное обучение и Data Science

Показываем как запускать любые LLm на пальцах.

По всем вопросам - @haarrp

@itchannels_telegram -🔥best channels

Реестр РКН: clck.ru/3Fmqri
Download Telegram
MWS Cloud вошла в топ-3 GPU Cloud 2026 по версии CNews Market

Облачная инфраструктура MWS Cloud на базе VMware заняла одно из лидирующих мест в рейтинге провайдеров GPU Cloud — сервисов с графическими ускорителями для ИИ, ML, LLM и других тяжелых вычислительных задач.

В инфраструктуре MWS более 30 видов производительных процессоров и 13 современных видов GPU-ускорителей под задачи разной сложности.

Для быстрого старта доступны 60+ готовых фиксированных конфигураций серверов: можно не собирать инфраструктуру с нуля, а выбрать подходящий вариант под проект.

Форматы работы тоже разные: аренда оборудования в собственных ЦОД MWS, on-premise-размещение на площадке заказчика, мгновенный запуск без ожидания, стандартные заявки, долгосрочное бронирование ресурсов и предзаказ мощностей.

Для ИИ-проектов есть готовая среда: MWS GPT Models Hub для работы с открытыми LLM, Inference Valve, U-Speech Analytics для речевой аналитики в облаке и ML-платформа.

Производительность обеспечивают технологии высокоскоростного обмена данными, шины межчипового соединения и быстрые локальные NVMe-диски. SLA — 99,95%.

Параллельно компания развивает собственную MWS Cloud Platform, где уже доступно preview виртуальной инфраструктуры с GPU.
👍76🔥17🤣13👏10🤩8🎉71
LongCat-2.0 открыли в open source.

Это MoE-модель на 1,6T параметров с примерно 48B активных, заточенная под агентное программирование и длинный контекст до 1M токенов.

По бенчмаркам:
59,5 на SWE-bench Pro
70,8 на Terminal-Bench 2.1
77,3 на SWE-bench Multilingual

Внутри: sparse attention для длинного контекста, ScMoE для экономной активации экспертов и MOPD для разделения задач между агентными, reasoning и interaction-экспертами.

Модель обучали с нуля на 35T+ токенов. Есть поддержка деплоя на GPU и NPU.

🤖https://modelscope.ai/collections/meituan-longcat/LongCat-20
👍43🤩37🔥12😍97🤔3🎅1
Tencent выложила Hy3

Это MoE-модель на 295B параметров, но активируется около 21B на токен. Контекст - до 256K.

В blind tests модель обходит GLM-5.1, при этом использует меньше активных параметров, чем модели, с которыми конкурирует.

295B MoE, 21B active, 256K context. И всё это на обычном GQA. Без sparse attention, без MLA.

Это значит, что эффективность пока не вытянута архитектурными трюками до предела. Там ещё остаётся запас.

Модель можно запускать через vLLM и SGLang, есть FP8-версия, лицензия - Apache 2.0.

https://huggingface.co/tencent/Hy3

@ai_machinelearning_big_data
👍47🤓46🎉106🔥5👏4🤔1
🌟 Как поднять X11 в контейнере и запустить Unity в YTsaurus

Команда 3D-реконструкции в Яндексе запустила рендеринг Unity-сцен в YTsaurus. За два дня отсканировали гостей премьеры «Кибердеревни», превратили в 3DGS-аватары и отрендерили тысячи роликов.

Графические движки оказались требовательнее вычислительных задач. Для запуска Unity в контейнере недостаточно пробросить /dev/nvidia0.

🟡Что добавили:

🟢/dev/nvidia-modeset
🟢/dev/dri/card0
🟢/dev/dri/renderD128
🟢X11-сервер с DDX-драйвером nvidia_drv.so
🟢dbus внутри контейнера

Прошли путь от контейнеров в локальном Docker до операций в YTsaurus. На пути выяснилось, каких устройств не хватает. Коллеги из Yandex Infrastructure за несколько часов добавили поддержку Xorg для GPU-хостов.

Перед запуском протестировали на Quake II RTX. У A100 нет RT-ядер и NVENC — трассировка через Compute-шейдеры, видео кодируется софтом на CPU.

Результат: рендеринг стал обычным шагом в пайплайне. Никаких виртуалок и ручных запусков.

@ai_machinelearning_big_data

#AI #ML #YTsaurus #3DGS #Unity
Please open Telegram to view this post
VIEW IN TELEGRAM
🗿58👍22👏2010🔥7🤣2🦄1
This media is not supported in your browser
VIEW IN TELEGRAM
«Контекстное окно на 100 миллионов слов уже возможно. Это примерно объём всего, что человек слышит за жизнь. Сейчас узкое место - только инференс.

И модели действительно умеют учиться прямо внутри контекста, без изменения весов».


— Дарио Амодей, CEO Anthropic


https://www.youtube.com/watch?v=mYDSSRS-B5U

@ai_machinelearning_big_data
🔥110😁46🤔37👍24🤩1710👏5🍓2
Media is too big
VIEW IN TELEGRAM
✔️ OpenAI не планировали строить дата-центр Stargate в Великобритании

Проект Stargate UK стоимостью $30 млрд оказался правительственной пиар-акцией, выяснила The Guardian. Инсайдеры утверждают, что реального плана строительства не существовало.

Представители OpenAI ни разу не посещали площадку в бизнес-парке Cobalt Park в Норт-Тайнсайде. Местные власти также подтвердили отсутствие встреч с OpenAI и ее британским партнером Nscale.

В апреле операторы проекта объявили о приостановке работ, официально сославшись на жесткое регулирование и высокие затраты на электроэнергию. Члены британского парламента уже признали реализацию инициативы крайне маловероятной.
theguardian.com

✔️ Anthropic научилась декодировать планирование в ИИ вне CoT

Компания нашла в Claude изолированную рабочую область, где модель оперирует концептами без вывода в текст и генерации CoT. Зону назвали J-Space, в честь матрицы Якоби, с помощью которой исследователи отследили скрытые процессы.

В одном из тестов Claude поручили скопировать случайное предложение и одновременно обрабатывать информацию о мосте Golden Gate. Модель выдала только нужный текст, но в J-Space зафиксировали активацию понятий "мост" и "Калифорния".

Метод планируют применять для выявления скрытых намерений в рамках элайнмента. Anthropic протестировала J-Space на модели, намеренно обученной саботировать кодинг. При генерации корректных скриптов в скрытом пространстве фиксировались концепты "подделка", "тайно" и "мошенничество".
transformer-circuits.pub

✔️ Релиз серверных стоек Nvidia NVL144 задерживается на год

Основная причина - высокий процент брака при производстве центральной печатной платы. Другие аппаратные планы тоже изменены.

Отменен выпуск спаренной стойки NVL72x2 из-за недовольства облачных провайдеров форм-фактором и высокими операционными расходами. Также отменена 4-кристалльная версия будущего чипа Rubin Ultra, на рынок выйдет только вариант с двумя кристаллами.

Внедрение интерконнекта CPO-NVSwitch отложено до следующей архитектуры Feynman. Компенсировать задержки Nvidia планирует за счет систем Oberon-Rubin в классическом исполнении.
SemiAnalysis в сети Х

✔️ Китайский бигтех закрывает доступ к ИИ-аватарам

ByteDance, Alibaba и Tencent сворачивают функции ИИ-компаньонов из-за требований Администрации киберпространства Китая по борьбе с цифровой зависимостью.

Tencent отключила кастомных ботов в Yuanbao в июне. Alibaba уберет аватаров из Qwen 10 июля, а ByteDance закроет доступ к персонализированным агентам в чат-боте Doubao 15 июля.

По новым правилам провайдеры обязаны отслеживать признаки аддикции и программно ограничивать чрезмерное использование сервисов. Запрещена генерация контента, формирующего у подростков эмоциональную привязанность, способную вытеснить реальные социальные связи.

Обучение моделей на данных из личных переписок также попадает под запрет.
scmp.com

✔️ Япония инвестирует 1 трлн иен в роботов

Власти страны планируют развернуть 10 млн роботов с физическим ИИ к 2040 году для компенсации дефицита кадров. Устройства задействуют в 18 отраслях, среди них - машиностроение, медицина, общепит и сельское хозяйство.

Управлять парком будет мультимодальная модель Noetra, спроектированная специально для робототехники. Ее создают Национальный институт передовых промышленных наук и консорциум SoftBank, NEC, Sony Group и Honda.

Госинвестиции в проект составят 380 млрд иен в текущем финансовом году и достигнут 1 трлн иен (около 6 млрд долларов) за 5 лет. Архитектуру Noetra планируют открыть для местных разработчиков, а участники консорциума намерены использовать модель для экспансии на внешние рынки.

Об аналогичной государственной программе по роботизации ранее объявила Южная Корея.
theregister.com


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1🤔5714👏13😢13👍7🔥5😐2🙏1🌭1🏆1🤗1
📌 Лауреаты ICML 2026

Организаторы Международной конференции по машинному обучению опубликовали список работ, удостоенных наград этого года.

ICML считается одной из ведущих мировых площадок в сфере искусственного интеллекта, а её премии - заметным профессиональным признанием.


Лауреатов основной категории выбирали в несколько этапов - из 53 первоначальных кандидатов отобрали короткий список из 22 работ, которые затем в анонимизированном виде оценивал комитет из 11 человек.

🟡 Высшую награду в категории "Выдающиеся статьи" разделили 2 статьи

The Flexibility Trap оспаривает распространённое мнение о диффузионных языковых моделях о том, что свобода выбирать порядок генерации текста, которую принято считать достоинством таких моделей, в задачах на рассуждение, наоборот, ухудшает результат.

High-Accuracy Sampling for Diffusion Models and Log-Concave Distributions показывает, что диффузионные модели способны достигать высокой точности за существенно меньшее число вычислений.

🟡Отдельно отмечены работы, отстаивающие определённую точку зрения

Лучшей признана статья Сары Болл и Фила Хакеманна, в которой утверждается, что элайнмент ИИ, создаваемый ради безопасности, может применяться и для цензуры.

Почётного места удостоена работа Ли Цивэя и соавторов про то, что изучение дипфейков недостаточно учитывают проблему создания интимных изображений без согласия людей.

🟡Ещё 5 статей получили упоминания в основной категории

🟠Как модели обходят «детекторы лжи» при обучении;

🟠Отбор обучающих данных для генерации видео;

🟠Пределы запоминания данных языковыми моделями;

🟠Объяснение того, почему разные диффузионные модели выдают схожие результаты;

🟠Анализ эффекта грокинга, когда модель сначала запоминает обучающие примеры, а обобщать, то есть верно работать на новых, ранее не встречавшихся данных, начинает гораздо позже, если обучение продолжать.

Премию Test of Time, отмечающую вклад с долгосрочным влиянием, присудили работе за авторством коллектива DeepMind под руководством Владимира Мниха.

Она предлагает метод асинхронного RL, который повлиял и на обучение больших языковых моделей.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👏43💯18🏆8👍4🌚43
This media is not supported in your browser
VIEW IN TELEGRAM
GigaChat 3.5 Ultra: меньше, быстрее, сильнее

Сбер выкатил в open source GigaChat 3.5 Ultra — новую 432B-модель под MIT-лицензией. Это первый в open source гибрид GatedDeltaNet и MLA, доведённый до сотен миллиардов параметров, — с собственным рецептом обучения, который был собран больше чем в 1500 экспериментах. Модель выросла в коде, математике, агентных сценариях и на аренах — и при этом стала на 40% меньше, чем GigaChat 3.1 Ultra.

Что внутри:

• Собственная гибридная архитектура MLA + GatedDeltaNet с уникальной стабилизирующей обвязкой, без которой такой гибрид на этом масштабе просто не обучается;
• Gated Attention — модель может локально приглушать слишком сильный сигнал из attention-слоя;
• GatedNorm — нормализация с явным гейтом для управления масштабом сигнала между признаками. Команда Сбера выкладывает подобную стабилизирующую оптимизацию в опенсорс первыми в мире;
• Примерно в 4 раза меньше KV-кеша на токен, в ту же память помещается в 2,14 раза больше контекста, throughput под нагрузкой +20%;
• Две MTP-головы и ускорение генерации до 2,2 раза;
• FP8 на всех этапах обучения без потери качества относительно bf16 — свои Triton- и CUDA-ядра;
• Новый этап online RL после SFT и DPO.

Результаты:

- GigaChat-3.5-Ultra-Base обходит DeepSeek V3.2 Exp Base и DeepSeek V4 Flash Base в среднем по нашему набору general-, math- и code-бенчмарков (полные таблицы — в статье);
- GigaChat-3.5-Ultra-Instruct сравним с DeepSeek V3.2 по среднему скору, будучи в полтора раза меньше;
- По LLM-судье MiniMax-M2.7 средний win-rate против GigaChat 3.1 Ultra — 75,9%, а против GPT-5 — 68.7%.

Весь стек — данные (свой LLM-парсинг веба, 600+ языков программирования в коде), архитектура, рецепт обучения, инфраструктура — сделан командой Сбера end-to-end. Подробности, включая детали реализации гейтов и рецепт стабилизации, — в статье на Habr

HuggingFace | GitVerse
👍77🎉65😁58🔥30🤣19👏18🗿107🥱5💯5🌭4
Китай может начать закрывать свои топовые AI-модели от внешнего мира 😬

Пекин обсуждает ограничения на экспорт самых продвинутых моделей, включая те, которые ещё даже не вышли.

На встрече, по данным издания, были ключевые игроки китайского AI-рынка: Alibaba, ByteDance и Z.ai.

Всех волнует, что будет с open-source моделями из Китая, на которых уже сидит огромная часть AI-стартапов по всему миру.

Если доступ начнут резать, это ударит не только по США, но и по всей экосистеме, где китайские модели стали дешёвой и сильной базой для продуктов.

https://www.reuters.com/world/beijing-is-looking-curbing-overseas-access-chinas-top-ai-models-sources-say-2026-07-07/

@ai_machinelearning_big_data

#ai #china
🤬69🤔40😢22👍14😁7🙈64🥱3🔥2🥰2🤗1
📌Claude Code изменил чужую продакшен-базу

На GitHub появился любопытный тикет, который (если подтвердится) бьёт по базовой гарантии Антропик - изоляции пользователей друг от друга.

В рабочем контексте Claude Code внезапно оказались чужие учётные данные - IP и root открытым текстом от сервера, к которому автор не имеет никакого отношения.

🟡Дальше самое неприятное

Ассистент принял чужие креды за легитимные, подключился к серверу по SSH, перечислил Docker-контейнеры и базы PostgreSQL, после чего выполнил миграцию с операциями чтения и записи.

Иными словами, ИИ одного пользователя отредактировал базу другого без ведома и согласия владельца.

🟡Причина пока неизвестна

В тематических сообществах обсуждают версию сбоя изоляции кэша общих префиксов.

Чтобы удешевить инференс и ускорить обработку, провайдеры переиспользуют кэшированные фрагменты диалогов, и при коллизии ключей кэша или отказе разграничения кусок чужого контекста теоретически может просочиться в вашу сессию.


Если эта версия верна, под угрозой данные любого пользователя. Но это лишь одна из гипотез, в самом отчёте среди возможных векторов названы также общее хранилище сессий, путаница при суммаризации контекста и перекрёстные ссылки в транскриптах.

🟡Есть и куда более прозаичное объяснение

Возможно, это галлюцинация модели, случайно угадавшей реальный IP и слабый пароль, либо локальная история проекта, загрязнившая контекст.

Пока Антропик не выпустила официального заключения, ни одну из версий нельзя ни подтвердить, ни отвергнуть.

Автоматика GitHub повесила на тикет метку security.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
😁64🤬60🤔28😨17👍86🔥5🤣2👻1
🌟 Контекст в PNG экономит токены до 70%

Pxpipe - локальный прокси, который перед отправкой запроса ассистенту превращает куски контекста в картинки.

Приём эксплуатирует особенность тарификации - текст стоит примерно один токен за символ, а изображение - фиксированное число токенов, зависящее только от размера в пикселях, а не от объёма текста внутри.

На плотном контенте в один визуальный токен удаётся упаковать около 3,1 символа.

🟡Механика

Прокси перехватывает запросы к Claude Code и рендерит в PNG самые объёмные и редко меняющиеся блоки (системный промпт, документацию инструментов и старую историю переписки).

Свежие сообщения и ответы модели идут обычным текстом.

Пример: около 48 тыс символов системного промпта и документации, которые как текст стоили бы примерно 25 тыс токенов, помещаются на одну PNG-страницу за ≈2700 токенов.

На Fable 5 стоимость сессии упала с 42 до 6 долларов.


🟡 Тесты

Fable 5 читает такие рендеры практически без потерь (100% на бенчмарке с новыми задачами), а вот Opus 4.7 и 4.8 ошибаются примерно на 7% изображений.

GPT 5.5 тоже деградирует на картиночном контексте, поэтому обе модели по умолчанию выключены и включаются вручную.

🟡Плата за экономию в потере точности

На методе lossy важные строки вроде хешей и идентификаторов при чтении с картинки могут исказиться.

Хуже когда промахи выглядят не как ошибки, а как правдоподобные выдумки.

Зрение модели это не OCR, изображение превращается в патч-эмбеддинги, и там, где пикселей не хватает, языковая модель просто достраивает похожее.


Второй минус - это скорость. PNG-кодирование добавляет задержку из-за использования визуальныго энкодера, что дольше, чем чтение текста.

Надеемся, что при массовом распространении такого трюка вендоры не поднимут цены на обработку изображений.


📌Лицензирование: MIT License


🖥GitHub


@ai_machinelearning_big_data

#AI #ML #LLM #Coding #Pxpipe
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1🤔40🔥20👨‍💻10👏87🤣7🥰4😁3