Машинное обучение RU
18.3K subscribers
1.86K photos
264 videos
11 files
2.28K links
Все о машинном обучении

админ - @workakkk

@data_analysis_ml - анализ даннных

@ai_machinelearning_big_data - Machine learning

@itchannels_telegram -лучшие ит-каналы

@pythonl - Python

@pythonlbooks- python 📚

@datascienceiot - 📚

РКН: clck.ru/3FmrUw
Download Telegram
Apex-35B: открытая модель для кода, агентов и исследовательских задач

Apex Intelligence выпустила Apex-35B-V1.0 на базе Qwen3.6-35B-A3B. Веса доступны под Apache 2.0.

Внутри - 35 млрд параметров, около 3 млрд активных на токен и контекст 262 тысячи токенов. Модель сама определяет, нужны ли развёрнутые рассуждения на текущем шаге.

Помимо программирования, поиска и вызова инструментов, её обучали исследовательским сценариям: планировать вычисления, писать и запускать код, корректировать подход по результатам экспериментов.

По оценке команды, Apex набрала:

- 84,0 на BFCL V4 - проверке вызова инструментов.
- 60,9 на PaperBench против 45,8 у базовой Qwen.
- 69,4 на BrowseComp против 42,1 у базовой модели.

В разработке участвовала Apex Research - автоматизированная система, которая помогала создавать обучающие данные, проводить эксперименты и оптимизировать GPU-ядра. Проверенные результаты использовали в следующих итерациях.

Результаты опубликованы разработчиками и требуют независимой проверки.

Модель:
https://huggingface.co/Apexintelligence-AI/Apex-35B-V1.0

Технический разбор:
https://apexin.com/apex-35b/
👍4❤2🔥1
F-GRPO и ESSA — методы для повышения эффективности дообучения языковых моделей с подкреплением

Исследователи Т-Банка представили работы на EMNLP — международной конференции уровня A* по обработке естественного языка

Что внутри:

- F-GRPO сохраняет разнообразие правильных решений: слабее меняет параметры на простых задачах, которые модель уже часто решает правильно, помогая не вытеснять редкие корректные стратегии.
- Меньше генераций: на Qwen2.5-7B метод с 8 ответами показал качество выше, чем GRPO с 32, на математических задачах и задачах вне обучающей выборки.
- ESSA дообучает без вычисления градиентов: оценивает слегка различающиеся версии модели и строит следующее поколение на основе лучших. Изменяется небольшой набор параметров LoRA-адаптеров.
- Сопоставимое качество при меньшем числе настраиваемых параметров: на математических задачах ESSA сравнялась с GRPO, обучающим всю модель, хотя настраивает примерно в миллион раз меньше параметров
- Ускорение до 7,8 раза: такой результат получили относительно GRPO на 128 GPU при дообучении Qwen2.5-32B до точности 83,5% на математическом тесте.

Методы рассчитаны на адаптацию LLM под математику, генерацию кода и выполнение инструкций. F-GRPO можно применять поверх GRPO, DAPO и CISPO, а преимущество ESSA в скорости растет с размером кластера.

https://arxiv.org/pdf/2602.06717
https://arxiv.org/pdf/2507.04453
👍15❤11🔥5
AI Journey 2026: заглядываем в будущее ИИ 🤖
 
Хочешь узнать, что происходит в мире нейросетей, послушать российских и зарубежных экспертов и найти единомышленников? Залетай на AI Journey — ежегодную международную конференцию по искусственному интеллекту. Тебя ждёт три дня погружения в мир ИИ!
 
👉 27 ноября — день Бизнеса: реальные ИИ-кейсы и продукты
👉 28 ноября — день Науки: свежие исследования и открытия
 
В программе — выступления лидеров индустрии, выставочные зоны с разработками и нетворкинг с теми, кто тоже горит ИИ

📍 27–28 ноября 2026 года
Москва, Кутузовский проспект, 32, корп. 1, штаб-квартира Сбера

Регистрируйся на сайте и попади в центр событий мира ИИ! 💚
 
А 26 ноября смотри прямую трансляцию дня «Общество» на сайте aij.ru — увлекательная программа, интересные герои, актуальные темы!
❤1👍1
Forwarded from Machinelearning
🌟 Inclusion AI предложила метод спекулятивного декодирования с параллельной сборкой дерева черновиков

Метод UBTree ускоряет вывод больших языковых моделей.

Спекулятивное декодирование поручает черновик небольшой модели, а целевая проверяет сразу несколько предложенных токенов одним проходом и принимает их до первой ошибки.

UBTree относится к той же семье параллельных драфтеров, что DFlash и DSpark, и закрывает их недостаток - они предлагают весь блок токенов одновременно и потому работают быстро, но на размытых распределениях целевой модели, где несколько продолжений близки по вероятности, угадывают хуже.

Черновик в UBTree собирается двумя параллельными проходами:

🟢первый делает модель DFlash, которая подбирает по 64 варианта токена на каждую из шестнадцати позиций блока, причём каждую позицию считает независимо от соседних;

🟢биграммный селектор оценивает, насколько один вариант годится в продолжение другому: пару соседей он прогоняет через два небольших перцептрона поверх замороженных эмбеддингов целевой модели, отдельно для предшественника и для последователя, и добавляет полученную оценку к оценке DFlash с весом, зависящим от глубины.

Все пары считаются одновременно, из оценок переходов набирается дерево на 64 узла, и целевая модель проверяет его целиком за один проход.

Селектор обучали на откликах, перегенерированных при высокой температуре, с перенормированной KL-функцией потерь - так в разметку попадают не только самые вероятные продолжения, но и правдоподобные альтернативы, за счёт которых дерево чаще совпадает с выбором целевой модели.

Вместе с методом выложены две черновые модели - Ling3-Tiny-UBTree на 183 млн параметров работает в паре с Ling-3.0-tiny (8 млрд параметров, 1 млрд активных), Ling3-Flash-UBTree на 482 млн - с Ling-3.0-flash (124 млрд, 5 млрд активных).

Они ничего не генерируют и нужны только как драфтеры к своей целевой модели.


🟡 Тесты

На семи тестах, от GSM8K и AIME до LiveCodeBench и MT-Bench, UBTree даёт среднее ускорение 6,88× на Qwen3-4B и 6,94× на Qwen3-8B и опережает ближайший древовидный метод DARTree во всех 28 сравнениях, в среднем на 7,4-13,4%.

В SGLang на Ling3-Flash-124B выходит 3,27× против 2,73× у DSpark и 2,80× у DFlash, на Qwen3.8-27B - 4,78× против 4,32× у DSpark.

На длинном контексте LongBench-v2 число принятых за раунд токенов выше, чем у сильнейшего из конкурентов, на 31,0-39,7%.

Поддержка UBTree для Ling3 в SGLang пока не опубликована. Команда обещает дополнительные черновые модели в течение месяца.


📌Лицензирование: MIT


🟡Страница проекта
🟡Набор моделей
🟡Техотчет


@ai_machinelearning_big_data

#AI #ML #LLM #Decoding #UBTree #InclusionAI
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍3👏1
10 GitHub-репозиториев, чтобы собрать AI-ассистента, который реально работает за вас

Не просто чат-бота, а агента, который открывает сайты, пишет код, работает с документами, запоминает контекст и выполняет задачи.

1. OpenHands - AI-разработчик, который пишет код, исправляет ошибки и автоматизирует инженерные задачи.

https://github.com/OpenHands/OpenHands

2. Browser Use - управление браузером через AI: переходы по страницам, заполнение форм и автоматизация сайтов.

https://github.com/browser-use/browser-use

3. Mem0 - долговременная память для агентов. Сохранение контекста между разговорами.

https://github.com/mem0ai/mem0

4. Composio - подключение AI-агентов к сотням сервисов и инструментов через готовые интеграции.

https://github.com/ComposioHQ/composio

5. E2B - изолированные песочницы, где AI безопаснее запускает код и выполняет команды.

https://github.com/e2b-dev/E2B

6. LangGraph - создание сложных агентов с состоянием, ветвлениями и многошаговыми процессами.

https://github.com/langchain-ai/langgraph

7. n8n - визуальная автоматизация процессов с AI, API и внешними сервисами.

https://github.com/n8n-io/n8n

8. Docling - извлечение структурированных данных из PDF, таблиц и других документов для AI.

https://github.com/docling-project/docling

9. LiveKit Agents - голосовые AI-ассистенты, которые слушают и отвечают в реальном времени.

https://github.com/livekit/agents

10. Open Interpreter - выполнение кода и работа с локальным компьютером через естественный язык.

https://github.com/openinterpreter/openinterpreter

Из этих компонентов можно собрать полноценную агентную систему: с памятью, браузером, голосом, доступом к инструментам и возможностью самостоятельно выполнять многошаговые задачи.
👍9❤4
SpaceX станет новой NVIDIA? Ставка на ИИ

У SpaceX появился ещё один амбициозный сценарий будущего: резкий рост на инфраструктуре искусственного интеллекта. Партнёр Sequoia Capital Шон Магуайр сравнивает возможную динамику её выручки с рывком NVIDIA. Он сразу раскрывает конфликт интересов: фонд вложился в компанию, а сам автор считает свою оценку пристрастной.

В публикации Магуайр связывает перспективы SpaceX с инженерной командой, Starship и экономикой Starlink. Отдельный тезис касается вычислений для ИИ: он считает компанию потенциально сильным игроком благодаря способности решать сложные инфраструктурные задачи. Это позиция инвестора, а не независимо подтверждённое лидерство по стоимости вычислений.

Почему разговор об ИИ упирается в электростанции

Для наглядности возьмём условный дата-центр мощностью один гигаватт. При непрерывной работе за сутки он потребит 24 миллиона киловатт-часов. Такой масштаб заставляет обсуждать генерацию, подключение к сети, охлаждение и сроки поставок оборудования ещё до выбора модели для обучения. GPU, ожидающий электричества, не приносит полезных вычислений.

оэтому сравнивать инфраструктурные проекты только по количеству ускорителей неудобно. Два одинаковых кластера могут давать разный экономический результат: один простаивает, другой загружен; один ограничен сетью, другой тратит меньше времени на обмен данными. Стоимость полезной работы зависит от всей системы.

Где заканчивается прогноз

Магуайр ожидает, что Direct to Cell обгонит Starlink по выручке в 2029 или 2030 году. Орбитальные вычисления он относит к более поздней части сценария. Оба утверждения следует читать как прогнозы автора.

Для проверки тезиса о дешёвых вычислениях потребовались бы сопоставимые измерения: одинаковая задача, качество результата, загрузка оборудования, затраты на питание и полная стоимость владения. Одной оценки капитальных расходов на гигаватт для такого вывода недостаточно.

У космического дата-центра к этому добавляются вопросы обслуживания и отвода тепла. В вакууме нельзя рассчитывать на обычное воздушное охлаждение. Даже привлекательная стоимость запуска сама по себе не отвечает на вопрос, сколько будет стоить готовый результат вычисления.

Сравнение с NVIDIA звучит громко. Проверять его придётся по введённым мощностям, платящим клиентам и экономике эксплуатации. Пока перед нами инвестиционная гипотеза с большим набором инженерных условий.

По публикации Шона Магуайра, партнёра Sequoia Capital.

https://uproger.com/spacex-stanet-novoj-nvidia-stavka-na-ii/
❤3👍3🥰1🤩1
when I say "we" in emails, this is who I mean:
❤19👍4👎2🔥2
✈️ Шум самолёта на видео может выдать место съёмки

Исследователь показал необычный OSINT-метод: по изменению частоты звука пролетающего самолёта можно сопоставить запись с открытыми данными о рейсах и определить, где находился автор видео.

Метод использует эффект Доплера и траектории самолётов из сервисов отслеживания полётов.

Для анализа нужны дата записи, примерный регион и достаточно длинный фрагмент со звуком самолёта.

Точность зависит от качества записи и доступных данных. В некоторых случаях можно значительно сузить район съёмки даже без GPS, метаданных и визуальных ориентиров.

Похожий принцип давно применяется в криминалистике: фоновый гул электросети помогает установить время и происхождение аудиозаписи.


https://www.youtube.com/watch?v=UytYrhYLOKI
🔥9👍2🥰2
Kandinsky Avatar 1.0: открытая модель для генерации говорящих видеоаватаров

Сбер опубликовал в открытом доступе Kandinsky Avatar 1.0 — семейство ИИ-моделей, которое позволяет создавать реалистичных цифровых собеседников по изображению и аудиозаписи.
Для генерации нужны фото, запись голоса и короткое описание сцены. Модель синхронизирует артикуляцию с речью, добавляет мимику, движения головы и жесты.

Основные возможности:
Видео до 60 секунд с частотой 24 кадра в секунду.
Поддержка разных языков — обучение проходило на более чем 1 млн видеофрагментов на 95 языках.
Версия Pro — генерация в HD с качеством, сопоставимым с HeyGen IV, по оценке разработчиков.
Версия Lite — создание роликов в SD с возможностью запуска на домашней видеокарте.

Сбер открыл модели для разработчиков, включая коммерческое использование. На их основе можно создавать виртуальных консультантов, образовательные сервисы, инструменты локализации и приложения для генерации видеоконтента.

По заявлению компании, Kandinsky Avatar 1.0 — первая полностью российская модель для создания реалистичных цифровых собеседников.

https://huggingface.co/kandinskylab/Kandinsky-S2V-1.0-Pro-distill-Diffusers
👍3👎2
Богатство в 2026
😁31👏2
ИИ перевёл 7500 страниц высшей математики в 16 миллионов строк кода

Компания Axiom сообщила о формализации Stacks Project, одной из крупнейших энциклопедий по алгебраической геометрии, на языке Lean.

Масштаб впечатляет: около 7500 страниц математических определений, лемм и теорем превратились примерно в 16 миллионов строк кода, пригодного для машинной проверки.

Особенность проекта в том, что математические утверждения связаны между собой. Можно проследить зависимости теорем, изучить их доказательства и использовать готовые результаты для новых исследований.

Axiom даже представила библиотеку как интерактивный «математический город» с картой теорем и графами зависимостей.

Неделей ранее, 26 октября, компания объявила о формализации классификации конечных простых групп. На эту работу ушло 43,1 млн строк Lean, созданных при участии десятков ИИ-агентов за 24 дня.

В перспективе такие библиотеки позволят ИИ-агентам строить новые доказательства на базе уже проверенных математических результатов, а Lean сможет проверять их логическую корректность.

https://x.com/axiommathai/status/2118028834515874112
❤16🔥1
Обвал ИИ-акций продолжается
😁37🔥5
OpenAI проверила, способны ли ИИ-агенты заменить учёного в лабораторном анализе

OpenAI совместно с биотехнологической компанией Ligo представила BioBasicsBench, бенчмарк из 100 задач на основе реальных лабораторных экспериментов.

Модели должны анализировать снимки микроскопии, результаты секвенирования, фотографии образцов и показания приборов, находить ошибки экспериментов и понимать, когда данных недостаточно для выводов.

Результаты при максимальном общем уровне рассуждений xhigh:

GPT-6 Astra: 66,7%

GPT-6.1 Sol: 62,0%

GPT-5.6 Sol: 43,8%

Оценки показывают долю набранных баллов по критериям, а не процент полностью решённых задач.

Например, GPT-6 Astra смогла заметить неправильную маркировку антибиотика на лабораторной чашке, которую пропустила предыдущая модель.

Но ошибки остаются: Astra иногда неверно интерпретирует контрольные образцы и ошибается при подсчёте колоний бактерий.

Всего исследователи провели 18 500 тестовых запусков с разными моделями и настройками.

BioBasicsBench позволит отслеживать, насколько ИИ готов к повседневной работе биологов, а также оценивать последствия роста таких возможностей для биобезопасности.

Исследование: https://openai.com/index/measuring-how-ai-agents-handle-wet-lab-science/
🔥7
🖥️ Черная пятница на Stepik на один из лучших курсов по контейнеризации!

Если давно хотел разобраться в теме, но постоянно откладывал или терялся среди десятков материалов, этот курс на Stepik поможет выстроить обучение последовательно.

Что получишь:
- Понятные объяснения без лишней воды.
- Практические задания для закрепления знаний.
- Возможность учиться в удобном темпе.
- Структурированный подход вместо хаотичного поиска информации.

Подойдёт тем, кто начинает с нуля или хочет систематизировать знания.

Начни прокачивать навыки уже сейчас:

https://stepik.org/course/303477/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👍2
Anthropic учит ИИ самостоятельно создавать научные модели

Anthropic опубликовала исследование о том, как ИИ-агенты начинают автоматизировать одну из самых сложных частей научной работы: построение математических моделей по экспериментальным данным.

Исследователи из ELLIS Institute Tübingen описали подход, при котором LLM самостоятельно предлагает уравнения, пишет код симуляции, сравнивает результаты с экспериментами и корректирует модель.

Процесс состоит из трёх этапов:

1. Построение модели. ИИ предлагает математические зависимости и проверяет разные гипотезы.

2. Подбор параметров. Нейросети обучаются на сотнях тысяч или миллионах симуляций. После обучения они могут оценивать параметры новых экспериментов за секунды.

3. Интерпретация. Система сравнивает несколько подходящих моделей, выявляет общие закономерности и помогает определить, какой эксперимент провести следующим.

В качестве примера авторы разбирают модель Ходжкина-Хаксли, описывающую электрическую активность нейронов. Сегодня ИИ потенциально способен воспроизвести подобную работу за часы вместо недель.

Но есть ограничение: современные агенты пока в основном заново открывают уже известные научные модели. Доказательств их эффективности на принципиально новых задачах недостаточно.

Следующий шаг, по мнению исследователей, заключается в том, чтобы ИИ не просто находил уравнение, совпадающее с данными, но и объяснял, почему оно работает и какие альтернативные гипотезы были отвергнуты.

Исследование: https://www.anthropic.com/research/teaching-ai-to-build-scientific-models
❤5
This media is not supported in your browser
VIEW IN TELEGRAM
Запускайте 10 ИИ-агентов параллельно и не ломайте Git-репозиторий

Worktrunk - инструмент для управления Git Worktrees, созданный специально для параллельной работы с ИИ-агентами вроде Claude Code и Codex.

Проблема знакома: запускаешь несколько агентов в одном проекте, они одновременно меняют файлы, конфликтуют между собой и мешают друг другу.

Worktrunk решает это через отдельные рабочие директории. Каждый агент получает собственную ветку и изолированную копию рабочего дерева. Изменения можно разрабатывать независимо, а затем объединять.

Несколько полезных возможностей:

wt switch -c feature-auth - создать новую ветку и рабочую директорию.

wt switch -c -x claude feature-a -- "Add authentication" - создать рабочую директорию и сразу запустить Claude Code с задачей.

wt list - посмотреть все рабочие деревья, изменения и состояние веток.

wt merge main - объединить изменения с основной веткой.

wt remove - удалить рабочую директорию и завершить работу с веткой.

Есть автоматические hooks для настройки окружения, отдельные порты для dev-серверов, общие build-кеши и интеграция с CI.

Особенно полезно для разработчиков, которые строят собственные мультиагентные системы и хотят запускать несколько задач одновременно, не создавая хаос в Git.

GitHub: https://github.com/max-sixty/worktrunk
❤4🔥1🥰1
😁11🥰2👍1