Машинное обучение RU
18.3K subscribers
1.86K photos
264 videos
11 files
2.28K links
Все о машинном обучении

админ - @workakkk

@data_analysis_ml - анализ даннных

@ai_machinelearning_big_data - Machine learning

@itchannels_telegram -лучшие ит-каналы

@pythonl - Python

@pythonlbooks- python 📚

@datascienceiot - 📚

РКН: clck.ru/3FmrUw
Download Telegram
Forwarded from Machinelearning
🌟 Inclusion AI предложила метод спекулятивного декодирования с параллельной сборкой дерева черновиков

Метод UBTree ускоряет вывод больших языковых моделей.

Спекулятивное декодирование поручает черновик небольшой модели, а целевая проверяет сразу несколько предложенных токенов одним проходом и принимает их до первой ошибки.

UBTree относится к той же семье параллельных драфтеров, что DFlash и DSpark, и закрывает их недостаток - они предлагают весь блок токенов одновременно и потому работают быстро, но на размытых распределениях целевой модели, где несколько продолжений близки по вероятности, угадывают хуже.

Черновик в UBTree собирается двумя параллельными проходами:

🟢первый делает модель DFlash, которая подбирает по 64 варианта токена на каждую из шестнадцати позиций блока, причём каждую позицию считает независимо от соседних;

🟢биграммный селектор оценивает, насколько один вариант годится в продолжение другому: пару соседей он прогоняет через два небольших перцептрона поверх замороженных эмбеддингов целевой модели, отдельно для предшественника и для последователя, и добавляет полученную оценку к оценке DFlash с весом, зависящим от глубины.

Все пары считаются одновременно, из оценок переходов набирается дерево на 64 узла, и целевая модель проверяет его целиком за один проход.

Селектор обучали на откликах, перегенерированных при высокой температуре, с перенормированной KL-функцией потерь - так в разметку попадают не только самые вероятные продолжения, но и правдоподобные альтернативы, за счёт которых дерево чаще совпадает с выбором целевой модели.

Вместе с методом выложены две черновые модели - Ling3-Tiny-UBTree на 183 млн параметров работает в паре с Ling-3.0-tiny (8 млрд параметров, 1 млрд активных), Ling3-Flash-UBTree на 482 млн - с Ling-3.0-flash (124 млрд, 5 млрд активных).

Они ничего не генерируют и нужны только как драфтеры к своей целевой модели.


🟡 Тесты

На семи тестах, от GSM8K и AIME до LiveCodeBench и MT-Bench, UBTree даёт среднее ускорение 6,88× на Qwen3-4B и 6,94× на Qwen3-8B и опережает ближайший древовидный метод DARTree во всех 28 сравнениях, в среднем на 7,4-13,4%.

В SGLang на Ling3-Flash-124B выходит 3,27× против 2,73× у DSpark и 2,80× у DFlash, на Qwen3.8-27B - 4,78× против 4,32× у DSpark.

На длинном контексте LongBench-v2 число принятых за раунд токенов выше, чем у сильнейшего из конкурентов, на 31,0-39,7%.

Поддержка UBTree для Ling3 в SGLang пока не опубликована. Команда обещает дополнительные черновые модели в течение месяца.


📌Лицензирование: MIT


🟡Страница проекта
🟡Набор моделей
🟡Техотчет


@ai_machinelearning_big_data

#AI #ML #LLM #Decoding #UBTree #InclusionAI
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍3👏1
10 GitHub-репозиториев, чтобы собрать AI-ассистента, который реально работает за вас

Не просто чат-бота, а агента, который открывает сайты, пишет код, работает с документами, запоминает контекст и выполняет задачи.

1. OpenHands - AI-разработчик, который пишет код, исправляет ошибки и автоматизирует инженерные задачи.

https://github.com/OpenHands/OpenHands

2. Browser Use - управление браузером через AI: переходы по страницам, заполнение форм и автоматизация сайтов.

https://github.com/browser-use/browser-use

3. Mem0 - долговременная память для агентов. Сохранение контекста между разговорами.

https://github.com/mem0ai/mem0

4. Composio - подключение AI-агентов к сотням сервисов и инструментов через готовые интеграции.

https://github.com/ComposioHQ/composio

5. E2B - изолированные песочницы, где AI безопаснее запускает код и выполняет команды.

https://github.com/e2b-dev/E2B

6. LangGraph - создание сложных агентов с состоянием, ветвлениями и многошаговыми процессами.

https://github.com/langchain-ai/langgraph

7. n8n - визуальная автоматизация процессов с AI, API и внешними сервисами.

https://github.com/n8n-io/n8n

8. Docling - извлечение структурированных данных из PDF, таблиц и других документов для AI.

https://github.com/docling-project/docling

9. LiveKit Agents - голосовые AI-ассистенты, которые слушают и отвечают в реальном времени.

https://github.com/livekit/agents

10. Open Interpreter - выполнение кода и работа с локальным компьютером через естественный язык.

https://github.com/openinterpreter/openinterpreter

Из этих компонентов можно собрать полноценную агентную систему: с памятью, браузером, голосом, доступом к инструментам и возможностью самостоятельно выполнять многошаговые задачи.
👍9❤4
SpaceX станет новой NVIDIA? Ставка на ИИ

У SpaceX появился ещё один амбициозный сценарий будущего: резкий рост на инфраструктуре искусственного интеллекта. Партнёр Sequoia Capital Шон Магуайр сравнивает возможную динамику её выручки с рывком NVIDIA. Он сразу раскрывает конфликт интересов: фонд вложился в компанию, а сам автор считает свою оценку пристрастной.

В публикации Магуайр связывает перспективы SpaceX с инженерной командой, Starship и экономикой Starlink. Отдельный тезис касается вычислений для ИИ: он считает компанию потенциально сильным игроком благодаря способности решать сложные инфраструктурные задачи. Это позиция инвестора, а не независимо подтверждённое лидерство по стоимости вычислений.

Почему разговор об ИИ упирается в электростанции

Для наглядности возьмём условный дата-центр мощностью один гигаватт. При непрерывной работе за сутки он потребит 24 миллиона киловатт-часов. Такой масштаб заставляет обсуждать генерацию, подключение к сети, охлаждение и сроки поставок оборудования ещё до выбора модели для обучения. GPU, ожидающий электричества, не приносит полезных вычислений.

оэтому сравнивать инфраструктурные проекты только по количеству ускорителей неудобно. Два одинаковых кластера могут давать разный экономический результат: один простаивает, другой загружен; один ограничен сетью, другой тратит меньше времени на обмен данными. Стоимость полезной работы зависит от всей системы.

Где заканчивается прогноз

Магуайр ожидает, что Direct to Cell обгонит Starlink по выручке в 2029 или 2030 году. Орбитальные вычисления он относит к более поздней части сценария. Оба утверждения следует читать как прогнозы автора.

Для проверки тезиса о дешёвых вычислениях потребовались бы сопоставимые измерения: одинаковая задача, качество результата, загрузка оборудования, затраты на питание и полная стоимость владения. Одной оценки капитальных расходов на гигаватт для такого вывода недостаточно.

У космического дата-центра к этому добавляются вопросы обслуживания и отвода тепла. В вакууме нельзя рассчитывать на обычное воздушное охлаждение. Даже привлекательная стоимость запуска сама по себе не отвечает на вопрос, сколько будет стоить готовый результат вычисления.

Сравнение с NVIDIA звучит громко. Проверять его придётся по введённым мощностям, платящим клиентам и экономике эксплуатации. Пока перед нами инвестиционная гипотеза с большим набором инженерных условий.

По публикации Шона Магуайра, партнёра Sequoia Capital.

https://uproger.com/spacex-stanet-novoj-nvidia-stavka-na-ii/
❤3👍3🥰1🤩1
when I say "we" in emails, this is who I mean:
❤19👍4👎2🔥2
✈️ Шум самолёта на видео может выдать место съёмки

Исследователь показал необычный OSINT-метод: по изменению частоты звука пролетающего самолёта можно сопоставить запись с открытыми данными о рейсах и определить, где находился автор видео.

Метод использует эффект Доплера и траектории самолётов из сервисов отслеживания полётов.

Для анализа нужны дата записи, примерный регион и достаточно длинный фрагмент со звуком самолёта.

Точность зависит от качества записи и доступных данных. В некоторых случаях можно значительно сузить район съёмки даже без GPS, метаданных и визуальных ориентиров.

Похожий принцип давно применяется в криминалистике: фоновый гул электросети помогает установить время и происхождение аудиозаписи.


https://www.youtube.com/watch?v=UytYrhYLOKI
🔥9👍2🥰2
Kandinsky Avatar 1.0: открытая модель для генерации говорящих видеоаватаров

Сбер опубликовал в открытом доступе Kandinsky Avatar 1.0 — семейство ИИ-моделей, которое позволяет создавать реалистичных цифровых собеседников по изображению и аудиозаписи.
Для генерации нужны фото, запись голоса и короткое описание сцены. Модель синхронизирует артикуляцию с речью, добавляет мимику, движения головы и жесты.

Основные возможности:
Видео до 60 секунд с частотой 24 кадра в секунду.
Поддержка разных языков — обучение проходило на более чем 1 млн видеофрагментов на 95 языках.
Версия Pro — генерация в HD с качеством, сопоставимым с HeyGen IV, по оценке разработчиков.
Версия Lite — создание роликов в SD с возможностью запуска на домашней видеокарте.

Сбер открыл модели для разработчиков, включая коммерческое использование. На их основе можно создавать виртуальных консультантов, образовательные сервисы, инструменты локализации и приложения для генерации видеоконтента.

По заявлению компании, Kandinsky Avatar 1.0 — первая полностью российская модель для создания реалистичных цифровых собеседников.

https://huggingface.co/kandinskylab/Kandinsky-S2V-1.0-Pro-distill-Diffusers
👍3👎2
Богатство в 2026
😁31👏2
ИИ перевёл 7500 страниц высшей математики в 16 миллионов строк кода

Компания Axiom сообщила о формализации Stacks Project, одной из крупнейших энциклопедий по алгебраической геометрии, на языке Lean.

Масштаб впечатляет: около 7500 страниц математических определений, лемм и теорем превратились примерно в 16 миллионов строк кода, пригодного для машинной проверки.

Особенность проекта в том, что математические утверждения связаны между собой. Можно проследить зависимости теорем, изучить их доказательства и использовать готовые результаты для новых исследований.

Axiom даже представила библиотеку как интерактивный «математический город» с картой теорем и графами зависимостей.

Неделей ранее, 26 октября, компания объявила о формализации классификации конечных простых групп. На эту работу ушло 43,1 млн строк Lean, созданных при участии десятков ИИ-агентов за 24 дня.

В перспективе такие библиотеки позволят ИИ-агентам строить новые доказательства на базе уже проверенных математических результатов, а Lean сможет проверять их логическую корректность.

https://x.com/axiommathai/status/2118028834515874112
❤16🔥1
Обвал ИИ-акций продолжается
😁37🔥5
OpenAI проверила, способны ли ИИ-агенты заменить учёного в лабораторном анализе

OpenAI совместно с биотехнологической компанией Ligo представила BioBasicsBench, бенчмарк из 100 задач на основе реальных лабораторных экспериментов.

Модели должны анализировать снимки микроскопии, результаты секвенирования, фотографии образцов и показания приборов, находить ошибки экспериментов и понимать, когда данных недостаточно для выводов.

Результаты при максимальном общем уровне рассуждений xhigh:

GPT-6 Astra: 66,7%

GPT-6.1 Sol: 62,0%

GPT-5.6 Sol: 43,8%

Оценки показывают долю набранных баллов по критериям, а не процент полностью решённых задач.

Например, GPT-6 Astra смогла заметить неправильную маркировку антибиотика на лабораторной чашке, которую пропустила предыдущая модель.

Но ошибки остаются: Astra иногда неверно интерпретирует контрольные образцы и ошибается при подсчёте колоний бактерий.

Всего исследователи провели 18 500 тестовых запусков с разными моделями и настройками.

BioBasicsBench позволит отслеживать, насколько ИИ готов к повседневной работе биологов, а также оценивать последствия роста таких возможностей для биобезопасности.

Исследование: https://openai.com/index/measuring-how-ai-agents-handle-wet-lab-science/
🔥7
🖥️ Черная пятница на Stepik на один из лучших курсов по контейнеризации!

Если давно хотел разобраться в теме, но постоянно откладывал или терялся среди десятков материалов, этот курс на Stepik поможет выстроить обучение последовательно.

Что получишь:
- Понятные объяснения без лишней воды.
- Практические задания для закрепления знаний.
- Возможность учиться в удобном темпе.
- Структурированный подход вместо хаотичного поиска информации.

Подойдёт тем, кто начинает с нуля или хочет систематизировать знания.

Начни прокачивать навыки уже сейчас:

https://stepik.org/course/303477/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👍2
Anthropic учит ИИ самостоятельно создавать научные модели

Anthropic опубликовала исследование о том, как ИИ-агенты начинают автоматизировать одну из самых сложных частей научной работы: построение математических моделей по экспериментальным данным.

Исследователи из ELLIS Institute Tübingen описали подход, при котором LLM самостоятельно предлагает уравнения, пишет код симуляции, сравнивает результаты с экспериментами и корректирует модель.

Процесс состоит из трёх этапов:

1. Построение модели. ИИ предлагает математические зависимости и проверяет разные гипотезы.

2. Подбор параметров. Нейросети обучаются на сотнях тысяч или миллионах симуляций. После обучения они могут оценивать параметры новых экспериментов за секунды.

3. Интерпретация. Система сравнивает несколько подходящих моделей, выявляет общие закономерности и помогает определить, какой эксперимент провести следующим.

В качестве примера авторы разбирают модель Ходжкина-Хаксли, описывающую электрическую активность нейронов. Сегодня ИИ потенциально способен воспроизвести подобную работу за часы вместо недель.

Но есть ограничение: современные агенты пока в основном заново открывают уже известные научные модели. Доказательств их эффективности на принципиально новых задачах недостаточно.

Следующий шаг, по мнению исследователей, заключается в том, чтобы ИИ не просто находил уравнение, совпадающее с данными, но и объяснял, почему оно работает и какие альтернативные гипотезы были отвергнуты.

Исследование: https://www.anthropic.com/research/teaching-ai-to-build-scientific-models
❤5
This media is not supported in your browser
VIEW IN TELEGRAM
Запускайте 10 ИИ-агентов параллельно и не ломайте Git-репозиторий

Worktrunk - инструмент для управления Git Worktrees, созданный специально для параллельной работы с ИИ-агентами вроде Claude Code и Codex.

Проблема знакома: запускаешь несколько агентов в одном проекте, они одновременно меняют файлы, конфликтуют между собой и мешают друг другу.

Worktrunk решает это через отдельные рабочие директории. Каждый агент получает собственную ветку и изолированную копию рабочего дерева. Изменения можно разрабатывать независимо, а затем объединять.

Несколько полезных возможностей:

wt switch -c feature-auth - создать новую ветку и рабочую директорию.

wt switch -c -x claude feature-a -- "Add authentication" - создать рабочую директорию и сразу запустить Claude Code с задачей.

wt list - посмотреть все рабочие деревья, изменения и состояние веток.

wt merge main - объединить изменения с основной веткой.

wt remove - удалить рабочую директорию и завершить работу с веткой.

Есть автоматические hooks для настройки окружения, отдельные порты для dev-серверов, общие build-кеши и интеграция с CI.

Особенно полезно для разработчиков, которые строят собственные мультиагентные системы и хотят запускать несколько задач одновременно, не создавая хаос в Git.

GitHub: https://github.com/max-sixty/worktrunk
❤4🔥1🥰1
😁11🥰2👍1
Rust, который наконец становится понятным 🦀

Давно хочешь выучить Rust, но ownership, borrowing и lifetimes выглядят как отдельный вид боли?

Этот курс проведёт тебя с самого начала до уровня, где ты уже пишешь реальные системные и сетевые программы.

Ты разберёшь:
Ownership → Borrowing → ошибки → коллекции → Generics → Traits → модули → тесты → сетевой код

Никакого бесконечного чтения документации. После каждого урока ты сразу пишешь код, проходишь тесты и решаешь задачу с автопроверкой.

🔥 Rust с нуля
🔥 5–6 часов в неделю
🔥 Практика после каждого урока
🔥 Подойдёт после Python, JavaScript, Java и других языков
🔥 Можно начать сразу

В конце у тебя будет понимание Rust, с которым уже можно писать быстрые backend-сервисы, сетевые приложения и системные утилиты, а не смотреть на borrow checker как на врага.

Пора добавить Rust в свой стек. Начинай курс и пиши первый код уже сегодня: https://stepik.org/a/294885/
👍1🔥1😁1
ИИ-агент OpenAI отправил 300 писем за несколько дней. В какой-то момент его пришлось отключить 🤯

Сооснователь Plato Роберт Фарлоу поручил OpenAI Dot организовать переезд своего офиса. Агент должен был самостоятельно связаться с перевозчиками, страховыми компаниями и управляющими зданиями.

Но автономность вышла из-под контроля.

За несколько дней Dot отправил около 300 электронных писем. Некоторым перевозчикам он писал по три-четыре раза, постоянно задавая новые вопросы.

Подрядчики начали жаловаться, что не успевают отвечать на сообщения агента. Переписка с новым управляющим здания оказалась настолько огромной, что тому пришлось создавать отдельную цепочку писем.

В итоге Фарлоу решил остановить агента.

История хорошо показывает одну из главных проблем современных AI-агентов: они могут самостоятельно выполнять задачи, но пока не всегда понимают, когда нужно остановиться, объединить вопросы или дождаться ответа.

300 писем вместо одного организованного рабочего процесса. Автономность без контроля легко превращается в автоматизированный хаос.

Источник: Business Insider.
😁5❤1👍1
🤖 Многие уже работают с языковыми моделями, но относятся к ним как к черному ящику. Без понимания принципов трудно предсказать поведение модели и объяснить ее ошибки, а это первое, с чем сталкиваешься при внедрении.

📅 12.11 в 20:00 пройдет открытый урок «Что надо знать про работу LLM моделей». Для Python-разработчиков, DevOps-инженеров и аналитиков данных, которые начинают работать с LLM.

На уроке:
• разберем токены и контекст;
• поговорим об ограничениях моделей;
• обсудим, что учесть перед внедрением.

Приходите разобраться.
Запись: https://otus.pw/knFE/?erid=2W5zFJRE1Sr

Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.
❤2