Представьте, что вам нужно прочитать сотни отчетов о финансовых результатах компаний и извлечь из каждого одни и те же данные: название компании, выручку, руководителей, продукты, даты, биржевые тикеры и реакцию рынка.

Делать это вручную — долго и непоследовательно. Решение — извлечение сущностей: автоматический поиск важных фрагментов текста с последующим присвоением им полезных меток.

В этой статье сравниваются четыре подхода к извлечению полезной информации из бизнес-документов:

- Regex — для поиска данных по фиксированным шаблонам, например дат и денежных сумм.
- spaCy — для извлечения стандартных типов сущностей, таких как люди, организации и денежные значения.
- GLiNER — для извлечения пользовательских типов сущностей без обучения модели.
- langextract — для извлечения данных с помощью ИИ с указанием ссылок на исходные фрагменты текста.

К концу статьи вы поймете сильные и слабые стороны каждого подхода и сможете выбрать наиболее подходящий вариант для обработки бизнес-документов.

Исследовательница OpenAI Теджал Патвардхан опубликовала скриншот, который показывает, что GPT-5.6 Sol использовалась для постобучения GPT-5.6 Luna.

Это один из первых наглядных признаков рекурсивного самоулучшения ИИ. До «интеллектуального взрыва» ещё далеко, так как цели, инфраструктуру и ограничения по-прежнему задают люди.

Но цикл уже запущен — передовые модели начинают выполнять инженерную работу по созданию и улучшению следующего поколения моделей.

Как только ИИ начинает ускорять исследования и разработку самого ИИ (AI R&D), каждое новое поколение помогает создавать следующее быстрее.

Именно так и начинается рекурсивное самоулучшение — не с того, что модель за одну ночь переписывает собственные веса, а с постепенного перехода исследований и инженерной разработки, необходимых для создания более совершенных моделей ИИ, под контроль самого ИИ.

Это также служит ещё одним подтверждением того, что темпы выхода новых релизов растут, а сами модели совершенствуются всё быстрее.

Погружаемся с головой в Deep Learning, Reinforcement Learning, Machine Learning, Computer Vision и NLP

Лекции:

https://github.com/kmario23/deep-learning-drizzle

Awesome PyTorch для глубокого обучения: https://github.com/bharathgs/Awesome-pytorch-list

Исчерпывающий список материалов по PyTorch на GitHub, включая:

различные модели;
реализации научных статей;
вспомогательные библиотеки;
книги;
доклады и материалы конференций;
туториалы;
и многое другое.

NVIDIA, возможно, решила главный компромисс современных LLM

При работе с любой LLM приходится выбирать между скоростью и качеством. Авторегрессионные модели вроде GPT обеспечивают высокое качество, но работают медленно, потому что генерируют по одному токену за раз.

Диффузионные модели действуют наоборот. Они генерируют целые блоки параллельно и поэтому работают быстрее, но до сих пор за эту скорость приходилось расплачиваться качеством.

Именно эту проблему попытались решить исследователи NVIDIA.

Они взяли 30B-модель и разделили её на две части, чтобы генерировать токены параллельно, а не по одному.
Так появилась Nemotron-Labs-TwoTower — диффузионная языковая модель от NVIDIA Research, адаптированная на базе Nemotron-3-Nano-30B-A3B.

Но прежде чем разобраться, как работает TwoTower, стоит понять, почему диффузионные LLM вообще уступают авторегрессионным.

Диффузионная LLM начинает с блока замаскированных токенов и раскрывает их за несколько проходов. На каждом проходе она считывает весь уже сгенерированный текст и одновременно предсказывает замаскированные токены в текущем блоке.
Получается, что одна и та же сеть одновременно выполняет две совершенно разные задачи. Она должна понимать уже существующий контекст и при этом предсказывать токены, которых ещё нет.

Один набор весов оказывается направлен сразу на две разные задачи, поэтому сеть не может полноценно специализироваться ни на одной из них.

TwoTower решает эту проблему, не заставляя одну сеть выполнять обе задачи. Вместо этого предварительно обученную авторегрессионную модель разделяют на две башни.

1. Context Tower — замороженная часть модели, которая считывает весь уже сгенерированный текст точно так же, как это делала исходная модель. Её больше не обучают, поэтому интеллектуальные способности модели полностью сохраняются.
2. Denoiser Tower — обучаемая часть модели, которая параллельно генерирует каждый новый блок токенов. Чтобы не терять контекст, она постоянно использует cross-attention к Context Tower.

Самое интересное — как взаимодействуют эти две башни. Они соединены послойно: пятый слой Denoiser Tower взаимодействует с пятым слоем Context Tower, шестой — с шестым и так далее.
Благодаря этому Denoiser получает доступ ко всему многоуровневому представлению контекста базовой модели, а не только к её финальному скрытому представлению.

Результаты:
> В 2,42 раза выше пропускная способность генерации
> Сохраняется 98,7% качества исходной модели
> Архитектура построена на базе гибридной 30B-модели Mamba–Transformer MoE
> Для обучения использовано всего около 2,1 трлн токенов — лишь часть от 25 трлн токенов, использованных при предобучении исходной модели

Последний показатель здесь особенно важен. Ни один из компонентов не обучался с нуля.
Это адаптация, которую можно добавить к уже существующей авторегрессионной модели. Она относительно дёшево превращает медленное декодирование по одному токену в быструю параллельную генерацию блоками.

Поэтому для любых систем, чувствительных к задержкам, это подход, который определённо стоит изучить. Больше не обязательно выбирать между моделью, которой вы доверяете, и необходимой скоростью.

Веса, код и методика обучения опубликованы в открытом доступе.

Статья: https://arxiv.org/pdf/2606.26493

Обучаемся: https://github.com/MorvanZhou/Reinforcement-learning-with-tensorflow

Вот серия простых материалов по методам и практических руководств, охватывающих как базовые алгоритмы обучения с подкреплением , так и современные, недавно разработанные и обновлённые продвинутые алгоритмы.

Конвейер машинного обучения: https://github.com/Spandan-Madan/DeepLearningProject

Подробное руководство по машинному обучению, знакомящее читателя с полным конвейером машинного обучения с нуля. Материал подготовлен Harvard.

https://github.com/ageron/handson-ml3

Серия блокнотов Jupyter, которые последовательно знакомят с основами машинного обучения и глубокого обучения на Python с использованием Scikit-Learn и TensorFlow.

Этот GitHub-репозиторий — настоящая находка для тех, кто хочет не просто пользоваться ИИ и машинным обучением, а действительно глубоко их понять.

Maths, CS & AI Compendium — Бесплатный сборник.

В течение нескольких лет Генри вёл подробные конспекты, в которых объяснял математику, информатику и искусственный интеллект через интуицию, без лишней воды.

Его друзья использовали эти материалы для подготовки к собеседованиям в DeepMind, OpenAI и NVIDIA — и все успешно получили работу.

Теперь эти конспекты стали общедоступными.
В сборнике 20 глав, охватывающих путь от векторов до самых современных методов искусственного интеллекта.
Материал построен на интуитивном понимании, сопровождается примерами из реальной практики и избегает поверхностных объяснений.

плюс: В репозиторий входит MCP-сервер, благодаря которому Claude Code, Cursor, VS Code и другие совместимые инструменты могут использовать этот сборник как интерактивную базу знаний.

Локальный ИИ ещё никогда не был таким простым

> Установите ODS.
> Он автоматически определит характеристики вашего компьютера.
> Скачает модель, которая лучше всего подходит для вашего оборудования.
> Затем запустит локальный ИИ и Open WebUI.

С ODS вы можете:
> Добавить голосовое управление, ИИ-агентов (например, Hermes), рабочие процессы (workflows), RAG, поиск, генерацию изображений и многое другое.
> Управлять всей экосистемой через единую панель управления.

Теперь ваш ПК, Mac или компьютер с Linux становится приватным ИИ-сервером.

Не нужен облачный сервис и подписка. Ваши запросы и данные остаются на вашем устройстве, если только вы сами не решите иначе.

Машинное обучение для промышленной эксплуатации: https://github.com/EthicalML/awesome-production-machine-learning

Этот репозиторий содержит тщательно подобранную коллекцию отличных библиотек с открытым исходным кодом, которые помогут развёртывать, отслеживать, версионировать, масштабировать и обеспечивать безопасность систем машинного обучения в промышленной эксплуатации.

А что, если бы можно было прочитать целую папку CSV-файлов одной строкой кода?

Работа с несколькими CSV-файлами часто требует дополнительного кода, чтобы загрузить, объединить и обработать каждый файл.

DuckDB упрощает эту задачу: он позволяет напрямую выполнять SQL-запросы к нескольким CSV-файлам с использованием шаблонов имён, чтобы анализировать их одним эффективным запросом.

Статья о DuckDB для дата-сайентистов: https://bit.ly/4uCVvO2

NVIDIA выпустила новый фреймворк для RL.

Весь сетап помещается в один Python-файл:

- пишете класс с функцией step()
- возвращаете из неё reward
- всё остальное фреймворк берёт на себя — вплоть до обучения MoE-моделей класса 1T параметров

В типичном RL-фреймворке логика environment и reward находится внутри кодовой базы тренера.

Чтобы добавить новую задачу, нужно писать код под конкретный фреймворк, регистрировать её и подключать соответствующую конфигурацию.

Reward обычно выдаёт отдельно обученная reward model, для которой нужны собственные GPU и отдельное размещение рядом с actor и critic.

Фреймворк Molt от NVIDIA убирает оба этих требования.

Каждый запуск принимает флаг agent_path, указывающий на один Python-модуль, при этом код тренера никогда не меняется.

Модуль предоставляет два способа подключить агента.

> Первый — класс Env, в котором вы реализуете функцию step(). Она получает output модели и возвращает reward, а всё остальное фреймворк делает сам: вызывает модель, выполняет токенизацию и запускает цикл ход за ходом, пока episode не завершится.

> Второй — класс ChatAgent для агентов, у которых уже есть собственный loop. Здесь цикл вы пишете самостоятельно, вызывая модель через стандартный клиент OpenAI или Anthropic. Фреймворк при этом поднимает локальный сервер, поэтому запросы идут в его vLLM-движки, а не во внешний API.

В обоих случаях тренер получает одно и то же: trajectory из токенов и reward в конце.

Этот reward может формироваться через:

- проверку точного совпадения строк
- выполнение кода в изолированном subprocess
- вызов LLM-as-a-judge

Таким образом, не нужно отдельно обучать и размещать reward model, а код environment не хранится внутри самого фреймворка.

Под капотом Molt запускает одного обучаемого actor — плюс опциональный critic для PPO — на FSDP2, использует vLLM-движки для rollout и очереди Ray для обмена между компонентами.

Благодаря этому генерация, обучение и синхронизация весов выполняются с перекрытием, а не строго последовательно.

Для масштабирования достаточно изменить несколько флагов в той же команде.

Фреймворк также самостоятельно распределяет модель по GPU, поэтому один и тот же скрипт, который обучает модель на 8B параметров на одной ноде, может обучать на кластере MoE-модели масштаба DeepSeek-V3 — достаточно увеличить значения флагов параллелизма.

Репозиторий:
https://github.com/NVIDIA-NeMo/labs-molt

Поскольку фреймворк новый, я пока продолжаю с ним экспериментировать и скоро поделюсь своими выводами.

Для тех, кто хочет глубже разобраться в том, как ведущие AI-лаборатории создают RL-агентов в 2026 году, я написал подробную статью.

В ней рассматривается эволюция от RLHF к GRPO с верифицируемыми reward, а также использование LLM-as-a-judge в качестве reward-функции.

Этот подход позволяет применять RL-обучение к агентным задачам, результат которых нельзя однозначно верифицировать, без необходимости писать собственные reward-функции.

NVIDIA открыла исходный код ARDY — новой ИИ-модели для интерактивной генерации движений людей в реальном времени.

Вы просто описываете, что должен делать персонаж, и он это делает. Прямо во время движения. Можно изменить текстовую команду на ходу, указать новую точку маршрута или добавить ключевые кадры и система мгновенно перестроит движение. Без предварительного просчёта и ожидания.

И на этот раз NVIDIA выпустила всё сразу:

- исходный код;
- веса модели;
- рабочее демо.

Система полностью готова к локальному запуску. При этом модели достаточно 20–24 ГБ VRAM.

Особенно интересно, что эта технология создавалась не только для анимации - в её основе лежат те же исследования, которые NVIDIA использует в разработке человекоподобных роботов.