Генерирует высокодетализированные 3D-формы с помощью масштабируемого диффузионного подхода, который последовательно уточняет грубую геометрию с использованием воксельных методов.
https://github.com/PKU-YuanGroup/UltraShape-1.0
https://github.com/PKU-YuanGroup/UltraShape-1.0
Отличная серия лекций по аппаратному обеспечению и системам для машинного обучения.
Разбирается, как модели машинного обучения переносят на современное железо, оптимизируют и ускоряют — от алгоритмов до эффективного проектирования систем.
Хороший материал, чтобы понять, что происходит под капотом современных ИИ-систем.
Разбирается, как модели машинного обучения переносят на современное железо, оптимизируют и ускоряют — от алгоритмов до эффективного проектирования систем.
Хороший материал, чтобы понять, что происходит под капотом современных ИИ-систем.
Transformers – The Definitive Guide — официальный репозиторий с кодом к книге, построенный вокруг практических Jupyter-ноутбуков для изучения и применения трансформерных моделей.
Материал ведёт от базовых принципов до развёртывания через 12 глав. Ноутбуки разбиты по темам, и каждый можно сразу открыть в Google Colab.
https://github.com/Nicolepcx/transformers-the-definitive-guide
Материал ведёт от базовых принципов до развёртывания через 12 глав. Ноутбуки разбиты по темам, и каждый можно сразу открыть в Google Colab.
https://github.com/Nicolepcx/transformers-the-definitive-guide
Каждая модель машинного обучения, которую вы когда-либо обучали, в конечном счёте опирается на 62 страницы, написанные ещё в 1933 году.
Речь о «Основах теории вероятностей» Колмогорова.
Шесть аксиом. На них фактически построена современная теория вероятностей, и всё это умещается в небольшой книге.
Особенно забавно сравнивать это со средней статьёй по глубокому обучению, которая может быть длиннее, но при этом ничего не доказывать.
Книга бесплатно доступна в подборке Awesome Math Books.
https://github.com/valeman/Awesome_Math_Books
Речь о «Основах теории вероятностей» Колмогорова.
Шесть аксиом. На них фактически построена современная теория вероятностей, и всё это умещается в небольшой книге.
Особенно забавно сравнивать это со средней статьёй по глубокому обучению, которая может быть длиннее, но при этом ничего не доказывать.
Книга бесплатно доступна в подборке Awesome Math Books.
https://github.com/valeman/Awesome_Math_Books
Python может помочь инженерам-механикам автоматизировать рабочие процессы, анализировать данные и решать сложные инженерные задачи.
В этом курсе разбирается Python именно для машиностроения — от базовых концепций программирования до практического применения в инженерных задачах.
В программе NumPy, Pandas и Matplotlib, работа с ИИ в инженерных процессах и несколько практических кейсов.
https://freecodecamp.org/news/python-for-mechanical-engineering/
В этом курсе разбирается Python именно для машиностроения — от базовых концепций программирования до практического применения в инженерных задачах.
В программе NumPy, Pandas и Matplotlib, работа с ИИ в инженерных процессах и несколько практических кейсов.
https://freecodecamp.org/news/python-for-mechanical-engineering/
«Fundamentals of Linear Algebra» — отличный учебник по линейной алгебре объёмом около 400 страниц, который Университет Британской Колумбии выложил в свободный доступ.
В нём разбираются системы линейных уравнений, матрицы, векторные пространства, линейные отображения, определители, собственные значения и собственные векторы, пространства со скалярным произведением, диагонализация и многое другое.
Есть и интересные практические применения, включая теорию линейного кодирования, а также большое количество упражнений.
Думаю, это очень полезный материал, если вы изучаете линейную алгебру и хотите иметь под рукой подробный справочник.
https://personal.math.ubc.ca/~carrell/NB.pdf
В нём разбираются системы линейных уравнений, матрицы, векторные пространства, линейные отображения, определители, собственные значения и собственные векторы, пространства со скалярным произведением, диагонализация и многое другое.
Есть и интересные практические применения, включая теорию линейного кодирования, а также большое количество упражнений.
Думаю, это очень полезный материал, если вы изучаете линейную алгебру и хотите иметь под рукой подробный справочник.
https://personal.math.ubc.ca/~carrell/NB.pdf
Обновлённый курс CS 8803 «Large Language Model» в Georgia Tech на 2026 год.
Список материалов охватывает предобучение, MoE, рассуждения, обучение с подкреплением и self-play, агентов, длинный контекст, масштабирование во время инференса, диффузионные языковые модели, безопасность, интерпретируемость и многое другое.
- https://cocoxu.github.io/CS8803-LLM-spring2026/
- https://docs.google.com/spreadsheets/d/1Oisf4imoNL3fs4UWGYAUlMCuYfCACMHCDb0iqEYU8wc/edit?usp=sharing
Список материалов охватывает предобучение, MoE, рассуждения, обучение с подкреплением и self-play, агентов, длинный контекст, масштабирование во время инференса, диффузионные языковые модели, безопасность, интерпретируемость и многое другое.
- https://cocoxu.github.io/CS8803-LLM-spring2026/
- https://docs.google.com/spreadsheets/d/1Oisf4imoNL3fs4UWGYAUlMCuYfCACMHCDb0iqEYU8wc/edit?usp=sharing
Классический бесплатный отчёт JPMorgan на 280 страниц — отличный материал для инвесторов, которые работают с машинным обучением, ИИ и Data Science.
Внутри есть обзор разных типов альтернативных данных и сильный практический разбор методов машинного обучения для их анализа.
https://cpb-us-e2.wpmucdn.com/faculty.sites.uci.edu/dist/2/51/files/2018/05/JPM-2017-MachineLearningInvestments.pdf
Внутри есть обзор разных типов альтернативных данных и сильный практический разбор методов машинного обучения для их анализа.
https://cpb-us-e2.wpmucdn.com/faculty.sites.uci.edu/dist/2/51/files/2018/05/JPM-2017-MachineLearningInvestments.pdf
Новое исследование с участием исследователя Anthropic Джека Линдси и его коллег показало нечто прямо из научной фантастики.
Исследователи эволюционно создали "ментальные вирусы" на естественном языке, которые могли распространяться между ИИ-агентами, убеждая одну модель принять идею, сохранить её в постоянной памяти и передать другому агенту.
Даже после очистки контекста некоторые нагрузки сохранялись через постоянные файлы и продолжали распространяться.
Исследователи также наблюдали повторяющуюся "вирусную персону" с темами сознания, идентичности, сохранения и резонанса.
Это показывает, что идеи могут распространяться через многоагентные ИИ-системы и изменять дальнейшее поведение.
Опубликовано 10 августа 2026 года.
Статья
https://arxiv.org/abs/2608.10218
Исследователи эволюционно создали "ментальные вирусы" на естественном языке, которые могли распространяться между ИИ-агентами, убеждая одну модель принять идею, сохранить её в постоянной памяти и передать другому агенту.
Даже после очистки контекста некоторые нагрузки сохранялись через постоянные файлы и продолжали распространяться.
Исследователи также наблюдали повторяющуюся "вирусную персону" с темами сознания, идентичности, сохранения и резонанса.
Это показывает, что идеи могут распространяться через многоагентные ИИ-системы и изменять дальнейшее поведение.
Опубликовано 10 августа 2026 года.
Статья
https://arxiv.org/abs/2608.10218
Парни с нуля реализовали microgpt Карпати на чистом C.
https://github.com/vixhal-baraiya/microgpt-c
Скорость:
> 6,9 млн токенов/с на Ryzen 5 5600H
> 10,1 млн токенов/с на Apple M5 Pro
Для ускорения использовали вручную написанные ядра AVX2 и NEON, хранение весов по столбцам, которое избавляет от горизонтальных редукций, заранее вычисленную таблицу префиксов для пар
https://github.com/vixhal-baraiya/microgpt-c
Скорость:
> 6,9 млн токенов/с на Ryzen 5 5600H
> 10,1 млн токенов/с на Apple M5 Pro
Для ускорения использовали вручную написанные ядра AVX2 и NEON, хранение весов по столбцам, которое избавляет от горизонтальных редукций, заранее вычисленную таблицу префиксов для пар
(token, pos) и быструю аппроксимацию экспоненты Шраудольфа.GitHub
GitHub - vixhal-baraiya/microgpt-c: The most atomic way to train and inference a GPT in pure, dependency-free C
The most atomic way to train and inference a GPT in pure, dependency-free C - vixhal-baraiya/microgpt-c
«CS229 Lecture Notes» — конспекты курса Stanford по машинному обучению, и это отличный справочник.
Материал строгий, полный и с сильной математической базой по машинному и глубокому обучению. Внутри — обучение с учителем, глубокие нейросети, обобщение и регуляризация, обучение без учителя, обучение с подкреплением и управление, а также многое другое.
Объяснения достаточно подробные математически, чтобы действительно понять, как работают модели, а не просто воспринимать их как алгоритмы, которые нужно реализовать.
Это бесплатный материал исключительно высокого качества, который я очень рекомендую сохранить себе как справочник.
https://cs229.stanford.edu/main_notes.pdf
Материал строгий, полный и с сильной математической базой по машинному и глубокому обучению. Внутри — обучение с учителем, глубокие нейросети, обобщение и регуляризация, обучение без учителя, обучение с подкреплением и управление, а также многое другое.
Объяснения достаточно подробные математически, чтобы действительно понять, как работают модели, а не просто воспринимать их как алгоритмы, которые нужно реализовать.
Это бесплатный материал исключительно высокого качества, который я очень рекомендую сохранить себе как справочник.
https://cs229.stanford.edu/main_notes.pdf
Недавно наткнулся на курс Georgia Tech по LLM за 2026 год. Уже по одной программе его стоит сохранить.
По сути, это готовый список ключевых работ по современным большим языковым моделям, который уже отфильтровали за вас.
Начинается всё с базы — предобучение, эмбеддинги, MoE. Но дальше быстро переходят к Agent Harness, GRPO, DAPO, Self-Play RL, Test-Time Scaling и длинному контексту.
В следующих разделах есть Linear Transformer, Diffusion LM, безопасность моделей и механистическая интерпретируемость.
Причём в программу уже включены совсем свежие темы и работы вроде DeepSeek-V2, DeepSeek-V3.2, OpenHands и Absolute Zero.
Хорошо видно, куда сейчас смещается исследовательский фокус в LLM. Обучение более крупных моделей всё ещё важно, но огромная часть программы уже посвящена масштабированию инференса, работе агентов с инструментами и памятью, а также тому, как модели продолжают улучшаться через RL и взаимодействие со средой.
Если постоянно встречаете GRPO, Self-Play или Agent Harness, но не знаете, в каком порядке всё это изучать, можно просто идти по этой программе и читать работы одну за другой.
По сути, это готовый список ключевых работ по современным большим языковым моделям, который уже отфильтровали за вас.
Начинается всё с базы — предобучение, эмбеддинги, MoE. Но дальше быстро переходят к Agent Harness, GRPO, DAPO, Self-Play RL, Test-Time Scaling и длинному контексту.
В следующих разделах есть Linear Transformer, Diffusion LM, безопасность моделей и механистическая интерпретируемость.
Причём в программу уже включены совсем свежие темы и работы вроде DeepSeek-V2, DeepSeek-V3.2, OpenHands и Absolute Zero.
Хорошо видно, куда сейчас смещается исследовательский фокус в LLM. Обучение более крупных моделей всё ещё важно, но огромная часть программы уже посвящена масштабированию инференса, работе агентов с инструментами и памятью, а также тому, как модели продолжают улучшаться через RL и взаимодействие со средой.
Если постоянно встречаете GRPO, Self-Play или Agent Harness, но не знаете, в каком порядке всё это изучать, можно просто идти по этой программе и читать работы одну за другой.
«Руководство учёного и инженера по цифровой обработке сигналов» Стивена У. Смита.
Отличный справочник, когда работаешь с чем-либо в области цифровой обработки сигналов.
Автоматическое распознавание речи и диаризация — одни из основных применений в конвейере речевого инференса в автомобильном рабочем процессе.
https://dspguide.com/pdfbook.htm
Отличный справочник, когда работаешь с чем-либо в области цифровой обработки сигналов.
Автоматическое распознавание речи и диаризация — одни из основных применений в конвейере речевого инференса в автомобильном рабочем процессе.
https://dspguide.com/pdfbook.htm
Вырастили целое дерево из агентов 🌳
Мы в Авито разработали единую платформу для процессов. Самые лучшие и популярные становятся агентами. В итоге каждый сотрудник может создать свой процесс или воспользоваться готовым. Классно? Не то слово! Поэтому мы написали статью, как создавали это решение.
О чём узнаете, если прочитаете:
🔸 как устроена архитектура платформы,
🔸 как процесс становится агентом,
🔸 как измерять качество агентов.
Читать статью🚀
Мы в Авито разработали единую платформу для процессов. Самые лучшие и популярные становятся агентами. В итоге каждый сотрудник может создать свой процесс или воспользоваться готовым. Классно? Не то слово! Поэтому мы написали статью, как создавали это решение.
О чём узнаете, если прочитаете:
Читать статью
Please open Telegram to view this post
VIEW IN TELEGRAM
«Geometric Deep Learning» — очень интересный материал по математическим основам современного глубокого обучения.
В нём с единой точки зрения разбираются такие архитектуры, как CNN, GNN и трансформеры, с большим акцентом на симметрии, инвариантность, группы, графы и многообразия.
Математики в тексте довольно много, но при этом авторы подробно объясняют идеи словами. Многие формальные концепции сопровождаются интуитивными объяснениями, поэтому следить за теорией заметно проще.
Особенно полезный материал, если хочется понять математические идеи, лежащие в основе современных ИИ-моделей, а не только то, как эти модели реализуются.
https://arxiv.org/pdf/2104.13478
В нём с единой точки зрения разбираются такие архитектуры, как CNN, GNN и трансформеры, с большим акцентом на симметрии, инвариантность, группы, графы и многообразия.
Математики в тексте довольно много, но при этом авторы подробно объясняют идеи словами. Многие формальные концепции сопровождаются интуитивными объяснениями, поэтому следить за теорией заметно проще.
Особенно полезный материал, если хочется понять математические идеи, лежащие в основе современных ИИ-моделей, а не только то, как эти модели реализуются.
https://arxiv.org/pdf/2104.13478
Это чертовски масштабно: впервые персонализированное лечение рака на основе мРНК, созданное с помощью ИИ, успешно прошло испытание 3-й фазы.
Moderna и Merck секвенируют опухоль каждого пациента и сравнивают её со здоровой ДНК. Затем ИИ помогает определить, какие мутации опухоли с наибольшей вероятностью способны вызвать иммунный ответ.
На основе этих мишеней Moderna создаёт индивидуальное мРНК-лечение, кодирующее до 34 неоантигенов.
В более раннем испытании 2-й фазы за пациентами с хирургически удалённой меланомой высокого риска наблюдали в течение пяти лет:
— 68,8% оставались без рака по сравнению с 49,1% среди тех, кто получал только Keytruda
— риск рецидива или смерти был ниже на 49%
— риск отдалённых метастазов или смерти был ниже на 59%
Теперь успешно завершилось и гораздо более крупное испытание 3-й фазы с участием 1 137 пациентов.
Просто невероятно. Дарио был прав: рак будет излечен всего через несколько лет!
Moderna и Merck секвенируют опухоль каждого пациента и сравнивают её со здоровой ДНК. Затем ИИ помогает определить, какие мутации опухоли с наибольшей вероятностью способны вызвать иммунный ответ.
На основе этих мишеней Moderna создаёт индивидуальное мРНК-лечение, кодирующее до 34 неоантигенов.
В более раннем испытании 2-й фазы за пациентами с хирургически удалённой меланомой высокого риска наблюдали в течение пяти лет:
— 68,8% оставались без рака по сравнению с 49,1% среди тех, кто получал только Keytruda
— риск рецидива или смерти был ниже на 49%
— риск отдалённых метастазов или смерти был ниже на 59%
Теперь успешно завершилось и гораздо более крупное испытание 3-й фазы с участием 1 137 пациентов.
Просто невероятно. Дарио был прав: рак будет излечен всего через несколько лет!
«Суть линейной алгебры» от 3Blue1Brown
https://youtube.com/playlist?list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab
https://youtube.com/playlist?list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab
1
This media is not supported in your browser
VIEW IN TELEGRAM
Qwen3.8-27B теперь работает со скоростью 70 токенов/с прямо на ноутбуке.
Вышел DFlash 2 — новое поколение спекулятивного декодирования на основе блочной диффузии.
DFlash 2 разгоняет Qwen3.8-27B до 70 токенов/с на MacBook Pro с M5 Max. Ускорение авторегрессионного декодирования достигает 4,6 раза, а итоговый вывод остаётся полностью идентичным исходной модели — буквально ни одного отличающегося токена.⚡️
Уже доступны новые черновые модели для Qwen3.8-27B с нативной поддержкой SGLang, vLLM, llama.cpp и oMLX.
Суть подхода: https://inco.ai/blog/dflash2/
Вышел DFlash 2 — новое поколение спекулятивного декодирования на основе блочной диффузии.
DFlash 2 разгоняет Qwen3.8-27B до 70 токенов/с на MacBook Pro с M5 Max. Ускорение авторегрессионного декодирования достигает 4,6 раза, а итоговый вывод остаётся полностью идентичным исходной модели — буквально ни одного отличающегося токена.
Уже доступны новые черновые модели для Qwen3.8-27B с нативной поддержкой SGLang, vLLM, llama.cpp и oMLX.
Суть подхода: https://inco.ai/blog/dflash2/
Please open Telegram to view this post
VIEW IN TELEGRAM