Сейчас в сфере ИИ есть два карьерных пути:

Первый — разработчик, который умеет создавать приложения с помощью API языковых моделей.

Второй — архитектор, который понимает, как устроены сами языковые модели и системы на их основе.

Если хотите двигаться в сторону второго, у Стэнфорда есть один из лучших бесплатных курсов по разработке LLM — CS336: Language Modeling from Scratch.

Курс 2026 года состоит из 18 лекций и охватывает практически весь технологический стек языковых моделей:

— Архитектура моделей: токенизация, трансформеры, различные архитектуры и MoE.

— Аппаратное обеспечение: FLOPs, память, GPU и TPU.

— Оптимизация производительности: Triton, GPU-ядра, параллелизм и распределённое обучение.

— Обучение моделей: законы масштабирования, сбор, фильтрация и дедупликация данных.

— Запуск моделей: инференс и оценка качества.

— Дообучение: SFT, RLHF и RLVR.

Отдельно рассматривается мультимодальность.

Причём обучение не ограничивается просмотром лекций. Студенты самостоятельно реализуют токенизатор, трансформер и оптимизатор, пишут FlashAttention2 на Triton, создают систему распределённого обучения с эффективным использованием памяти и превращают сырые данные Common Crawl в датасет для предобучения.

Также они экспериментально определяют закон масштабирования и используют SFT вместе с обучением с подкреплением, чтобы научить языковую модель решать математические задачи.

По словам Стэнфорда, на этом курсе студенты пишут как минимум на порядок больше кода, чем на большинстве других курсов по ИИ.

Stanford CS336, весна 2026 года. 18 лекций, бесплатно на YouTube.

https://www.youtube.com/playlist?list=PLoROMvodv4rMqXOcazWaTUHhq-yembLCV

Выбирайте свой путь.

👉 @PythonPortal

Вышла долгожданная новая версия Python — 3.15 🐍

В неё вошли 5643 коммита от тысячи разработчиков.

Среди главных нововведений:

✓ UTF-8 по умолчанию.
✓ Более быстрый JIT-компилятор — прирост производительности в среднем на 7–8%.
✓ lazy import — модуль загружается только при первом использовании, ускоряя запуск программы.
✓ frozendict — встроенный словарь, элементы которого нельзя изменить после создания.
✓ sentinel — уникальное значение, позволяющее отличить «аргумент не передали» от переданного None.
✓ Распаковка внутри включений — объединять списки и словари теперь можно короче: [*group for group in groups].
✓ Tachyon — новый профилировщик, который помогает найти, где программа тратит больше всего времени, без изменения кода.

https://blog.python.org/2026/10/python-3150-final-is-here/

@IT_Portal

Разбор собеседований по проектированию систем, разделённый на 28 глав. Рассматриваются масштабирование, ограничение частоты запросов и распределённые системы.

https://github.com/liquidslr/system-design-notes

👉 @PythonPortal

«Graph Theory with Applications» — бесплатный учебник, который даёт всестороннее введение в теорию графов и её практическое применение.

Книга начинается с базовых понятий: графов, подграфов, путей, циклов, деревьев и связности. Затем переходит к более сложным темам: эйлеровым и гамильтоновым графам, паросочетаниям, раскраске графов, планарным и ориентированным графам, сетевым потокам и экстремальной теории графов.

Особенно полезно то, что авторы сочетают наглядное, геометрическое и топологическое понимание графов со строгим изложением математических основ.

Это делает книгу ценным ресурсом для изучения теории, лежащей в основе многих современных приложений графов в информатике, компьютерных сетях, оптимизации, анализе данных и смежных областях.

Книга: https://book.huihoo.com/pdf/graph-theory-with-applications.pdf

👉 @PythonPortal

Можно буквально ввести предложение и посмотреть, как Transformer обрабатывает его.

Этот интерактивный тренажёр запускает GPT-подобную модель прямо в браузере и позволяет проследить весь процесс:

Токенизация → эмбеддинги → Q/K/V → механизм внимания → MLP → логиты → вероятности следующего токена.

Можно изучать карты внимания, промежуточные значения и менять параметры temperature, top-k и top-p, чтобы увидеть, как они влияют на генерацию.

Если для вас трансформеры до сих пор выглядят как набор блоков, соединённых стрелками, стоит попробовать.

https://poloclub.github.io/transformer-explainer/

👉 @PythonPortal

«Матричное дифференциальное исчисление для машинного обучения и не только» — бесплатный курс лекционных материалов MIT, посвящённый математике производных векторов и матриц.

Материалы охватывают градиенты, якобианы, производные матричных функций, дифференциалы, производные произведений матриц, обратных матриц и определителей, произведения Кронекера, оптимизацию и автоматическое дифференцирование. Также рассматривается применение этих методов в машинном обучении.

На мой взгляд, это полезный ресурс для тех, кто уже знаком с основами линейной алгебры и математического анализа и хочет разобраться, как дифференцирование обобщается на векторы и матрицы и применяется в современных задачах оптимизации.

https://ocw.mit.edu/courses/18-s096-matrix-calculus-for-machine-learning-and-beyond-january-iap-2023/mit18_s096iap23_lec_full.pdf

👉 @PythonPortal

NVIDIA действительно устранила одно из главных ограничений голосового ИИ.

Компания открыла исходный код PersonaPlex-7B — разговорной модели с полнодуплексным режимом, которая умеет одновременно слушать и говорить.

Вместо того чтобы ждать, пока пользователь закончит говорить, модель использует двухпоточную архитектуру для обработки речи и ответа в реальном времени.

Полностью открытый исходный код и бесплатное использование.

https://github.com/NVIDIA/personaplex

👉 @PythonPortal

Если ищете хороший видеокурс по 3D-математике для игр, в котором сочетаются теория и практика, вот он: https://wojtsterna.com/math-for-3d-programmers/

Первая часть курса длится 14 часов и доступна БЕСПЛАТНО. Недавно я разбил её на разделы, чтобы было проще проходить. Каждый — не дольше примерно 30 минут.

Весь курс — это внушительные 50 часов. Осилить его будет непросто, но, думаю, оно того стоит, если вы всерьёз хотите разобраться в 3D-математике.

👉 @PythonPortal

5 архитектур RAG

Большинство RAG-систем ломаются в одном и том же месте. Проблема не в модели, а в том, как находится контекст.

Базовый RAG строит эмбеддинги документов, находит ближайшие фрагменты и надеется, что в них есть ответ. Для простых вопросов это работает. Системам в продакшене нужно больше, и этот пробел заполняют пять архитектур.

Гибридный RAG выполняет два поиска одновременно. Плотные векторы улавливают смысл, а индекс ключевых слов BM25 находит точные термины, которые эмбеддинги часто упускают: коды товаров, имена, аббревиатуры. Метод Reciprocal Rank Fusion объединяет два ранжированных списка в один.

GraphRAG перестаёт рассматривать знания как изолированные фрагменты. Он извлекает сущности и связи между ними в граф знаний, затем находит релевантный подграф и сводки связанных кластеров. Он рассчитан на вопросы, ответы на которые охватывают несколько связанных фактов.

Агентный RAG превращает поиск в план действий. Агент-планировщик решает, какие инструменты использовать: векторный поиск, поиск в интернете или SQL-базу. Агент, отвечающий за рассуждения, объединяет результаты. Если подтверждений недостаточно, система возвращается к поиску.

Корректирующий RAG проверяет результаты собственного поиска. Агент-оценщик оценивает найденное до передачи модели. Релевантные результаты проходят дальше, нерелевантные запускают поиск в интернете, а при неоднозначной оценке запрос отправляется на переформулирование.

Мультимодальный RAG воспринимает документ не только как текст. Текст, изображения, графики и таблицы преобразуются в эмбеддинги и помещаются в общий индекс с помощью моделей вроде CLIP или ColPali. Так один запрос может найти абзац, схему или отсканированную таблицу.

Каждая архитектура устраняет свой тип сбоя:

Пропущенные ключевые слова → гибридный RAG
Недостающие связи → GraphRAG
Вопросы, требующие нескольких источников → агентный RAG
Ненадёжный поиск → корректирующий RAG
Знания в визуальных материалах → мультимодальный RAG

👉 @PythonPortal