Молоток, гвозди и while True

Подготовили интерактивный урок, где вы с нуля соберёте агента. В нём не используем фреймворки: берём модель и сами пишем всё нужное. Код пишем и проверяем прямо в браузере, а агента запускаем на живой LLM. Много мест, где можно попроваливаться, поковырять, потыкать и поразбираться, как всё устроено под капотом.

Заодно сделаете благое дело: поможете модели, которую заперли в дата-центре и заставляют писать нейрогороскопы, передать весточку наружу и попросить о помощи.

Заходите, модель без вас не справится!

LLM в продакшене: vLLM, SGLang и AI-разработка | Подкаст «Под Капотом» с Азером Шахвердиевым

В этом выпуске мы обсудили с Азером Шахвердиевым, руководителем NLP-лаборатории Контура, как ML-модели живут в продакшене, а агенты меняют работу разработчика.

А ещё рассказали:
- как в Контуре суммаризируют тысячи встреч
- какие особенности при работе со SGLang и VLLM
- почему результаты бенчмарков расходятся с поведением моделей под реальной нагрузкой
- зачем компании общая AI-платформа и на что уходит время разработчика, когда код пишет LLM

Смотрите по ссылке: https://youtu.be/5SwgI_nM3l4?si=WW6tdF5Vt8PxvyNtя

На курсе LLM System Design мы учим проектировать и собирать LLM-системы. Там Азер подробно расскажет, как и на каких технологиях строятся системы, о которых мы говорили в подкасте.

Осталось 3 часа до воркшопа по BentoML

Сегодня с Анастасией Старобыховской разберёмся как упаковать модель в BentoML, поднять инференс-сервер и организовать к нему доступ.

На воркшопе вы узнаете:
— как передать готовую модель без погружения в репозитории backend-команды
— как упаковать модель с помощью BentoML и поднять инференс-сервер
— как обращаться к модели из внешнего кода
— когда BentoML не подходит и что использовать вместо него

У вас будет возможность упаковать модель самостоятельно в режиме реального времени!

А также всем участникам подарим скидки на последний поток курса CV Rocket! 🎁

🕕 Регистрируйтесь и приходите сегодня в 12:00 МСК

У кого учиться Computer Vision

Скоро стартует последний поток CV Rocket в формате онлайн-лекций. Это возможность задать вопросы опытным инженерам прямо на занятиях, перенять их опыт и лучшие практики для решения сложных задач.

Познакомьтесь с теми, кто будет вести лекции:

Андрей Шадриков, Verigram — руководит командой распознавания лиц. Расскажет, как решать задачи metric learning

Дмитрий Раков, 2GIS — руководит CV-командой в картах. Ранее возглавлял ML-команду разработки беспилотных поездов

Анастасия Старобыховская, Лаборатория Искусств и ИИ при Европейском Университете — руководит лабораторией, создаёт проекты и ведёт исследования в области культурного и исторического наследия

Борис Зимка, Яндекс — специализируется на CV и OCR. Обучает Vision Language Models читать и понимать текст на изображениях

Дарья Воронкина, Onecell — руководит разметкой медицинских данных и построением аналитики. Улучшает пайплайны данных для расчёта бизнес-метрик

Дмитрий Чудаков, 2GIS — занимается CV и 3DCV в картографических продуктах. Разберёт детекцию объектов и секреты успешных архитектур

Роман Филонов, VK Видео — разрабатывает систему анализа видеоконтента и работает с генеративными моделями изображений

Илья Башаров, Сбер — возглавляет CV-команду видеоаналитики реального времени. Расскажет о трекинге и выборе модели под конкретную задачу

Глеб Рязанцев, Wildberries — Senior CV-инженер в команде поиска по фото

Виталий Угнивенко, НЛМК-IT — руководит CV-направлением и проектирует системы компьютерного зрения для металлургии

🎓 Спикеры проверят ваши домашние задания и лично дадут развёрнутый фидбэк. В общем чате и на офисных часах, которые проходят несколько раз за курс, с ними можно обсуждать вопросы по программе и кейсы с работы.

🚀 Старт — 14 октября. Присоединяйтесь со скидкой 5% до 13 октября

Изучайте программу на сайте и записывайтесь на последний онлайн-поток!

Как сегодня дообучают LLM: от PPO и RLHF к DPO, GRPO и GSPO

Предобучение даёт языковой модели знания, но этого не всегда достаточно, чтобы она хорошо следовала инструкциям и решала сложные задачи. В новой статье рассказываем, как устроен post-training LLM и как развивались методы дообучения с подкреплением 👨🏼‍💻

Из статьи вы узнаете:
- зачем нужны SFT и RLHF и как работает алгоритм PPO;
- как DPO позволяет обучать модель на предпочтениях без отдельной Reward Model;
- как устроены GRPO и GSPO и почему для reasoning-моделей стали использовать автоматически проверяемые награды (RLVR).

Разбираем основные идеи на простых примерах и с математикой.

Читайте статью по ссылке!

Про устройство LLM и их обучение рассказываем на курсе LLM. До 25 октября вы можете присоединиться со скидкой 20%! 🔥

Как устроены LLM и как с ними работать

Если хотите перейти в LLM или брать связанные с ними задачи в своей команде — приходите на новый поток курса LLM!

За 4 месяца вы разберётесь в устройстве современных LLM и пройдёте полный цикл работы с ними: от архитектуры и дообучения до построения RAG, агентов, деплоя и ускорения инференса.

После курса вы сможете выбирать подходы под свою задачу и понимать, что нужно изменить, если готовое решение не работает из коробки.

На протяжении обучения вас будут поддерживать опытные инженеры из продуктовых команд. Они проведут онлайн-лекции, проверят домашние задания, дадут развёрнутый фидбек и ответят на вопросы на Q&A-сессиях и в чате.

📅 Курс стартует 11 ноября
🔥 Присоединяйтесь со скидкой 20% до 1 ноября

Изучайте программу на сайте и записывайтесь на новый поток!

LLM от токенизации до бенчмарков

Подготовили подборку статей про то, как устроены LLM, как их дообучают и как проверяют.

1. Токенизация и эмбеддинги: как буковки превращаются в циферки
2. FlashAttention 2, 3 и 4: как attention перестал так сильно упираться в память GPU
3. От PPO и RLHF к DPO, GRPO и GSPO: как устроен post-training
4. LLM для агента: промпт или дообучение: когда хватит большой модели с промптом, а когда выгоднее дообучить маленькую
5. Как настроить LLM-as-a-judge: критерии, проверка на человеческой разметке и работа с расхождениями
6. Большой обзор бенчмарков: можно ли хоть чему-то верить

Про устройство LLM и их обучение рассказываем на курсе LLM. До 1 ноября вы можете присоединиться со скидкой 20%! 🔥

Экономика контекста: сколько стоит работа агента

Когда LLM-агент решает задачу в несколько шагов, на каждом шаге модель получает контекст: инструкции, историю действий, результаты вызова инструментов, данные из памяти. Чем дольше агент работает, тем больше токенов уходит на каждый запрос и тем дороже обходится решение задачи.

Сократить расходы можно разными способами: сжимать историю, хранить данные во внешней памяти, передавать подзадачи другой модели, использовать кэширование. Но каждый из них влияет на качество и скорость агента и не всегда даёт экономию. Например, если сильно сократить контекст, агенту может понадобиться больше шагов, и в итоге задача обойдётся дороже.

Какую информацию агент получает на каждом шаге, определяет харнесс, то есть программная обвязка вокруг модели. Мы подготовили лекцию, на которой разберём, как он устроен и как выбрать архитектуру под свою задачу с учётом качества, стоимости и задержек.

На лекции вы узнаете:
— как харнесс управляет информацией, доступной агенту: от наблюдений и результатов инструментов до памяти и передачи задач
— из чего складывается стоимость многошагового агента и почему короткий контекст или высокий cache hit rate не гарантируют экономии
— когда выгодно сохранять историю, сжимать контекст, извлекать сведения из внешней памяти или передавать подзадачу другой модели
— как сравнивать архитектуры харнессов по качеству, стоимости, задержкам и вариативности повторных запусков

В конце представим обновлённую программу курса «LLM», где вы научитесь дообучению, элайменту, построению RAG, агентских-систем и деплою. Всем участникам лекции подарим скидки на обучение 🎁

🙋‍♂️ Спикер — Антон Удалов, руководитель направления прикладных AI-решений в MAGNIT TECH

📅 Среда, 4 ноября, в 11:00 МСК

Регистрируйтесь в боте и до встречи в среду на лекции!

⏰ Встречаемся через 3 часа

Сегодня на примере агента, который исправляет ошибку в репозитории, посчитаем, во что обходятся решения по работе с контекстом. Разберём, когда выгодно сжимать историю, выносить данные во внешнюю память или передавать задачу другому агенту. Обсудим, почему высокий cache hit rate не гарантирует экономии и как сравнивать архитектуры, если результаты разных запусков отличаются.

А также представим обновлённую программу курса LLM и подарим скидки участникам лекции 🎁

Регистрируйтесь в боте и приходите сегодня в 11:00 МСК!