Кто-нибудь хочет вместе поразбираться с тем, как нынче принято делать агентов в проде? С понедельника хочу плотненько засесть за "Agentic Design Patterns: A Hands-On Guide to Building Intelligent Systems".

План-капкан:
• Читаем по главе в день;
• Каждый день в 15:00 по Лондону собираемся на звонок для обсуждения;
• На каждый звонок будет презентация с обзором ключевых моментов главы (или каким-то доп контекстом);
• Звонки записываются, чтобы можно было догнать группу, если бес попутал пропустили;
• К концу феварля дочитываем всю книжку.

Если план звучит как-то знакомо, то это потому что мы уже читаем по похожей схеме "The Ultra-Scale Playbook". Правда, в более расслабленном режиме с созвоноами раз в неделю. Две книги лучше чем одна, верно?

Инвайт в чатик с анонсами (eng-speaking) и в дискорд (вдруг так получится привлечь больше людей за пределами русскоговорящего коммьюнити?). Анонсы буду кросс-постить и туда, и туда.

В этом году занимаюсь подготовкой домашек для студентов ML курса в Сколтехе. После множества пройденных (и заваленных) собеседований я, кажется, начал немножечко понимать, чего лично мне не хватало в момент обучения - глубокого понимания не очень большого числа базовых алгоритмов. Что ж, что мне боль, то новым студентам опыт!

В моем инженерном видении мира понимание невозможно без того, чтобы сделать реплику своими руками с нуля. В то же время не хотелось, чтобы обучение уперлось в страх перед чистым листом. Хотелось по шагам подвести к каждой задаче. Показать как она складывается из небольших кирпичиков.

Решив с формой постановки задачи, оставалось решить как проверять и как давать ребятам фидбек. С одной стороны можно проверять правильность решения вручную, но это сильно загружает преподавательскую команду и не дает студентам возможность учиться на своих ошибках. Что есть взять за основу подход к разработке индустриального софта и обмазаться автотестами? Студенты получают какой-то стартовый шаблон и набор тестов. А дальше... Дальше они взрослые люди, которые должны научиться анализировать ошибки интерпретатора и выполнять требования посланные свыше всеми доступными способами.

В результате подготовил набор задачек по классике машинного обучения с автопроверкой тестами. А это значит что любой может попробовать выполнить эти домашки и почувствовать себя совсем чууууууточку студентом Сколтеха.

Первая домашка с решением (отдельно) уже на Гитхабе. Планируется еще две. Выложу как задачи, так и решения. Буду рад если попробуете решить и придете с комментариями!

Ребятушки, зазываю вас вместе читать и обсуждать "The Smol Training Playbook: The Secrets to Building World-Class LLMs"!

От авторов книги:
What does it actually take to train a high-performance LLM today? Published research makes it look straightforward: strategic architecture choices, carefully curated datasets, and sufficient compute. The reality is messier, more iterative, and full of decisions that don’t make it into the final paper.

TL;DR: обещают полный тренинг рецепт SmolLM3 от претрена до RL без купюр и замалчиваний.

Расписание: каждый четверг, 14:00 (время по Лондону), первый созвон 19 марта.

Чего ожидать:
• Читаем главу из книги
• Запрыгиваем на звонок
• Смотрим презу по главе или презентуем сами
• Участвуем в обсуждении
• Слайды будут заливаться на Github, записи звонков на Youtube

Ссылочки:
• Календарь
• Слайды, записи, расписание
• Инвайт в чатик

Хотел было написать пост про то, что нынче из себя представляют собесы на research engineer, но Андрей меня опередил. И сделал это в 10 раз более детально и откровенно, чем я сам планировал. Опыт матчится на 100%.
https://asmekal.github.io/blog/posts/interviews-2025-ml-research-engineer-uk

P.S. Ну почти на 100%. Всё-таки у чувака куча лет опыта именно в ML, а я перекатыш xD

ML курс в Сколтехе подходит к концу! Студенты уже сдали все домашки и доделывают финальные проекты. А это значит, что можно опубликовать решения!

В репозитории найдете:
• Файлы с домашками
• Инфрастуктурные скрипты, чтобы основные файлы с задачами были чище
• Скрипты для авто оценки тестами
• Решения
• Тестовые данные

Хотелось соблюсти баланс между тем, чтобы оставить бедных студентов с чистым листом и набором тестов и сделать задачи слишком легкими и полностью провести их за ручку. Получилось или нет оставлю на ваш суд.

Код опубликован под открытой лицензией. Если вдруг тоже преподаете, то смело берите домашки и переиспользуйте как пожелает душа!

Из софтварного инженера в AI рисерч: Лондон-Москва и обратно.

Полтора года назад я оставил комфортную и понятную карьеру в Мете*, чтобы попробовать AI рисерч. Уехал из Лондона прожигать нажитое непосильным трудом в Москве, обучаясь в Сколтехе. С нулевым пониманием, что из этого выйдет, но отчаянным желанием попробовать. Как там писал товарищ Есенин? Пей и пой, моя подруга, на земле живут лишь раз? Вот, оно!

В Сколтехе я чувствовал себя бесконечно тупым. Не просто тупым, а именно что бесконечно. Вокруг сплошные олимпиадники. Они на 10 лет моложе, а шарят в ML** и математике в 10 раз лучше (на самом деле больше, но 10 выглядит хорошо). Я же перекладывал JSONы. Да, в Мете*. Да, у меня были охренительные коллеги. Но как бы курс матана у меня был больше 10 лет назад, да и его я весь прогулял, играя рокешник по подвалам.

Спустя примерно полгода мучений, исключительно благодаря помощи других студентов (Никита***, спасибо, что объяснил мне трансформер!) и научника (Алексей****, спасибо, что взял в лабу!), я начал чувствовать себя не отвратительно тупым, а уже тупым умеренно. ML начал ощущаться как сложная, но прикольная игра, а не повод повыть на луну. Наконец-то! Я скучал! Именно за этим чувством я и гнался, каким-то неведомым образом потеряв его в прошлой работе.

Попотел. Родил парочку папир*****. Одну из них приняли на EACL (это такая большая уважаемая конференция). Ура! Первые звоночки, что я что-то делаю так! Но... Я скучал по прикладному применению всех этих замечательных идей. Скучал по индустриальному масштабу. Скучал по импакту. Скучал по ресурсам (где мой кластер GPU?!!!!)

Офигенные коллеги - чек. Мозгодробительные рисерч пазлы - чек. Понятный прикладной импакт - как-то не очень.

Далее, мне люто повезло - я залетел в Mistral AI. Довелось поработать над инфрой для генерации синтетических данных. Передовая AI лаба, куча ресурсов и амбиций, бурный рост. Но... я работал над инфрой.

Офигенные коллеги - чек. Понятный прикладной импакт - чек. Мозгодробительные рисерч пазлы - как-то не очень (в моей роли).

Наконец, после нескольких месяцев поисков, кажется, я нашел. Оно. Сегодня я вышел в Revolut. Наверное, один из самых техничных банков в Европе. И меня взяли в рисерч команду, которая только недавно выпустила фаундейшн модель в финансах - PRAGMA! Ееее! Я буду пилить рисерч! Прикладной рисерч! Еще и менеджер люто скилловый, но очень приятный в общении - Антон Репушко (@repushko_channel).

Офигенные коллеги - чек. Понятный прикладной импакт - чек. Мозгодробительные рисерч пазлы - чек.

Это она? Светлая полоса? Взлетаем?

Пожелайте мне удачи! И, цитируя моих любимых Three Days Grace, "it is not too late, it is never too late".

* - террористы и плохие люди
** - machine learning, машинное обучение
*** - читайте Никиту, он классный - @buckwheat_thoughts
**** - если вы в Сколтехе, то ломитесь в лабу к Алексею
***** - publication a.k.a paper -> папира

Воронеж, аутсорс и стартапы, веб, конференции. Лондон, Meta, инфра, опен-сорс. Москва, Сколтех, вторая магистратура, первые публикации. Обратно в Лондон, Mistral AI и Revolut, индустриальный AI рисерч, постоянное чувство собственной тупости и предвкушение кучи приключений впереди. Впрочем, обо всем по порядку.

https://habr.com/ru/articles/1068450/