Оффер в сбер на 350к

В марте ко мне обратился Андрей. Его сократили в из компании и он впервые за 3 года вышел на рынок труда. Прошел пару собеседований и понял что нужна помощь.

17 марта мы стартанули.
На первом звонке я собрал все данные про опыт работы, задачи, челенджи, различные ситуации.
Для чего это нужно ? На каждом собеседование просят рассказать о себе. Поэтому чтобы не придумывать и не вспоминать о своем опыте лучше заранее всегда структурно его подготовить. А именно включить:
- текущий опыт, чем занимаешься
- проект, задачи
- что смог улучшить на проекте
- стек
- процессы
- куда хочешь сейчас двигаться(сфера, задачи)

Второй этап это просмотр собеседований и подготовка к техническим моментам.
На своей платформе даю ребятам обязательно посмотреть собеседования для понимания какие вопросы могут задать, какие бывают удачные или неудачные собеседования. Что не знаешь выписываешь или задаешь отдельные вопросы.

Третий этап это обязательные моковые собеседования. Прогнали с Андреем основные моменты по техничке и по софт скиллам.
Про синтаксис я тут не спрашиваю, а больше вопросы на понимание почему и как выбрал такое решение, а как правильно может быть, а какие трейдоффы и тд.

Четвертый этап собеседования + их разбор. Каждое собеседование просил Андрея записывать. Чтобы потом обязательно их разбирать. Смотреть моменты которые не знаешь, моменты где было непонятно.
Тут максимально важно детально разобрать ошибки. Плюс указываю дополнительно на что обратить внимание.


Итого: 12 мая Оффер в крупную компанию на хорошие деньги.
Очень важно отметить что всегда это заслуга ученика на 80%. Андрей супер быстро вырос в прохождении собесов за короткое время.

Оркестрация ИИ-агентов

Очень часто взаимодействую с оркестрацией агентов и решил разобрать как это может быть устроено на примере моего одного проекта.

Куда идет запрос: Фронтенд, бекенд, ИИ слой.?
Первым делом запрос с фронта идет не сразу в оркестратор, а в продуктовый бек. В нем добавляется вся информация о пользователе, его контекст, проверка сессии и тд. В общем дефолтный бек.
Оттуда уже запрос идет в бекенд оркестрации.

Самое важное за что отвечает оркестратор: безопасность, выбор модели, подбор агентов и инструментов. Разберем подробнее.

Гардрейлы на входе и выходе

Гардрейлы - это отдельный сервис, через который проходит запрос до и после модели.

На входе они чекают сам вопрос: на сколько данные деликатные, проверяется prompt injection, классификация данных.
После этой проверке происходит решение о маршруте: какую модель использовать, какой инструмент и нужно ли чистить/маркировать данные.
На выходе из этого узла агент уже получит "чистый" запрос и инструкцию какую LLM выбирать.

На выходе гардрейл проверит ответ модели:
утечка данных, корректность ответа. Если проверка/критика не прошла, запускается пост валидация или перегенераци ответа, а потом снова по цепочке.

Само решение по выбору модели исполняется на уровне прокси.

Выбор модели и маршрутизация

Маршрутизация моделей осуществляется единым прокси-слоем (litellm).
Это удобно тем что есть единый провайдер: агент вызывает «модель», не зная, локальная она или внешняя.

Обычно режимы такие:
1. Локальная модель в защищённом контуре для внутренних данных
2. Внешние модели через роутер для всего остального.

Цикл агента и инструменты

Внутренний агент работает в цикле.
Он получает запрос, контекст и список доступных инструментов ->
после модель решает, какой инструмент вызвать -> результат вызова возвращается в модель -> цикл повторяется, пока задача не решена или не достигнут лимит шагов.

Инструменты подключаются по MCP. Каждый источник (файлы, почта, таск-трекер) отдельный MCP-сервер.
Сверху стоит агрегатор MCP: он сводит все серверы в единую точку, чтобы агент видел один общий каталог инструментов вместо кучи подключений.

Под конкретный запрос оркестратор формирует набор инструментов и нужных агентов.
Это и есть мультиагентность: не один универсальный бот, а агенты, собираемые под задачу.

Итого:

Оркестратор = это слой между продуктовым бэкендом и моделями, который на каждый запрос решает: безопасен ли он, по какому маршруту и какой моделью отвечать, какие инструменты и агенты подключить, что делать при плохом ответе.


В воскресенье в 16 буду проводить ребятам урок по мультиагентным системам. Кому интересно отпишитесь в личку @kostya_xxxx

Шокирующая правда про ИИ

За последние 1.5 месяца провел 10 консультаций по поводу поиска работы, работы ИИ инженером.
У всех возникает похожий вопрос:

кто такой ии инженер и какие задачи он выполняет ?

Раскрою большой секрет:
90% компаний и нанимающих менеджеров сами не знают и понимают зачем им это все.

В мае-июне проходил большое количество собеседование на позиции ии техлида или просто ии инженера.
Понял что большинство компаний хотят внедрить просто потому что это «модно» , а не реально хотят решать сложные проблемы.

Щас мы ИИ внедрим и сразу половину сотрудников уволим

Я такое слышал несколько и меня конечно в смех бросало от недоумения почему они так думают.

Это я все к тому почему требования размыты и нет полного понимания кто такой ии инженер.
На практике происходит так:

1. нанимающий говорит нам нужен ии инженер сам не зная что нужно и как это работают
2. н*жн*й эйчар генерирует описание вакансии с чат гпт и начинает по ключевым словам искать.
3. вы в недоумении что значат магические слова харнесс или гермес в требованиях вакансии

Разберу как происходит на реальном рынке

под ии инженером понимают:
1. Разработчик умеющий применять нейронки.
Не просто промптить, а реально понимать как использовать инструменты чтобы результат был качественный и сделать фичу енд то енд от требований до полной раскатки.
2. Разработчик умеющий строить RAG пайплайн, писать агентов и грамотно интегрироваться LLM.

Что еще хочу отметить: часто обращаются разработчики, которые не знают питон и спрашивают как быть.
На деле жесткой привязки к языку нет, но во втором случае конечно чаще нужен будет питон.
В первом варианте видел вообще абсолютно разные языки: typescript, c#, java, go

Если у вас есть вопросы всегда можно написать спросить: @kostya_xxxx

Самый частый вопрос на собеседованиях для ИИ-инженера

Везде где я проходил собесы всегда присутствовал вопрос про качество выдачи результата нейронки (evals). Не важно это отдельный сервис, отдельный агент или просто написания кода за счет клода/кодекса.

1. Написание кода
Зачем спрашивают? Отсеять тех кто просто промптит, а не имеет настроенный процесс. На одном собесе мне напрямую сказали, что кто просто промптит мы не рассматриваем.

Тут я всегда рассказываю про свой подход работы своего воркфлоу.
В своей работе у меня несколько паттернов для решения задачи:
если задача большая:
- спличу на мелкие куски аналитику
- разбиваю на изолированные подзадачи
- по каждой позадаче провожу детальную аналитику + ресерч по коду. оформляется в конце в виде артефакта
- синтезирую инфу из артефактов и собираю как можно больше корнер кейсов, ищу потенциальные трейдоффы, слабые места
После этого только начинаю делать тех диз + ревью тех диза. Тут я провожу больше всего времени. Схемы, связи, архитектура.
Смотрю как это все встраивается. Если все ок, апрувнул далее просто запускаю воркфлоу по SDLC. Результат в 90% очень качественно выдается и нет проблем.

2. ИИ-фича/ии-агент
Зачем спрашивают? Узнать твой опыт, какие подходы, паттерны знаешь.
Тут есть много разных подходов, но самые частые, которые я использую это:
- детермированная структура (json или другие)
- агент-критик/судья
- golden dataset

Важно чтобы критика осуществлялась другим агентом/моделью. На селф ревью нейронка может легко ошибиться и выдать желаемое за действительное. Поэтому агента-критика создаю отдельно или вызываю другую модель.

Golden dataset очень мощная практика на большом обьеме данных. Условно есть 10к записей где нужно по шаблону что-то поменять. Нейронка 100% налажает где-то. Поэтому я бью весь обьем на чанки по 1к, прогоняю весь процесс и отдельно делаю себе датасеты с результатами: идеально, приемлемо, брак.
После этого уже отдельной проверкой сравниваю еще раз. Фактически сравниваю это с выдачей.

По детермированной структуре все достаточно просто. Говорю какой нужен output, обязательное соблюдение таких и таких параметров и дальше уже сама проверка происходит гораздо легче.

Вопрос про качество самый частый который у меня был и наверное самый важный.
В моем курсе будет отдельный ролик про качество и полноценный развернутый ответ на этот вопрос.

Ай да красавчик

В субботу провел звонок в сообществе у айти красавчика по теме новой профессии ИИ-инженера. Спасибо большое Жене, что дал возможность провести созвон и спасибо ребятам, которые пришли и задавали вопросы. Как мне кажется вышло очень продуктивно.

Старался рассказать все максимально близко к практике, чтобы новую информацию можно было применить в реальной работе.

Один вопрос хотел бы отдельно раскрыть.
Много ребят интересовались как сложно перекатиться свитчнуться в эту тему.
Скажу так: постепенно мы движемся к тому что вся профессия программист/разработчик сильно размоется и у нас будут позиции по типу AI-builder или AI product engineer.

Я вижу это прямо сейчас. Уже не важно какой язык ты знаешь, ты можешь писать на любом: Java, Python,Rust. Если знаешь как грамотно проектировать системы тебе все равно на специфику. Не нужно сидеть часами изучать синтаксис.

Прямо сейчас я сам работаю с 3 бекенд языками и двумя фреймворками на фронте. При этом если спросить меня вопросы по особенностям этих языков я не отвечу 100%, но 100% построю классный продукт или быстро запилю фичу.

Один раз помню на собесе на бекенд node.js разработчика спросили вопрос:

Расскажи пайплайн перевода JS кода в машинный код

В реальности ну вообще кому эти знания сдались для обычного разработчика сервисов? Главное доносить результат, а не знать спецификацию 139 страницы в 3 главе.

Постепенно все поменяется. Можно идти в ногу со временем, а можно бежать за уезжающим поездом, это уже выбирать вам.

P.S. активно работаю над своим курсом как быстро свитчнуться с разных профессий в ии-инженера.

Доработал программу: теория, домашка с практикой + модуль для трудоустройства.
Теория уже в курсе, домашку скоро выложу и активно записываю модуль по поиску работы.

AI-инженер = снова самая быстрорастущая профессия в мире. Второй год подряд.

Нам об этом говорит свежий отчёт LinkedIn: с 2023 по 2025 в США добавили 639 000 вакансий, связанных с ИИ. Из них 75 000 конкретно «AI Engineer».

Да, это статистика по США. У нас в РФ такой публичной статистики по ии и конкретно по AI-инженерам никто не ведёт. Но тренд абсолютно прозрачен.

Можно посмотреть на вакансии и на то, как компании начинают реально внедрять ии в процессы. И главное вырос спрос на людей, которые умеют довести это все до реально рабочей ИИ-системы.

Есть популярное мнение что вот-вот этот пузырь лопнет. Годик-два и В С Ё. Ну в реальности упадут акции каких-то компаний, сами технологии и процессы то останутся.

Поэтому я думаю новые знания и технологии в любом случае понадобятся почти каждому айтишнику.

Как я провел лето без ИИ

Не смотря на число только сейчас начал ощущать конец лета и решил подвести итоги.
В прошлые разы рассказывал про Черногорию и
Таиланд, Вьетнаме , Южная Корея
Этим летом был в Грузии, Казахстане, Москве и Питере.
В Грузии пил чачу и тусил с иностранцами, которые приехали на концерт Канье Веста , а в Алмате ел тар тар из конины в великолепном ресторане АУЛ.

Конечно, одно из самых главных изменений это самый большой оффер за мою карьеру и новая должность.

Вообще рефлексировал и понял что очень верно выбрал год назад обучаться ИИ, читать книги смотреть видео практиковаться.
Фактически новые знания перезагрузили мою карьеру.
Снова стало интересно работать, снова я могу гнуть пальцы перед эйчарками, т.к. таких специалистов на рынке единицы.

А так в общем лето было насыщенно, много эмоций, приколов и вкусных ресторанчиков 😋

Да я вообще все знаю про агентов и ИИ

Пообщался с тимлидом из одной крупной ритейл компании(скрин выше) и подтвердил себе два тезиса о которых постоянно думаю.

1. Внедрение ии-инструментов без грамотной инфраструктуры, аналитики и конфигурации не ускоряют, а даже замедляют работу
2. Разработчики вообще не умеют пользоваться этими инструментами

Поговорим детальнее про второе.
За последний год я пообщался, наверное, с сотней разработчиков и все мне говорили, что пользуются агентами, знают про mcp и используют все популярные инструменты.
Я задумывался как так? Я вот только только пришел к этому, выработал свой подход, а они уже все знают.

В реальности было все прозаичнее.
Когда я копал глубже и спрашивал как они детально используют инструменты, я все понял .

Большая часть разработчиков просто промптят без какого-то паттерна.

Сделай фичу, но только без ошибок брат.

Ну и использовать курсор на авто моде тоже качества не особо дает.

Почему и главное зачем вообще об этом говорить?
Главное что это начали спрашивать на собесах.
- покажи свою раскладку
- как ты делаешь
- что используешь
- что делаешь
- как проектируешь
- как работаешь с требованиями

Сделать промпт и потом докручивать часами фичу в разы тяжелее чем потратить час на проектирование и 10 минут работы агента с ожидаемым результатом.

Но никто конечно не виноват в том что делает не так.
Это абсолютно новая сфера, которая формируется буквально сейчас.
Просто надо к этому относиться как к сложному инструменту. Вы же без обучения не сможете на экскаваторе с первого все сделать, тут тоже самое.
Нужно учиться и понимать.


На это как раз я акцентирую внимание в своем курсе и сделал отдельный урок про контроль качества.
В скором времени уже буду делать анонс, тк основная часть уже почти сделана.

Как я не нашел работу, а потом Бац и нашел! Свитч в ии-инженера

Последние годы меня подбешивало что работу стало найти в разы сложнее. Тысячи откликов на вакансии, эйчары начали общаться как с рабом.

В конце 2024 я прям думал перейти или в гошку или в мл. Постоянно сидел сравнивал, брал консультации. Ну и так не решил до осени 25.

В сентябре приехал после Дубая и начал изучать ИИ. Конечно, у меня была проблема что у меня не было какой-то структруности. Что вообще учить чтобы перейти в ИИ и делать большие приложения с агентами я не представлял.

Начал просто читать классику ML, как работают модели, рекомендации, классификация и тд.
Обновил резюме, указал что хочу развиваться в ИИ и разрабатывать агентов. На тот момент таких вакансий было единицы.

По стечению обстоятельств меня пригласили на одну такую вакансию на 6-9к евро и в финтех в РФ.
Обе вакансии были похожие: нужен фуллстек, который грамотно использует ИИ-инструменты, готов в этом развиваться, доставлять быстрый продуктовый результат и интегрироваться с LLM.
60% бекенда, 20% фронтенда и 20% интеграции с МЛ-сервисами / разработка пайплайнов и т.д.

9к евро звучало конечно супер вкусно, но второй тех этап туда я не прошёл. Первый был такой небольшой экскурс по сис дизу и несколько вопросов как проектировал бы их приложение (голосовой ИИ-стартап).

А вот в РФ-компанию устроился и получил огромный опыт за короткое время.
Успел поковырять и поработать над корпоративным ии-ассистентом, посмотреть на большой RAG с метриками и наши тюнеными моделями.
Дальше сделал архитектуру приложения с мультиагентской системой, всё распилил на куски, спроектировал все сложные моменты.

Прошел почти год с той осени и я очень рад что инвестировал время в обучение. Эйчарки пишут сами, в разы проще найти работу и проект.
Главное что вокруг никто не понимает как это все делать правильно с ИИ. А если умеешь то смотрят думают ты бог какой-то умеешь настроить ии-конфигурацию, mcp, агентов и тд.

Я доделал курс по свитчу в ии-инженера. Постарался сделать упор, чтобы проще и быстрее находить работу. Анонс на этой неделе будет.

Нам никогда не внедрить ИИ правильно

Вот тут упомянул одну из серьезных проблем на текущий момент развития технологий. Одна из них == отсутствие конфигурации, инфраструктуры под ИИ. Разложу детальнее, что имею в виду.

Многие компании под ии-трансформацией понимают такое: выдадим всем подписки клод код/кодекс и дадим токенов, чтобы везде навнедряли нам ИИ.
Итог: только 5 процентов компаний успешно внедрили ии в процессы/продукты.

Но почему же так? Где хвалёное ускорение от ИИ? Первую причину уже писал в том же посте: это lack of knowledge.
Никто не знает, как правильно пользоваться этими инструментами.
А вторая, не менее весомая == нет никакой выстроенной инфраструктуры, конфигурации под это всё.

Что я имею в виду под ии-инфраструктурой? Специализированные пакеты внутри компании под конкретные задачи, именно для решения проблем в компании.
Скиллы, агенты, mcp, контекст об архитектуре, коннекторы к внутренним системам, доменный контекст, память.
В общем, всё то, что даст быстрый нужный контекст нейронке, чтобы она быстрее и грамотнее могла выполнить последовательно таски.

Расскажу про классный пример, где уже такое внедренно.
Мой друг продуктовый дизайнер полгода назад стал так называемым AI Builder. На работе он просто пилит фичу за фичей фронтенд/бекенд. Начиная от требований заканчивая доставкой до стенда.
У него нет инженерного бекграунда.
Просто он знает как работают продукты и фигачит с клодом, лезет спокойно в логи кибаны, узнает почему упал сервис, комитит и пушит как обычный разработчик.
Но в жизни сам он не написал ни строчки кода.

Все благодаря грамотной выстроенной конфигурации, которую ему сделали ии-инженеры. Результат сами понимаете шикарный. Дизайнер пилит сам работающие фичи и все рады.

Поэтому на текущий момент нужно не только уметь промптить но и делать доп обвязку для всего проекта.

Мне кажется нужно инвестировать время в решение таких узких мест, а не на нейминг что там написала нейронка. А вы как думаете?

Сезон начался

В сентябре hr прям активизировались, много пишут на линке/хх.

Данная позиция для senior-lead ai engineer на разработку корпоративного ассистента.