Я В ШОКЕ ОТ СОВРЕМЕННОГО ОБРАЗОВАНИЯ

Общаюсь с большим количествим ребят-разработчиков, один из них очень талантливый и учится в университете в Казани. Он рассказал чему они обучаются и меня это реально шокировало.

Примерная программа:

1 курс: мат анализ, дискретка, линал, программирование на джаве, алгоритмы.
2 курс: машинное обучение, мат статистика, теория вероятности, базы данных, веб прога на джаве

Что меня удивило так обучение происходит действительно важных вещей, которые реально используются в продакшене.
Учить шардирование и векторные БД в свои 19 я вряд ли бы додумался, а через некоторое время это станет стандартом.

В мое время 10 лет назад в политехе в питере были предметы совершенно не связанные с реальной разработкой. Бтв, я учил PHP! 🤣🤣🤣
А когда пришел показывать показывать проект на React/Vue в 2017 там не то что не знали что это, было ноль понимания что оказывается существует фронтенд!

Очень рад что молодым ребятам открыт такой огромный доступ к информации и они могут вырасти в крутых инженеров и потом будут пилить классные проекты, продукты.
Сейчас выйдя после учебы можно выйти уже плотным миддлом и это кайф.

Как было у вас устроено обучение в унике или происходит сейчас?

Убегаю из России!!! (нет)

Последний раз Даша путешественница рассказывала как прибыла в Черногорию. Там я пробыл 2 недели, максимально кайфанул, крайне советую всем Черногорию. После этого поехал в Сербию, дальше в Сочи, Питер, Москва, Ташкент, Самарканд и сейчас уже пару недель в Казахстане.

Каждое новое место и страна дает понять где тебе нравится, что тебе нравится и сравнить места, где живешь сам. В России супер классно айти, цифровизация, автоматизаци в сравнении с другими странами.
Пока что для себя точно понял что в питере не могу уже жить, 8 месяцев плохой погоды ужасно ощущается. Поэтому пока решил пожить вне Питера.

Новые идеи
Также и появляются новые идеи, когда смотришь на мир под другим углом. Начиная с конца марта вынашивал идеи внедрять ИИ в МСП(малый-средний бизнес) для оптимизации рутины.

На текущий момент только айтишники понимают как можно применять ИИ и ускорять работу, а МСП все также ведет таблички в екселе или срмке, но шаг влево шаг вправо и уже нужна новая фича для такого продукта.
Все эти мультиагентные системы работают классно, но в реальности очень мало где реально внедрены. Поэтому есть идея помогать внедрять подобное.

Невероятные совпадения
Улетая из Еревана в Черногорию в 6 утра сотрудники АК FlyOneArmenia (худшая авиакомпания) сказали что мне нужно доплатить 40 евро чтобы зарегистрироваться на рейс и нужно идти оплачивать прямо сейчас в другой конец аэропорта.
Я конечно был несказано рад такому, а потом мне еще нахамили за то что я русский.
НО! При оплате регистрации совершенно случайно познакомился с чуваком, которому тоже нужно было оплатить ее. Слово за слово и оказалось что ему нужны люди кто настроит мультиагентную архитектуру в его приложении! Я подумал на судьба, надо точно подобное делать.
А потом еще через пару дней познакомился с парой, которая в Париже продала ИИ приложуху для магазинов моды.

Куда движемся
Прямо сейчас делаю для клиентов небольшое приложение с ИИ для оптиизации работы с данными, бухгалтерией, аналитикой, отчетами, оптимизацией проверок заказов и тд.

Если у вас или ваших знакомых есть рутина которую хотите оптимизировать с ИИ, но не знаете как, то с радостью обсужу с вами. Сейчас набираю первые кейсы и беру недорого.

ЛС: @kostya_xxxx

Оффер в сбер на 350к

В марте ко мне обратился Андрей. Его сократили в из компании и он впервые за 3 года вышел на рынок труда. Прошел пару собеседований и понял что нужна помощь.

17 марта мы стартанули.
На первом звонке я собрал все данные про опыт работы, задачи, челенджи, различные ситуации.
Для чего это нужно ? На каждом собеседование просят рассказать о себе. Поэтому чтобы не придумывать и не вспоминать о своем опыте лучше заранее всегда структурно его подготовить. А именно включить:
- текущий опыт, чем занимаешься
- проект, задачи
- что смог улучшить на проекте
- стек
- процессы
- куда хочешь сейчас двигаться(сфера, задачи)

Второй этап это просмотр собеседований и подготовка к техническим моментам.
На своей платформе даю ребятам обязательно посмотреть собеседования для понимания какие вопросы могут задать, какие бывают удачные или неудачные собеседования. Что не знаешь выписываешь или задаешь отдельные вопросы.

Третий этап это обязательные моковые собеседования. Прогнали с Андреем основные моменты по техничке и по софт скиллам.
Про синтаксис я тут не спрашиваю, а больше вопросы на понимание почему и как выбрал такое решение, а как правильно может быть, а какие трейдоффы и тд.

Четвертый этап собеседования + их разбор. Каждое собеседование просил Андрея записывать. Чтобы потом обязательно их разбирать. Смотреть моменты которые не знаешь, моменты где было непонятно.
Тут максимально важно детально разобрать ошибки. Плюс указываю дополнительно на что обратить внимание.


Итого: 12 мая Оффер в крупную компанию на хорошие деньги.
Очень важно отметить что всегда это заслуга ученика на 80%. Андрей супер быстро вырос в прохождении собесов за короткое время.

Оркестрация ИИ-агентов

Очень часто взаимодействую с оркестрацией агентов и решил разобрать как это может быть устроено на примере моего одного проекта.

Куда идет запрос: Фронтенд, бекенд, ИИ слой.?
Первым делом запрос с фронта идет не сразу в оркестратор, а в продуктовый бек. В нем добавляется вся информация о пользователе, его контекст, проверка сессии и тд. В общем дефолтный бек.
Оттуда уже запрос идет в бекенд оркестрации.

Самое важное за что отвечает оркестратор: безопасность, выбор модели, подбор агентов и инструментов. Разберем подробнее.

Гардрейлы на входе и выходе

Гардрейлы - это отдельный сервис, через который проходит запрос до и после модели.

На входе они чекают сам вопрос: на сколько данные деликатные, проверяется prompt injection, классификация данных.
После этой проверке происходит решение о маршруте: какую модель использовать, какой инструмент и нужно ли чистить/маркировать данные.
На выходе из этого узла агент уже получит "чистый" запрос и инструкцию какую LLM выбирать.

На выходе гардрейл проверит ответ модели:
утечка данных, корректность ответа. Если проверка/критика не прошла, запускается пост валидация или перегенераци ответа, а потом снова по цепочке.

Само решение по выбору модели исполняется на уровне прокси.

Выбор модели и маршрутизация

Маршрутизация моделей осуществляется единым прокси-слоем (litellm).
Это удобно тем что есть единый провайдер: агент вызывает «модель», не зная, локальная она или внешняя.

Обычно режимы такие:
1. Локальная модель в защищённом контуре для внутренних данных
2. Внешние модели через роутер для всего остального.

Цикл агента и инструменты

Внутренний агент работает в цикле.
Он получает запрос, контекст и список доступных инструментов ->
после модель решает, какой инструмент вызвать -> результат вызова возвращается в модель -> цикл повторяется, пока задача не решена или не достигнут лимит шагов.

Инструменты подключаются по MCP. Каждый источник (файлы, почта, таск-трекер) отдельный MCP-сервер.
Сверху стоит агрегатор MCP: он сводит все серверы в единую точку, чтобы агент видел один общий каталог инструментов вместо кучи подключений.

Под конкретный запрос оркестратор формирует набор инструментов и нужных агентов.
Это и есть мультиагентность: не один универсальный бот, а агенты, собираемые под задачу.

Итого:

Оркестратор = это слой между продуктовым бэкендом и моделями, который на каждый запрос решает: безопасен ли он, по какому маршруту и какой моделью отвечать, какие инструменты и агенты подключить, что делать при плохом ответе.


В воскресенье в 16 буду проводить ребятам урок по мультиагентным системам. Кому интересно отпишитесь в личку @kostya_xxxx

Шокирующая правда про ИИ

За последние 1.5 месяца провел 10 консультаций по поводу поиска работы, работы ИИ инженером.
У всех возникает похожий вопрос:

кто такой ии инженер и какие задачи он выполняет ?

Раскрою большой секрет:
90% компаний и нанимающих менеджеров сами не знают и понимают зачем им это все.

В мае-июне проходил большое количество собеседование на позиции ии техлида или просто ии инженера.
Понял что большинство компаний хотят внедрить просто потому что это «модно» , а не реально хотят решать сложные проблемы.

Щас мы ИИ внедрим и сразу половину сотрудников уволим

Я такое слышал несколько и меня конечно в смех бросало от недоумения почему они так думают.

Это я все к тому почему требования размыты и нет полного понимания кто такой ии инженер.
На практике происходит так:

1. нанимающий говорит нам нужен ии инженер сам не зная что нужно и как это работают
2. н*жн*й эйчар генерирует описание вакансии с чат гпт и начинает по ключевым словам искать.
3. вы в недоумении что значат магические слова харнесс или гермес в требованиях вакансии

Разберу как происходит на реальном рынке

под ии инженером понимают:
1. Разработчик умеющий применять нейронки.
Не просто промптить, а реально понимать как использовать инструменты чтобы результат был качественный и сделать фичу енд то енд от требований до полной раскатки.
2. Разработчик умеющий строить RAG пайплайн, писать агентов и грамотно интегрироваться LLM.

Что еще хочу отметить: часто обращаются разработчики, которые не знают питон и спрашивают как быть.
На деле жесткой привязки к языку нет, но во втором случае конечно чаще нужен будет питон.
В первом варианте видел вообще абсолютно разные языки: typescript, c#, java, go

Если у вас есть вопросы всегда можно написать спросить: @kostya_xxxx

Самый частый вопрос на собеседованиях для ИИ-инженера

Везде где я проходил собесы всегда присутствовал вопрос про качество выдачи результата нейронки (evals). Не важно это отдельный сервис, отдельный агент или просто написания кода за счет клода/кодекса.

1. Написание кода
Зачем спрашивают? Отсеять тех кто просто промптит, а не имеет настроенный процесс. На одном собесе мне напрямую сказали, что кто просто промптит мы не рассматриваем.

Тут я всегда рассказываю про свой подход работы своего воркфлоу.
В своей работе у меня несколько паттернов для решения задачи:
если задача большая:
- спличу на мелкие куски аналитику
- разбиваю на изолированные подзадачи
- по каждой позадаче провожу детальную аналитику + ресерч по коду. оформляется в конце в виде артефакта
- синтезирую инфу из артефактов и собираю как можно больше корнер кейсов, ищу потенциальные трейдоффы, слабые места
После этого только начинаю делать тех диз + ревью тех диза. Тут я провожу больше всего времени. Схемы, связи, архитектура.
Смотрю как это все встраивается. Если все ок, апрувнул далее просто запускаю воркфлоу по SDLC. Результат в 90% очень качественно выдается и нет проблем.

2. ИИ-фича/ии-агент
Зачем спрашивают? Узнать твой опыт, какие подходы, паттерны знаешь.
Тут есть много разных подходов, но самые частые, которые я использую это:
- детермированная структура (json или другие)
- агент-критик/судья
- golden dataset

Важно чтобы критика осуществлялась другим агентом/моделью. На селф ревью нейронка может легко ошибиться и выдать желаемое за действительное. Поэтому агента-критика создаю отдельно или вызываю другую модель.

Golden dataset очень мощная практика на большом обьеме данных. Условно есть 10к записей где нужно по шаблону что-то поменять. Нейронка 100% налажает где-то. Поэтому я бью весь обьем на чанки по 1к, прогоняю весь процесс и отдельно делаю себе датасеты с результатами: идеально, приемлемо, брак.
После этого уже отдельной проверкой сравниваю еще раз. Фактически сравниваю это с выдачей.

По детермированной структуре все достаточно просто. Говорю какой нужен output, обязательное соблюдение таких и таких параметров и дальше уже сама проверка происходит гораздо легче.

Вопрос про качество самый частый который у меня был и наверное самый важный.
В моем курсе будет отдельный ролик про качество и полноценный развернутый ответ на этот вопрос.

Ай да красавчик

В субботу провел звонок в сообществе у айти красавчика по теме новой профессии ИИ-инженера. Спасибо большое Жене, что дал возможность провести созвон и спасибо ребятам, которые пришли и задавали вопросы. Как мне кажется вышло очень продуктивно.

Старался рассказать все максимально близко к практике, чтобы новую информацию можно было применить в реальной работе.

Один вопрос хотел бы отдельно раскрыть.
Много ребят интересовались как сложно перекатиться свитчнуться в эту тему.
Скажу так: постепенно мы движемся к тому что вся профессия программист/разработчик сильно размоется и у нас будут позиции по типу AI-builder или AI product engineer.

Я вижу это прямо сейчас. Уже не важно какой язык ты знаешь, ты можешь писать на любом: Java, Python,Rust. Если знаешь как грамотно проектировать системы тебе все равно на специфику. Не нужно сидеть часами изучать синтаксис.

Прямо сейчас я сам работаю с 3 бекенд языками и двумя фреймворками на фронте. При этом если спросить меня вопросы по особенностям этих языков я не отвечу 100%, но 100% построю классный продукт или быстро запилю фичу.

Один раз помню на собесе на бекенд node.js разработчика спросили вопрос:

Расскажи пайплайн перевода JS кода в машинный код

В реальности ну вообще кому эти знания сдались для обычного разработчика сервисов? Главное доносить результат, а не знать спецификацию 139 страницы в 3 главе.

Постепенно все поменяется. Можно идти в ногу со временем, а можно бежать за уезжающим поездом, это уже выбирать вам.

P.S. активно работаю над своим курсом как быстро свитчнуться с разных профессий в ии-инженера.

Доработал программу: теория, домашка с практикой + модуль для трудоустройства.
Теория уже в курсе, домашку скоро выложу и активно записываю модуль по поиску работы.

AI-инженер = снова самая быстрорастущая профессия в мире. Второй год подряд.

Нам об этом говорит свежий отчёт LinkedIn: с 2023 по 2025 в США добавили 639 000 вакансий, связанных с ИИ. Из них 75 000 конкретно «AI Engineer».

Да, это статистика по США. У нас в РФ такой публичной статистики по ии и конкретно по AI-инженерам никто не ведёт. Но тренд абсолютно прозрачен.

Можно посмотреть на вакансии и на то, как компании начинают реально внедрять ии в процессы. И главное вырос спрос на людей, которые умеют довести это все до реально рабочей ИИ-системы.

Есть популярное мнение что вот-вот этот пузырь лопнет. Годик-два и В С Ё. Ну в реальности упадут акции каких-то компаний, сами технологии и процессы то останутся.

Поэтому я думаю новые знания и технологии в любом случае понадобятся почти каждому айтишнику.

Как я провел лето без ИИ

Не смотря на число только сейчас начал ощущать конец лета и решил подвести итоги.
В прошлые разы рассказывал про Черногорию и
Таиланд, Вьетнаме , Южная Корея
Этим летом был в Грузии, Казахстане, Москве и Питере.
В Грузии пил чачу и тусил с иностранцами, которые приехали на концерт Канье Веста , а в Алмате ел тар тар из конины в великолепном ресторане АУЛ.

Конечно, одно из самых главных изменений это самый большой оффер за мою карьеру и новая должность.

Вообще рефлексировал и понял что очень верно выбрал год назад обучаться ИИ, читать книги смотреть видео практиковаться.
Фактически новые знания перезагрузили мою карьеру.
Снова стало интересно работать, снова я могу гнуть пальцы перед эйчарками, т.к. таких специалистов на рынке единицы.

А так в общем лето было насыщенно, много эмоций, приколов и вкусных ресторанчиков 😋

Да я вообще все знаю про агентов и ИИ

Пообщался с тимлидом из одной крупной ритейл компании(скрин выше) и подтвердил себе два тезиса о которых постоянно думаю.

1. Внедрение ии-инструментов без грамотной инфраструктуры, аналитики и конфигурации не ускоряют, а даже замедляют работу
2. Разработчики вообще не умеют пользоваться этими инструментами

Поговорим детальнее про второе.
За последний год я пообщался, наверное, с сотней разработчиков и все мне говорили, что пользуются агентами, знают про mcp и используют все популярные инструменты.
Я задумывался как так? Я вот только только пришел к этому, выработал свой подход, а они уже все знают.

В реальности было все прозаичнее.
Когда я копал глубже и спрашивал как они детально используют инструменты, я все понял .

Большая часть разработчиков просто промптят без какого-то паттерна.

Сделай фичу, но только без ошибок брат.

Ну и использовать курсор на авто моде тоже качества не особо дает.

Почему и главное зачем вообще об этом говорить?
Главное что это начали спрашивать на собесах.
- покажи свою раскладку
- как ты делаешь
- что используешь
- что делаешь
- как проектируешь
- как работаешь с требованиями

Сделать промпт и потом докручивать часами фичу в разы тяжелее чем потратить час на проектирование и 10 минут работы агента с ожидаемым результатом.

Но никто конечно не виноват в том что делает не так.
Это абсолютно новая сфера, которая формируется буквально сейчас.
Просто надо к этому относиться как к сложному инструменту. Вы же без обучения не сможете на экскаваторе с первого все сделать, тут тоже самое.
Нужно учиться и понимать.


На это как раз я акцентирую внимание в своем курсе и сделал отдельный урок про контроль качества.
В скором времени уже буду делать анонс, тк основная часть уже почти сделана.