27

Сегодня стал на год старше и вот какие невероятные инсайты я понял:

1. Нужно хорошо спать
2. Кушать вкусную еду
3. Делать бегит и спорт

А серьезно за год супер много поменялось. Оказалось развивать свои продукты, обучать людей и вести ютуб гораздо в разы сложнее чем просто сидеть на зп на трех работах.

Я стартовал свою первую работу верстальщиком в 18 лет.
Сейчас уже 9 лет в IT.
Что понял за это время:

1. Скиллы важны. Но умение продавать важнее.
Деньги приходят от умения продавать себя.
Можно быть сильным разработчиком и сидеть на 100к.
А можно быть просто нормальным и зарабатывать в разы больше, потому что умеешь себя продать.

2. Адаптация решает.

Сейчас всё меняется слишком быстро: технологии, требования, найм. И не важно какой рынок был вчера и как звали на тысячи собесов с зп 900к.
Те, кто цепляются за «как было раньше» выпадают из игры.
Выживут те, кто умеет быстро перестраиваться.

3. Фронтенд = мертв.
За последний год я устроил 20 человек.
И честно это было очень сложно.

Сейчас начал работать с фуллстеками и бекендерами и это в разы проще, чем пробиваться через 5к откликов на каждой позиции.

Цели на следующий год:
Кайфовать
Вкусно кушать
Путешествовать
Может даже найти себе тарелочницу

Собес на 600к. Техничка.

Сходил на собеседование по этой вакансии, на деле оказалось очень просто. Было ощущение что знаю больше про агентную архитектуру чем собеседующий.

Вкратце сам собес был такой:

1. Рассказ о себе о опыте
2. Секция фронтенд
- Архитектура фронтенда (FSD, feature-based, микрофронты, монорепа)
- как внедрить кнопку контекстного меню с LLM во все приложения фронта (перечислить)
3. ИИ секция
- Как проектировал ИИ-ассистента? ( RAG, данные, чанки, векторные БД )
- с какими ошибками сталкивался у агентов?
- оркестрация агентов (LangChain, LangGraph)
- мульти-агентная архитектура
4. Бекенд секция
- транзакции
- kafka vs rabbitMq
- базовый питон
- как общаются микросервисы?

Сам собес в открытый доступ выкладывать не планирую, а думаю оставить его только в рамках своего курса.

Фронтенд мертв. Что дальше ?

За месяц пообщался с 10 разными фронтами и у всех плюс минус одна проблема:

Фронт вакансий супер мало, хочется развиваться но непонятно куда

На счет рынка действительно все супер плохо по 5к откликов на вакансию, жесткий демпинг по зп и так далее.

Выбираться из этого я рекомендую переходом в фуллстек/бек. Самый быстрый способ. Выучить ноду/питон/гошку и работа явно быстрее найдется в разы.

Само обучение может занять от 1.5 до 3-4 месяцев. В случае с нодой супер быстро, но вакансий поменьше чем на том же питоне.

Плюс учитывая развитие ИИ все это можно выучить супер быстро и пойти работать клепать апишки.

Как я вижу самые популярные и интересные решения для ИИ приложений делаются на питоне + тайпскрипте. Как один из вариантов погружения.

Адаптироваться в любом случае придется, если хотите находить новые проекты или апать зарплату.

Использование нейронок в закрытом контуре

У многих компаний есть NDA по запрету отправки кода в внешние LLM.

Почему?
1. Безопасность
За счет данных кодовой базы можно найти утечки и поломать приложение. Учитывая современные гибридные войны этот аспект очень важно учитывать.
2. Коммерческая тайна
Стратегические планы.
Сведения о партнёрах и контрактах.
Тендеры и переговоры.
Что угодно может повлиять на работе компании в дальнейшем.

Как крупные компании решают эту проблему ?
Крупные компании идут другим путём: запускают модели прямо на своих серверах. Qwen и Llama самые популярные варианты на текущий момент.

Пример:

from ollama import Client

client = Client(host='http://localhost:11434')

response = client.generate(
    model='qwen:7b-code',
    prompt="""Проанализируй код нашего микросервиса:
    
{SECRET_CODEBASE}

Найди уязвимости"""
)

Qwen наверное самый известный и на слуху. Одна из лучших open-source моделей для кода. Но есть подвох.
Кто пользовался говорят что модель «глуповата».

Все из-за того что локальная модель имеет небольшое контекстное окно.

Локальный Qwen видит только 32K токенов контекста.
Если ваш микросервис состоит из 20 файлов,
модель видит максимум 2-3 из них полностью.

Но это локальная модель поставленная на собественный компьютер. У больших компаний есть большие ресурсы. Они могут поставить мощную модель и потом "тюнить" ее под нужды.

Локальные модели будут глупее условного Клода. Но у крупных компаний есть большие ресурсы и они могут использовать fine tuning для улучшения качества кодинга.
Если есть данные на которых можно обучить ( десятки тысяч строк кода ), модель в крупной компании так и обучат.

MCP изнутри: составные части и пишем свой сервер
В прошлый раз разобрали зачем нужен MCP и какую проблему он решает. Сегодня смотрим что там внутри и как написать свой сервер с нуля.

Три участника: Host, Client, Server
Любая MCP-система состоит из трёх частей.
MCP Host = это приложение, в котором живёт AI-агент. Например Claude Desktop, Cursor. Хост запускает всё и управляет соединениями.

MCP Client = живёт внутри хоста и общается с сервером один-к-одному. Один клиент = одно соединение с одним сервером.
Клиент это посредник: передаёт запросы от агента и возвращает ответы обратно.

MCP Server = лёгкая программа/сервер, которую пишете вы. Она подключается к вашим данным (БД, API, файлы) и отдаёт их агенту.

Что умеет отдавать сервер : три примитива
Сервер может отдавать три вещи.
Tools = функции, которые AI вызывает сам. Запрос в базу, отправка письма, вызов API. Аналог POST-эндпоинта: что-то выполняется и возвращается результат.

Resources = данные, которые AI читает в контекст. Файл, строки из таблицы, содержимое документа. Аналог GET-эндпоинта: просто читаем, не меняем.

Prompts = готовые шаблоны для типовых задач. Стандартные заготовленные шаблоны для ваших целей.

Для большинства практических задач достаточно Tools. Их используем чаще всего.

Пишем свой MCP-сервер на TypeScript
Используем официальный SDK от Anthropic @modelcontextprotocol/sdk.

Пример: сервер с одним тулом, который возвращает данные по проекту из условной базы.

// Создаём сервер с именем и версией
const server = new McpServer({
  name: “vash-server",
  version: "3.2.2",
});

// Регистрируем тул функцию, которую сможет вызвать AI
server.tool(
  "get_project_data",                        // имя тула
  "Получить данные по проекту за период",    // описание для AI
  {
    project_name: z.string().describe("Название проекта"),
    month: z.string().describe("Месяц в формате YYYY-MM"),
  },
  async ({ project_name, month }) => {
    // Здесь ваша реальная логика: запрос в БД, вызов API и т.д.
    const data = await fetchFromDatabase(project_name, month);

    return {
      content: [{ type: "text", text: JSON.stringify(data) }],
    };
  }
);

Что тут происходит: создаём сервер, описываем тул с параметрами через Zod-схему (AI сам разберётся какие параметры передавать), внутри пишем любую логику.

И дальше подключаемся например к Claude desktop

{
  "mcpServers": {
    "vash-server": {
      "command": "node",
      "args": ["/путь/до/вашего/server.js"]
    }
  }
}

Теперь можно писать в чат: "выдай данные по проекту Альфа за январь 2025" и Claude сам вызовет ваш сервер.

1000 тулов MCP для ИИ-агента

Мы уже разобрались что такое MCP, из чего он состоит и как написать свой сервер. Но часто совершают серьезную ошибку при работе с MCP.

Этой ошибкой является дать агенту все доступные тулы и отправить работать. Агент не понимает контекст так, как понимаете его вы. Он выбирает тулы на основе описаний и текущего промпта. И может вызвать тул, который не предусматривался.
Но почему это так критично?

1. Безопасность
Каждый тул расширяет поверхность некорректного выполнения.
Представьте агент для аналитики продаж. Вы подключили ему MCP-сервер с тулами: get_sales_data, send_email, delete_records, update_user.
Агент хочет отправить отчёт вызывает функцию send_email. Но в промпте была неоднозначность, и он решает "помочь" почистить старые данные через delete_records.
Никакого злого умысла. Просто был доступ, и он решил что так правильно.

2. Надёжность
Чем больше тулов, тем выше шанс что агент выберет не тот. Модели путаются при большом выборе, особенно если описания тулов похожи между собой. Результат: непредсказуемое поведение, которое сложно дебажить.

3. Скорость и стоимость
Это часто забывают. Каждый тул это дополнительные токены в контексте. Описание, параметры, схема всё это обрабатывается при каждом запросе.
Чем больше тулов, тем:
- дольше обрабатывается запрос
- дороже каждый вызов (токены описаний входят в input tokens)
- ниже точность выбора нужного тула

При 5 тулах модель выбирает правильный почти всегда. При 50 точность заметно падает.

Принцип минимальных привилегий
Тот же принцип, что и в безопасности обычных систем: давай доступ только к тому, что нужно для конкретной задачи.
Агент для чтения аналитики? Только read тулы.
Агент для отправки отчётов? Только на отправку.

Один агент = один набор тулов под его задачу.

Как это на практике

Регистрируем тулы динамически только нужные для конкретного агента:

// ❌ так лучше не делать
server.tool("delete_records", ...);
server.tool("send_email", ...);
server.tool("update_user", ...);

// ✅ только то, что нужно агенту
const allowedTools = getToolsForAgent(agentRole); // ["get_sales_data"]

allowedTools.forEach(toolName => {
  server.tool(toolName, toolDefinitions[toolName]);
});

В реальности можно описывать доступные функции агенту в зависимости от его роли.

Что ещё можно сделать
Логировать каждый вызов тула. Если агент что-то сломал, вы должны знать что именно и когда.
Перед delete или update добавить еще проверку доп проверку.
Ну и обязательно тестировать агента в изолированной среде перед боевым запуском.

Я В ШОКЕ ОТ СОВРЕМЕННОГО ОБРАЗОВАНИЯ

Общаюсь с большим количествим ребят-разработчиков, один из них очень талантливый и учится в университете в Казани. Он рассказал чему они обучаются и меня это реально шокировало.

Примерная программа:

1 курс: мат анализ, дискретка, линал, программирование на джаве, алгоритмы.
2 курс: машинное обучение, мат статистика, теория вероятности, базы данных, веб прога на джаве

Что меня удивило так обучение происходит действительно важных вещей, которые реально используются в продакшене.
Учить шардирование и векторные БД в свои 19 я вряд ли бы додумался, а через некоторое время это станет стандартом.

В мое время 10 лет назад в политехе в питере были предметы совершенно не связанные с реальной разработкой. Бтв, я учил PHP! 🤣🤣🤣
А когда пришел показывать показывать проект на React/Vue в 2017 там не то что не знали что это, было ноль понимания что оказывается существует фронтенд!

Очень рад что молодым ребятам открыт такой огромный доступ к информации и они могут вырасти в крутых инженеров и потом будут пилить классные проекты, продукты.
Сейчас выйдя после учебы можно выйти уже плотным миддлом и это кайф.

Как было у вас устроено обучение в унике или происходит сейчас?

Убегаю из России!!! (нет)

Последний раз Даша путешественница рассказывала как прибыла в Черногорию. Там я пробыл 2 недели, максимально кайфанул, крайне советую всем Черногорию. После этого поехал в Сербию, дальше в Сочи, Питер, Москва, Ташкент, Самарканд и сейчас уже пару недель в Казахстане.

Каждое новое место и страна дает понять где тебе нравится, что тебе нравится и сравнить места, где живешь сам. В России супер классно айти, цифровизация, автоматизаци в сравнении с другими странами.
Пока что для себя точно понял что в питере не могу уже жить, 8 месяцев плохой погоды ужасно ощущается. Поэтому пока решил пожить вне Питера.

Новые идеи
Также и появляются новые идеи, когда смотришь на мир под другим углом. Начиная с конца марта вынашивал идеи внедрять ИИ в МСП(малый-средний бизнес) для оптимизации рутины.

На текущий момент только айтишники понимают как можно применять ИИ и ускорять работу, а МСП все также ведет таблички в екселе или срмке, но шаг влево шаг вправо и уже нужна новая фича для такого продукта.
Все эти мультиагентные системы работают классно, но в реальности очень мало где реально внедрены. Поэтому есть идея помогать внедрять подобное.

Невероятные совпадения
Улетая из Еревана в Черногорию в 6 утра сотрудники АК FlyOneArmenia (худшая авиакомпания) сказали что мне нужно доплатить 40 евро чтобы зарегистрироваться на рейс и нужно идти оплачивать прямо сейчас в другой конец аэропорта.
Я конечно был несказано рад такому, а потом мне еще нахамили за то что я русский.
НО! При оплате регистрации совершенно случайно познакомился с чуваком, которому тоже нужно было оплатить ее. Слово за слово и оказалось что ему нужны люди кто настроит мультиагентную архитектуру в его приложении! Я подумал на судьба, надо точно подобное делать.
А потом еще через пару дней познакомился с парой, которая в Париже продала ИИ приложуху для магазинов моды.

Куда движемся
Прямо сейчас делаю для клиентов небольшое приложение с ИИ для оптиизации работы с данными, бухгалтерией, аналитикой, отчетами, оптимизацией проверок заказов и тд.

Если у вас или ваших знакомых есть рутина которую хотите оптимизировать с ИИ, но не знаете как, то с радостью обсужу с вами. Сейчас набираю первые кейсы и беру недорого.

ЛС: @kostya_xxxx

Оффер в сбер на 350к

В марте ко мне обратился Андрей. Его сократили в из компании и он впервые за 3 года вышел на рынок труда. Прошел пару собеседований и понял что нужна помощь.

17 марта мы стартанули.
На первом звонке я собрал все данные про опыт работы, задачи, челенджи, различные ситуации.
Для чего это нужно ? На каждом собеседование просят рассказать о себе. Поэтому чтобы не придумывать и не вспоминать о своем опыте лучше заранее всегда структурно его подготовить. А именно включить:
- текущий опыт, чем занимаешься
- проект, задачи
- что смог улучшить на проекте
- стек
- процессы
- куда хочешь сейчас двигаться(сфера, задачи)

Второй этап это просмотр собеседований и подготовка к техническим моментам.
На своей платформе даю ребятам обязательно посмотреть собеседования для понимания какие вопросы могут задать, какие бывают удачные или неудачные собеседования. Что не знаешь выписываешь или задаешь отдельные вопросы.

Третий этап это обязательные моковые собеседования. Прогнали с Андреем основные моменты по техничке и по софт скиллам.
Про синтаксис я тут не спрашиваю, а больше вопросы на понимание почему и как выбрал такое решение, а как правильно может быть, а какие трейдоффы и тд.

Четвертый этап собеседования + их разбор. Каждое собеседование просил Андрея записывать. Чтобы потом обязательно их разбирать. Смотреть моменты которые не знаешь, моменты где было непонятно.
Тут максимально важно детально разобрать ошибки. Плюс указываю дополнительно на что обратить внимание.


Итого: 12 мая Оффер в крупную компанию на хорошие деньги.
Очень важно отметить что всегда это заслуга ученика на 80%. Андрей супер быстро вырос в прохождении собесов за короткое время.

Оркестрация ИИ-агентов

Очень часто взаимодействую с оркестрацией агентов и решил разобрать как это может быть устроено на примере моего одного проекта.

Куда идет запрос: Фронтенд, бекенд, ИИ слой.?
Первым делом запрос с фронта идет не сразу в оркестратор, а в продуктовый бек. В нем добавляется вся информация о пользователе, его контекст, проверка сессии и тд. В общем дефолтный бек.
Оттуда уже запрос идет в бекенд оркестрации.

Самое важное за что отвечает оркестратор: безопасность, выбор модели, подбор агентов и инструментов. Разберем подробнее.

Гардрейлы на входе и выходе

Гардрейлы - это отдельный сервис, через который проходит запрос до и после модели.

На входе они чекают сам вопрос: на сколько данные деликатные, проверяется prompt injection, классификация данных.
После этой проверке происходит решение о маршруте: какую модель использовать, какой инструмент и нужно ли чистить/маркировать данные.
На выходе из этого узла агент уже получит "чистый" запрос и инструкцию какую LLM выбирать.

На выходе гардрейл проверит ответ модели:
утечка данных, корректность ответа. Если проверка/критика не прошла, запускается пост валидация или перегенераци ответа, а потом снова по цепочке.

Само решение по выбору модели исполняется на уровне прокси.

Выбор модели и маршрутизация

Маршрутизация моделей осуществляется единым прокси-слоем (litellm).
Это удобно тем что есть единый провайдер: агент вызывает «модель», не зная, локальная она или внешняя.

Обычно режимы такие:
1. Локальная модель в защищённом контуре для внутренних данных
2. Внешние модели через роутер для всего остального.

Цикл агента и инструменты

Внутренний агент работает в цикле.
Он получает запрос, контекст и список доступных инструментов ->
после модель решает, какой инструмент вызвать -> результат вызова возвращается в модель -> цикл повторяется, пока задача не решена или не достигнут лимит шагов.

Инструменты подключаются по MCP. Каждый источник (файлы, почта, таск-трекер) отдельный MCP-сервер.
Сверху стоит агрегатор MCP: он сводит все серверы в единую точку, чтобы агент видел один общий каталог инструментов вместо кучи подключений.

Под конкретный запрос оркестратор формирует набор инструментов и нужных агентов.
Это и есть мультиагентность: не один универсальный бот, а агенты, собираемые под задачу.

Итого:

Оркестратор = это слой между продуктовым бэкендом и моделями, который на каждый запрос решает: безопасен ли он, по какому маршруту и какой моделью отвечать, какие инструменты и агенты подключить, что делать при плохом ответе.


В воскресенье в 16 буду проводить ребятам урок по мультиагентным системам. Кому интересно отпишитесь в личку @kostya_xxxx

Шокирующая правда про ИИ

За последние 1.5 месяца провел 10 консультаций по поводу поиска работы, работы ИИ инженером.
У всех возникает похожий вопрос:

кто такой ии инженер и какие задачи он выполняет ?

Раскрою большой секрет:
90% компаний и нанимающих менеджеров сами не знают и понимают зачем им это все.

В мае-июне проходил большое количество собеседование на позиции ии техлида или просто ии инженера.
Понял что большинство компаний хотят внедрить просто потому что это «модно» , а не реально хотят решать сложные проблемы.

Щас мы ИИ внедрим и сразу половину сотрудников уволим

Я такое слышал несколько и меня конечно в смех бросало от недоумения почему они так думают.

Это я все к тому почему требования размыты и нет полного понимания кто такой ии инженер.
На практике происходит так:

1. нанимающий говорит нам нужен ии инженер сам не зная что нужно и как это работают
2. н*жн*й эйчар генерирует описание вакансии с чат гпт и начинает по ключевым словам искать.
3. вы в недоумении что значат магические слова харнесс или гермес в требованиях вакансии

Разберу как происходит на реальном рынке

под ии инженером понимают:
1. Разработчик умеющий применять нейронки.
Не просто промптить, а реально понимать как использовать инструменты чтобы результат был качественный и сделать фичу енд то енд от требований до полной раскатки.
2. Разработчик умеющий строить RAG пайплайн, писать агентов и грамотно интегрироваться LLM.

Что еще хочу отметить: часто обращаются разработчики, которые не знают питон и спрашивают как быть.
На деле жесткой привязки к языку нет, но во втором случае конечно чаще нужен будет питон.
В первом варианте видел вообще абсолютно разные языки: typescript, c#, java, go

Если у вас есть вопросы всегда можно написать спросить: @kostya_xxxx

Самый частый вопрос на собеседованиях для ИИ-инженера

Везде где я проходил собесы всегда присутствовал вопрос про качество выдачи результата нейронки (evals). Не важно это отдельный сервис, отдельный агент или просто написания кода за счет клода/кодекса.

1. Написание кода
Зачем спрашивают? Отсеять тех кто просто промптит, а не имеет настроенный процесс. На одном собесе мне напрямую сказали, что кто просто промптит мы не рассматриваем.

Тут я всегда рассказываю про свой подход работы своего воркфлоу.
В своей работе у меня несколько паттернов для решения задачи:
если задача большая:
- спличу на мелкие куски аналитику
- разбиваю на изолированные подзадачи
- по каждой позадаче провожу детальную аналитику + ресерч по коду. оформляется в конце в виде артефакта
- синтезирую инфу из артефактов и собираю как можно больше корнер кейсов, ищу потенциальные трейдоффы, слабые места
После этого только начинаю делать тех диз + ревью тех диза. Тут я провожу больше всего времени. Схемы, связи, архитектура.
Смотрю как это все встраивается. Если все ок, апрувнул далее просто запускаю воркфлоу по SDLC. Результат в 90% очень качественно выдается и нет проблем.

2. ИИ-фича/ии-агент
Зачем спрашивают? Узнать твой опыт, какие подходы, паттерны знаешь.
Тут есть много разных подходов, но самые частые, которые я использую это:
- детермированная структура (json или другие)
- агент-критик/судья
- golden dataset

Важно чтобы критика осуществлялась другим агентом/моделью. На селф ревью нейронка может легко ошибиться и выдать желаемое за действительное. Поэтому агента-критика создаю отдельно или вызываю другую модель.

Golden dataset очень мощная практика на большом обьеме данных. Условно есть 10к записей где нужно по шаблону что-то поменять. Нейронка 100% налажает где-то. Поэтому я бью весь обьем на чанки по 1к, прогоняю весь процесс и отдельно делаю себе датасеты с результатами: идеально, приемлемо, брак.
После этого уже отдельной проверкой сравниваю еще раз. Фактически сравниваю это с выдачей.

По детермированной структуре все достаточно просто. Говорю какой нужен output, обязательное соблюдение таких и таких параметров и дальше уже сама проверка происходит гораздо легче.

Вопрос про качество самый частый который у меня был и наверное самый важный.
В моем курсе будет отдельный ролик про качество и полноценный развернутый ответ на этот вопрос.

Ай да красавчик

В субботу провел звонок в сообществе у айти красавчика по теме новой профессии ИИ-инженера. Спасибо большое Жене, что дал возможность провести созвон и спасибо ребятам, которые пришли и задавали вопросы. Как мне кажется вышло очень продуктивно.

Старался рассказать все максимально близко к практике, чтобы новую информацию можно было применить в реальной работе.

Один вопрос хотел бы отдельно раскрыть.
Много ребят интересовались как сложно перекатиться свитчнуться в эту тему.
Скажу так: постепенно мы движемся к тому что вся профессия программист/разработчик сильно размоется и у нас будут позиции по типу AI-builder или AI product engineer.

Я вижу это прямо сейчас. Уже не важно какой язык ты знаешь, ты можешь писать на любом: Java, Python,Rust. Если знаешь как грамотно проектировать системы тебе все равно на специфику. Не нужно сидеть часами изучать синтаксис.

Прямо сейчас я сам работаю с 3 бекенд языками и двумя фреймворками на фронте. При этом если спросить меня вопросы по особенностям этих языков я не отвечу 100%, но 100% построю классный продукт или быстро запилю фичу.

Один раз помню на собесе на бекенд node.js разработчика спросили вопрос:

Расскажи пайплайн перевода JS кода в машинный код

В реальности ну вообще кому эти знания сдались для обычного разработчика сервисов? Главное доносить результат, а не знать спецификацию 139 страницы в 3 главе.

Постепенно все поменяется. Можно идти в ногу со временем, а можно бежать за уезжающим поездом, это уже выбирать вам.

P.S. активно работаю над своим курсом как быстро свитчнуться с разных профессий в ии-инженера.

Доработал программу: теория, домашка с практикой + модуль для трудоустройства.
Теория уже в курсе, домашку скоро выложу и активно записываю модуль по поиску работы.

AI-инженер = снова самая быстрорастущая профессия в мире. Второй год подряд.

Нам об этом говорит свежий отчёт LinkedIn: с 2023 по 2025 в США добавили 639 000 вакансий, связанных с ИИ. Из них 75 000 конкретно «AI Engineer».

Да, это статистика по США. У нас в РФ такой публичной статистики по ии и конкретно по AI-инженерам никто не ведёт. Но тренд абсолютно прозрачен.

Можно посмотреть на вакансии и на то, как компании начинают реально внедрять ии в процессы. И главное вырос спрос на людей, которые умеют довести это все до реально рабочей ИИ-системы.

Есть популярное мнение что вот-вот этот пузырь лопнет. Годик-два и В С Ё. Ну в реальности упадут акции каких-то компаний, сами технологии и процессы то останутся.

Поэтому я думаю новые знания и технологии в любом случае понадобятся почти каждому айтишнику.