Хороший гайд — это гайд, который хотя бы есть! А лучший — это который сделал за вас AI агент

Вы наверняка прочитали за свою жизнь не одну скучную и бестолково написанную инструкцию к сервису, продукту или процессу в вашей компании... И хорошо, если инструкция вовсе была — иногда просто сидишь тыкаешь наугад всякие эксель таблички, ссылки и пытаешься вкурить, что вообще происходит... И отмазка владельца такого процесса или сервиса всегда одна — "блин, да нет времени и рук делать эти инструкции! Спроси Васю — он тут 10 лет работает, все расскажет." Хватит это терпеть! 🤡

Guidde просто создает красивые инструкции

Такой, на мой взгляд, должен быть слоган этого сервиса. Это AI расширение в Chrome, которое автоматически генерирует красивые, понятные, пошаговые инструкции для любых процессов или продуктов. И самое главное — вам не нужно будет ничего писать!

Работает элементарно:
1. Устанавливаете расширение и регистрируетесь
2. Жмакаете "Create a Guide"
3. Выбираете тип гайда и нажимаете "Start Capture"
4. А дальше просто заходите на вкладку браузера, где открыт нужный сервис / процесс и выполняете шаги, которые хотите, чтобы были в вашем гайде.
5. По окончании жмете Done на виджете на экране.
6. Заходите в ЛК на сайте Guidde — а там вас уже ждет полностью готовая инструкция в текстовом и ВИДЕО формате. Причем AI сам понимает, что за сервис и процесс был заснят и генерит закадровый голос, который рассказывает, что это за гайд и что нужно делать.

Я попробовал сделать гайд для нового сервиса от Google "Code Wiki". Сервис, который автоматически создает документацию для репозитория с кодом. Сейчас он работает только на ограниченной выборке опенсорс репозиториев, но в будущем обещают CLI версию для документации собственных проектов. Писал о нем короткий пост на Хабре. Вот так рассказал вам о двух классных продуктах для документации, получается... рекурсия 😁

Потенциал применения Guidde большой:
- онбординг сотрудников в компанию по внутренним сервисам или процессам
- инструкции по новым фичам, в том числе для юзеров
- наполнение базы знаний компании понятными пошаговыми гайдами
- и другая документация, куда не хотелось вливать сотни человеко-часов...

Ушел обмазываться инструкциями всего, что еще осталось без инструкций... 😈

Заместители

Лучший вводный курс по ИИ агентам от Google бесплатно

Я еще в октябре писал о том, что Google вместе с Kaggle будут проводить 5-дневный интенсив по агентам. На прошлой неделе он успешно завершился и в сети этот курс называют одним из лучших для того, чтобы с нуля быстро въехать в тему ИИ агентов.

Так что, если хотите за несколько часов пройти путь от "Что такое ИИ агент?" до "Я сделал свою мультиагентную систему" — вам сюда!

Ожидания завышать не нужно — курс для начинающих, но чтобы вкатиться в ИИ агентов, покодить немного придется. В то же время прелесть этого курса в том, что он показывает, насколько низкий сейчас порог входа в агентную историю.

Курс состоит из следующих модулей:
1. Введение в агентов.
Что такое ИИ агенты. 5 шагов к агентной системе.
Whitepaper. Подкаст по этому Whitepaper.

2. Тулы и MCP для агентов.
Типы тулов. Лучшие практики по их использованию. Что такое MCP и его архитектура.
Whitepaper. Подкаст.

3. Инжинирнг контекста: память и сессии.
Типы памяти агентов. Запоминание фактов и консолидация памяти. Использование накопленных воспоминаний.
Whitepaper. Подкаст.

4. Оценка качества агентов.
4 архитектурных столпа оценки качества агентов. LLM-as-a-Judge, Human-in-the-Loop. Логгирование. Трейсирование. Метрики.
Whitepaper. Подкаст.

5. От прототипа к продакшену.
Жизненный цикл ИИ агента. Как ИИ агент живет и развивается на проде. Безопасность. Agent2Agent протокол.
Whitepaper. Подкаст.

😎 Думаю сделать серию постов, где пройдусь по этим концепциям коротко и по-делу с живыми примерами — выжмем из этого курса самый сок, чтоб любой смог погрузится в ИИ агентов еще чуть чуть глубже. Соберем с вами ИИ агента на гугловых технологиях.

Делаем? Если да — ставьте котика ❤️

Заместители

Тру стори: как ИИ агенты слили $47К

Прекрасная история, как мультиагентная AI система слила $47,000 после запуска в продакшен. И как этого избежать. Учимся на чужих ошибках!

Дисклеймер: история взята из этой статьи. Очень уж она мне понравилась, захотелось с вами поделиться, ведь тема все насущнее 👌

Мультиагентные системы — это системы, построенные на взаимодействии нескольких AI агентов. Простая система может строиться даже на двух агентах: Агент А принимает запросы у юзера и формулирует задачу, а Агент Б, например, пишет код и анализирует данные.

Тогда взаимодействие строится так:

Юзер: спросил, какие финансовые результаты квартала
Агент А: понял запрос, наше ссылку на табличку с отчетом и вызвал Агента Б, чтобы тот посчитал основные статистики
Агент Б: взял данные, написал питон код для подсчета всяких средних и тд. Вернул Агенту А.
Агент А: сформировал отчет из полученных статистик — вернул юзеру.

На бумаге волшебно, каждый занят своим делом! А на практике... в компании из статьи два агента застряли в бесконечном лупе:

Агент А

: отправил запрос Агенту Б

Агент Б

: отправил уточняющий вопрос Агенту А

Агент А

: отправил разъяснения и повторный запрос Агенту Б

Агент Б

: отправил уточняющий вопрос Агенту А (напоминает того одаренного коллегу, который есть в каждой компании… )
--- Повторять цикл 11 дней ---

*Счет от Амазон на $47К приходит на почту*

Как можно было этого избежать? Вкладываться в инжиниринг!

AI и агенты — самая хайповая, но требущая наименьших усилий и времени часть разработки. 90% всего времени займет все остальное:

1. Четкое ограничение и лимитирование ресурсов, за пределы которых агенты не могут выйти (чтобы не жрали токены и не шафлили базы данных бесконечно).

2. Качественное описание всех доступных данных, тулов и других агентов. MCP тут спасает, но только частично.

3. Оптимизация самих тулов под агентов. Агенты активно пользуются тулами, потому что это их способ добыть информацию, а она им очень нужна! К тому же агентов может быть несколько. Оптмизируйте тулы к бомбардировке запросами, чтобы они не прилегли под нагрузкой.

4. Кеширование одинаковых запросов к агентам. Запросы повторяются чаще, чем кажется.

5. Мониторинг работы агентов. Дашборд с информацией по всем важным для системы метрикам, включая:
- статус каждого агента
- логи по каждому агенту
- задачи в работе и выполненные
- количество затрачиваемых токенов
- время на выполнение задачи
- задержки в общении между агентами и тулами
- расходы на агентов и тулы, и тд.

6. Поиск аномалий. В мониторинге должны быстро отлавливаться:
- циклы, в которых застряли агенты
- исключения, в которых агенты останавливают работу
- всплески затрат и задержек
- существующие боттелнеки в пайплайне, и тд.

Не пренебрегайте этими шагами и правильно распределяйте время на этапе разработки, чтобы не попасть на неожиданную сумму в продакшене! ☀️

Заместители

Курс по созданию агентов Google x Kaggle (кавер "Заместители"). Серия 1. Основы!

Благодаря вашей поддержке мы начинаем серию постов, где разбираем 5-дневный интенсив от Google & Kaggle по созданию агентов.

Серия постов позволит вам с нуля разобраться в теории AI агентов и сделать первого реального агента на гугловых технологиях! Вы можете пройти курс в оригинальном исполнении Google & Kaggle.

Моя же задача помочь вам сделать первые шаги и извлечь самую мякотку в условяих супер ограниченного времени, в котором все мы с вами живем. Ну и я буду делать это на русском языке в отличие от Гугла ✋

Теория.

1. Что такое AI агент?

AI агент — это небольшая ИИ-система, которая достигает поставленные цели, а не просто отвечает на вопросы. Агента можно сравнить с живым организмом. У него есть:
- Мозг. Его роль выполняет LLM.
- Руки. За них — функции, которые может вызывать LLM для решения специфической задачи (например, поиск в интернете, калькулятор и др).
- Нервная система. Он же оркестрационный слой, в котором с помощью промптов настраиваются инструкции, которым следует мозг агента (LLM), чтобы решать задачи.
- Тело и ноги. Деплой агента в сервис, будь то телеграм бот, помощник в UI интерфейсе или любое другое "воплощение" агента перед юзером. И здесь речь не только о красоте, но и о грамотной подготовке инфраструктуры.

2. Как действует один агент

Пользуясь всеми своими частями тела, главная цель агента - решить поставленную задачу. Для этого агентов настраивают следовать примерно такому циклу (он как раз и задается в оркестрационном слое) из 5 шагов:
1. Ясно сфорулируй задачу из запроса юзера.
2. Просканируй, какие инструменты и действия тебе доступны.
3. Продумай план действий для достижения цели.
4. Выполни действие, следуя плану.
5. Наблюдай и оценивай получаемые результаты. И вернись к пункту 3.

Эволюция от AI агента к мультиагентной саморазвивающейся системе

Она состоит из 4 этапов:
0. "Ядро мышления" (просто LLM) — это мозг в банке. Языковую модель просто один раз обучили. И пускай она очень умная, она может только разглагольствовать. Это не агент.
1. "Подключенный" — это уже мозг с руками. И теперь мозг может выполнять запросы в интернет, получать актуальную информацию, пользоваться инструментами для написания кода и тд. К этому уровню относится нашумевшие RAG системы. Это уже простейший агент.
2. "Стартег" — мозг с руками и нервной системой. Полноценный агент, который может пройти полный цикл из 5 шагов, который мы обсудили выше.
3. "Мультиагентная система" — это команда из "стратегов" с распределением обязанностей. У каждого агента в такой системе определяется роль и обязательно есть "менеджер", который планирует и ставит задачи другим. Большинство лучших существуюих агентных систем в мире находятся на этом уровне.
4. "Саморазвивающаяся мультиагентная система" — та же команда, но теперь она понимает, когда сталкивается с каким-то ограничением. И для решения этого ограничения она может собственными силами создать нового агента или новый инструмент. Таким систем еще нет, только эксперименты.

Теоретическую базу мы с вами освоили!
Мы живем с вами в мире видосов, поэтому я решил для более простого усвоения знаний сопровождать посты корткими видосами. И сгенерил их с помощью NotebookLM! Ловите первый. Да, он кринжевый в части видео, но от этого же веселее! 😁 А вот озвучка мне нравится - можно просто как подкаст слушать. Это не нейрослоп — контент в видео дейтсвительно полезный! Как вам такой формат?

Источник: Whitepaper.

Теперь к практике.

😎 Практика. Подготовка

В этой части мы должны подготовить все, чтобы не отвлекаться в следующих сериях на инфраструктурные вопросы.

Поэтому для начала:
1. Заведите аккаунт на Kaggle для того, чтобы мы с вами могли пользоваться Kaggle Notebooks (это ровно те же самые Jupyter Notebooks, которыми пользуются все датасаентисты).
2. Заведите аккаунт на Google (обычную почту), если у вас ее внезапно нет.
3. Используя ваш гугл аккаунт — заходите в AI Studio и сгенерите API ключ по этой ссылке. Просто жмете кнопку Create API Key и рандомно называете проект, который Гугл просит создать, и любое название самому ключу — это ни на что не влияет. Этот ключ нам понадобиться, чтобы наш AI агент использовал гугловые модельки Gemini.
4. Заходите в ноутбук и копируете его, нажимая кнопку Copy & Edit справа сверху — теперь это ваш личный ноутбук, можете в нем развлекаться как хотите.
5. Добавляете API ключ, который вы сгенерили в AI Studio. Для этого жмете Add-ons -> Secrets->в появившейся спарва панельке "Add Secret"->В поле Label проставляете GOOGLE_API_KEY, в поле Value вставляете тот самый API ключ (выглядит просто как длинный набор буквоцифр). В панельке справа появится ваш ключ — обязательно проверьте, что напротив него стоит галочка (это означает, что вы его включили, и он стал видимым для ноутбука).

Ура, вы завершили подготовку! Горжусь вами! 💪

* Задание со звездочкой для самых вовлеченных: почитайте ноутбук и прокликайте его (кликаете по нужной ячейке и жмете shift+enter, либо кнопку "Run" в менюшке сверху -> смотрите как выполняется код). Ноутбук полностью настроен и написан. Поэтому будет достаточно прокликать все и посмотреть как оно работает. А детально я опишу, что там происходит, в следующей серии.

З.Ы. гугл сервисы в РФ работают только с сами знаете чем. А вот Kaggle работает лучше без него.

Заместители

В Gemini тихо завезли Dynamic view

Google активно догоняет OpenAI по части по-настоящему юзерских фичей, которые закрывают конкретные боли, а не просто флексят технологиями (что особенно круто, с учетом того что топовые модели они тоже выдают). Одна из таких фичей — Dynamic view (в выборе Tools в интерфейсе Gemini).

Концепт простой — задаешь вопрос — а Gemini быстро генерит интерактивную объяснялку. Можно потыкать на разные элементы.

Объяснялку можно потом пошерить с обучающимися или коллегами. Вот например объяснялка про ИИ агентов.

Классное дополнение к образовательному процессу. Вроде ничего особенного, но приятненько. 🤔
Кстати, идеально легло бы в NotebookLM.

Заместители

Фреймворки для создания агентов. Создаем своего первого AI агента

Готовы продуктивно провести вечер пятницы? 😎
Это продолжение курса по созданию агентов. Серия 1.2. Создаем агента на ADK.

Начнем с теории, которой нет в самом курсе от Гугла. Но для широты кругозора я решил ее добавить.

Теория.

Знакомимся с множеством фреймворков для создания агентов. Вот лишь самые популярные, про которые имеет смысл немного почитать и иметь их в виду, если планируете создавать агентов:
- Agent Development Kit (ADK) от Google — на нем мы и будем создавать, просто потому что этот курс был запущен Гуглом. Это идеальный выбор, если вся ваша инфраструктура в Гугле.
- LangGraph — один из крупнейших опенсорс фреймворков для создания агентов на базе LangChain (опенсорсного фреймворка для создания LLM пайплайнов и RAG). LangGraph создан как оркестратор для создания AI агентов.
- smolagents — тоже добротный опенсорсный фреймворк от HuggingFace. Хвастаются крутой поддержкой агентов для написания кода.
- LlamaIndex — еще один опенсорс фреймворк (кстати, никак не связанный с моделями Llama и компанией Марка Цукерберга). Его изюминка — мощный парсинг документов с их спец продуктом LlamaParse.
- И многие другие. Фреймворков, четно говоря, гора. Например CrewAI, Microsoft Agent Framework, OpenAI Agents SDK и тд.

Как выбрать фреймворк?

Во-многом это вкусовщина. Но нужно понимать, что фреймворки от конкретных экосистемных вендоров типа Google, Microsoft, OpenAI — как ни крути подталкивают к использованию их экосистемы. А если выбирать опции, которые изначально создавались, скажем, "нон-профит" — то нужно выбирать популярные варианты с большим комьюнити, которое будет продолжать развивать и поддерживать этот фреймворк.

Практика.

Возвращаемся в ноутбук, который мы сделали в рамках подготовки. Разберемся, что там происходит и как построить первого AI агента.

1. В этом ноутбуке уже предустановлен ADK. В других средах разработки вам пришлось бы его установить:
```shell
pip install google-adk```
2. Далее мы сетапим ключ GOOGLE_API_KEY, который мы импортировали в прошлой серии.
3. Далее импортируем нужные компоненты из "google-adk":
- Agent — класс, в котором мы построим нашего агента
- Gemini — непосредственно вызыватор модельки семейства Gemini
- InMemoryRunner — класс, который оркестрирует запросы пользователя и агенты. А приставка "InMemory" означает, что делает он это локально в сессии Kaggle.
- google_search — тулза для поиска в интернете
- types — вспомогательный модуль с типами данных, используемых в ADK.
4. Далее в ячейке "Helper Functions" идет сетап нужный для запуска в Kaggle среде. Не будем заострять внимание тут.
5. В ячейке "Configure Retry Options" настраивается конфиг для повторных попыток, на случай если LLM не отвечает на запрос. Такое бывает из-за микро-разрыва соединения, временной недоступности сервера LLM и тп.
6. Наконец, в пункте "Define your agent" мы настроим агента:
- Используя импортированный класс Agent, мы даем ему имя в "name". Может быть любое.
- model — непосредственно определяет LLM, через которую будет работать агент. Используем импортированный класс Gemini и прописываем название конкретной версии Gemini (оно должно строго совпадать с неймингом из документации). Вместо класса "Gemini" вообще вы можете импортировать и модельки от любого другого провайдера.
- retry_options — как раз наш конфиг по повторным попыткам вызова LLM.
- description — это описание нужно, чтобы в дальнейшем вы сами и другие агенты понимали, что делает конкретно этот агент. Если будете делать мультиагентную систему — важно прописать хорошо.
- instruction — это системный промпт.
- tools — тут задаете список тулов, которые будет юзать агент. В нашем случае только google search.

😎 Агент готов, запускай!

Для запуска в класс InMemoryRunner передаем нашего созданного агента. И пишем промпт:
```response = await runner.run_debug("какая нынче погода в Москве?")```

Агент понял, что вы спрашиваете, определил, что ему нужно погуглить, вызвал google_search, дал актуальный ответ!

Вот и готов ваш первый агент! 📈

Заместители