🤖 AI-агент с нуля: строим Guardrails

В прошлый раз мы дали агенту память — теперь он помнит пользователя между сессиями и может вызывать инструменты через MCP. Звучит идеально. Но у нас пока нет ни одного механизма, который контролирует, что агент читает, что делает и что отдаёт обратно.

Системный промпт с запретами — это не защита, а иллюзия безопасности. Поскольку языковая модель является вероятностной системой, при определённых входных данных она проигнорирует любую инструкцию. И пока у агента есть инструменты, это уже не проблема некорректного ответа — это удалённая таблица в базе данных, письмо, отправленное не тому адресату, или бесконечный цикл API-вызовов, который сжигает весь лимит за ночь.

⚡️ Представляем четвертую часть видеокурса об AI-агентах от ML-инженера Artezio Антона Максимова!

Guardrails — это не фильтр в системном промпте. Это детерминированный код, который принимает решение до того, как данные попали в модель, до того, как выполнено действие, и до того, как результат ушёл к пользователю.

В этом выпуске:
— Карта угроз LLM-агента: разберем Prompt Injection, Jailbreaking, Hallucination и Data Leakage
— Архитектура Guardrails
— Три класса методов: детерминированные, специализированные и вероятностные
— Allowlist, schema validation, ACL и human-in-loop — что и на каком контуре применять
— Пишем Guarded Agent: оборачиваем LangGraph-агент из прошлых уроков в четыре контура защиты

🎬 Смотрите на YouTube или RuTube!

Andrew Ng (кофаундер Coursera, профессор Стэнфорда, экс-глава Google Brain и Baidu AI) опубликовал AI Engineering Skills Map - попытку сформулировать, какие навыки сегодня действительно нужны разработчикам в эпоху AI.

В целом идеи вполне понятные:
• уметь строить и контролировать AI-системы;
• хорошо знать базовый software engineering;
• уметь эффективно работать с coding agents;
• и, что важно, уметь shaping the build - понимать, что именно нужно строить, зачем и как это должно работать.

Последний пункт особенно интересен. По мере того как AI всё лучше пишет код по хорошему ТЗ, ценность инженера всё больше смещается от самого написания кода к пониманию задачи, архитектуре, требованиям и принятию инженерных решений.

В общем, ничего революционного. Но приятно, когда направление, в котором сам смотришь на AI-shaped engineering, примерно совпадает с тем, что формулирует Andrew Ng.

🤖 AI-агент с нуля: строим Multi-Agent Systems

До сих пор мы строили одного AI-агента: дали ему инструменты, подключили MCP, добавили память и Guardrails. Он умеет получать контекст, принимать решения и выполнять действия во внешних системах.

Но что, если задача становится слишком большой для одного decision-making loop? Например, нужно одновременно исследовать несколько источников, работать с разными наборами данных и permissions, независимо проверять результаты и координировать несколько направлений работы. Кажется, очевидное решение — добавить ещё агентов. Но здесь легко усложнить систему, не сделав её лучше.

⚡️ Это пятая часть видеокурса об AI-агентах от ML-инженера Artezio Антона Максимова!

Разберём Multi-Agent Systems: где на самом деле проходит граница между одним сложным агентом и системой из нескольких агентов — и когда распределение принятия решений действительно оправдано.
Десять Tools, несколько LLM-вызовов и даже цепочка из Planner, Researcher и Reviewer ещё не делают систему Multi-Agent. MAS появляется тогда, когда существуют несколько автономных decision-making компонентов, способных самостоятельно принимать локальные решения и взаимодействовать друг с другом.

В этом выпуске:
— Где заканчивается Single-Agent System и начинается настоящая Multi-Agent System
— Homogeneous и Heterogeneous Agents: почему специализация и роли — только один из вариантов дизайна
— Cooperative, Collaboration и Mixed-Motive взаимодействие
— Point-to-point, Broadcast, Pipeline, Peer-to-peer и Shared Message Pool
— Centralized, Decentralized, Hierarchical и Blackboard / Shared Message Pool архитектуры
— A2A: как независимые agentic systems находят друг друга, передают задачи, статусы и результаты

🎬 Смотрите на YouTube или RuTube!

Почему наука автоматизируется неравномерно? О пределах исследовательского harness расскажет Максим Шаланкин, Machine Learning Team Lead из MWS и автор телеграм-канала Maxim.ML.

27 августа 2026 года Anthropic объявила Model Hardware Standard: Claude из обычного терминала начал управлять микроскопами, роботизированными руками и qPCR-машинами. Интеграция, занимавшая недели, сократилась до часов.

Днём раньше стартап Transfyr поднял $25 млн: сенсоры и камеры записывают каждое движение учёных, превращая видеозаписи рук в обучающие данные для лабораторных роботов. Наука в физическом мире, самая сложная для автоматизации область, начала получать свой интерфейс.

Рассмотрим картину целиком: почему вычислительная наука уже упирается только в GPU, а экспериментальная — в законы природы.

⏰ Запускаем трансляцию завтра, 4 сентября, в 17:00.

Смотрите на YouTube, в ВК или прямо в этом канале — и задавайте вопросы Максиму!

Мы много писали о роли ИИ в аналитике и разработке ПО. Теперь решили выпустить несколько материалов о том, как ИИ меняет кибербезопасность — вместе с нашей Red Team / pentest-командой.

Начинаем с перевода статьи The Cybersecurity Industry Is Entering Its Third Era уже на Хабре. При этом руководитель нашей Red Team на вопрос о главном изменении последних лет отвечает ещё короче: скорость. Но об этом в следующем материале.

🤖 Как поднять корпоративного LLM-бота в закрытом контуре? Расскажет Алексей Кудаков, CTO технологической группы «Проявление».

Это продакшн-история для одной из крупнейших компаний в сфере ЖКХ России: один LLM-бот на телефон и чат-каналы (Макс, ВК, ОК, мобильное приложение) полностью on-premise, без единого внешнего вызова.

Разберём:
→ Что болело у заказчика: ~60 жёстких сценариев скриптового робота, очереди в пиках, тупики в чатах
→ Как выбирали стек и почему остановились на Qwen3-14B Instruct + LoRA + RAG + vLLM
→ Дообучение LLM под домен ЖКХ: от 45 тысяч ручных размеченных звонков до 345 тысяч примеров
→ Голосовой стек и его грабли: STT с галлюцинациями на тишине, дообучение CosyVoice 3, «превойс» для обхода недоверия абонентов
→ Запуск в закрытом контуре на NVIDIA H200: архитектура, оптимизации, бюджет латентности
→ Итоговые метрики: ожидание оператора с 5 минут до <5 секунд, 72% обращений закрываются без оператора, 98% точность классификации

Честно поговорим про проблемы в проде: абоненты, которые не доверяют роботу, заказчики, которые заводят тикеты на «ошибки», и пожилые люди, которых живой голос напугал больше, чем скриптовый.

⏰ Запускаем трансляцию сегодня в 12:00.

Смотрите на YouTube, в ВК или прямо в этом канале — и задавайте вопросы лектору!

Кажется, что достаточно объединить несколько LLM-агентов, разрешить им общаться — и получится коллективный интеллект. Но сразу возникают вопросы: кто координирует агентов, как они распределяют задачи, что происходит без центрального управляющего узла и откуда появляется эмерджентное поведение?

⚡️Анна Авдюшина, кандидат технических наук и инженер центра «Сильный ИИ в промышленности» университета ИТМО, расскажет о том, как сформировать роевой интеллект на LLM.

На лекции поговорим про:
→ централизованные и децентрализованные архитектуры;
→ топологии взаимодействия агентов;
→ коммуникацию и распределение задач;
→ коллективное и эмерджентное поведение;
→ когда несколько агентов действительно лучше одного.

⏰ Запускаем трансляцию сегодня в 13:00.

Смотрите на YouTube, в ВК или прямо в этом канале — и задавайте вопросы Анне!