На днях модерировал дискуссию на классной большой конференции @k2_tech. Поговорили с коллегами из отрасли о том, почему именно внутренняя RnD-функция превращается в источник конкурентного преимущества и становится enabler для развития компании в GenAI.
Основные блокеры в RnD у компаний сегодня:
1. Разрозненный уровень понимания технологии как у исполнителей, так и у бизнес-заказчиков
2. Отсутствие готовых платформ для экспериментов и масштабирования
3. Сложности с процессами и невозможность финансировать инновации, которые не ведут к быстрым эффектам
Что ребята видят в решениях:
▶️ Развитие и обучение людей: крайне важна синхронизация по технологии без мифов, но и без заземлённого взгляда, что «всё переоценено, раз нет эффекта в первый день».
▶️ Внедрение новых метрик для оценки RnD-проектов: не только экономия, но и индексы удовлетворённости сотрудников и клиентов, NPS и тд.
▶️ Демократизация доступа: чем больше сотрудников получат доступ к лучшим инструментам, тем скорее в компании появятся амбассадоры решений, кейсов и сценариев, которые смогут «заразить» этой практикой остальных.
В конце ещё дал небольшое интервью для портала «ИТ-инфраструктура» — поделюсь как выйдет!
Основные блокеры в RnD у компаний сегодня:
1. Разрозненный уровень понимания технологии как у исполнителей, так и у бизнес-заказчиков
2. Отсутствие готовых платформ для экспериментов и масштабирования
3. Сложности с процессами и невозможность финансировать инновации, которые не ведут к быстрым эффектам
Что ребята видят в решениях:
В конце ещё дал небольшое интервью для портала «ИТ-инфраструктура» — поделюсь как выйдет!
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥8💯4❤2⚡1👌1
Почему на сайте ChatGPT это работает, а с моей LLM нет
Мы уже протестировали с ChatGPT — всё отлично работает! Он и отели находит, и билеты подбирает, и маршруты строит. Почему ваша реализация не может того же?
Это один из самых частых вопросов, которые я слышу от клиентов. И дело не в недостатке навыков у разработчиков, а в том, что мало кто понимает фундаментальную разницу: за простым интерфейсом ChatGPT скрывается целая инфраструктура, а не одна лишь чистая LLM.
Что такое чистая LLM?
Чистая LLM похожа на эрудита, который прочитал миллионы книг, но заперт в комнате без интернета, калькулятора и часов. Она умеет генерировать связный текст на любую тему, отвечать на вопросы из того, что помнит, писать код (но не запускать его) и рассуждать и делать выводы.
Но при этом НЕ может узнать курс доллара на сегодня, проверить наличие билетов, рассчитать сложные формулы, загрузить и обработать Excel-файл или запомнить, о чём вы говорили вчера.
То, что мы видим на сайте OpenAI — это лишь верхушка. Под капотом находится:
Слой инструментов:
• Python-интерпретатор для вычислений
• Браузер с фильтрацией доменов
• DALL-E для генерации изображений
• Система обработки файлов (PDF, Excel, изображения)
• Плагины для интеграции с внешними сервисами
Middleware для обработки:
• Маршрутизация запросов между инструментами
• Управление контекстом (до 128K токенов)
• Кэширование для экономии
• Системы безопасности и модерации
Инфраструктурный слой:
• Балансировка нагрузки
• Обработка ошибок и повторные попытки
• Мониторинг и логирование
• Управление очередями
Реальный кейс: travel-ассистент
Клиент приходит с запросом: хотим как в ChatGPT — пишешь «найди отель в Париже на выходные», и всё работает».
На практике за этим стоит целый стек задач: подключение API отелей (Booking, Expedia) с лицензиями и затратами, парсинг дат (выходные — это когда именно?), геолокация (какой Париж — Франция или Техас?), кэширование запросов, обработка ошибок при сбоях в API, удобный UI/UX для выдачи результатов. И это только базовый уровень функционала.
Статистика
↗️ Expedia обрабатывает 1.26 квадриллиона переменных для поиска
↗️ Booking.com потратил 10 недель на первый прототип своего AI Trip Planner
Для бизнеса это означает, что запуск подобных решений нельзя измерять неделями — даже пилотный проект займёт от трёх до шести месяцев. Помимо расходов на API придётся закладывать бюджет на разработку и инфраструктуру. В команде потребуются не только специалисты по NLP, но и бэкенд и DevOps. И самое важное — такой продукт нельзя рассматривать как статичный: он требует регулярных обновлений и постоянной поддержки. • Чистая LLM — это библиотекарь, который всё знает, но не может выйти из здания. • ChatGPT — это целый исследовательский центр с интернетом, лабораториями и курьерской службой.
Практические советы и вывод
1️⃣ Начинайте с чёткого скоупа — что именно должна делать система
2️⃣ Прототипируйте на готовых решениях (ChatGPT API с функциями)
3️⃣ Считайте TCO, а не только стоимость API
4️⃣ Закладывайте время на интеграции — они всегда сложнее, чем кажется
5️⃣ Не обещайте «как в ChatGPT» без понимания архитектуры
Главный вывод здесь в том, что ChatGPT и Claude — это не отдельные модели, а полноценные платформы с десятками интеграций, тысячами часов инженерной работы и миллионными вложениями в инфраструктуру. Поэтому, когда клиент говорит «мы проверили в ChatGPT, оно работает», — это примерно то же самое, что сравнивать полёт на Boeing 777 с задачей построить такой самолёт самостоятельно. Технически это возможно, но требует колоссальных затрат.
P.S. И да, даже этот пост я писал не в чистой LLM, а через Claude с доступом к поиску и документам. Потому что без этого я бы не смог привести актуальные цифры и примеры 😉
Мы уже протестировали с ChatGPT — всё отлично работает! Он и отели находит, и билеты подбирает, и маршруты строит. Почему ваша реализация не может того же?
Это один из самых частых вопросов, которые я слышу от клиентов. И дело не в недостатке навыков у разработчиков, а в том, что мало кто понимает фундаментальную разницу: за простым интерфейсом ChatGPT скрывается целая инфраструктура, а не одна лишь чистая LLM.
Что такое чистая LLM?
Чистая LLM похожа на эрудита, который прочитал миллионы книг, но заперт в комнате без интернета, калькулятора и часов. Она умеет генерировать связный текст на любую тему, отвечать на вопросы из того, что помнит, писать код (но не запускать его) и рассуждать и делать выводы.
Но при этом НЕ может узнать курс доллара на сегодня, проверить наличие билетов, рассчитать сложные формулы, загрузить и обработать Excel-файл или запомнить, о чём вы говорили вчера.
То, что мы видим на сайте OpenAI — это лишь верхушка. Под капотом находится:
Слой инструментов:
• Python-интерпретатор для вычислений
• Браузер с фильтрацией доменов
• DALL-E для генерации изображений
• Система обработки файлов (PDF, Excel, изображения)
• Плагины для интеграции с внешними сервисами
Middleware для обработки:
• Маршрутизация запросов между инструментами
• Управление контекстом (до 128K токенов)
• Кэширование для экономии
• Системы безопасности и модерации
Инфраструктурный слой:
• Балансировка нагрузки
• Обработка ошибок и повторные попытки
• Мониторинг и логирование
• Управление очередями
Реальный кейс: travel-ассистент
Клиент приходит с запросом: хотим как в ChatGPT — пишешь «найди отель в Париже на выходные», и всё работает».
На практике за этим стоит целый стек задач: подключение API отелей (Booking, Expedia) с лицензиями и затратами, парсинг дат (выходные — это когда именно?), геолокация (какой Париж — Франция или Техас?), кэширование запросов, обработка ошибок при сбоях в API, удобный UI/UX для выдачи результатов. И это только базовый уровень функционала.
Статистика
Для бизнеса это означает, что запуск подобных решений нельзя измерять неделями — даже пилотный проект займёт от трёх до шести месяцев. Помимо расходов на API придётся закладывать бюджет на разработку и инфраструктуру. В команде потребуются не только специалисты по NLP, но и бэкенд и DevOps. И самое важное — такой продукт нельзя рассматривать как статичный: он требует регулярных обновлений и постоянной поддержки. • Чистая LLM — это библиотекарь, который всё знает, но не может выйти из здания. • ChatGPT — это целый исследовательский центр с интернетом, лабораториями и курьерской службой.
Практические советы и вывод
Главный вывод здесь в том, что ChatGPT и Claude — это не отдельные модели, а полноценные платформы с десятками интеграций, тысячами часов инженерной работы и миллионными вложениями в инфраструктуру. Поэтому, когда клиент говорит «мы проверили в ChatGPT, оно работает», — это примерно то же самое, что сравнивать полёт на Boeing 777 с задачей построить такой самолёт самостоятельно. Технически это возможно, но требует колоссальных затрат.
P.S. И да, даже этот пост я писал не в чистой LLM, а через Claude с доступом к поиску и документам. Потому что без этого я бы не смог привести актуальные цифры и примеры 😉
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥6👍4⚡2❤1🤝1
Всем привет!
Недавно наткнулся на очень точную мысль: вайб-кодинг — это не тулз, чтобы не-программист вдруг стал писать код. Это новый язык программирования. И учить его нужно как любой другой: разбираться в синтаксисе, понимать особенности, осваивать паттерны.
Те, кто уже проходил этот путь с Python, Java — да хоть с Pascal в школе — получают преимущество: им проще увидеть, как устроена логика взаимодействия с LLM.
Мы в red_mad_robot уже включаем вайб-кодинг в скиллсет сотрудников и, как обычно, делимся опытом. Так что, если хотите разобраться, как выглядит разработка с LLM на практике — приходите на наш митап 25 октября.
Недавно наткнулся на очень точную мысль: вайб-кодинг — это не тулз, чтобы не-программист вдруг стал писать код. Это новый язык программирования. И учить его нужно как любой другой: разбираться в синтаксисе, понимать особенности, осваивать паттерны.
Те, кто уже проходил этот путь с Python, Java — да хоть с Pascal в школе — получают преимущество: им проще увидеть, как устроена логика взаимодействия с LLM.
Мы в red_mad_robot уже включаем вайб-кодинг в скиллсет сотрудников и, как обычно, делимся опытом. Так что, если хотите разобраться, как выглядит разработка с LLM на практике — приходите на наш митап 25 октября.
red-mad-robot.timepad.ru
Вайб Цех / События на TimePad.ru
Митап для тех, кто хочет стать мастером разработки.
Мы собираем инженеров и исследователей в одном цехе, чтобы показать, как вайб-кодинг превращается в новый стандарт индустрии. Здесь вместо станков работают LLM, детали — это код, а чертежи заменены промптами.
Мы собираем инженеров и исследователей в одном цехе, чтобы показать, как вайб-кодинг превращается в новый стандарт индустрии. Здесь вместо станков работают LLM, детали — это код, а чертежи заменены промптами.
🔥8❤3⚡2👍1👨💻1🤝1
AI и реальный рынок труда
Каждый раз, когда кто-то произносит фразы типа «AI не заменит людей» или «пузырь скоро лопнет», где-то в мире сокращают очередную сотню сотрудников. И дело не в том, что бизнесу нужно отчитаться перед акционерами — просто это работает.
• BP снизила потребность в разработчиках на 70%
• Salesforce, Microsoft, Duolingo, IBM заменили десятки тысяч сотрудников AI-системами, агентами поддержки и автоматизированными HR-процессами
• Chegg сократила 22 % штата, HP — 2 тыс человек, PwC — 1,5 тыс
Перестраиваются и творческие профессии — GenAI постепенно вытесняет дизайнеров, иллюстраторов, копирайтеров. Некоторые компании, как Klarna, пытаются вернуть людей обратно после увольнений. Но к этому моменту инфраструктура уже другая — процессы изменились, роли пересмотрены, ожидания скорректированы.
Что здесь важно понимать?
Это не вытеснение человека из контура. Это переход от исполнения к проектированию систем — человек остаётся, но на других уровнях ответственности. Меняется сама механика того, что мы называем работой.
AI не забирает работу. Он трансформирует её природу.
Каждый раз, когда кто-то произносит фразы типа «AI не заменит людей» или «пузырь скоро лопнет», где-то в мире сокращают очередную сотню сотрудников. И дело не в том, что бизнесу нужно отчитаться перед акционерами — просто это работает.
• BP снизила потребность в разработчиках на 70%
• Salesforce, Microsoft, Duolingo, IBM заменили десятки тысяч сотрудников AI-системами, агентами поддержки и автоматизированными HR-процессами
• Chegg сократила 22 % штата, HP — 2 тыс человек, PwC — 1,5 тыс
Перестраиваются и творческие профессии — GenAI постепенно вытесняет дизайнеров, иллюстраторов, копирайтеров. Некоторые компании, как Klarna, пытаются вернуть людей обратно после увольнений. Но к этому моменту инфраструктура уже другая — процессы изменились, роли пересмотрены, ожидания скорректированы.
Что здесь важно понимать?
Это не вытеснение человека из контура. Это переход от исполнения к проектированию систем — человек остаётся, но на других уровнях ответственности. Меняется сама механика того, что мы называем работой.
AI не забирает работу. Он трансформирует её природу.
🔥5⚡3👨💻3❤1
Evaluation в AI-проектах: почему это не опция, а основа разработки
Сегодня, как и обещал, хочу поговорить о том, что часто остаётся за кадром в дискуссиях об AI — об evaluation. Потому что это не просто техническая деталь, а фундаментальная часть разработки AI-решений.
Проблема, о которой не говорят
Статистика показывает, что 50-70% AI-агентов в production не справляются с реальными задачами. При этом компании, которые добиваются успеха получают 300-400% ROI и радикально сокращают операционные расходы.
В чём разница? В том, что успешные проекты строятся на системном подходе к оценке и измерению результатов с самого начала разработки.
Evaluation — не тестирование
Многие воспринимают evaluation как финальную стадию перед запуском: проверили, работает — запустили. Это заблуждение. Evaluation в AI-проектах — способ понять, что происходит внутри системы на каждом этапе. Это не контроль качества, а инструмент познания и улучшения.
В классической разработке вы знаете, что делает код. В AI — нет. Модель принимает вероятностные решения, адаптируется к контексту и может вести себя по-разному в похожих ситуациях. И единственный способ понять, почему система делает то, что делает — это evaluation на каждом уровне архитектуры.
Три измерения evaluation в современных AI-проектах
1️⃣ Development evaluation
На этапе разработки помогает выбирать подходы, архитектуры и модели. Без систематической оценки вы не сможете понять, какое решение лучше работает для вашей задачи. Это не интуиция и не best practices из интернета, а данные о том, как ведёт себя конкретная система на конкретных сценариях.
2️⃣ Testing evaluation
Перед запуском важно понимать не только работает ли система, но и как она работает:
• Какие сценарии проходят хорошо, какие — плохо
• Где система стабильна, где — непредсказуема
• Какие риски существуют
Это даёт возможность принимать взвешенные решения о готовности к production.
3️⃣ Production evaluation
После запуска evaluation не заканчивается — он только начинается. Continuous monitoring даёт понимание того, как система ведёт себя с реальными пользователями, где деградирует качество и какие новые паттерны появляются.
Это основа для итеративного улучшения.
Подходы и методологии
За последние два года индустрия выработала несколько ключевых подходов к evaluation:
LLM-as-judge: один из самых значимых прорывов — использование больших языковых моделей для оценки работы других моделей. Это позволяет масштабировать оценку субъективных метрик качества без дорогостоящей человеческой разметки. Подход превратился из эксперимента в production-стандарт с чёткими best practices:
1. Использование структурированных шкал оценки
2. Pairwise comparison для лучшего совпадения с человеческими суждениями
3. Chain-of-Thought reasoning для прозрачности решений
Компонентное тестирование: современные AI-системы — не монолитные модели, а многокомпонентные архитектуры. Evaluation должен покрывать каждый компонент отдельно: роутеры, retrieval-системы, tool calls, синтез ответов. Это единственный способ понять, где именно происходит сбой, когда система работает не так, как ожидалось.
Multi-layered monitoring: production-evaluation включает несколько слоёв мониторинга:
1. Операционные метрики (latency, cost, error rates)
2. Метрики качества (completion rate, accuracy, user satisfaction)
3. Метрики безопасности (от jailbreak attempts до PII exposure)
Все три измерения крайне важны для полноценного понимания работы системы.
Завтра продолжу тему во второй части поста⌨️
Сегодня, как и обещал, хочу поговорить о том, что часто остаётся за кадром в дискуссиях об AI — об evaluation. Потому что это не просто техническая деталь, а фундаментальная часть разработки AI-решений.
Проблема, о которой не говорят
Статистика показывает, что 50-70% AI-агентов в production не справляются с реальными задачами. При этом компании, которые добиваются успеха получают 300-400% ROI и радикально сокращают операционные расходы.
В чём разница? В том, что успешные проекты строятся на системном подходе к оценке и измерению результатов с самого начала разработки.
Evaluation — не тестирование
Многие воспринимают evaluation как финальную стадию перед запуском: проверили, работает — запустили. Это заблуждение. Evaluation в AI-проектах — способ понять, что происходит внутри системы на каждом этапе. Это не контроль качества, а инструмент познания и улучшения.
В классической разработке вы знаете, что делает код. В AI — нет. Модель принимает вероятностные решения, адаптируется к контексту и может вести себя по-разному в похожих ситуациях. И единственный способ понять, почему система делает то, что делает — это evaluation на каждом уровне архитектуры.
Три измерения evaluation в современных AI-проектах
На этапе разработки помогает выбирать подходы, архитектуры и модели. Без систематической оценки вы не сможете понять, какое решение лучше работает для вашей задачи. Это не интуиция и не best practices из интернета, а данные о том, как ведёт себя конкретная система на конкретных сценариях.
Перед запуском важно понимать не только работает ли система, но и как она работает:
• Какие сценарии проходят хорошо, какие — плохо
• Где система стабильна, где — непредсказуема
• Какие риски существуют
Это даёт возможность принимать взвешенные решения о готовности к production.
После запуска evaluation не заканчивается — он только начинается. Continuous monitoring даёт понимание того, как система ведёт себя с реальными пользователями, где деградирует качество и какие новые паттерны появляются.
Это основа для итеративного улучшения.
Подходы и методологии
За последние два года индустрия выработала несколько ключевых подходов к evaluation:
LLM-as-judge: один из самых значимых прорывов — использование больших языковых моделей для оценки работы других моделей. Это позволяет масштабировать оценку субъективных метрик качества без дорогостоящей человеческой разметки. Подход превратился из эксперимента в production-стандарт с чёткими best practices:
1. Использование структурированных шкал оценки
2. Pairwise comparison для лучшего совпадения с человеческими суждениями
3. Chain-of-Thought reasoning для прозрачности решений
Компонентное тестирование: современные AI-системы — не монолитные модели, а многокомпонентные архитектуры. Evaluation должен покрывать каждый компонент отдельно: роутеры, retrieval-системы, tool calls, синтез ответов. Это единственный способ понять, где именно происходит сбой, когда система работает не так, как ожидалось.
Multi-layered monitoring: production-evaluation включает несколько слоёв мониторинга:
1. Операционные метрики (latency, cost, error rates)
2. Метрики качества (completion rate, accuracy, user satisfaction)
3. Метрики безопасности (от jailbreak attempts до PII exposure)
Все три измерения крайне важны для полноценного понимания работы системы.
Завтра продолжу тему во второй части поста
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡3🔥2👨💻2🤯1🤝1
Evaluation как отдельная индустрия: часть 2
Evaluation в AI настолько критичен, что вокруг него сформировалась целая индустрия специализированных инструментов и платформ.
В 2024-2025 годах рынок evaluation-платформ перешёл от экспериментальных инструментов к production-grade решениям. Сегодня существуют полноценные бизнесы, которые покрывают весь цикл разработки AI-систем: Braintrust, Langfuse, PromptLayer, Patronus AI и другие.
Это уже не сторонние инструменты, а специализированные платформы с собственными командами, методологиями и enterprise-клиентами. Они решают задачи, которые невозможно закрыть универсальными средствами: от A/B-тестирования промптов до continuous monitoring в production с real-time alerts.
↗️ Факт существования этих бизнесов подчёркивает, что evaluation — не вспомогательная функция, а критически важная часть AI-инфраструктуры, требующая специализированных решений.
Даже крупные tech-компании развивают собственные evaluation-фреймворки: OpenAI создаёт инструменты для оценки своих моделей, Microsoft встраивает evaluation в Azure AI, а Anthropic использует подход Constitutional AI — методологию, в которой модели выстраиваются по набору принципов (конституции) вместо исключительно человеческой разметки.
Почему это важно для бизнеса
Для бизнеса evaluation — механизм управления рисками и инвестициями.
AI-проекты стоят дорого. Они требуют времени, ресурсов и экспертизы. И без систематического evaluation вы не можете ответить на базовые вопросы:
• Работает ли решение так, как мы ожидали?
• Оправдывают ли результаты инвестиции?
• Какие риски мы несём?
• Где нужно улучшать систему?
• Как изменения влияют на результат?
Evaluation превращает AI из «чёрного ящика» в управляемую систему, где каждое решение обосновано данными.
Какой вывод?
Индустрия AI вступила в фазу production-grade решений. И ключевой элемент этой трансформации — переход от восприятия evaluation как опциональной проверки к пониманию её как основы разработки.
Успешные AI-проекты строятся не только на самых продвинутых моделях. Они строятся на систематическом подходе к измерению, пониманию и улучшению. Evaluation — не контроль, а способ понимать, что и зачем вы делаете и как это работает.
Без этого фундамента AI остаётся экспериментом. С ним — становится инструментом для решения бизнес-задач.
Evaluation в AI настолько критичен, что вокруг него сформировалась целая индустрия специализированных инструментов и платформ.
В 2024-2025 годах рынок evaluation-платформ перешёл от экспериментальных инструментов к production-grade решениям. Сегодня существуют полноценные бизнесы, которые покрывают весь цикл разработки AI-систем: Braintrust, Langfuse, PromptLayer, Patronus AI и другие.
Это уже не сторонние инструменты, а специализированные платформы с собственными командами, методологиями и enterprise-клиентами. Они решают задачи, которые невозможно закрыть универсальными средствами: от A/B-тестирования промптов до continuous monitoring в production с real-time alerts.
Даже крупные tech-компании развивают собственные evaluation-фреймворки: OpenAI создаёт инструменты для оценки своих моделей, Microsoft встраивает evaluation в Azure AI, а Anthropic использует подход Constitutional AI — методологию, в которой модели выстраиваются по набору принципов (конституции) вместо исключительно человеческой разметки.
Почему это важно для бизнеса
Для бизнеса evaluation — механизм управления рисками и инвестициями.
AI-проекты стоят дорого. Они требуют времени, ресурсов и экспертизы. И без систематического evaluation вы не можете ответить на базовые вопросы:
• Работает ли решение так, как мы ожидали?
• Оправдывают ли результаты инвестиции?
• Какие риски мы несём?
• Где нужно улучшать систему?
• Как изменения влияют на результат?
Evaluation превращает AI из «чёрного ящика» в управляемую систему, где каждое решение обосновано данными.
Какой вывод?
Индустрия AI вступила в фазу production-grade решений. И ключевой элемент этой трансформации — переход от восприятия evaluation как опциональной проверки к пониманию её как основы разработки.
Успешные AI-проекты строятся не только на самых продвинутых моделях. Они строятся на систематическом подходе к измерению, пониманию и улучшению. Evaluation — не контроль, а способ понимать, что и зачем вы делаете и как это работает.
Без этого фундамента AI остаётся экспериментом. С ним — становится инструментом для решения бизнес-задач.
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡3🔥3❤2👍1
Forwarded from red_mad_robot
Карта_рынка_GenAI_red_mad_robot_2025.pdf
40.5 MB
Карта рынка GenAI: как он устроен в России
Центр AI-компетенций red_mad_robot собрал большой отчёт по состоянию российского рынка GenAI в 2025 году. Получилась настоящая онтологическая карта с уровнями экосистемы, распределением ролей и зонами, где формируются ключевые компетенции.
Мы проанализировали локальный ландшафт, зафиксировали связи и точки роста, а контекст и практические детали дополнили разговоры с экспертами из red_mad_robot, @beeline и @skolkovo_channel.
Сохраняйте и читайте PDF!
#AI_moment #трендвотчинг
↗️ red_mad_robot
Центр AI-компетенций red_mad_robot собрал большой отчёт по состоянию российского рынка GenAI в 2025 году. Получилась настоящая онтологическая карта с уровнями экосистемы, распределением ролей и зонами, где формируются ключевые компетенции.
Мы проанализировали локальный ландшафт, зафиксировали связи и точки роста, а контекст и практические детали дополнили разговоры с экспертами из red_mad_robot, @beeline и @skolkovo_channel.
Сохраняйте и читайте PDF!
#AI_moment #трендвотчинг
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7⚡4❤3👨💻1
AI-агенты: дизраптор для платформенной экономики
Последние 10–15 лет сервисы вроде Uber, Airbnb и Amazon были стандартом в своих категориях. Но теперь контроль смещается к AI-агентам: они меняют саму механику потребления и делают платформенную модель менее устойчивой, чем кажется.
Экономика disintermediation
Традиционные платформы берут 15-30% комиссии: Uber — 20-25% с водителя, DoorDash — до 30% с ресторана, Airbnb — 14-16% с обеих сторон. AI-агенты могут сжать это до 2-7% — payment processing + обработка.
Как это работает: агент перехватывает запрос в момент возникновения намерения — в календаре, переписке или поисковике — до того, как человек откроет какую-то конкретную платформу. Затем агрегирует предложения со всех площадок одновременно, ведёт прямые переговоры с продавцами и завершает покупку автономно.
Уже к 2030 году объём agentic commerce достигнет $3–5 трлн. Только один ритейл в США может дать до $1 трлн транзакций, оркестрируемых агентами.
Разные отрасли — разная скорость разрушения
Travel
Наиболее уязвимая категория: OTA тратят $17.8 млрд в год на маркетинг, но всё больше пользователей бронируют отели и билеты через AI, минуя сайты. При этом лишь 2% готовы передать агентам полную автономию в планировании — доверие к сложным сценариям остаётся низким.
E-commerce
Получит самый сильный удар в абсолютных величинах: McKinsey прогнозирует, что к 2030 году через агентные сценарии будет проходить $900 млрд–$1 трлн B2C-ритейла.
Только за год трафик из GenAI-браузеров вырос на 4 700% — хотя это всё ещё менее 1% от общего объёма.
Финансовые услуги
Здесь риск носит концентрированный характер: BCG оценивает, что переход к AI-First моделям может добавить банкам до $370 млрд дополнительной годовой прибыли, но параллельно agentic AI размывает традиционные источники дохода.
Агенты могут сравнивать ставки, переводить средства на счета с более высокой доходностью (средняя ставка по депозитам — 0,38%, у онлайн-банков — более 4%) и подбирать оптимальные кредитные продукты. Дополнительно они способны инициировать account-to-account платежи на checkout, обходя interchange fees.
Delivery
Сегмент пока в стадии интеграции, а не разрушения. Крупные игроки — Uber Eats, DoorDash, Instacart — встроились в ChatGPT в октябре 2025 года и увеличили частоту заказов через существующие приложения. Но в долгосрочной перспективе остаётся риск превращения платформ в чистые utility, которые AI воспринимает как взаимозаменяемые.
Реальность сложнее, чем кажется
Несмотря на быстрое развитие и рост интереса, реальное использование остаётся ограниченным:
• Только 10% потребителей хоть раз покупали что-то через AI
• ~50% агентных задач внутри CRM-процессов проваливаются
• Даже лучшие агенты завершают цели максимум в 55% случаев
Отдельный слой — доверие. Например, только 14% американцев пользовались AI shopping assistants, 41% — избегают таких сценариев. При этом подсказки внутри ритейлерских экосистем принимаются примерно в три раза чаще, чем рекомендации сторонних агентов.
Платформы не сдаются
📍 Amazon запустил AI-ассистента Rufus, которым воспользовались более 250 млн клиентов в 2025 году. Это может принести компании до $10 млрд выручки и $700+ млн операционной прибыли.
Покупатели, использующие Rufus, на 60% чаще завершают покупку.
📍 Booking развивает агентные функции, которые закрывают всё больше сценариев по ходу поездки: от подсказок при сбоях до быстрых изменений бронирования и коммуникации с поддержкой.
📍 Wildberries тестирует AI-ассистента, который не просто ищет товары, а помогает принимать решения — от фильтрации до выбора оптимальной модели.
Стратегический вопрос: кто контролирует агента?
Платформа, LLM-провайдер или персональный агент пользователя, работающий поверх всех площадок? От ответа зависит, кто захватит $3–5 трлн к 2030 году.
Ближайшие два-три года станут тестом на устойчивость платформенных бизнесов: либо сетевые эффекты и бренд удержат пользователей внутри экосистем, либо их позиции размоет также быстро, как это было с диспетчерами в такси и консультантами в travel-агентствах.
Последние 10–15 лет сервисы вроде Uber, Airbnb и Amazon были стандартом в своих категориях. Но теперь контроль смещается к AI-агентам: они меняют саму механику потребления и делают платформенную модель менее устойчивой, чем кажется.
Экономика disintermediation
Традиционные платформы берут 15-30% комиссии: Uber — 20-25% с водителя, DoorDash — до 30% с ресторана, Airbnb — 14-16% с обеих сторон. AI-агенты могут сжать это до 2-7% — payment processing + обработка.
Как это работает: агент перехватывает запрос в момент возникновения намерения — в календаре, переписке или поисковике — до того, как человек откроет какую-то конкретную платформу. Затем агрегирует предложения со всех площадок одновременно, ведёт прямые переговоры с продавцами и завершает покупку автономно.
Уже к 2030 году объём agentic commerce достигнет $3–5 трлн. Только один ритейл в США может дать до $1 трлн транзакций, оркестрируемых агентами.
Разные отрасли — разная скорость разрушения
Travel
Наиболее уязвимая категория: OTA тратят $17.8 млрд в год на маркетинг, но всё больше пользователей бронируют отели и билеты через AI, минуя сайты. При этом лишь 2% готовы передать агентам полную автономию в планировании — доверие к сложным сценариям остаётся низким.
E-commerce
Получит самый сильный удар в абсолютных величинах: McKinsey прогнозирует, что к 2030 году через агентные сценарии будет проходить $900 млрд–$1 трлн B2C-ритейла.
Только за год трафик из GenAI-браузеров вырос на 4 700% — хотя это всё ещё менее 1% от общего объёма.
Финансовые услуги
Здесь риск носит концентрированный характер: BCG оценивает, что переход к AI-First моделям может добавить банкам до $370 млрд дополнительной годовой прибыли, но параллельно agentic AI размывает традиционные источники дохода.
Агенты могут сравнивать ставки, переводить средства на счета с более высокой доходностью (средняя ставка по депозитам — 0,38%, у онлайн-банков — более 4%) и подбирать оптимальные кредитные продукты. Дополнительно они способны инициировать account-to-account платежи на checkout, обходя interchange fees.
Delivery
Сегмент пока в стадии интеграции, а не разрушения. Крупные игроки — Uber Eats, DoorDash, Instacart — встроились в ChatGPT в октябре 2025 года и увеличили частоту заказов через существующие приложения. Но в долгосрочной перспективе остаётся риск превращения платформ в чистые utility, которые AI воспринимает как взаимозаменяемые.
Реальность сложнее, чем кажется
Несмотря на быстрое развитие и рост интереса, реальное использование остаётся ограниченным:
• Только 10% потребителей хоть раз покупали что-то через AI
• ~50% агентных задач внутри CRM-процессов проваливаются
• Даже лучшие агенты завершают цели максимум в 55% случаев
Отдельный слой — доверие. Например, только 14% американцев пользовались AI shopping assistants, 41% — избегают таких сценариев. При этом подсказки внутри ритейлерских экосистем принимаются примерно в три раза чаще, чем рекомендации сторонних агентов.
Платформы не сдаются
Покупатели, использующие Rufus, на 60% чаще завершают покупку.
Стратегический вопрос: кто контролирует агента?
Платформа, LLM-провайдер или персональный агент пользователя, работающий поверх всех площадок? От ответа зависит, кто захватит $3–5 трлн к 2030 году.
Ближайшие два-три года станут тестом на устойчивость платформенных бизнесов: либо сетевые эффекты и бренд удержат пользователей внутри экосистем, либо их позиции размоет также быстро, как это было с диспетчерами в такси и консультантами в travel-агентствах.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥9⚡4❤3👍2👨💻1
Датасеты — новая нефть? Почему данные стали дороже AI-моделей
Пока все обсуждают новые версии ChatGPT и Claude, в индустрии происходит тектонический сдвиг: датасеты превращаются из вспомогательной инфраструктуры в самостоятельные бизнесы стоимостью в миллиарды долларов.
Показательный пример — сделка Meta (запрещена в РФ) и Scale AI. Корпорация инвестировала в стартап по маркировке данных $14.3 млрд, получив 49% акций. Это вторая крупнейшая сделка компании после покупки WhatsApp (запрещён в РФ).
Вложения увеличили оценку Scale AI до $29 млрд, а выручку — с $80 млн в 2021 до прогнозируемых $2 млрд в 2025.
Почему это происходит?
Если коротко, то модели коммодитизировались. GPT-4, Claude, LLaMA доступны через API или open-source. Но проприетарные датасеты — нет. А именно качество и редкость данных сейчас считается главным конкурентным преимуществом и Баффетовским economic moat для AI-стартапов.
Три драйвера роста:
1️⃣ Растущая ёмкость: рынок AI-датасетов уже оценивается в $3.5+ млрд и может вырасти до $17 млрд к началу следующего десятилетия.
2️⃣ Evaluation: развитие AI-агентов требует собственных evaluation datasets. Сегмент растёт с $5.4 млрд (2024) до $50 млрд в 2030 при CAGR 45.8%. На этом строится бизнес Braintrust ($45M при оценке $150M) и Patronus AI ($20M инвестиций).
3️⃣ Глубина: общие модели остаются поверхностными в специализированных областях, поэтому появляются отраслевые проекты.
• Bloomberg потратил ресурсы на обучение BloombergGPT на 363 млрд токенов финансовых данных за 40 лет.
• Tempus AI заработал $693 млн выручки в 2024 на медицинских датасетах.
• RELX выделил 70% R&D-бюджета на AI и данные, опираясь на 138 млрд юридических документов.
Новая экономика данных
В бюджетах компаний также появляются отдельные статьи доходов, которых раньше не существовало.
• Reddit: контракты на $203 млн, включая $60 млн в год от Google
• News Corp: сделка на $250 млн на пять лет с OpenAI
• NVIDIA: покупка Gretel AI за $320+ млн
Ключевой вопрос сейчас в том, понимает ли ваша компания ценность данных, на которых она сидит, и готова ли монетизировать их раньше конкурентов?
Пока все обсуждают новые версии ChatGPT и Claude, в индустрии происходит тектонический сдвиг: датасеты превращаются из вспомогательной инфраструктуры в самостоятельные бизнесы стоимостью в миллиарды долларов.
Показательный пример — сделка Meta (запрещена в РФ) и Scale AI. Корпорация инвестировала в стартап по маркировке данных $14.3 млрд, получив 49% акций. Это вторая крупнейшая сделка компании после покупки WhatsApp (запрещён в РФ).
Вложения увеличили оценку Scale AI до $29 млрд, а выручку — с $80 млн в 2021 до прогнозируемых $2 млрд в 2025.
Почему это происходит?
Если коротко, то модели коммодитизировались. GPT-4, Claude, LLaMA доступны через API или open-source. Но проприетарные датасеты — нет. А именно качество и редкость данных сейчас считается главным конкурентным преимуществом и Баффетовским economic moat для AI-стартапов.
Три драйвера роста:
• Bloomberg потратил ресурсы на обучение BloombergGPT на 363 млрд токенов финансовых данных за 40 лет.
• Tempus AI заработал $693 млн выручки в 2024 на медицинских датасетах.
• RELX выделил 70% R&D-бюджета на AI и данные, опираясь на 138 млрд юридических документов.
Новая экономика данных
В бюджетах компаний также появляются отдельные статьи доходов, которых раньше не существовало.
• Reddit: контракты на $203 млн, включая $60 млн в год от Google
• News Corp: сделка на $250 млн на пять лет с OpenAI
• NVIDIA: покупка Gretel AI за $320+ млн
Ключевой вопрос сейчас в том, понимает ли ваша компания ценность данных, на которых она сидит, и готова ли монетизировать их раньше конкурентов?
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5❤4💯4🔥1
Всем привет, только я написал про новый стрим бизнеса и вот сделка на эту же тему.
Дисней партнерится с OpenAI:
https://finance.yahoo.com/video/disney-invest-1b-openai-partners-142338317.html?contentType=VIDEO
Дисней партнерится с OpenAI:
https://finance.yahoo.com/video/disney-invest-1b-openai-partners-142338317.html?contentType=VIDEO
Yahoo Finance
Disney to invest $1B in OpenAI, partners with video generator Sora
Disney (DIS) will be making a $1 billion equity investment into OpenAI (OPAI.PVT), reaching an agreement to become the first major content licensing partner on the artificial intelligence firm's Sora video generating platform. To watch more expert insights…
🔥6⚡2🤯2
Meta* и Manus
🪙 Meta* купила не стартап, а направление
В конце прошлого года компания объявила о покупке китайского AI-стартапа Manus за $2+ млрд. Сделку закрыли за десять дней. Фонд Benchmark получил около х4 возврата за восемь месяцев — это один из самых быстрых VC exits в истории.
Но цифры здесь вторичны. Ключевой вопрос — что именно купила Meta*.
Manus не разрабатывают собственные модели. В основе — сторонние LLM, включая Claude от Anthropic и Qwen от Alibaba. Их реальная ценность в orchestration layer — системе, которая координирует модели и инструменты для выполнения сложных задач. Агент запускает полноценные Linux-воркспейсы в облаке — с sudo-доступом и выходом в интернет.
Фактура за 8 месяцев:
⭐️ $100M+ ARR
⭐️ 147 трлн обработанных токенов
⭐️ 80 млн созданных виртуальных компьютеров
Почему эта сделка так интересна?
До сих пор большинство AI-продуктов работали в режиме ассистента: предлагали идеи, рекомендации и подсказки и ждали дальнейшего решения от человека. В Manus отошли от этой модели.
Их value proposition — не помогать принимать решения, а принимать и самостоятельно исполнять решение. Это даже начали назвать Decision-as-a-Service — противовес классическому SaaS.
Продажа инструментов означает когнитивную нагрузку на пользователе. Продажа решений — эту нагрузку снимает.
Что это значит для Meta*?
Компания владеет крупнейшей distribution-платформой в мире: WhatsApp* (2B+), Instagram* (2B+), Facebook* (3B+). При этом Meta* отставала в agentic capabilities от Microsoft Copilot и OpenAI.
Сейчас у корпорации появляются интеграционные возможности:
• WhatsApp Business*: агенты для SMB — обработка заказов, scheduling, customer service
• Instagram*: автоматизация для creators
• Marketplace: оптимизация листингов и matching
Аналитик D.A.Davidson заметил ключевое:
Сигнал для индустрии
В одном из отчётов Gartner назвал сделку первым убедительным end-to-end AI-agent stack. Это важная валидация идеи о том, что application layer способен генерировать $100M+ ARR без собственных моделей.
Моя позиция: если модельная гонка выходит на плато, конкуренция смещается в orchestration layer — к тем, кто превращает capabilities в completed work. Meta* ставит именно на это.
* Meta, а также её продукты Facebook, Instagram и WhatsApp признаны экстремистскими на территории РФ.
В конце прошлого года компания объявила о покупке китайского AI-стартапа Manus за $2+ млрд. Сделку закрыли за десять дней. Фонд Benchmark получил около х4 возврата за восемь месяцев — это один из самых быстрых VC exits в истории.
Но цифры здесь вторичны. Ключевой вопрос — что именно купила Meta*.
Manus не разрабатывают собственные модели. В основе — сторонние LLM, включая Claude от Anthropic и Qwen от Alibaba. Их реальная ценность в orchestration layer — системе, которая координирует модели и инструменты для выполнения сложных задач. Агент запускает полноценные Linux-воркспейсы в облаке — с sudo-доступом и выходом в интернет.
Фактура за 8 месяцев:
Почему эта сделка так интересна?
До сих пор большинство AI-продуктов работали в режиме ассистента: предлагали идеи, рекомендации и подсказки и ждали дальнейшего решения от человека. В Manus отошли от этой модели.
Их value proposition — не помогать принимать решения, а принимать и самостоятельно исполнять решение. Это даже начали назвать Decision-as-a-Service — противовес классическому SaaS.
Продажа инструментов означает когнитивную нагрузку на пользователе. Продажа решений — эту нагрузку снимает.
Что это значит для Meta*?
Компания владеет крупнейшей distribution-платформой в мире: WhatsApp* (2B+), Instagram* (2B+), Facebook* (3B+). При этом Meta* отставала в agentic capabilities от Microsoft Copilot и OpenAI.
Сейчас у корпорации появляются интеграционные возможности:
• WhatsApp Business*: агенты для SMB — обработка заказов, scheduling, customer service
• Instagram*: автоматизация для creators
• Marketplace: оптимизация листингов и matching
Аналитик D.A.Davidson заметил ключевое:
«One of the things they saw in Manus was it was being incorporated into WeChat, which is really a model for what they want to do with WhatsApp».
Сигнал для индустрии
В одном из отчётов Gartner назвал сделку первым убедительным end-to-end AI-agent stack. Это важная валидация идеи о том, что application layer способен генерировать $100M+ ARR без собственных моделей.
Моя позиция: если модельная гонка выходит на плато, конкуренция смещается в orchestration layer — к тем, кто превращает capabilities в completed work. Meta* ставит именно на это.
* Meta, а также её продукты Facebook, Instagram и WhatsApp признаны экстремистскими на территории РФ.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7👍4❤2⚡2
И ещё по вчерашнему посту
Интересная мысль от Constellation Research о сделке Meta* и Manus.
Meta* может показывать рекламу в момент supervision — когда пользователь наблюдает за работой агента. А это почти всегда не мгновенный процесс. Те есть фактически появляется новый ad inventory с контекстом не «что ты гуглил», а «что ты делаешь прямо сейчас».
↗️ Пока рынок обсуждает будущее агентных систем, Meta*, возможно, не забывает о будущем рекламы.
* Meta признана экстремистской организацией на территории РФ.
Интересная мысль от Constellation Research о сделке Meta* и Manus.
Meta* может показывать рекламу в момент supervision — когда пользователь наблюдает за работой агента. А это почти всегда не мгновенный процесс. Те есть фактически появляется новый ad inventory с контекстом не «что ты гуглил», а «что ты делаешь прямо сейчас».
* Meta признана экстремистской организацией на территории РФ.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5⚡2🔥2🗿1
Кто на самом деле тормозит AI-трансформацию
Принято считать, что главные скептики AI-трансформации — рядовые сотрудники. Они боятся, что их заменят, держатся за старые инструменты, сопротивляются обучению.
На практике всё ровно наоборот.
Линейные специалисты подхватывают AI охотно — они видят в нём инструмент роста, способ делать больше без лишних согласований. А вот средний менеджмент — тот самый слой, через который проходят все корпоративные AI-инициативы, — тормозит. Не случайно, а структурно.
Почему?
Потому что AI угрожает не их работе. Он угрожает их власти.
Средний менеджер исторически держится на трёх вещах:
• Контроле информационных потоков
• Координации между командами
• Монополии на операционные решения
Именно это AI забирает первым: статусы выходят из переписок и становятся данными. Данные убивают серые зоны. А серые зоны — это и был менеджерский leverage. Дальше начинается самое интересное.
Менеджеры прибегают к knowledge hiding — сознательно придерживают экспертизу и информацию, чтобы сохранить relevance. Не из злого умысла. Из инстинкта самосохранения.
Пример такого типичного гэпа: корпоративные AI-пилоты, которые идут сверху через менеджмент, дают успешность 5%. Индивидуальное использование сотрудниками на местах — 40%. Разрыв в восемь раз.
Что это означает на практике?
Проблема не в технологиях и не корпоративной культуре как абстракции. Проблема в том, что экономические стимулы среднего менеджмента структурно направлены против трансформации: KPI заточены на стабильность, влияние держится на информационной асимметрии, а карьерный риск за публичный фейл — реальный и ощутимый.
22% руководителей признают, что колебались лидировать или даже предлагать AI-проект из-за страха провала и потенциальной критики. И это именно тот уровень, который формально отвечает за то, чтобы инициативы становились процессом.
Вывод простой: если AI-трансформация буксует, стоит смотреть не на джунов, а на то, как устроены стимулы и ответственность уровнем выше. Никакой тренинг по AI не компенсирует ситуацию, в которой для менеджера рациональнее минимизировать риск, чем менять контур управления.
Принято считать, что главные скептики AI-трансформации — рядовые сотрудники. Они боятся, что их заменят, держатся за старые инструменты, сопротивляются обучению.
На практике всё ровно наоборот.
Линейные специалисты подхватывают AI охотно — они видят в нём инструмент роста, способ делать больше без лишних согласований. А вот средний менеджмент — тот самый слой, через который проходят все корпоративные AI-инициативы, — тормозит. Не случайно, а структурно.
Почему?
Потому что AI угрожает не их работе. Он угрожает их власти.
Средний менеджер исторически держится на трёх вещах:
• Контроле информационных потоков
• Координации между командами
• Монополии на операционные решения
Именно это AI забирает первым: статусы выходят из переписок и становятся данными. Данные убивают серые зоны. А серые зоны — это и был менеджерский leverage. Дальше начинается самое интересное.
Менеджеры прибегают к knowledge hiding — сознательно придерживают экспертизу и информацию, чтобы сохранить relevance. Не из злого умысла. Из инстинкта самосохранения.
Пример такого типичного гэпа: корпоративные AI-пилоты, которые идут сверху через менеджмент, дают успешность 5%. Индивидуальное использование сотрудниками на местах — 40%. Разрыв в восемь раз.
Что это означает на практике?
Проблема не в технологиях и не корпоративной культуре как абстракции. Проблема в том, что экономические стимулы среднего менеджмента структурно направлены против трансформации: KPI заточены на стабильность, влияние держится на информационной асимметрии, а карьерный риск за публичный фейл — реальный и ощутимый.
22% руководителей признают, что колебались лидировать или даже предлагать AI-проект из-за страха провала и потенциальной критики. И это именно тот уровень, который формально отвечает за то, чтобы инициативы становились процессом.
Вывод простой: если AI-трансформация буксует, стоит смотреть не на джунов, а на то, как устроены стимулы и ответственность уровнем выше. Никакой тренинг по AI не компенсирует ситуацию, в которой для менеджера рациональнее минимизировать риск, чем менять контур управления.
💯9🔥4💩2⚡1👌1
Forwarded from Валера Ковальский
Забудь про MCP и tools — конвертируй 100 000 API методов в один CLI инструмент на лету
Все сейчас пишут MCP-серверы и tools для агентов
На каждый API endpoint — отдельный tool с описанием, параметрами, схемой
10 методов? Ок
100? Уже больно
845 (GitHub API)? Удачи (да да можно делать поиск и тулов и MCP) но какой же это зоопарк и как его поддерживать?
Но так же мы поняли новый тренд это cli обертки
От сюда мы с @evilfreelancer пошли другим путём: берём любой OpenAPI spec (JSON/YAML) и конвертируем его в CLI команды на лету Без кодогенерации.
Без компиляции
Один бинарник — любое API
Что это даёт:
→ ocli search --query "create pull request" --limit 5 — BM25-поиск по 845 эндпоинтам за 7мс
→ ocli search --regex "repos.*pulls" — regex по путям, именам, описаниям
→ Несколько профилей одного API с разными наборами эндпоинтов (include/exclude)
→ Несколько API серверов в одном инструменте
Почему CLI, а не MCP tools для агентов?
100 MCP tools → ~50 000 токенов на описания в контексте
100 CLI команд → 1 tool "execute_command" + поиск нужной команды
Объективно я счита что агентов больше таскают команды вызвать, нежели разбираться с тонне контекста tools
Агент вызывает ocli search, находит нужную команду, выполняет её
Один tool_exec вместо тысяч
Контекстное окно свободно для работы, а не для описаний инструментов.
Сделал быстрый тест на реальных API:
- GitHub API — 845 endpoints, 11MB spec, JSON
- Box API — 258 endpoints, YAML
BM25 поиск — порт из Go (picoclaw) на TypeScript с Robertson IDF smoothing.
GitHub: https://github.com/EvilFreelancer/openapi-to-cli
Все сейчас пишут MCP-серверы и tools для агентов
На каждый API endpoint — отдельный tool с описанием, параметрами, схемой
10 методов? Ок
100? Уже больно
845 (GitHub API)? Удачи (да да можно делать поиск и тулов и MCP) но какой же это зоопарк и как его поддерживать?
Но так же мы поняли новый тренд это cli обертки
От сюда мы с @evilfreelancer пошли другим путём: берём любой OpenAPI spec (JSON/YAML) и конвертируем его в CLI команды на лету Без кодогенерации.
Без компиляции
Один бинарник — любое API
Что это даёт:
→ ocli search --query "create pull request" --limit 5 — BM25-поиск по 845 эндпоинтам за 7мс
→ ocli search --regex "repos.*pulls" — regex по путям, именам, описаниям
→ Несколько профилей одного API с разными наборами эндпоинтов (include/exclude)
→ Несколько API серверов в одном инструменте
Почему CLI, а не MCP tools для агентов?
100 MCP tools → ~50 000 токенов на описания в контексте
100 CLI команд → 1 tool "execute_command" + поиск нужной команды
Объективно я счита что агентов больше таскают команды вызвать, нежели разбираться с тонне контекста tools
Агент вызывает ocli search, находит нужную команду, выполняет её
Один tool_exec вместо тысяч
Контекстное окно свободно для работы, а не для описаний инструментов.
Сделал быстрый тест на реальных API:
- GitHub API — 845 endpoints, 11MB spec, JSON
- Box API — 258 endpoints, YAML
BM25 поиск — порт из Go (picoclaw) на TypeScript с Robertson IDF smoothing.
npm install -g git+https://github.com/EvilFreelancer/openapi-to-cli.git#feat/command-searchocli profile add githubocli search --query "upload file" --limit 5GitHub: https://github.com/EvilFreelancer/openapi-to-cli
GitHub
GitHub - EvilFreelancer/openapi-to-cli: Turns any OpenAPI/Swagger API into an CLI with set of commands. One CLI command per endpoint.
Turns any OpenAPI/Swagger API into an CLI with set of commands. One CLI command per endpoint. - EvilFreelancer/openapi-to-cli
🔥3💯1
Инференс
Компании в РФ, кажется, проходят путь от вопроса как внедрить AI, к вопросу как его оптимизировать. А если конкретно, как сделать оптимизацию инференса.
Подходов достаточно много как на уровне каждого конкретного pipeline, так и на уровне железа. Например, часть операций делать на легкой модели - часть уже отдавать в дорогую трилионную. Идут эксперименты с китайскими картами, правда, пока прямо success strories не видел.
Из бизнесового, мне очень нравится кейс Dystil AI - ребята высаживаются в enterprise небольшой супер продвинутой командой и выжимают экономию OPEX.
Также всем советую обратить внимание на их research и opensource вещи. Недвно выложили репу с оптимизацией промптов, правда мы пока не тестили.
Компании в РФ, кажется, проходят путь от вопроса как внедрить AI, к вопросу как его оптимизировать. А если конкретно, как сделать оптимизацию инференса.
Подходов достаточно много как на уровне каждого конкретного pipeline, так и на уровне железа. Например, часть операций делать на легкой модели - часть уже отдавать в дорогую трилионную. Идут эксперименты с китайскими картами, правда, пока прямо success strories не видел.
Из бизнесового, мне очень нравится кейс Dystil AI - ребята высаживаются в enterprise небольшой супер продвинутой командой и выжимают экономию OPEX.
Также всем советую обратить внимание на их research и opensource вещи. Недвно выложили репу с оптимизацией промптов, правда мы пока не тестили.
www.distyl.ai
Distyl — Architecting the AI-Native Enterprise
Architecting the AI-Native Enterprise. Distyl partners with the most ambitious enterprises to design and operationalize their AI transformations.
🔥7❤4👍2😁1
red_mad_router
Делюсь новостями; Мы запустили (на самом деле достаточно давано, но на этот раз публично) платформу для управления LLM в бизнесе. Доступ к множеству моделей как в облаке так и on-premise.
Как часто бывает, мы делали для внутренних целей и для своих продуктов, а потом клиенты попросили вывести и для них.
Делюсь новостями; Мы запустили (на самом деле достаточно давано, но на этот раз публично) платформу для управления LLM в бизнесе. Доступ к множеству моделей как в облаке так и on-premise.
Как часто бывает, мы делали для внутренних целей и для своих продуктов, а потом клиенты попросили вывести и для них.
redmadrouter.ru
red_mad_router — платформа для управления LLM в бизнесе
Подключаем модели, контролируем затраты и выстраиваем безопасную работу с ИИ-сценариями
🔥10⚡5👌2
AI в разработке ПО
Модерировал сегодня дискуссию про ai разработку. Был очень сильный состав спикеров из сбер-а, Т1, Vk tech, Positive Technologies, ГПН. И вот что я скажу, поезд не просто уходит, а мчится на полном ходу:
1) Все уже шагнули в AI разработку. Чувствую по вопросам, уже не говорят об экспериментах, говорят об эффектах. Думают плотно не над вопросами кода, а про spec driving development, замену аналитиков, напряжение продактов - это маркеры, что уже все это не теория, а компании реально применяют.
2) Заказчики уже видят удешевление стоимости разработки от поставщиков.
3) Уже есть метрики, прежде всего увеличение кол-ва сторЕй в единицу времени. Сбер фиксирует кратный рост объема потребления токенов агентами разработки.
4) Vk зафиксировал метрику 1 QA на 10 разработчиков - как меру эффективности последних.
5) У всех уже развернуты квены и другие ЛЛМ для целей разработки.
То есть SDLC уже очень поменялся с ИИ.
PS если у вас в компании пробовали что-то пол года назад и отрезали не получив эффектов - срочно пробуйте снова!
Модерировал сегодня дискуссию про ai разработку. Был очень сильный состав спикеров из сбер-а, Т1, Vk tech, Positive Technologies, ГПН. И вот что я скажу, поезд не просто уходит, а мчится на полном ходу:
1) Все уже шагнули в AI разработку. Чувствую по вопросам, уже не говорят об экспериментах, говорят об эффектах. Думают плотно не над вопросами кода, а про spec driving development, замену аналитиков, напряжение продактов - это маркеры, что уже все это не теория, а компании реально применяют.
2) Заказчики уже видят удешевление стоимости разработки от поставщиков.
3) Уже есть метрики, прежде всего увеличение кол-ва сторЕй в единицу времени. Сбер фиксирует кратный рост объема потребления токенов агентами разработки.
4) Vk зафиксировал метрику 1 QA на 10 разработчиков - как меру эффективности последних.
5) У всех уже развернуты квены и другие ЛЛМ для целей разработки.
То есть SDLC уже очень поменялся с ИИ.
PS если у вас в компании пробовали что-то пол года назад и отрезали не получив эффектов - срочно пробуйте снова!
👍9❤6🔥6
Валера зарелизили очередную версию https://hub.neuraldeep.ru/ - теперь можно на локальных серверах делать классные штуки по подписке. PRO users go пробовать)
Telegram
Валера Ковальский
Head of AI red_mad_robot
AI-advisor Bitrix24
From IT Admin to Head of AI in 6 years
Автор https://neuraldeep.ru/
Raised $2M+ for human-centric AI startups
github.com/vakovalskii | chat @neuraldeepchat
AI-advisor Bitrix24
From IT Admin to Head of AI in 6 years
Автор https://neuraldeep.ru/
Raised $2M+ for human-centric AI startups
github.com/vakovalskii | chat @neuraldeepchat
❤5👍4🔥3
От промптов к loops
Поигрался чуть-чуть с Fable 5 — и поймал себя на мысли, как быстро сменилась парадигма. Сначала мы все писали промпты. Потом строили агентов. Теперь нам Антропик советует создавать loops — петли, в которых модель сама себя корректирует.
Что понимается под loops?
Вместо того чтобы «рулить» моделью вручную, эффективнее дать ей среду с обратной связью. Задаёшь цель и рубрику с проверяемыми критериями — агент работает, сверяется, корректируется и продолжает, пока критерии не выполнены.
Ключевой нюанс (по мнению того же Антропика) — кто судит. Самокритика у моделей работает плохо: отдельный verifier-агент с независимым контекстом стабильно обыгрывает self-critique. Не просить модель «проверь себя», а отдать независимого оценщика,
Еще приём — память как петля поверх сессий: модель фиксирует ошибки, разбирается в причинах, дистиллирует их в правила и переиспользует. Старшие модели проходят этот цикл целиком — получается самообучающаяся база знаний агента.
/goal уже использую, с остальным буду играться дальше)
Какой вывод?
Эволюция продолжается: prompt engineering → agent engineering → loop engineering. И выигрывать будут те, кто раньше научится проектировать такие среды) и старое доброе - у кого лучше данные)
Поигрался чуть-чуть с Fable 5 — и поймал себя на мысли, как быстро сменилась парадигма. Сначала мы все писали промпты. Потом строили агентов. Теперь нам Антропик советует создавать loops — петли, в которых модель сама себя корректирует.
Что понимается под loops?
Вместо того чтобы «рулить» моделью вручную, эффективнее дать ей среду с обратной связью. Задаёшь цель и рубрику с проверяемыми критериями — агент работает, сверяется, корректируется и продолжает, пока критерии не выполнены.
Ключевой нюанс (по мнению того же Антропика) — кто судит. Самокритика у моделей работает плохо: отдельный verifier-агент с независимым контекстом стабильно обыгрывает self-critique. Не просить модель «проверь себя», а отдать независимого оценщика,
Еще приём — память как петля поверх сессий: модель фиксирует ошибки, разбирается в причинах, дистиллирует их в правила и переиспользует. Старшие модели проходят этот цикл целиком — получается самообучающаяся база знаний агента.
/goal уже использую, с остальным буду играться дальше)
Какой вывод?
Эволюция продолжается: prompt engineering → agent engineering → loop engineering. И выигрывать будут те, кто раньше научится проектировать такие среды) и старое доброе - у кого лучше данные)
🔥7🤝5⚡3