Инфраструктура для AI-агентов, запросы к распределенным данным и стоимость хранения. В этой подборке — материалы из индустрии и записи HighLoad++ 2025.
Почитать:
🔴 Everything we launched during Agents Week.
Cloudflare собирает инфраструктуру для AI-агентов: отдельный runtime, новые сетевые возможности Workers и инструменты для трассировки и отладки.
🔴 How and Why Netflix Built a Real-Time Distributed Graph: Part 3 — Querying the graph with gRPC execution API.
Внутри — архитектура слоя запросов к графу на 8 млрд узлов и 150 млрд ребер: асинхронное выполнение, кеширование через EVCache и eventual consistency. Для single-hop запросов Netflix приводит P99 менее 100 мс.
🔴 Running Cost-Efficient Export Workloads at Uber.
Выборочные запросы по большим историческим таблицам заставляли читать слишком много файлов и увеличивали расходы. Uber сократил объем сканирования с помощью Hudi column stats и сортировки данных.
Посмотреть:
🔴 Строительные блоки LLM-агентов: планировщик, память, RAG и рабочие цепочки. Алексей Барган.
Доклад на понятной архитектору и разработчику структуре поясняет, из чего состоит агент, и на практике показывает, в каких блоках какие проблемы могут возникнуть.
🔴 Реалтайм-аналитика в распределенной системе. Вадим Зотеев.
Как обрабатывать аналитические запросы за сотни миллисекунд, когда данные распределены по десяткам сервисов, а объемы измеряются миллионами/миллиардами записей? Практический опыт построения системы real-time-аналитики в большом B2B-продукте.
🔴 Выжимаем облака досуха: как свое железо экономит 90% затрат на большие данные для стартапа. Андрей Ивахненко.
Как хранить петабайты данных максимально дешево. Десятилетний опыт разработчика системы «Антиплагиат».
Сохраняйте подборку на случай, если захотите к ней вернуться, и делитесь с коллегами 🙌
Почитать:
Cloudflare собирает инфраструктуру для AI-агентов: отдельный runtime, новые сетевые возможности Workers и инструменты для трассировки и отладки.
Внутри — архитектура слоя запросов к графу на 8 млрд узлов и 150 млрд ребер: асинхронное выполнение, кеширование через EVCache и eventual consistency. Для single-hop запросов Netflix приводит P99 менее 100 мс.
Выборочные запросы по большим историческим таблицам заставляли читать слишком много файлов и увеличивали расходы. Uber сократил объем сканирования с помощью Hudi column stats и сортировки данных.
Посмотреть:
Доклад на понятной архитектору и разработчику структуре поясняет, из чего состоит агент, и на практике показывает, в каких блоках какие проблемы могут возникнуть.
Как обрабатывать аналитические запросы за сотни миллисекунд, когда данные распределены по десяткам сервисов, а объемы измеряются миллионами/миллиардами записей? Практический опыт построения системы real-time-аналитики в большом B2B-продукте.
Как хранить петабайты данных максимально дешево. Десятилетний опыт разработчика системы «Антиплагиат».
Сохраняйте подборку на случай, если захотите к ней вернуться, и делитесь с коллегами 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3⚡1
Forwarded from Онтико
Друзья,
Мы задумали странное - обычная наша аудитория - вся линейка IT-разработчиков.
Эта аудитория вовсю использует агентов - пробуют и играются почти все. В тоже время есть мнение, что основной прорыв в эффективности будет вовсе не в разработке, мы просто первыми попали под каток.
А в бизнес-процессах компаний, в том числе реального сектора. А здесь использование AI пока не превышает 5%.
Вот с этой проблемой мы и хотим попробовать поработать.
Первой задачей, по нашему размышлению, стоит делать витрину кейсов. Много-много реальных кейсов, не "мы развернули собственный инференс", а что-то очень простое - что всколыхнёт воображение и вызовет мысль - "А может и мне попробовать?".
Ну, например, реальная заявка - булочная, ребята поставили напротив витрины камеру, которая раз в N минут сбрасывает фотографию в Claude и менеджер получает сигнал о том, чего хватает или не хватает в выкладке на витрине.
Или хорошо знакомое нам построение первой линии поддержки. Или подбор автотранспорта для лизинга совершенно произвольной спецтехники - докладчик утверждает, что параметров для выбора несколько тысяч и учитывать их человеком было очень долго (несколько часов), подключили AI и получили несколько минут.
Мы ищем доклады на такую конференцию! AI Cases, 19 октября, Москва.
https://aicasesconf.ru/
Моя к вам просьба - если вы знаете компании, которые реальный сектор и которые пробуют AI в процессах - пожалуйста, перешлите им это сообщение. Или познакомьте - буду очень благодарен!
Мы задумали странное - обычная наша аудитория - вся линейка IT-разработчиков.
Эта аудитория вовсю использует агентов - пробуют и играются почти все. В тоже время есть мнение, что основной прорыв в эффективности будет вовсе не в разработке, мы просто первыми попали под каток.
А в бизнес-процессах компаний, в том числе реального сектора. А здесь использование AI пока не превышает 5%.
Вот с этой проблемой мы и хотим попробовать поработать.
Первой задачей, по нашему размышлению, стоит делать витрину кейсов. Много-много реальных кейсов, не "мы развернули собственный инференс", а что-то очень простое - что всколыхнёт воображение и вызовет мысль - "А может и мне попробовать?".
Ну, например, реальная заявка - булочная, ребята поставили напротив витрины камеру, которая раз в N минут сбрасывает фотографию в Claude и менеджер получает сигнал о том, чего хватает или не хватает в выкладке на витрине.
Или хорошо знакомое нам построение первой линии поддержки. Или подбор автотранспорта для лизинга совершенно произвольной спецтехники - докладчик утверждает, что параметров для выбора несколько тысяч и учитывать их человеком было очень долго (несколько часов), подключили AI и получили несколько минут.
Мы ищем доклады на такую конференцию! AI Cases, 19 октября, Москва.
https://aicasesconf.ru/
Моя к вам просьба - если вы знаете компании, которые реальный сектор и которые пробуют AI в процессах - пожалуйста, перешлите им это сообщение. Или познакомьте - буду очень благодарен!
Бэкапы БД на 100+ ТБ, компактификация таблиц YTsaurus, API и деплой под AI-агента — в программе HighLoad++ 2026 уже есть темы, где за готовым «как» начинаются ограничения и выбор решения.
🖐️ Вы сможете сверить свои подходы с опытом команд: почему система устроена именно так, где инструмент ошибается и что ляжет под нагрузкой.
⚡При оплате билета до 10 сентября, каждый участник получит записи Saint HighLoad++ 2026 и Agentic Dev Conf 2026 с бессрочным доступом. А ещё, два месяца в закрытом AI-клубе «Цех разработки».
*Участвуют все тарифы и ранее выставленные счета.
✅ Первые принятые доклады и билеты — на сайте
🖐️ Вы сможете сверить свои подходы с опытом команд: почему система устроена именно так, где инструмент ошибается и что ляжет под нагрузкой.
⚡При оплате билета до 10 сентября, каждый участник получит записи Saint HighLoad++ 2026 и Agentic Dev Conf 2026 с бессрочным доступом. А ещё, два месяца в закрытом AI-клубе «Цех разработки».
*Участвуют все тарифы и ранее выставленные счета.
✅ Первые принятые доклады и билеты — на сайте
Как уложить обработку данных с сенсоров в realtime? Как софт передаёт команды двигателю спутника? И зачем облаку диски без репликации?
Для сегодняшней подборки мы открыли записи трёх докладов HighLoad++ 2025 с ответами на эти вопросы 🙌
🔴 Как устроена система восприятия робота-доставщика Яндекса. Сергей Голованов.
Как робот обрабатывает данные камер, лидара и парктроников, чтобы распознавать объекты вокруг. Сергей разбирает ML-модели восприятия, работу с жёсткими realtime-требованиями и проверку роботов: от офлайн-валидации и симуляций до уличных испытаний.
🔴 Двигательные установки космических аппаратов. Александр Токарев.
Какие двигатели используют на спутниках и как бортовое оборудование передаёт им команды. Александр рассматривает конструкции от гидразиновых до паровых, известные отказы, интерфейсы управления и протоколы, обращаясь к SDK Software Defined Satellite и коду летавших аппаратов.
🔴 Сетевые нереплицируемые диски в облаке: почему, как, а главное — зачем? Александр Руденко.
Зачем облаку сетевые диски без репликации и для каких задач они подходят. На примере K2 Cloud Александр объясняет их устройство, за счёт чего достигаются низкие задержки и высокая производительность, какие особенности эксплуатации и риски нужно учитывать.
А в чём вы недавно разбирались просто из интереса, без рабочей задачи? 😊
Для сегодняшней подборки мы открыли записи трёх докладов HighLoad++ 2025 с ответами на эти вопросы 🙌
Как робот обрабатывает данные камер, лидара и парктроников, чтобы распознавать объекты вокруг. Сергей разбирает ML-модели восприятия, работу с жёсткими realtime-требованиями и проверку роботов: от офлайн-валидации и симуляций до уличных испытаний.
Какие двигатели используют на спутниках и как бортовое оборудование передаёт им команды. Александр рассматривает конструкции от гидразиновых до паровых, известные отказы, интерфейсы управления и протоколы, обращаясь к SDK Software Defined Satellite и коду летавших аппаратов.
Зачем облаку сетевые диски без репликации и для каких задач они подходят. На примере K2 Cloud Александр объясняет их устройство, за счёт чего достигаются низкие задержки и высокая производительность, какие особенности эксплуатации и риски нужно учитывать.
А в чём вы недавно разбирались просто из интереса, без рабочей задачи? 😊
Please open Telegram to view this post
VIEW IN TELEGRAM
🎉1
Агент написал решение. А почему оно должно быть устроено именно так — вопрос всё ещё к вам.
С этим решением ещё предстоит работать: понять, где агент ошибся и что может сломаться под нагрузкой, хотя на первый взгляд всё готово к продакшену. Чтобы оценить его, одного ответа модели мало, нужны инженерное мышление и знание системы.
А ещё, сейчас полезно узнать и логику чужого выбора. На HighLoad++ 2026 будем говорить как раз об этом: почему команды пошли выбранным путём и как их решения повели себя под нагрузкой.
⚡️При оплате билета до 10 сентября, каждый участник получит записи Saint HighLoad++ 2026 и Agentic Dev Conf 2026 с бессрочным доступом. А ещё, два месяца в закрытом AI-клубе «Цех разработки».
*Участвуют все тарифы и ранее выставленные счета.
✅ Первые принятые доклады и билеты — на сайте
С этим решением ещё предстоит работать: понять, где агент ошибся и что может сломаться под нагрузкой, хотя на первый взгляд всё готово к продакшену. Чтобы оценить его, одного ответа модели мало, нужны инженерное мышление и знание системы.
А ещё, сейчас полезно узнать и логику чужого выбора. На HighLoad++ 2026 будем говорить как раз об этом: почему команды пошли выбранным путём и как их решения повели себя под нагрузкой.
⚡️При оплате билета до 10 сентября, каждый участник получит записи Saint HighLoad++ 2026 и Agentic Dev Conf 2026 с бессрочным доступом. А ещё, два месяца в закрытом AI-клубе «Цех разработки».
*Участвуют все тарифы и ранее выставленные счета.
✅ Первые принятые доклады и билеты — на сайте
Мартин Штерн — партнёр и коммерческий директор Онтико, сооснователь «Института перехода» и один из людей, стоящих за крупнейшими техническими конференциями в России, включая HighLoad++.
В новом выпуске подкаста «Цена успеха» — его путь от школы в Швейцарии и киберспорта до ООН и Онтико. Ковид, кризис 2022 года, международные конференции, бизнес с низким запасом на ошибку.
И ещё — почему Мартин, который никогда не писал код, начал неистово вайб-кодить, запускать сотни AI-субагентов и перестраивать бизнес-процессы вокруг ИИ. Разговор о деньгах, риске, неопределённости и новой технологической революции.
В новом выпуске подкаста «Цена успеха» — его путь от школы в Швейцарии и киберспорта до ООН и Онтико. Ковид, кризис 2022 года, международные конференции, бизнес с низким запасом на ошибку.
И ещё — почему Мартин, который никогда не писал код, начал неистово вайб-кодить, запускать сотни AI-субагентов и перестраивать бизнес-процессы вокруг ИИ. Разговор о деньгах, риске, неопределённости и новой технологической революции.
YouTube
Взял кредиты на токены и начал вайб-кодить: как Мартин Штерн внедряет ИИ в бизнес | Цена Успеха
Подписывайтесь на мой Telegram Канал - https://t.me/obalbekov
Мартин Штерн — партнёр и коммерческий директор Онтико, сооснователь «Института перехода» и один из людей, стоящих за крупнейшими техническими конференциями в России, включая HighLoad++.
В новом…
Мартин Штерн — партнёр и коммерческий директор Онтико, сооснователь «Института перехода» и один из людей, стоящих за крупнейшими техническими конференциями в России, включая HighLoad++.
В новом…
👍2🔥2❤🔥1❤1😁1💯1🏆1
Forwarded from Онтико (Oleg Bunin)
Вчера на TeamLead++ Siberia возникло несколько дискуссий о том, а как долго отрасль будет приспосабливаться к новой схеме работы с агентами внутри SDLC. А что вы думаете, как долго мы будем ещё пробовать, искать лучшие практики?
Провожу небольшой опрос.
Провожу небольшой опрос.
HighLoad++ via @vote
Как вы думаете, эта вакханалия вокруг агентов в разработке когда и чем закончится?
anonymous poll
Ещё год-два будем искать новые лучшие практики, затем устаканится в новой схеме с агентами – 59
👍👍👍👍👍👍👍 55%
Да, в принципе уже всё понятно, как работать с агентами, это уже не вопрос для дискуссий. – 23
👍👍👍 21%
Ещё три-четыре года будем перестраивать разработку на агентов – 13
👍👍 12%
Ускорения разработки не наблюдается, всё постепенно вернётся к тому, как было раньше – 7
👍 7%
Перестроимся на агентов, но ещё пять и более лет будет в режиме "ничего не понятно". – 5
👍 5%
👥 107 people voted so far.
anonymous poll
Ещё год-два будем искать новые лучшие практики, затем устаканится в новой схеме с агентами – 59
👍👍👍👍👍👍👍 55%
Да, в принципе уже всё понятно, как работать с агентами, это уже не вопрос для дискуссий. – 23
👍👍👍 21%
Ещё три-четыре года будем перестраивать разработку на агентов – 13
👍👍 12%
Ускорения разработки не наблюдается, всё постепенно вернётся к тому, как было раньше – 7
👍 7%
Перестроимся на агентов, но ещё пять и более лет будет в режиме "ничего не понятно". – 5
👍 5%
👥 107 people voted so far.
С выходом AI-агентов в production появляются инфраструктурные задачи: долгие сессии, контроль поведения, стоимость результата, скорость инференса и новые сценарии атак.
В сегодняшнем дайджесте — пять свежих материалов прошедшей недели об этих задачах от OpenAI, AWS, NVIDIA и Anthropic.
1️⃣ Introducing the Agents API.
OpenAI открыла публичную бету Agents API для долгих агентных сессий: с автоматическим сжатием контекста, MCP и параллельной работой субагентов.
2️⃣ Monitoring production agent lifecycle with AWS DevOps Agent and AgentCore Evaluations.
AWS показывает двухуровневую наблюдаемость: AgentCore Evaluations оценивает качество работы агентов, а AWS DevOps Agent расследует инфраструктурные сбои по логам, метрикам и трассировкам.
3️⃣ Beyond the price per token: Choosing the right OpenAI model on Amazon Bedrock for your workload.
AWS предлагает воспроизводимую методику выбора модели по стоимости успешного результата. В расчёте учитываются точность, число ходов агента и качество итоговых материалов.
4️⃣ When to Use Encode-Prefill-Decode Disaggregation to Accelerate Multimodal Model Serving.
NVIDIA разбирает разделение encode, prefill и decode в мультимодальном инференсе. На запросах с большим числом изображений и короткими или средними ответами ускорение TTFT — до 5 раз, полного ответа — до 7 раз.
5️⃣ Detecting and countering misuse of AI: September 2026.
Отчёт Anthropic о выявленном использовании Claude в кибератаках: от разведки и поиска уязвимостей до групп агентов с постоянной памятью.
Качество ответа — только одна из метрик агентной системы. Для production также важны устойчивость сессий, задержки, стоимость и безопасность.
В сегодняшнем дайджесте — пять свежих материалов прошедшей недели об этих задачах от OpenAI, AWS, NVIDIA и Anthropic.
1️⃣ Introducing the Agents API.
OpenAI открыла публичную бету Agents API для долгих агентных сессий: с автоматическим сжатием контекста, MCP и параллельной работой субагентов.
2️⃣ Monitoring production agent lifecycle with AWS DevOps Agent and AgentCore Evaluations.
AWS показывает двухуровневую наблюдаемость: AgentCore Evaluations оценивает качество работы агентов, а AWS DevOps Agent расследует инфраструктурные сбои по логам, метрикам и трассировкам.
3️⃣ Beyond the price per token: Choosing the right OpenAI model on Amazon Bedrock for your workload.
AWS предлагает воспроизводимую методику выбора модели по стоимости успешного результата. В расчёте учитываются точность, число ходов агента и качество итоговых материалов.
4️⃣ When to Use Encode-Prefill-Decode Disaggregation to Accelerate Multimodal Model Serving.
NVIDIA разбирает разделение encode, prefill и decode в мультимодальном инференсе. На запросах с большим числом изображений и короткими или средними ответами ускорение TTFT — до 5 раз, полного ответа — до 7 раз.
5️⃣ Detecting and countering misuse of AI: September 2026.
Отчёт Anthropic о выявленном использовании Claude в кибератаках: от разведки и поиска уязвимостей до групп агентов с постоянной памятью.
Качество ответа — только одна из метрик агентной системы. Для production также важны устойчивость сессий, задержки, стоимость и безопасность.
👍1
Программа пополняется, на сайте добавились принятые доклады 🙌
Сейчас среди тем — устройство кодовых агентов, масштабирование AI-ассистента до миллиона клиентов, обработка запросов в WAF, гибридный поиск в YDB, real-time обновления для RecSys и SDLC highload-проекта на 100 агентов. И это ещё не всё.
Чтобы выбрать темы программы, мы четыре месяца следили за 30+ каналами и 20 тематическими сайтами. Проанализировали 16 800 тредов, 5 200 статей, 23 000 вакансий и 524 000 сообщений. Выделили 288 тем и взвесили каждую по частоте и глубине обсуждения.
Так появился «Пульс сообщества» — срез тем, которые инженеры чаще и глубже всего обсуждают прямо сейчас. Среди них — нестабильные зависимости, экономика и проверка AI, безопасность цепочки поставок, PostgreSQL под нагрузкой и агенты в проде.
Если у вас сейчас одна из этих задач, в программе уже есть разборы решений, проверенных в проде. Спикеры покажут, на каком масштабе работает подход, где начинаются ограничения и что пришлось изменить при внедрении. Это поможет проверить собственный план и обосновать выбор перед командой или руководством.
⚡До 30 сентября билет можно купить по текущей цене. 1 октября она станет выше.
✅ Узнать подробнее о программе и забронировать билет — на сайте
Сейчас среди тем — устройство кодовых агентов, масштабирование AI-ассистента до миллиона клиентов, обработка запросов в WAF, гибридный поиск в YDB, real-time обновления для RecSys и SDLC highload-проекта на 100 агентов. И это ещё не всё.
Чтобы выбрать темы программы, мы четыре месяца следили за 30+ каналами и 20 тематическими сайтами. Проанализировали 16 800 тредов, 5 200 статей, 23 000 вакансий и 524 000 сообщений. Выделили 288 тем и взвесили каждую по частоте и глубине обсуждения.
Так появился «Пульс сообщества» — срез тем, которые инженеры чаще и глубже всего обсуждают прямо сейчас. Среди них — нестабильные зависимости, экономика и проверка AI, безопасность цепочки поставок, PostgreSQL под нагрузкой и агенты в проде.
Если у вас сейчас одна из этих задач, в программе уже есть разборы решений, проверенных в проде. Спикеры покажут, на каком масштабе работает подход, где начинаются ограничения и что пришлось изменить при внедрении. Это поможет проверить собственный план и обосновать выбор перед командой или руководством.
⚡До 30 сентября билет можно купить по текущей цене. 1 октября она станет выше.
✅ Узнать подробнее о программе и забронировать билет — на сайте
👍1
Тусовка, всем привет от Игоря Сысоева!
Вы же знаете, кто это такой, а фронтенд это не только JavaScript с вёрсткой? :)
Встречались вчера одним из первых составов ПК HighLoad++ периода бурного роста.
Это примерно когда у первого айтишника возникла мысль "А не плохо бы смузи!", DevRel'ы ещё не знали, что они DevRel'ы. На HL++ стояли стенды Facebook, Google и Oracle, а Брюс Момжан был завсегдатаем конференции и мы с ним пили водку в Бочке.
В общем, в прошлой жизни.
Все выросли в IT-предпринимателей, у одного даже получилось :) Разговоры скачут с цепей Маркова на организацию продаж.
У Фишера продюсерский центр по обучению highload, Макс прогоняет через себя половину телевидения в стране, Костяпишет (пишет ему теперь Клод) продает СУБД Пикодата, а я торгую билетиками.
Вот только Игорь ничего не продает, может себе позволить.
А ведь были женормальными людьми разработчиками!
Куда-то пропали с моих радаров из того состава только Слоник_в_домене и Постгресмен. Ну и некому раз в год приносить программу HighLoad++ на проверку (я приносил её старшим товарищам, Илье Сегаловичу и Володе Габриеляну).
—
Олег Бунин
Вы же знаете, кто это такой, а фронтенд это не только JavaScript с вёрсткой? :)
Встречались вчера одним из первых составов ПК HighLoad++ периода бурного роста.
Это примерно когда у первого айтишника возникла мысль "А не плохо бы смузи!", DevRel'ы ещё не знали, что они DevRel'ы. На HL++ стояли стенды Facebook, Google и Oracle, а Брюс Момжан был завсегдатаем конференции и мы с ним пили водку в Бочке.
В общем, в прошлой жизни.
Все выросли в IT-предпринимателей, у одного даже получилось :) Разговоры скачут с цепей Маркова на организацию продаж.
У Фишера продюсерский центр по обучению highload, Макс прогоняет через себя половину телевидения в стране, Костя
Вот только Игорь ничего не продает, может себе позволить.
А ведь были же
Куда-то пропали с моих радаров из того состава только Слоник_в_домене и Постгресмен. Ну и некому раз в год приносить программу HighLoad++ на проверку (я приносил её старшим товарищам, Илье Сегаловичу и Володе Габриеляну).
—
Олег Бунин
🔥9👍8