🔍 Наблюдаемость начинается не с метрик
➡️ В феврале я подавал заявки на Saint HighLoad, одной из тем было Observability. Об этом я писал выше. Когда я в итоге сел прорабатывать собственное понимание этой темы - находки меня впечатлили, хотя казались достаточно очевидными
Моя цель на год звучала классно - любой инженер локализует проблему за 10–15 минут. Для этого нам нужна наблюдаемость в своем стандартном виде, т.е.: "Observability = Metrics + Alerts + Traces". Классика. Бери и делай... Но делай что?
🛑 Когда я сел за дорожную карту - начал буксовать. Пытался раскрутить: Как выставить правильные пороги? Какие метрики вообще являются хорошими, а от каких стоит избавиться? С метриками, кстати, понятно - наш архитектор приучил меня к очень правильному вопросу: «Какой алерт я повешу на эту метрику»
Отсюда возникает и главный вопрос - а какие алерты нас вообще интересуют? Как понять, что система работает корректно?
💡 Ответ оказался не техническим. Система работает корректно тогда, когда приносит деньги. Всё.
10–15 минут реакции - это следствие, точнее, реализуемое действие, для того, чтобы снизить потери бизнеса. Но причина в том, что мы не умеем считать потери. Когда падает сервис, никто не может сказать: «за последние 40 минут мы потеряли примерно X рублей». Только в случае полного отказа всех наших сервисов, боже дай мне сил...
❗️ Когда я переформулировал цель, и сделал целью ДК автоматизацию подсчёта потерь - ДК начала вырисовываться в моей голове, причем очень последовательными шагами. Сразу стало понятно:
• Для подсчёта потерь нужны SLI/SLO/SLA сервисов
• Для SLI нужны метрики и алерты - конкретные, привязанные к бизнес-процессам
• Для сокращения времени реакции нужны трассировки по которым можно отследить, где нарушаются эти самые SLA
Те же самые Metrics + Alerts + Traces - но теперь каждый элемент отвечает на конкретный вопрос, а не висит в вакууме
✅ Ошибка была не в инструментах, а в целеполагании. Я пытался строить наблюдаемость от инструментов к результату. Но без учета бизнес-контекста результат оставалось только высасывать из пальца. В очередной раз процессы оказались важнее технических костылей)
🔜 Дальше расскажу, с чего мы начали практически: аудит алертов и логирования. Спойлер - то, что мы нашли, нас не обрадовало
➡️ В феврале я подавал заявки на Saint HighLoad, одной из тем было Observability. Об этом я писал выше. Когда я в итоге сел прорабатывать собственное понимание этой темы - находки меня впечатлили, хотя казались достаточно очевидными
Моя цель на год звучала классно - любой инженер локализует проблему за 10–15 минут. Для этого нам нужна наблюдаемость в своем стандартном виде, т.е.: "Observability = Metrics + Alerts + Traces". Классика. Бери и делай... Но делай что?
🛑 Когда я сел за дорожную карту - начал буксовать. Пытался раскрутить: Как выставить правильные пороги? Какие метрики вообще являются хорошими, а от каких стоит избавиться? С метриками, кстати, понятно - наш архитектор приучил меня к очень правильному вопросу: «Какой алерт я повешу на эту метрику»
Отсюда возникает и главный вопрос - а какие алерты нас вообще интересуют? Как понять, что система работает корректно?
💡 Ответ оказался не техническим. Система работает корректно тогда, когда приносит деньги. Всё.
10–15 минут реакции - это следствие, точнее, реализуемое действие, для того, чтобы снизить потери бизнеса. Но причина в том, что мы не умеем считать потери. Когда падает сервис, никто не может сказать: «за последние 40 минут мы потеряли примерно X рублей». Только в случае полного отказа всех наших сервисов, боже дай мне сил...
❗️ Когда я переформулировал цель, и сделал целью ДК автоматизацию подсчёта потерь - ДК начала вырисовываться в моей голове, причем очень последовательными шагами. Сразу стало понятно:
• Для подсчёта потерь нужны SLI/SLO/SLA сервисов
• Для SLI нужны метрики и алерты - конкретные, привязанные к бизнес-процессам
• Для сокращения времени реакции нужны трассировки по которым можно отследить, где нарушаются эти самые SLA
Те же самые Metrics + Alerts + Traces - но теперь каждый элемент отвечает на конкретный вопрос, а не висит в вакууме
✅ Ошибка была не в инструментах, а в целеполагании. Я пытался строить наблюдаемость от инструментов к результату. Но без учета бизнес-контекста результат оставалось только высасывать из пальца. В очередной раз процессы оказались важнее технических костылей)
🔜 Дальше расскажу, с чего мы начали практически: аудит алертов и логирования. Спойлер - то, что мы нашли, нас не обрадовало
🔥6❤4⚡2
✍️ Съездил на AI Conf 2026 в Москве, вернулся с тремя пакетами лута, инсайтами и рабочими инструментами
20 апреля был на AI Conf в Технограде на ВДНХ, от открытия до афтерпати. Организаторы собрали её как «конференцию развития», 40% программы вынесены в интерактивы: мастер-классы, открытые столы, стенды с активностями
Провёл там весь день, собрал три пакета лута за активности. Носки, кружка, легендарный свитшот в стиле👨💻
Несколько инсайтов, которые всё ещё крутятся в голове. Пару рабочих инструментов, которые беру в работу
Немного задерживаюсь с постами - последнюю неделю прорабатывал воркшоп для обмена опыта с командой, об этом тоже напишу в отдельном посте. Пока что делюсь фотографиями с мероприятия
20 апреля был на AI Conf в Технограде на ВДНХ, от открытия до афтерпати. Организаторы собрали её как «конференцию развития», 40% программы вынесены в интерактивы: мастер-классы, открытые столы, стенды с активностями
Провёл там весь день, собрал три пакета лута за активности. Носки, кружка, легендарный свитшот в стиле
tech-cyberpunk Несколько инсайтов, которые всё ещё крутятся в голове. Пару рабочих инструментов, которые беру в работу
Немного задерживаюсь с постами - последнюю неделю прорабатывал воркшоп для обмена опыта с командой, об этом тоже напишу в отдельном посте. Пока что делюсь фотографиями с мероприятия
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8⚡7🔥3
🔍 Как прошла AI Conf в Москве
Конференция собрана как «конференция развития» с 40% интерактивных форматов. Было 4 основных трека - из них я и собрал свой личный маршрут
🎤 Доклады
На доклады изначально не планировал идти - их можно посмотреть в записи. Но с утра хотелось неспешно добраться до Технограда, ознакомиться с локацией, пройтись по этажам. В итоге на один из двух утренних докладов я попал. Два открывающих доклада рассказывали об изучении китайского для AI-карьеры. Логика спикеров проста:
🧪 Мастер-классы
Сходил на несколько: Schema Guided Reasoning и Agent Observability via Langfuse. Понравился формат, спикеры и организаторы постарались сделать качественно и интересно. Но, видимо, из-за смены формата конференции не было времени на «обкатку» материала с mock-залом, оба МК не уложились в тайминги. А инструменты сугубо специализированные, чтобы начать их использовать нашей команде потребуется менять подход к работе с AI в процессах и продукте - что маловероятно сейчас
🗣 Открытые столы
Еще один живой-мастер класс, с разделением на команды: Стол по теме «Как продавать AI-фичу бизнесу». Разбивались на 7 команд с 7 разными AI-проектами, я взял ближайшую тему - AI Code Reviewer. Из-за нехватки людей в итоге объединились в 3 команды. Прорабатывали emotional map для C-Level: о чём думают, чего хотят и чего боятся CEO, CTO, CISO. Было весело, но не шибко полезно - имея опыт продавать AI-фичи бизнесу знаю: разговор всегда о бабках. О бабках через эффективность, через автоматизацию, через смену парадигмы разработки - но не через эмоции. В бизнесе вообще нет эмоций. Только деньги
🎪 Стенды
Дюжина стендов партнёров с разными активностями: розыгрыши в лотереях, викторины, игры в лего и т.д. Вооружился желанием устроить обмен опытом в офисе - гонял по стендам и собирал максимум лута, чтобы разыграть внутри своей команды. Вернулся домой с тремя пакетами
🎉 Афтерпати
Проходило на этаже со стендами, когда активности закончились. Шведский стол, алкоголь, закуски. Безалкогольное пиво для меня. Поболтал с ребятами со стендов, которые понравились больше всего, об айтишке, о технологиях, о процессах - приятный нетворкинг в конце дня. Уходя, наткнулся на неанонсированный доклад от HR, видимо, Сбера про рынок труда: «рынок сломан, чинить никто не будет» - это если кратко
Уже провели командный обмен опытом после конфы - в следующих постах расскажу о том, как это было
Конференция собрана как «конференция развития» с 40% интерактивных форматов. Было 4 основных трека - из них я и собрал свой личный маршрут
🎤 Доклады
На доклады изначально не планировал идти - их можно посмотреть в записи. Но с утра хотелось неспешно добраться до Технограда, ознакомиться с локацией, пройтись по этажам. В итоге на один из двух утренних докладов я попал. Два открывающих доклада рассказывали об изучении китайского для AI-карьеры. Логика спикеров проста:
Промтить на родном для моделей языке и общаться с инженерами на китайских аналогах Хабра => карьерное преимущество
🧪 Мастер-классы
Сходил на несколько: Schema Guided Reasoning и Agent Observability via Langfuse. Понравился формат, спикеры и организаторы постарались сделать качественно и интересно. Но, видимо, из-за смены формата конференции не было времени на «обкатку» материала с mock-залом, оба МК не уложились в тайминги. А инструменты сугубо специализированные, чтобы начать их использовать нашей команде потребуется менять подход к работе с AI в процессах и продукте - что маловероятно сейчас
🗣 Открытые столы
Еще один живой-мастер класс, с разделением на команды: Стол по теме «Как продавать AI-фичу бизнесу». Разбивались на 7 команд с 7 разными AI-проектами, я взял ближайшую тему - AI Code Reviewer. Из-за нехватки людей в итоге объединились в 3 команды. Прорабатывали emotional map для C-Level: о чём думают, чего хотят и чего боятся CEO, CTO, CISO. Было весело, но не шибко полезно - имея опыт продавать AI-фичи бизнесу знаю: разговор всегда о бабках. О бабках через эффективность, через автоматизацию, через смену парадигмы разработки - но не через эмоции. В бизнесе вообще нет эмоций. Только деньги
🎪 Стенды
Дюжина стендов партнёров с разными активностями: розыгрыши в лотереях, викторины, игры в лего и т.д. Вооружился желанием устроить обмен опытом в офисе - гонял по стендам и собирал максимум лута, чтобы разыграть внутри своей команды. Вернулся домой с тремя пакетами
🎉 Афтерпати
Проходило на этаже со стендами, когда активности закончились. Шведский стол, алкоголь, закуски. Безалкогольное пиво для меня. Поболтал с ребятами со стендов, которые понравились больше всего, об айтишке, о технологиях, о процессах - приятный нетворкинг в конце дня. Уходя, наткнулся на неанонсированный доклад от HR, видимо, Сбера про рынок труда: «рынок сломан, чинить никто не будет» - это если кратко
Уже провели командный обмен опытом после конфы - в следующих постах расскажу о том, как это было
⚡7❤3👍3🔥1
🤖 A/B-тесты закончились, гипотеза подтвердилась, но главное оказалось не в этом
Пару месяцев назад писал о запуске A/B-тестов AI-ассистента. Результаты собраны и проанализированы. Выводы сделаны
📊 По главной гипотезе:
Мы проверяли влияние ассистента на воронку от "меню" до "корзина". Получили дельту в районе 1п.п. при p.value~0.007 - гипотеза подтвердилась. P.value - показатель статистической значимости отличия экспериментальной группы от контрольной
По динамике: первая неделя - хайповый рост, потом коррекция, а с четвёртой недели вышли на плато. Среднее число запросов до добавления в корзину - 2.3, что комфортно легло в unit-экономику
🔍 Инсайты:
Пока шли тесты, хотя мы и обещали себе "не подглядывать" чтобы избежать поспешных выводов о результатах, мы конечно забили на обещание и следили за динамикой чуть ли не в реал-тайм режиме. Очень скоро начал вырисовываться один паттерн, повторяющийся у пользователей. По сути клиенты запрашивали рекомендации по целой категории, которой у нас раньше не было. Ассистент на этих запросах выдавал не то, что могло бы содержаться в этой категории. Был соблазн внести маленькую доработку, чтобы ассистент отвечал эффективно на повторяющийся запрос, но это бы сломало результаты A/B-теста и затянуло бы "эксперименты" ещё на месяц дольше
Сейчас по этой категории запускается отдельный эксперимент, и про это будет отдельный пост
💡 Что дальше:
Эксперимент дал зелёный свет на развитие в эту сторону. ДК на второй квартал уже в работе у исполнителей. Нам очень хочется скорее уйти в сторону агентского флоу ассистента, но в текущей итерации необходимо "разобрать" trade-off'ы MVP-версии, подготовить инфраструктуру для запуска A/B-тестов с разными "сценариями" ассистента, и улучшить качество выдачи по уже известным запросам пользователей
✍️ Заметка:
Как и писал раньше - A/B это способ убрать мнение и оставить данные. А иногда в этих данных оказываются инсайты сильнее, чем сама проверяемая гипотеза
В следующих постах - про экономику ассистента и про новую категорию
Пару месяцев назад писал о запуске A/B-тестов AI-ассистента. Результаты собраны и проанализированы. Выводы сделаны
📊 По главной гипотезе:
Мы проверяли влияние ассистента на воронку от "меню" до "корзина". Получили дельту в районе 1п.п. при p.value~0.007 - гипотеза подтвердилась. P.value - показатель статистической значимости отличия экспериментальной группы от контрольной
По динамике: первая неделя - хайповый рост, потом коррекция, а с четвёртой недели вышли на плато. Среднее число запросов до добавления в корзину - 2.3, что комфортно легло в unit-экономику
🔍 Инсайты:
Пока шли тесты, хотя мы и обещали себе "не подглядывать" чтобы избежать поспешных выводов о результатах, мы конечно забили на обещание и следили за динамикой чуть ли не в реал-тайм режиме. Очень скоро начал вырисовываться один паттерн, повторяющийся у пользователей. По сути клиенты запрашивали рекомендации по целой категории, которой у нас раньше не было. Ассистент на этих запросах выдавал не то, что могло бы содержаться в этой категории. Был соблазн внести маленькую доработку, чтобы ассистент отвечал эффективно на повторяющийся запрос, но это бы сломало результаты A/B-теста и затянуло бы "эксперименты" ещё на месяц дольше
Сейчас по этой категории запускается отдельный эксперимент, и про это будет отдельный пост
💡 Что дальше:
Эксперимент дал зелёный свет на развитие в эту сторону. ДК на второй квартал уже в работе у исполнителей. Нам очень хочется скорее уйти в сторону агентского флоу ассистента, но в текущей итерации необходимо "разобрать" trade-off'ы MVP-версии, подготовить инфраструктуру для запуска A/B-тестов с разными "сценариями" ассистента, и улучшить качество выдачи по уже известным запросам пользователей
Как и писал раньше - A/B это способ убрать мнение и оставить данные. А иногда в этих данных оказываются инсайты сильнее, чем сама проверяемая гипотеза
В следующих постах - про экономику ассистента и про новую категорию
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8⚡5❤3🔥2💯1
Рассказал о том, как прошло, что вынес, что принес. А всю обвязку к нему собрал... Тоже AI
Всем привет! Ещё на AI Conf загорелся идеей устроить обмен опытом с коллегами. Прямо на конфе устроил рейд по стендам-партнёрам, собирал призы за активности - как лут для будущего розыгрыша между коллег
➡️ Как только вернулся, сразу запланировал обмен опытом с коллегами и поставил дату на начало следующей недели. Собрал в черновике Obsidian воедино заметки, которые писал по ходу конфы, и всё, что было ещё тёпленьким, пока не забыл
ℹ️ За неделю до этого как раз только-только релизнулся Claude Design. Сначала проработал с Claude план воркшопа, собрал промпт к Claude Design, накидал фоточек - на выходе готовая презентация. Причём несоизмеримо качественнее специализированных инструментов, генерирующих чистейший нейрослоп, по типу Gamma
💡 Уже через 1-2 часа была готова презентация, которая инфографикой подкрепляет всё то, что я описывал в прошлом посте про AI Conf. А вечер только начался. Поэтому оставшееся время мы с Claude потратили на мини-викторину за баллы для участия в розыгрыше призов. Простой сервис, хендлящий WebSockets с мобильных браузеров коллег - коленочная реализация, но достаточная для внутреннего воркшопа
✅ Эвент прошёл отлично! Кто-то нашел что-то интересное для себя в материалах, которые я рассказывал. Кто-то веселился, играя в игру. Активные выигрывали подарочки, а все остальные остались довольны тем, что в офисе появляются такие эвенты
❗️ Раньше подготовка к такому стоила недельку в полуактивном формате - собрать презентацию и интерактивчик. Польза от встреч была несоизмерима с их стоимостью. А теперь, когда время подготовки сократилось в десятки раз - разве не лучшее время проводить такие ивенты чаще?
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9🔥4🥴4😁2✍1
🧠 Уже два месяца перетряхиваю свою базу знаний в Obsidian — но главную ценность от этого нащупал лишь сейчас
Вот и я поигрался со своим Obsidian. Размышлял про какой-то локальный RAG над базой — пока размышлял, сообщество уже всё решило и выкатило в обкатку Obsidian Wiki
Есть готовые скиллы для пересборки Obsidian в «Wiki-мозг» — хотя, какой это мозг? Просто хорошо структированная база знаний, с агентами над ней. Тем не менее — с первого взгляда были отличные ощущения
На своей базе применил этот skill
🛑 Годы работы в Obsidian были колоссальной когнитивной нагрузкой. Я пытался сортировать заметки при заведении — не справлялся, поэтому раз в пару месяцев убирался и никогда не заканчивал дело до конца. На постере это видно: в старом графе одна часть базы отслоилась от другой — куча записок, связанных между собой, но никак с основной базой
🔍 Целый вечер и 40% пятичасовых токенов Claude ушли на знакомство агентов с моими записками. Радовало, когда он спрашивал про отрывки заметок, которые я сам давно уже забыл, но о которых стоило помнить. Потом составил скоуп — где-то 120 вопросов по оборванным заметкам — сагрегировал мои ответы и собрал мой персональный граф знаний
➡️ А дальше — просто. Пишу заметки в Daily Notes, разделяю на блоки работы и личного, выделяю что-то формулярами Markdown. Раз в неделю, минут за 30–60 в выходной, запускаю сессию: «актуализируй базу по последним заметкам» — он вытаскивает свежие заметки, находит пересечения с базой, обновляет ноды графа и подкидывает новые вопросы. Никакой сортировки на входе — вот это и сняло главную головную боль
💡 Но я долго не понимал, какую ценность отсюда вытащить, кроме красиво структурированных файликов. Понял неделе на 5–6, когда тестово перегнал в базу два года истории ван-ту-ванов с сотрудниками. Теперь перед ван-ту-ваном один простой запрос даёт достаточно актуальный контекст по человеку — напоминания про мотивацию, обещания, незакрытые вопросы
⚠️ Естественно, такие манипуляции необходимо обсуждать с людьми своевременно, правда, до меня это дошло уже после. Ходил на ван-ту-ваны и заходил издалека: «Представим, что твой лид — и это точно не я — слил историю взаимодействия с тобой в LLM, чтобы улучшить опыт проведения ван-ту-ван'ов. Как ты к этому отнесёшься?»
Все дали добро. А дальше мы вместе открывали «их портрет», нарисованный LLMкой, оценивали его и полировали
✅ В целом я думал, что такая модель поможет мне именно с структурой ведения заметок, с поддержанием порядка в них. А получил помощника, в виде Агента, который помогает мне пушить мои проекты и не даёт забывать важное — и чем точнее граф отражает твою реальную загруженность, чем больше там контекста по твоим текущим проекта — тем больше от него пользы
Говорят же люди, в разных вариантах: «Ценность рождается на пересечениях — технологий, подходов, сфер»
Находка отличная. Правда, мне самому она скоро не пригодится — почему, расскажу в ближайших постах
Вот и я поигрался со своим Obsidian. Размышлял про какой-то локальный RAG над базой — пока размышлял, сообщество уже всё решило и выкатило в обкатку Obsidian Wiki
Есть готовые скиллы для пересборки Obsidian в «Wiki-мозг» — хотя, какой это мозг? Просто хорошо структированная база знаний, с агентами над ней. Тем не менее — с первого взгляда были отличные ощущения
На своей базе применил этот skill
🛑 Годы работы в Obsidian были колоссальной когнитивной нагрузкой. Я пытался сортировать заметки при заведении — не справлялся, поэтому раз в пару месяцев убирался и никогда не заканчивал дело до конца. На постере это видно: в старом графе одна часть базы отслоилась от другой — куча записок, связанных между собой, но никак с основной базой
🔍 Целый вечер и 40% пятичасовых токенов Claude ушли на знакомство агентов с моими записками. Радовало, когда он спрашивал про отрывки заметок, которые я сам давно уже забыл, но о которых стоило помнить. Потом составил скоуп — где-то 120 вопросов по оборванным заметкам — сагрегировал мои ответы и собрал мой персональный граф знаний
➡️ А дальше — просто. Пишу заметки в Daily Notes, разделяю на блоки работы и личного, выделяю что-то формулярами Markdown. Раз в неделю, минут за 30–60 в выходной, запускаю сессию: «актуализируй базу по последним заметкам» — он вытаскивает свежие заметки, находит пересечения с базой, обновляет ноды графа и подкидывает новые вопросы. Никакой сортировки на входе — вот это и сняло главную головную боль
💡 Но я долго не понимал, какую ценность отсюда вытащить, кроме красиво структурированных файликов. Понял неделе на 5–6, когда тестово перегнал в базу два года истории ван-ту-ванов с сотрудниками. Теперь перед ван-ту-ваном один простой запрос даёт достаточно актуальный контекст по человеку — напоминания про мотивацию, обещания, незакрытые вопросы
⚠️ Естественно, такие манипуляции необходимо обсуждать с людьми своевременно, правда, до меня это дошло уже после. Ходил на ван-ту-ваны и заходил издалека: «Представим, что твой лид — и это точно не я — слил историю взаимодействия с тобой в LLM, чтобы улучшить опыт проведения ван-ту-ван'ов. Как ты к этому отнесёшься?»
Все дали добро. А дальше мы вместе открывали «их портрет», нарисованный LLMкой, оценивали его и полировали
✅ В целом я думал, что такая модель поможет мне именно с структурой ведения заметок, с поддержанием порядка в них. А получил помощника, в виде Агента, который помогает мне пушить мои проекты и не даёт забывать важное — и чем точнее граф отражает твою реальную загруженность, чем больше там контекста по твоим текущим проекта — тем больше от него пользы
Говорят же люди, в разных вариантах: «Ценность рождается на пересечениях — технологий, подходов, сфер»
Находка отличная. Правда, мне самому она скоро не пригодится — почему, расскажу в ближайших постах
🔥6❤4👎1🤔1