✍️ Ранее писал, как мы уперлись в проблему воронки:
пользователь открывает меню - и не добавляет в корзину. Одна из гипотез - пользователь не справляется с тягостью выбора из сотен позиций. Мы решили проверить, как AI-ассистент, сократив выбор, поможет пользователю дойти до целевого действия - покупки.
Перед проверкой влияния на конверсию мы пошли в короткий тест на одну неделю с небольшой выборкой пользователей. Изучали поведенческие паттерны, проверяли стабильность системы, вычисляли среднее число запросов до добавления в корзину.
Мы смотрели на:
По сути, мы тестировали не фичу — мы тестировали ее экономику. Важно было заранее понять, влезаем ли мы в юнит-экономику до запуска полномасштабного эксперимента.
📊 После этого запустили основной A/B-тест, он идет 3 недели и раскатан на 100% пользователей — соответственно, доступен половине (50%). Основная цель эксперимента - проверить влияние на конверсию.
И вот здесь становится интереснее: почти сразу зафиксировали полезный инсайт.
У пользователей есть повторяющийся запрос, который логично упаковать в отдельную категорию. Так и сделали. Готовим запуск новой категории на основе реального поведения, а не ощущений.
❔ Почему 3 недели?
• Потому что нам нужна статистическая устойчивость
• Нужно собрать достаточный объем данных
• И отделить реальный эффект от шума короткого периода
⏳ После завершения теста мы не будем сразу масштабировать. Закладываем ~пару недель на анализ результатов
Будем считать:
⚠️ Скорее всего, ассистент останется в проде. Даже если его метрики окажутся ниже наших ожиданий, ведь в нем зарыта функциональность для развития на годы вперед. Возможно, потребуется менять модель взаимодействия с ним по мере развития ассистента, если текущий эксперимент покажет не лучшие результаты. Придется переобучать пользователей, которые привыкнут к ассистенту только подбора блюд.
AI здесь не эксперимент ради эксперимента. Это новый рабочий слой продукта.
И мы пока только формируем внутрикомандное представление о том, что именно будет находиться в этом слое
пользователь открывает меню - и не добавляет в корзину. Одна из гипотез - пользователь не справляется с тягостью выбора из сотен позиций. Мы решили проверить, как AI-ассистент, сократив выбор, поможет пользователю дойти до целевого действия - покупки.
Перед проверкой влияния на конверсию мы пошли в короткий тест на одну неделю с небольшой выборкой пользователей. Изучали поведенческие паттерны, проверяли стабильность системы, вычисляли среднее число запросов до добавления в корзину.
Мы смотрели на:
• Поведенческие паттерны клиентов
• На каком запросе чаще всего происходит добавление в корзину
• Следили за метриками здоровья продукта
• Считали, сколько будет стоить продукту содержание ассистента
По сути, мы тестировали не фичу — мы тестировали ее экономику. Важно было заранее понять, влезаем ли мы в юнит-экономику до запуска полномасштабного эксперимента.
📊 После этого запустили основной A/B-тест, он идет 3 недели и раскатан на 100% пользователей — соответственно, доступен половине (50%). Основная цель эксперимента - проверить влияние на конверсию.
И вот здесь становится интереснее: почти сразу зафиксировали полезный инсайт.
У пользователей есть повторяющийся запрос, который логично упаковать в отдельную категорию. Так и сделали. Готовим запуск новой категории на основе реального поведения, а не ощущений.
❔ Почему 3 недели?
• Потому что нам нужна статистическая устойчивость
• Нужно собрать достаточный объем данных
• И отделить реальный эффект от шума короткого периода
⏳ После завершения теста мы не будем сразу масштабировать. Закладываем ~пару недель на анализ результатов
Будем считать:
• Сколько фича фактически заработала
• И во сколько она фактически нам обошлась
• Как повлияла на юнит-экономику
• Какие сценарии развития окажутся наиболее перспективными
⚠️ Скорее всего, ассистент останется в проде. Даже если его метрики окажутся ниже наших ожиданий, ведь в нем зарыта функциональность для развития на годы вперед. Возможно, потребуется менять модель взаимодействия с ним по мере развития ассистента, если текущий эксперимент покажет не лучшие результаты. Придется переобучать пользователей, которые привыкнут к ассистенту только подбора блюд.
AI здесь не эксперимент ради эксперимента. Это новый рабочий слой продукта.
И мы пока только формируем внутрикомандное представление о том, что именно будет находиться в этом слое
Telegram
IT Tech Log
🍕Когда большой выбор мешает заказывать еду
Обычный вечер
Ты возвращаешься с работы - уставший, выжатый и, конечно же, голодный
Открываешь приложение доставки и тебя затягивает в выбор - десятки категорий и сотни позиций
Начинается скролл:
- «Пицца или роллы?»…
Обычный вечер
Ты возвращаешься с работы - уставший, выжатый и, конечно же, голодный
Открываешь приложение доставки и тебя затягивает в выбор - десятки категорий и сотни позиций
Начинается скролл:
- «Пицца или роллы?»…
🔥7😨4💯3👍1
Изначально, после встречи с Программным Комитетом, у меня было четыре идеи - по две на каждую. Когда сел их прорабатывать - на одной из них я навернулся
Хотел обсудить с инженерами что такое обсервабилити, на чем оно строится и как провести команды через этот путь. И именно здесь я и споткнулся
Когда начал прорабатывать заявку пришло осознание - я не могу честно, не кривя душой, даже самому себе ответить на значительную часть вопросов этой темы. Спросил себя:" А чему я могу научить слушателей?"
Базовый уровень мы с командой разобрали довольно глубоко. Есть инструменты, есть практики, формируется понимание конечной точки
😶🌫️ Но сама дорога пока что в тумане: Мы видим отдельные шаги, мазками представляем конечное состояние. А вот что между ними - еще только разбираемся
🛠 Сейчас мы формируем дорожную карту обсервабилити внутри команды. Сначала хочется пройти этот путь на практике. Набраться необходимого опыта, и через год вернуться к постановке темы этого воркшопа - посмотрим, каким будет результат
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥9👍6❤4
💡Последние полгода на Инициативных Комитетах обсуждаем инициативу командной подписки на AI-инструменты. Бюджет небольшой - примерно стоимость одного middle-разработчика в год
Изначально инициатива называлась «Подписка на Cursor». Мы рассматривали Cursor как основной инструмент и думали, скорее, о компенсации расходов разработчиков на agentic-tools, а не о развитие инженерной культуры. Но по мере обсуждения отказались от привязки к конкретному решению
Сейчас ориентируемся на бюджет около $50 в месяц/рабочее место. Идея в том, чтобы дать команде возможность экспериментировать и сравнивать подходы: IDE-ассистенты, CLI, агентские режимы, API для внутренних ботов и прочее
📈 Сначала обоснование строили через рост эффективности
Строили финансовую модель. Пытались говорить про ускорение отдельных этапов разработки. Приводили реальные примеры вайбкодина в нашем продакшене
🔄 Но быстро уперлись в проблему: ИИ может ускорять только отдельные этапы разработки. Но часть выигрыша съедается сопровождением - проверки, правки и прочее. Обещать системный рост эффективности через ИИ оказалось слишком рискованно
И главное - такая аргументация формирует опасные ожидания у управляющей компании
🔀 Поэтому мы поменяли подход. Теперь мы не обосновываем ИИ как инструмент ускорения разработки. Мы рассматриваем его как инвестицию в инженерную зрелость команды
📋 Когда подписка появится мы займемся систематизацией подходов работы с ИИ. Энтузиасты уже давно оплачивают себе топовые подписки Claude. Но таких пока единицы, а их навыки чаще уходят в пет-проекты, а не в автоматизацию рабочих процессов, куда бы мне очень хотелось направить их энергию
Изначально инициатива называлась «Подписка на Cursor». Мы рассматривали Cursor как основной инструмент и думали, скорее, о компенсации расходов разработчиков на agentic-tools, а не о развитие инженерной культуры. Но по мере обсуждения отказались от привязки к конкретному решению
Сейчас ориентируемся на бюджет около $50 в месяц/рабочее место. Идея в том, чтобы дать команде возможность экспериментировать и сравнивать подходы: IDE-ассистенты, CLI, агентские режимы, API для внутренних ботов и прочее
📈 Сначала обоснование строили через рост эффективности
Строили финансовую модель. Пытались говорить про ускорение отдельных этапов разработки. Приводили реальные примеры вайбкодина в нашем продакшене
🔄 Но быстро уперлись в проблему: ИИ может ускорять только отдельные этапы разработки. Но часть выигрыша съедается сопровождением - проверки, правки и прочее. Обещать системный рост эффективности через ИИ оказалось слишком рискованно
И главное - такая аргументация формирует опасные ожидания у управляющей компании
🔀 Поэтому мы поменяли подход. Теперь мы не обосновываем ИИ как инструмент ускорения разработки. Мы рассматриваем его как инвестицию в инженерную зрелость команды
📋 Когда подписка появится мы займемся систематизацией подходов работы с ИИ. Энтузиасты уже давно оплачивают себе топовые подписки Claude. Но таких пока единицы, а их навыки чаще уходят в пет-проекты, а не в автоматизацию рабочих процессов, куда бы мне очень хотелось направить их энергию
❤9🔥5👍3
🤔 С ростом инфраструктуры, количества репозиториев, интеграций и разработчиков в команде некогда простые задачи становятся невыносимыми. Обычное обновление переменных превращается из минутной задачи в целый отдельный процесс
Сначала обновляешь переменные в файлах репозитория, потом идешь в секреты GitLab, потом тесты, потом десяток файлов под каждое окружение, потом снова секреты, потом локальные переменные и так по кругу, снова и снова....
Вы видели окно для обновления секретов в GitLab? Это маленькое окошко, куда даже названия переменных не помещаются. Чтобы не сломать значение, копируешь все в локальный файл, правишь там и вставляешь обратно. И повторяешь этот цикл с десяток раз
✖️ И это только один проект
Когда таких проектов несколько - это уже не задача, а постоянный фон. Если меняется интеграция между репозиториями - нагрузка вырастает вдвое и легко съедает большую часть рабочего дня
После основного обновления всегда остаются хвосты. В течение еще нескольких недель, а то и месяцев начинают приходить разработчики/QA и говорит, что на каком-то окружении не работает какая-то интеграция. И каждый раз это ручная работа, без гарантии, что не всплывет еще где-то. Лезешь, сравниваешь переменные с соседними, ищешь, правишь. И такие хвосты тянутся месяцами. Боль
🔄 Продолжаться так это не могло. Эту операционку нужно убирать
Начали смотреть решения и довольно быстро вышли на Hashicorp Vault. Изначально хотели просто объединить в одном месте helm и gitlab secrets, но по факту инструмент оказался гораздо полезнее
💡 Несколько инсайтов:
• Можно сделать персональные папки секретов, не держать их локально и не синхронизировать руками
• Легкая интеграция с KeyCloak
• Можно сделать наследственность. В нашем случае это зашло очень хорошо
Конечно же, не обошлось без сложностей:
• Нельзя обновить одну переменную. Нужно создавать новую версию всего секрета, версий быстро становится много
• Нельзя поддерживать порядок. Vault собирает все в один словарь, переменные лежат в куче, ориентироваться сложнее, чем в аккуратных helm файлах
☝️ На самом деле не так важно, где лежат переменные - если они в безопасности. Важно, чтобы их обновление не превращалось в отдельный сорт страданий для целой команды и не съедало рабочий день
Сначала обновляешь переменные в файлах репозитория, потом идешь в секреты GitLab, потом тесты, потом десяток файлов под каждое окружение, потом снова секреты, потом локальные переменные и так по кругу, снова и снова....
Вы видели окно для обновления секретов в GitLab? Это маленькое окошко, куда даже названия переменных не помещаются. Чтобы не сломать значение, копируешь все в локальный файл, правишь там и вставляешь обратно. И повторяешь этот цикл с десяток раз
Когда таких проектов несколько - это уже не задача, а постоянный фон. Если меняется интеграция между репозиториями - нагрузка вырастает вдвое и легко съедает большую часть рабочего дня
После основного обновления всегда остаются хвосты. В течение еще нескольких недель, а то и месяцев начинают приходить разработчики/QA и говорит, что на каком-то окружении не работает какая-то интеграция. И каждый раз это ручная работа, без гарантии, что не всплывет еще где-то. Лезешь, сравниваешь переменные с соседними, ищешь, правишь. И такие хвосты тянутся месяцами. Боль
🔄 Продолжаться так это не могло. Эту операционку нужно убирать
Начали смотреть решения и довольно быстро вышли на Hashicorp Vault. Изначально хотели просто объединить в одном месте helm и gitlab secrets, но по факту инструмент оказался гораздо полезнее
💡 Несколько инсайтов:
• Можно сделать персональные папки секретов, не держать их локально и не синхронизировать руками
• Легкая интеграция с KeyCloak
• Можно сделать наследственность. В нашем случае это зашло очень хорошо
Для большинства dev окружений 90% переменных одинаковые, отличаются только несколько значений. В итоге есть один базовый секрет и короткие переопределения под окружения, вместо десятков почти одинаковых файлов
Конечно же, не обошлось без сложностей:
• Нельзя обновить одну переменную. Нужно создавать новую версию всего секрета, версий быстро становится много
• Нельзя поддерживать порядок. Vault собирает все в один словарь, переменные лежат в куче, ориентироваться сложнее, чем в аккуратных helm файлах
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡8❤7👍6
🛠 Три недели на Claude Max — и Cursor мне больше не нужен
Шла третья неделя использования Claude Max(20x) по подписке, и, впервые за полгода, я не проплатил подписку на Cursor. Пока мы прорабатывали инициативу ИИ Просвещения в компании, я перепробовал кучу подходов и инструментов. Как и писал выше — от идеи тащить корпоративный Cursor мы отказались почти сразу
🔍 Cursor — хороший инструмент. Мультимодели из коробки, широкие возможности. Но всё, что он делает — он делает вокруг оболочки VS Code, которая мне просто не нравилась. В итоге висела проплаченная подписка, идеи я прорабатывал в ChatGPT, а когда нужно было жёстко по-вайбкодить — открывал Cursor, но редко упирался даже в их приземлённые лимиты
🛑 Главная проблема Cursor — и для меня, и для программы Просвещения — в том, что он слишком легко даёт результат. Как Windows Forms в Visual Studio: создаёшь Button, переходишь в OnClick, описываешь всё поведение прямо там. Код работает — но ты не думаешь ни о парадигмах, ни об абстракциях. Cursor устроен так же — он прячет сложность за красивой оболочкой, и человек получает результат, не понимая, что именно произошло. Для обучения это антипаттерн
💡 Я не планировал переезд, просто хотел потестировать Claude. Но уже за первую неделю он стал моим персональным помощником №1. Сам помог настроить окружение, рассказал, как правильно управлять контекстом, автоматизировал несколько рабочих процессов за короткие вечерние сессии. Постепенно даже планирование переехало из ChatGPT — управление проектами и интерактивные дорожные карты в Claude Chat с лихвой перекрыли аналогичные фичи ChatGPT
⚠️ Жаль, что Anthropic вынуждены вести агрессивную финансовую политику. Использовать Claude через сторонние инструменты вроде OpenCode можно, но только через API-токен, где обычный проход по контексту проекта легко переваливает за $100
Три недели мне хватило, чтобы определиться. Одна подписка заменяет всё: ChatGPT, Cursor, китайские GLM'ки. Больше никакого зоопарка инструментов. Один ассистент - один рабочий процесс ☝️
Шла третья неделя использования Claude Max(20x) по подписке, и, впервые за полгода, я не проплатил подписку на Cursor. Пока мы прорабатывали инициативу ИИ Просвещения в компании, я перепробовал кучу подходов и инструментов. Как и писал выше — от идеи тащить корпоративный Cursor мы отказались почти сразу
🔍 Cursor — хороший инструмент. Мультимодели из коробки, широкие возможности. Но всё, что он делает — он делает вокруг оболочки VS Code, которая мне просто не нравилась. В итоге висела проплаченная подписка, идеи я прорабатывал в ChatGPT, а когда нужно было жёстко по-вайбкодить — открывал Cursor, но редко упирался даже в их приземлённые лимиты
🛑 Главная проблема Cursor — и для меня, и для программы Просвещения — в том, что он слишком легко даёт результат. Как Windows Forms в Visual Studio: создаёшь Button, переходишь в OnClick, описываешь всё поведение прямо там. Код работает — но ты не думаешь ни о парадигмах, ни об абстракциях. Cursor устроен так же — он прячет сложность за красивой оболочкой, и человек получает результат, не понимая, что именно произошло. Для обучения это антипаттерн
💡 Я не планировал переезд, просто хотел потестировать Claude. Но уже за первую неделю он стал моим персональным помощником №1. Сам помог настроить окружение, рассказал, как правильно управлять контекстом, автоматизировал несколько рабочих процессов за короткие вечерние сессии. Постепенно даже планирование переехало из ChatGPT — управление проектами и интерактивные дорожные карты в Claude Chat с лихвой перекрыли аналогичные фичи ChatGPT
⚠️ Жаль, что Anthropic вынуждены вести агрессивную финансовую политику. Использовать Claude через сторонние инструменты вроде OpenCode можно, но только через API-токен, где обычный проход по контексту проекта легко переваливает за $100
Три недели мне хватило, чтобы определиться. Одна подписка заменяет всё: ChatGPT, Cursor, китайские GLM'ки. Больше никакого зоопарка инструментов. Один ассистент - один рабочий процесс ☝️
⚡7❤4🔥3💯3
🔍 Наблюдаемость начинается не с метрик
➡️ В феврале я подавал заявки на Saint HighLoad, одной из тем было Observability. Об этом я писал выше. Когда я в итоге сел прорабатывать собственное понимание этой темы - находки меня впечатлили, хотя казались достаточно очевидными
Моя цель на год звучала классно - любой инженер локализует проблему за 10–15 минут. Для этого нам нужна наблюдаемость в своем стандартном виде, т.е.: "Observability = Metrics + Alerts + Traces". Классика. Бери и делай... Но делай что?
🛑 Когда я сел за дорожную карту - начал буксовать. Пытался раскрутить: Как выставить правильные пороги? Какие метрики вообще являются хорошими, а от каких стоит избавиться? С метриками, кстати, понятно - наш архитектор приучил меня к очень правильному вопросу: «Какой алерт я повешу на эту метрику»
Отсюда возникает и главный вопрос - а какие алерты нас вообще интересуют? Как понять, что система работает корректно?
💡 Ответ оказался не техническим. Система работает корректно тогда, когда приносит деньги. Всё.
10–15 минут реакции - это следствие, точнее, реализуемое действие, для того, чтобы снизить потери бизнеса. Но причина в том, что мы не умеем считать потери. Когда падает сервис, никто не может сказать: «за последние 40 минут мы потеряли примерно X рублей». Только в случае полного отказа всех наших сервисов, боже дай мне сил...
❗️ Когда я переформулировал цель, и сделал целью ДК автоматизацию подсчёта потерь - ДК начала вырисовываться в моей голове, причем очень последовательными шагами. Сразу стало понятно:
• Для подсчёта потерь нужны SLI/SLO/SLA сервисов
• Для SLI нужны метрики и алерты - конкретные, привязанные к бизнес-процессам
• Для сокращения времени реакции нужны трассировки по которым можно отследить, где нарушаются эти самые SLA
Те же самые Metrics + Alerts + Traces - но теперь каждый элемент отвечает на конкретный вопрос, а не висит в вакууме
✅ Ошибка была не в инструментах, а в целеполагании. Я пытался строить наблюдаемость от инструментов к результату. Но без учета бизнес-контекста результат оставалось только высасывать из пальца. В очередной раз процессы оказались важнее технических костылей)
🔜 Дальше расскажу, с чего мы начали практически: аудит алертов и логирования. Спойлер - то, что мы нашли, нас не обрадовало
➡️ В феврале я подавал заявки на Saint HighLoad, одной из тем было Observability. Об этом я писал выше. Когда я в итоге сел прорабатывать собственное понимание этой темы - находки меня впечатлили, хотя казались достаточно очевидными
Моя цель на год звучала классно - любой инженер локализует проблему за 10–15 минут. Для этого нам нужна наблюдаемость в своем стандартном виде, т.е.: "Observability = Metrics + Alerts + Traces". Классика. Бери и делай... Но делай что?
🛑 Когда я сел за дорожную карту - начал буксовать. Пытался раскрутить: Как выставить правильные пороги? Какие метрики вообще являются хорошими, а от каких стоит избавиться? С метриками, кстати, понятно - наш архитектор приучил меня к очень правильному вопросу: «Какой алерт я повешу на эту метрику»
Отсюда возникает и главный вопрос - а какие алерты нас вообще интересуют? Как понять, что система работает корректно?
💡 Ответ оказался не техническим. Система работает корректно тогда, когда приносит деньги. Всё.
10–15 минут реакции - это следствие, точнее, реализуемое действие, для того, чтобы снизить потери бизнеса. Но причина в том, что мы не умеем считать потери. Когда падает сервис, никто не может сказать: «за последние 40 минут мы потеряли примерно X рублей». Только в случае полного отказа всех наших сервисов, боже дай мне сил...
❗️ Когда я переформулировал цель, и сделал целью ДК автоматизацию подсчёта потерь - ДК начала вырисовываться в моей голове, причем очень последовательными шагами. Сразу стало понятно:
• Для подсчёта потерь нужны SLI/SLO/SLA сервисов
• Для SLI нужны метрики и алерты - конкретные, привязанные к бизнес-процессам
• Для сокращения времени реакции нужны трассировки по которым можно отследить, где нарушаются эти самые SLA
Те же самые Metrics + Alerts + Traces - но теперь каждый элемент отвечает на конкретный вопрос, а не висит в вакууме
✅ Ошибка была не в инструментах, а в целеполагании. Я пытался строить наблюдаемость от инструментов к результату. Но без учета бизнес-контекста результат оставалось только высасывать из пальца. В очередной раз процессы оказались важнее технических костылей)
🔜 Дальше расскажу, с чего мы начали практически: аудит алертов и логирования. Спойлер - то, что мы нашли, нас не обрадовало
🔥6❤4⚡2
✍️ Съездил на AI Conf 2026 в Москве, вернулся с тремя пакетами лута, инсайтами и рабочими инструментами
20 апреля был на AI Conf в Технограде на ВДНХ, от открытия до афтерпати. Организаторы собрали её как «конференцию развития», 40% программы вынесены в интерактивы: мастер-классы, открытые столы, стенды с активностями
Провёл там весь день, собрал три пакета лута за активности. Носки, кружка, легендарный свитшот в стиле👨💻
Несколько инсайтов, которые всё ещё крутятся в голове. Пару рабочих инструментов, которые беру в работу
Немного задерживаюсь с постами - последнюю неделю прорабатывал воркшоп для обмена опыта с командой, об этом тоже напишу в отдельном посте. Пока что делюсь фотографиями с мероприятия
20 апреля был на AI Conf в Технограде на ВДНХ, от открытия до афтерпати. Организаторы собрали её как «конференцию развития», 40% программы вынесены в интерактивы: мастер-классы, открытые столы, стенды с активностями
Провёл там весь день, собрал три пакета лута за активности. Носки, кружка, легендарный свитшот в стиле
tech-cyberpunk Несколько инсайтов, которые всё ещё крутятся в голове. Пару рабочих инструментов, которые беру в работу
Немного задерживаюсь с постами - последнюю неделю прорабатывал воркшоп для обмена опыта с командой, об этом тоже напишу в отдельном посте. Пока что делюсь фотографиями с мероприятия
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8⚡7🔥3
🔍 Как прошла AI Conf в Москве
Конференция собрана как «конференция развития» с 40% интерактивных форматов. Было 4 основных трека - из них я и собрал свой личный маршрут
🎤 Доклады
На доклады изначально не планировал идти - их можно посмотреть в записи. Но с утра хотелось неспешно добраться до Технограда, ознакомиться с локацией, пройтись по этажам. В итоге на один из двух утренних докладов я попал. Два открывающих доклада рассказывали об изучении китайского для AI-карьеры. Логика спикеров проста:
🧪 Мастер-классы
Сходил на несколько: Schema Guided Reasoning и Agent Observability via Langfuse. Понравился формат, спикеры и организаторы постарались сделать качественно и интересно. Но, видимо, из-за смены формата конференции не было времени на «обкатку» материала с mock-залом, оба МК не уложились в тайминги. А инструменты сугубо специализированные, чтобы начать их использовать нашей команде потребуется менять подход к работе с AI в процессах и продукте - что маловероятно сейчас
🗣 Открытые столы
Еще один живой-мастер класс, с разделением на команды: Стол по теме «Как продавать AI-фичу бизнесу». Разбивались на 7 команд с 7 разными AI-проектами, я взял ближайшую тему - AI Code Reviewer. Из-за нехватки людей в итоге объединились в 3 команды. Прорабатывали emotional map для C-Level: о чём думают, чего хотят и чего боятся CEO, CTO, CISO. Было весело, но не шибко полезно - имея опыт продавать AI-фичи бизнесу знаю: разговор всегда о бабках. О бабках через эффективность, через автоматизацию, через смену парадигмы разработки - но не через эмоции. В бизнесе вообще нет эмоций. Только деньги
🎪 Стенды
Дюжина стендов партнёров с разными активностями: розыгрыши в лотереях, викторины, игры в лего и т.д. Вооружился желанием устроить обмен опытом в офисе - гонял по стендам и собирал максимум лута, чтобы разыграть внутри своей команды. Вернулся домой с тремя пакетами
🎉 Афтерпати
Проходило на этаже со стендами, когда активности закончились. Шведский стол, алкоголь, закуски. Безалкогольное пиво для меня. Поболтал с ребятами со стендов, которые понравились больше всего, об айтишке, о технологиях, о процессах - приятный нетворкинг в конце дня. Уходя, наткнулся на неанонсированный доклад от HR, видимо, Сбера про рынок труда: «рынок сломан, чинить никто не будет» - это если кратко
Уже провели командный обмен опытом после конфы - в следующих постах расскажу о том, как это было
Конференция собрана как «конференция развития» с 40% интерактивных форматов. Было 4 основных трека - из них я и собрал свой личный маршрут
🎤 Доклады
На доклады изначально не планировал идти - их можно посмотреть в записи. Но с утра хотелось неспешно добраться до Технограда, ознакомиться с локацией, пройтись по этажам. В итоге на один из двух утренних докладов я попал. Два открывающих доклада рассказывали об изучении китайского для AI-карьеры. Логика спикеров проста:
Промтить на родном для моделей языке и общаться с инженерами на китайских аналогах Хабра => карьерное преимущество
🧪 Мастер-классы
Сходил на несколько: Schema Guided Reasoning и Agent Observability via Langfuse. Понравился формат, спикеры и организаторы постарались сделать качественно и интересно. Но, видимо, из-за смены формата конференции не было времени на «обкатку» материала с mock-залом, оба МК не уложились в тайминги. А инструменты сугубо специализированные, чтобы начать их использовать нашей команде потребуется менять подход к работе с AI в процессах и продукте - что маловероятно сейчас
🗣 Открытые столы
Еще один живой-мастер класс, с разделением на команды: Стол по теме «Как продавать AI-фичу бизнесу». Разбивались на 7 команд с 7 разными AI-проектами, я взял ближайшую тему - AI Code Reviewer. Из-за нехватки людей в итоге объединились в 3 команды. Прорабатывали emotional map для C-Level: о чём думают, чего хотят и чего боятся CEO, CTO, CISO. Было весело, но не шибко полезно - имея опыт продавать AI-фичи бизнесу знаю: разговор всегда о бабках. О бабках через эффективность, через автоматизацию, через смену парадигмы разработки - но не через эмоции. В бизнесе вообще нет эмоций. Только деньги
🎪 Стенды
Дюжина стендов партнёров с разными активностями: розыгрыши в лотереях, викторины, игры в лего и т.д. Вооружился желанием устроить обмен опытом в офисе - гонял по стендам и собирал максимум лута, чтобы разыграть внутри своей команды. Вернулся домой с тремя пакетами
🎉 Афтерпати
Проходило на этаже со стендами, когда активности закончились. Шведский стол, алкоголь, закуски. Безалкогольное пиво для меня. Поболтал с ребятами со стендов, которые понравились больше всего, об айтишке, о технологиях, о процессах - приятный нетворкинг в конце дня. Уходя, наткнулся на неанонсированный доклад от HR, видимо, Сбера про рынок труда: «рынок сломан, чинить никто не будет» - это если кратко
Уже провели командный обмен опытом после конфы - в следующих постах расскажу о том, как это было
⚡7❤3👍3🔥1
🤖 A/B-тесты закончились, гипотеза подтвердилась, но главное оказалось не в этом
Пару месяцев назад писал о запуске A/B-тестов AI-ассистента. Результаты собраны и проанализированы. Выводы сделаны
📊 По главной гипотезе:
Мы проверяли влияние ассистента на воронку от "меню" до "корзина". Получили дельту в районе 1п.п. при p.value~0.007 - гипотеза подтвердилась. P.value - показатель статистической значимости отличия экспериментальной группы от контрольной
По динамике: первая неделя - хайповый рост, потом коррекция, а с четвёртой недели вышли на плато. Среднее число запросов до добавления в корзину - 2.3, что комфортно легло в unit-экономику
🔍 Инсайты:
Пока шли тесты, хотя мы и обещали себе "не подглядывать" чтобы избежать поспешных выводов о результатах, мы конечно забили на обещание и следили за динамикой чуть ли не в реал-тайм режиме. Очень скоро начал вырисовываться один паттерн, повторяющийся у пользователей. По сути клиенты запрашивали рекомендации по целой категории, которой у нас раньше не было. Ассистент на этих запросах выдавал не то, что могло бы содержаться в этой категории. Был соблазн внести маленькую доработку, чтобы ассистент отвечал эффективно на повторяющийся запрос, но это бы сломало результаты A/B-теста и затянуло бы "эксперименты" ещё на месяц дольше
Сейчас по этой категории запускается отдельный эксперимент, и про это будет отдельный пост
💡 Что дальше:
Эксперимент дал зелёный свет на развитие в эту сторону. ДК на второй квартал уже в работе у исполнителей. Нам очень хочется скорее уйти в сторону агентского флоу ассистента, но в текущей итерации необходимо "разобрать" trade-off'ы MVP-версии, подготовить инфраструктуру для запуска A/B-тестов с разными "сценариями" ассистента, и улучшить качество выдачи по уже известным запросам пользователей
✍️ Заметка:
Как и писал раньше - A/B это способ убрать мнение и оставить данные. А иногда в этих данных оказываются инсайты сильнее, чем сама проверяемая гипотеза
В следующих постах - про экономику ассистента и про новую категорию
Пару месяцев назад писал о запуске A/B-тестов AI-ассистента. Результаты собраны и проанализированы. Выводы сделаны
📊 По главной гипотезе:
Мы проверяли влияние ассистента на воронку от "меню" до "корзина". Получили дельту в районе 1п.п. при p.value~0.007 - гипотеза подтвердилась. P.value - показатель статистической значимости отличия экспериментальной группы от контрольной
По динамике: первая неделя - хайповый рост, потом коррекция, а с четвёртой недели вышли на плато. Среднее число запросов до добавления в корзину - 2.3, что комфортно легло в unit-экономику
🔍 Инсайты:
Пока шли тесты, хотя мы и обещали себе "не подглядывать" чтобы избежать поспешных выводов о результатах, мы конечно забили на обещание и следили за динамикой чуть ли не в реал-тайм режиме. Очень скоро начал вырисовываться один паттерн, повторяющийся у пользователей. По сути клиенты запрашивали рекомендации по целой категории, которой у нас раньше не было. Ассистент на этих запросах выдавал не то, что могло бы содержаться в этой категории. Был соблазн внести маленькую доработку, чтобы ассистент отвечал эффективно на повторяющийся запрос, но это бы сломало результаты A/B-теста и затянуло бы "эксперименты" ещё на месяц дольше
Сейчас по этой категории запускается отдельный эксперимент, и про это будет отдельный пост
💡 Что дальше:
Эксперимент дал зелёный свет на развитие в эту сторону. ДК на второй квартал уже в работе у исполнителей. Нам очень хочется скорее уйти в сторону агентского флоу ассистента, но в текущей итерации необходимо "разобрать" trade-off'ы MVP-версии, подготовить инфраструктуру для запуска A/B-тестов с разными "сценариями" ассистента, и улучшить качество выдачи по уже известным запросам пользователей
Как и писал раньше - A/B это способ убрать мнение и оставить данные. А иногда в этих данных оказываются инсайты сильнее, чем сама проверяемая гипотеза
В следующих постах - про экономику ассистента и про новую категорию
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8⚡5❤3🔥2💯1
Рассказал о том, как прошло, что вынес, что принес. А всю обвязку к нему собрал... Тоже AI
Всем привет! Ещё на AI Conf загорелся идеей устроить обмен опытом с коллегами. Прямо на конфе устроил рейд по стендам-партнёрам, собирал призы за активности - как лут для будущего розыгрыша между коллег
➡️ Как только вернулся, сразу запланировал обмен опытом с коллегами и поставил дату на начало следующей недели. Собрал в черновике Obsidian воедино заметки, которые писал по ходу конфы, и всё, что было ещё тёпленьким, пока не забыл
ℹ️ За неделю до этого как раз только-только релизнулся Claude Design. Сначала проработал с Claude план воркшопа, собрал промпт к Claude Design, накидал фоточек - на выходе готовая презентация. Причём несоизмеримо качественнее специализированных инструментов, генерирующих чистейший нейрослоп, по типу Gamma
💡 Уже через 1-2 часа была готова презентация, которая инфографикой подкрепляет всё то, что я описывал в прошлом посте про AI Conf. А вечер только начался. Поэтому оставшееся время мы с Claude потратили на мини-викторину за баллы для участия в розыгрыше призов. Простой сервис, хендлящий WebSockets с мобильных браузеров коллег - коленочная реализация, но достаточная для внутреннего воркшопа
✅ Эвент прошёл отлично! Кто-то нашел что-то интересное для себя в материалах, которые я рассказывал. Кто-то веселился, играя в игру. Активные выигрывали подарочки, а все остальные остались довольны тем, что в офисе появляются такие эвенты
❗️ Раньше подготовка к такому стоила недельку в полуактивном формате - собрать презентацию и интерактивчик. Польза от встреч была несоизмерима с их стоимостью. А теперь, когда время подготовки сократилось в десятки раз - разве не лучшее время проводить такие ивенты чаще?
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9🔥4🥴4😁2✍1
🧠 Уже два месяца перетряхиваю свою базу знаний в Obsidian — но главную ценность от этого нащупал лишь сейчас
Вот и я поигрался со своим Obsidian. Размышлял про какой-то локальный RAG над базой — пока размышлял, сообщество уже всё решило и выкатило в обкатку Obsidian Wiki
Есть готовые скиллы для пересборки Obsidian в «Wiki-мозг» — хотя, какой это мозг? Просто хорошо структированная база знаний, с агентами над ней. Тем не менее — с первого взгляда были отличные ощущения
На своей базе применил этот skill
🛑 Годы работы в Obsidian были колоссальной когнитивной нагрузкой. Я пытался сортировать заметки при заведении — не справлялся, поэтому раз в пару месяцев убирался и никогда не заканчивал дело до конца. На постере это видно: в старом графе одна часть базы отслоилась от другой — куча записок, связанных между собой, но никак с основной базой
🔍 Целый вечер и 40% пятичасовых токенов Claude ушли на знакомство агентов с моими записками. Радовало, когда он спрашивал про отрывки заметок, которые я сам давно уже забыл, но о которых стоило помнить. Потом составил скоуп — где-то 120 вопросов по оборванным заметкам — сагрегировал мои ответы и собрал мой персональный граф знаний
➡️ А дальше — просто. Пишу заметки в Daily Notes, разделяю на блоки работы и личного, выделяю что-то формулярами Markdown. Раз в неделю, минут за 30–60 в выходной, запускаю сессию: «актуализируй базу по последним заметкам» — он вытаскивает свежие заметки, находит пересечения с базой, обновляет ноды графа и подкидывает новые вопросы. Никакой сортировки на входе — вот это и сняло главную головную боль
💡 Но я долго не понимал, какую ценность отсюда вытащить, кроме красиво структурированных файликов. Понял неделе на 5–6, когда тестово перегнал в базу два года истории ван-ту-ванов с сотрудниками. Теперь перед ван-ту-ваном один простой запрос даёт достаточно актуальный контекст по человеку — напоминания про мотивацию, обещания, незакрытые вопросы
⚠️ Естественно, такие манипуляции необходимо обсуждать с людьми своевременно, правда, до меня это дошло уже после. Ходил на ван-ту-ваны и заходил издалека: «Представим, что твой лид — и это точно не я — слил историю взаимодействия с тобой в LLM, чтобы улучшить опыт проведения ван-ту-ван'ов. Как ты к этому отнесёшься?»
Все дали добро. А дальше мы вместе открывали «их портрет», нарисованный LLMкой, оценивали его и полировали
✅ В целом я думал, что такая модель поможет мне именно с структурой ведения заметок, с поддержанием порядка в них. А получил помощника, в виде Агента, который помогает мне пушить мои проекты и не даёт забывать важное — и чем точнее граф отражает твою реальную загруженность, чем больше там контекста по твоим текущим проекта — тем больше от него пользы
Говорят же люди, в разных вариантах: «Ценность рождается на пересечениях — технологий, подходов, сфер»
Находка отличная. Правда, мне самому она скоро не пригодится — почему, расскажу в ближайших постах
Вот и я поигрался со своим Obsidian. Размышлял про какой-то локальный RAG над базой — пока размышлял, сообщество уже всё решило и выкатило в обкатку Obsidian Wiki
Есть готовые скиллы для пересборки Obsidian в «Wiki-мозг» — хотя, какой это мозг? Просто хорошо структированная база знаний, с агентами над ней. Тем не менее — с первого взгляда были отличные ощущения
На своей базе применил этот skill
🛑 Годы работы в Obsidian были колоссальной когнитивной нагрузкой. Я пытался сортировать заметки при заведении — не справлялся, поэтому раз в пару месяцев убирался и никогда не заканчивал дело до конца. На постере это видно: в старом графе одна часть базы отслоилась от другой — куча записок, связанных между собой, но никак с основной базой
🔍 Целый вечер и 40% пятичасовых токенов Claude ушли на знакомство агентов с моими записками. Радовало, когда он спрашивал про отрывки заметок, которые я сам давно уже забыл, но о которых стоило помнить. Потом составил скоуп — где-то 120 вопросов по оборванным заметкам — сагрегировал мои ответы и собрал мой персональный граф знаний
➡️ А дальше — просто. Пишу заметки в Daily Notes, разделяю на блоки работы и личного, выделяю что-то формулярами Markdown. Раз в неделю, минут за 30–60 в выходной, запускаю сессию: «актуализируй базу по последним заметкам» — он вытаскивает свежие заметки, находит пересечения с базой, обновляет ноды графа и подкидывает новые вопросы. Никакой сортировки на входе — вот это и сняло главную головную боль
💡 Но я долго не понимал, какую ценность отсюда вытащить, кроме красиво структурированных файликов. Понял неделе на 5–6, когда тестово перегнал в базу два года истории ван-ту-ванов с сотрудниками. Теперь перед ван-ту-ваном один простой запрос даёт достаточно актуальный контекст по человеку — напоминания про мотивацию, обещания, незакрытые вопросы
⚠️ Естественно, такие манипуляции необходимо обсуждать с людьми своевременно, правда, до меня это дошло уже после. Ходил на ван-ту-ваны и заходил издалека: «Представим, что твой лид — и это точно не я — слил историю взаимодействия с тобой в LLM, чтобы улучшить опыт проведения ван-ту-ван'ов. Как ты к этому отнесёшься?»
Все дали добро. А дальше мы вместе открывали «их портрет», нарисованный LLMкой, оценивали его и полировали
✅ В целом я думал, что такая модель поможет мне именно с структурой ведения заметок, с поддержанием порядка в них. А получил помощника, в виде Агента, который помогает мне пушить мои проекты и не даёт забывать важное — и чем точнее граф отражает твою реальную загруженность, чем больше там контекста по твоим текущим проекта — тем больше от него пользы
Говорят же люди, в разных вариантах: «Ценность рождается на пересечениях — технологий, подходов, сфер»
Находка отличная. Правда, мне самому она скоро не пригодится — почему, расскажу в ближайших постах
🔥6❤4👎1🤔1