Про deep tech night
Конфа крутая! Собственно, как все tech-конфы Яндекса. Организация во всех смыслах топовая (на неработающее приложение, из-за которого я пропустил иммерсивную экскурсию, можно закрыть глаза). Очень крутой вайб, а экстраполису - гораздо круче быть развернутым во всю стену, нежели как обычно 😄
Однажды меня случайно занесло на чисто бизнесовую Я-конфу, и вот там-то я взгрустул, потому что со сцены спикеры со всей страны рассказывали про бороздящие космические просторы, а в кулуарах на вопросы о минимальных деталях под капотом отвечали «ой ну надо у наших инженеров спросить». Но без технички умудрялись насыпать такого, что хотелось восклицать «да что ж ты п%здишь-то» 🤣 Но там это привычная атмосфера 💼🕶️
А здесь - все было хорошо! Мы обязательно встретимся!
(для масштаба все фотки на 0.5)
Конфа крутая! Собственно, как все tech-конфы Яндекса. Организация во всех смыслах топовая (на неработающее приложение, из-за которого я пропустил иммерсивную экскурсию, можно закрыть глаза). Очень крутой вайб, а экстраполису - гораздо круче быть развернутым во всю стену, нежели как обычно 😄
Однажды меня случайно занесло на чисто бизнесовую Я-конфу, и вот там-то я взгрустул, потому что со сцены спикеры со всей страны рассказывали про бороздящие космические просторы, а в кулуарах на вопросы о минимальных деталях под капотом отвечали «ой ну надо у наших инженеров спросить». Но без технички умудрялись насыпать такого, что хотелось восклицать «да что ж ты п%здишь-то» 🤣 Но там это привычная атмосфера 💼🕶️
А здесь - все было хорошо! Мы обязательно встретимся!
(для масштаба все фотки на 0.5)
❤4🔥4🐳2👾1
А теперь хотелось бы поговорить про важное в эпоху дизрапта разработки продуктов: про сквоттинг.
Сквоттинг - это самовольный захват "свободных" зданий теми, кто не является их владельцем. Часто это заброшки, которые возникают по разным причинам человеческой жизнедеятельности.
В моей глубоко обожаемой Латинской Америке сквоттинг очень популярное явление (что в Аргентине особо больно потому что сквотят красоту) и чтобы с ним бороться правительство даже блокирует входы и выходы зданий, чтобы их невозможно было занять. Потому что когда люди заселились - их не выгнать, потому что уже некуда. В юарском Йоханнесбурге местные мне показывали многоэтажки, которые угоняли у застройщиков целиком - это такой прям бизнес, когда опасные гангста угоняют чужой по паспорту дом и начинают распоряжаться им как своим и сдавать легальным съемщикам.
Причем здесь AI и агенты, могли бы спросить вы?
У скоттинга есть цифровой аналог - кибер-сквотинг, и который начинался ровно тем же, что и обычный. Но в итоге пошёл сильно дальше.
Расскажу историю первую.
Когда-то давно я сделал приложение для обоих мобилок про офлайн-карты - я попал в реальную боль и потому на него быстро полился органический трафик. За год я собрал примерно 100k скачиваний чисто на органике, но в какой-то момент понял, что юнит-экономика проекта беспощадно требует либо привлечения инвесторских денег для LTV, либо просто оставить все это без поддержки и наслаждаться прилетающими мини-выплатами на оплату сервака и немного пивка сверху.
Я забил на проект на пару лет, он просто крутился на серваке, потом случился ковид (кто-то помнит что это?), и я окончательно выкинул проект из memory. Прилетел счет на оплату домена, но я уже забил - кому он теперь был нужен.
Потом спустя несколько лет случились ллмки. Мне показалось свежей идея обновить аппку, и тут я обнаружил сквоттинг - домен, на который тогда лился трафик и который был лендингом и названием проекта - угнали. Ровно в тот момент, когда я забил на счет оплаты домена, на него не забил кто-то другой, кто внимательно его отслеживал. Это называется "drop-catching" или по крестьянски - перехват освобождающегося домена под выкуп.
Теперь у меня есть аппка, но нет домена. Киберскоттеры внимательно забирают все, что забрасывается, только делают это моментально. И их тоже невыпиздишь просто так - нужно договариваться, и часто чек на таких договорах перебивает все затраты на сквоттинг до него. Я знавал одного сквоттера в ру-домене - у него в жизни было все замечательно.
Если трафика не очень много или его сложно монетизировать (как с моей аппкой) - домен просто бесконечно продлевается пока владелец или кто-то не придут договариваться о его выкупе. Если трафик легкий - там поднимает аналогичный проект. Подмены из пользователей никто не ощущает.
Сейчас в эпоху агентов сквоттеры получили супер крутые инструменты, чтобы делать то, что они делают, но круче на пару порядков. Пылесосить домены, поднимать копии проектов, подкинуть сверху рекламного трафика и подавлять подзапущенные или набирающие популярность оригиналы. В эпоху агентов сквоттеры могут выкупить все самые интересные имена под любые продукты - и это огромная продуктовая проблема.
Что мы делаем, чтобы придумать название нового проекта? Правильно, идём в чатгпт/клода/гемини и перебираем варианты. Угадайте, кто ещё так делает? И почему найти нормальный домен для проекта становится все сложнее?
Благодаря агентам можно не просто анализировать взлетающий спрос на что-то, но и автоматом обмазывать возрастающие стартапы похожими именами и под них же мимикрировать, подливать на них трафик, поднимать копии проектов и долго паразитировать на этом. С агентами это теперь не стоит почти ничего и это уже делается.
А вторая история - про сквотинг и прямой взлом, но ее - чуть попозже!
P.S.: на фото - великолепный Буэнос-Айрес, я про него писал тут и тут. Если наберется 20 ноготочков в реакциях, то позволю себе посты только про свои путешествия (а я облетел весь мир и написал больше тысячи постов про это, но сюда писать про это стесняюсь🤩 )
Сквоттинг - это самовольный захват "свободных" зданий теми, кто не является их владельцем. Часто это заброшки, которые возникают по разным причинам человеческой жизнедеятельности.
В моей глубоко обожаемой Латинской Америке сквоттинг очень популярное явление (что в Аргентине особо больно потому что сквотят красоту) и чтобы с ним бороться правительство даже блокирует входы и выходы зданий, чтобы их невозможно было занять. Потому что когда люди заселились - их не выгнать, потому что уже некуда. В юарском Йоханнесбурге местные мне показывали многоэтажки, которые угоняли у застройщиков целиком - это такой прям бизнес, когда опасные гангста угоняют чужой по паспорту дом и начинают распоряжаться им как своим и сдавать легальным съемщикам.
Причем здесь AI и агенты, могли бы спросить вы?
У скоттинга есть цифровой аналог - кибер-сквотинг, и который начинался ровно тем же, что и обычный. Но в итоге пошёл сильно дальше.
Расскажу историю первую.
Когда-то давно я сделал приложение для обоих мобилок про офлайн-карты - я попал в реальную боль и потому на него быстро полился органический трафик. За год я собрал примерно 100k скачиваний чисто на органике, но в какой-то момент понял, что юнит-экономика проекта беспощадно требует либо привлечения инвесторских денег для LTV, либо просто оставить все это без поддержки и наслаждаться прилетающими мини-выплатами на оплату сервака и немного пивка сверху.
Я забил на проект на пару лет, он просто крутился на серваке, потом случился ковид (кто-то помнит что это?), и я окончательно выкинул проект из memory. Прилетел счет на оплату домена, но я уже забил - кому он теперь был нужен.
Потом спустя несколько лет случились ллмки. Мне показалось свежей идея обновить аппку, и тут я обнаружил сквоттинг - домен, на который тогда лился трафик и который был лендингом и названием проекта - угнали. Ровно в тот момент, когда я забил на счет оплаты домена, на него не забил кто-то другой, кто внимательно его отслеживал. Это называется "drop-catching" или по крестьянски - перехват освобождающегося домена под выкуп.
Теперь у меня есть аппка, но нет домена. Киберскоттеры внимательно забирают все, что забрасывается, только делают это моментально. И их тоже не
Если трафика не очень много или его сложно монетизировать (как с моей аппкой) - домен просто бесконечно продлевается пока владелец или кто-то не придут договариваться о его выкупе. Если трафик легкий - там поднимает аналогичный проект. Подмены из пользователей никто не ощущает.
Сейчас в эпоху агентов сквоттеры получили супер крутые инструменты, чтобы делать то, что они делают, но круче на пару порядков. Пылесосить домены, поднимать копии проектов, подкинуть сверху рекламного трафика и подавлять подзапущенные или набирающие популярность оригиналы. В эпоху агентов сквоттеры могут выкупить все самые интересные имена под любые продукты - и это огромная продуктовая проблема.
Что мы делаем, чтобы придумать название нового проекта? Правильно, идём в чатгпт/клода/гемини и перебираем варианты. Угадайте, кто ещё так делает? И почему найти нормальный домен для проекта становится все сложнее?
Благодаря агентам можно не просто анализировать взлетающий спрос на что-то, но и автоматом обмазывать возрастающие стартапы похожими именами и под них же мимикрировать, подливать на них трафик, поднимать копии проектов и долго паразитировать на этом. С агентами это теперь не стоит почти ничего и это уже делается.
А вторая история - про сквотинг и прямой взлом, но ее - чуть попозже!
P.S.: на фото - великолепный Буэнос-Айрес, я про него писал тут и тут. Если наберется 20 ноготочков в реакциях, то позволю себе посты только про свои путешествия (а я облетел весь мир и написал больше тысячи постов про это, но сюда писать про это стесняюсь
Please open Telegram to view this post
VIEW IN TELEGRAM
💅20😁4🤔3🌚2💯1
Пост конференций и полезных ссылок
Конфы - я люблю. Послеживаю за расписанием на сайтике ebench - актуальность там оч хорошая.
Что будет в ближайшее время и где буду я:
Завтра будет Practical ML Conf от Яндекса - флагманская конфа про ML/AI. Конфу обожаю, это высочайший уровень организации во всем. 2 года назад я выступал в главном зале в прайм-тайм - рассказывал про то, как мы первые в РФ попробовали готовить и размечать данные через ллмки. Тогда это встречало умеренный скептицизм, сегодня так делают все. Там точно будет супер круто(хотя два года назад там вдруг резко закончилась еда, но я был в спикерской и там было очень по царски; но больше себе такого они не позволяли и в прошлом году был просто пищевой рай) , но я на конфе в этот раз не буду, увы, у меня семейный праздник 🕺
24 сентября будет большая конфа Yandex Scale. Я на ней не буду (много работки), но зная масштаб, могу предположить, что будет очень круто и не назвать ее было бы неправильно.
3 октября выступаю на еще одной конфе от Яндекса - Я про бэкенд. Мне очень нравится эта конфа из-за ̶п̶а̶э̶л̶ь̶и̶ ̶с̶ ̶к̶р̶е̶в̶е̶т̶к̶а̶м̶и̶ очень удачного позиционирования - это не чистокровный ML со всякими grpo и видами аттеншенов, и не классический бэкенд, а про то, как их правильно соединять вместе, такой в хорошем смысле миддлвер. Перефразируя в шутку известный мем - "никогда не спрашивай бэкендера про энкодер с декодером, а млщика про то как поскейлить его модели". Здесь - решат и то и то! Начальник конфы очень хорошо подкрутил мой доклад, поэтому точно будет круто, приходите 👾
20 октября будет конфа от Онтико с говорящим названием "AI Native Conf" - про то, как меняется наша работа под воздействием AI. Будем искать вопросы на ответы о внедрении, агентном кодинге, построении харнессов и том, что же такое на самом деле AI First и AI Native. У этой конфы я в программном комитете, знаю внутрянку и то, какие баталии были про почти каждый отобранный доклад. Будет круто!
30 ноября и 1 декабря - культовый большой Highload++, где я теперь тоже в ПК по AI и где сам тоже буду выступать - рассказывать про внутренности кодинговых агентов.
+ вчера была Сберовская AI R&D Day, но она была вчера, а я работал, поэтому можно дождаться докладов оттуда, поэтому просто тегну главного по мл-хардкору там и паблик их команды
P.S.: рекламы нет, все только по любви ❤️
Конфы - я люблю. Послеживаю за расписанием на сайтике ebench - актуальность там оч хорошая.
Что будет в ближайшее время и где буду я:
Завтра будет Practical ML Conf от Яндекса - флагманская конфа про ML/AI. Конфу обожаю, это высочайший уровень организации во всем. 2 года назад я выступал в главном зале в прайм-тайм - рассказывал про то, как мы первые в РФ попробовали готовить и размечать данные через ллмки. Тогда это встречало умеренный скептицизм, сегодня так делают все. Там точно будет супер круто
24 сентября будет большая конфа Yandex Scale. Я на ней не буду (много работки), но зная масштаб, могу предположить, что будет очень круто и не назвать ее было бы неправильно.
3 октября выступаю на еще одной конфе от Яндекса - Я про бэкенд. Мне очень нравится эта конфа из-за ̶п̶а̶э̶л̶ь̶и̶ ̶с̶ ̶к̶р̶е̶в̶е̶т̶к̶а̶м̶и̶ очень удачного позиционирования - это не чистокровный ML со всякими grpo и видами аттеншенов, и не классический бэкенд, а про то, как их правильно соединять вместе, такой в хорошем смысле миддлвер. Перефразируя в шутку известный мем - "никогда не спрашивай бэкендера про энкодер с декодером, а млщика про то как поскейлить его модели". Здесь - решат и то и то! Начальник конфы очень хорошо подкрутил мой доклад, поэтому точно будет круто, приходите 👾
20 октября будет конфа от Онтико с говорящим названием "AI Native Conf" - про то, как меняется наша работа под воздействием AI. Будем искать вопросы на ответы о внедрении, агентном кодинге, построении харнессов и том, что же такое на самом деле AI First и AI Native. У этой конфы я в программном комитете, знаю внутрянку и то, какие баталии были про почти каждый отобранный доклад. Будет круто!
30 ноября и 1 декабря - культовый большой Highload++, где я теперь тоже в ПК по AI и где сам тоже буду выступать - рассказывать про внутренности кодинговых агентов.
+ вчера была Сберовская AI R&D Day, но она была вчера, а я работал, поэтому можно дождаться докладов оттуда, поэтому просто тегну главного по мл-хардкору там и паблик их команды
P.S.: рекламы нет, все только по любви ❤️
❤5👍5👌2👨💻1
Вторая часть истории про сквоттинг - нелегальная
Есть у меня один небольшой проект, на который идет трастовый органический трафик - не очень много, но он коммерческий (потенциально приводящий к покупке чего-либо), а значит дорогой. Чистая органика. В прошлом году он резко просел - ну, причин для проседания коммерческого трафика за последние несколько лет было не то чтобы сильно мало, но что-то было не то. Немного покопавшись, видимых причин все же не нашлось.
Но кое-что все-таки было. Раз в какое-то время проект в мониторинге отлетал по OOM - на своем барике, где это было физически невозможно. Покопавшись в истории запросов, я списал это на активность ботов AI-лаб (если вы смотрели аксес-логи какого-нибудь контент проекта, то их просто выпылесашивают боты клода/чатгпт/разных китайцев). Потом мне надо было что-то сделать - достаточно объемное, агентик это сделал и написал в рекап тра та та, сделал все что надо, вот так и так, бэкдор не трогал.
БЭКДОР НЕ ТРОГАЛ???? В итоге оказалось, что сайтик (на самом деле весь барик с проектами на нем) давно и безнадежно был взломан из-за одной давно необновляемой панельки управления тачкой от хостера. Интерес привлек именно этот проект - видимо, из-за коммерческого трафика. Отдав агентику всю графанку с прометеусами и всем чем только можно, было выяснено что через веб той панельки на хост закинули исполняемый бинарь, через который открывался доступ по ssh, а дальше полное раздолье - были прочеканы все платежные креды (их не было), а затем в один из проектов внедрили гениально-ублюдочную вещь.
Это был небольшой кусочек кода, который очень хорошо определял ботов поисковых (гугла/яндекса/бинг и тд) и ботов AI-лаб, и ТОЛЬКО ДЛЯ НИХ вешал на сайт баннер какого-то говноказино. То есть, обычные посетители ничего не видели, но как только заходил какой-то из ботов - он видел что мой сайт донатит траст непонятной помойке.
Собственно, просадка была именно из-за этого. Страшная вещь, которую вообще почти невозможно поймать.
Причем здесь агенты?
Во-первых, сам взлом - можно обстрелять хост обычными сканнерами уязвимостей, сгрузить репорт в фронтирную ллмку и она обязательно подскажет угол атаки, а при должном умении может и сама все проделать.
Во-вторых, вот эта схема - агенты хорошо понимают код, и такое можно делать автоматом - пылесосить креды и вставлять непонятные баннерки в самые укромные уголки кода.
Ты можешь заказать себе аудит фронтирной моделью, а тебя может атаковать модель поколения N+1 или специально подкрученная под поиск ЛЮБЫХ уязвимостей ЛЮБОГО СОФТА (а что-нибудь да найдется).
Мир, где можно было подзабить на небезопасный метод апи или случайно оставленные 766 на папку "потому что так побыстрее будет" - заканчивается, и это будет очень интересно.
P.S.: ну а фотка сегодняшняя из "переговорки принятия Больших Решений" (она же файлом в первом комменте, если захочется позалипать) 😄
Есть у меня один небольшой проект, на который идет трастовый органический трафик - не очень много, но он коммерческий (потенциально приводящий к покупке чего-либо), а значит дорогой. Чистая органика. В прошлом году он резко просел - ну, причин для проседания коммерческого трафика за последние несколько лет было не то чтобы сильно мало, но что-то было не то. Немного покопавшись, видимых причин все же не нашлось.
Но кое-что все-таки было. Раз в какое-то время проект в мониторинге отлетал по OOM - на своем барике, где это было физически невозможно. Покопавшись в истории запросов, я списал это на активность ботов AI-лаб (если вы смотрели аксес-логи какого-нибудь контент проекта, то их просто выпылесашивают боты клода/чатгпт/разных китайцев). Потом мне надо было что-то сделать - достаточно объемное, агентик это сделал и написал в рекап тра та та, сделал все что надо, вот так и так, бэкдор не трогал.
БЭКДОР НЕ ТРОГАЛ???? В итоге оказалось, что сайтик (на самом деле весь барик с проектами на нем) давно и безнадежно был взломан из-за одной давно необновляемой панельки управления тачкой от хостера. Интерес привлек именно этот проект - видимо, из-за коммерческого трафика. Отдав агентику всю графанку с прометеусами и всем чем только можно, было выяснено что через веб той панельки на хост закинули исполняемый бинарь, через который открывался доступ по ssh, а дальше полное раздолье - были прочеканы все платежные креды (их не было), а затем в один из проектов внедрили гениально-ублюдочную вещь.
Это был небольшой кусочек кода, который очень хорошо определял ботов поисковых (гугла/яндекса/бинг и тд) и ботов AI-лаб, и ТОЛЬКО ДЛЯ НИХ вешал на сайт баннер какого-то говноказино. То есть, обычные посетители ничего не видели, но как только заходил какой-то из ботов - он видел что мой сайт донатит траст непонятной помойке.
Собственно, просадка была именно из-за этого. Страшная вещь, которую вообще почти невозможно поймать.
Причем здесь агенты?
Во-первых, сам взлом - можно обстрелять хост обычными сканнерами уязвимостей, сгрузить репорт в фронтирную ллмку и она обязательно подскажет угол атаки, а при должном умении может и сама все проделать.
Во-вторых, вот эта схема - агенты хорошо понимают код, и такое можно делать автоматом - пылесосить креды и вставлять непонятные баннерки в самые укромные уголки кода.
Ты можешь заказать себе аудит фронтирной моделью, а тебя может атаковать модель поколения N+1 или специально подкрученная под поиск ЛЮБЫХ уязвимостей ЛЮБОГО СОФТА (а что-нибудь да найдется).
Мир, где можно было подзабить на небезопасный метод апи или случайно оставленные 766 на папку "потому что так побыстрее будет" - заканчивается, и это будет очень интересно.
P.S.: ну а фотка сегодняшняя из "переговорки принятия Больших Решений" (она же файлом в первом комменте, если захочется позалипать) 😄
👍7❤3💯2😁1🤯1
На прошлой неделе я написал огроомный обзор на Jev, основанный на двух часах интервью их СЕО и изучении их же кукбука.
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/
👍12🔥3🤔3❤2
Я про бэкенд: как устроен поиск в кодовых агентах и почему это важно
Зафиналили доклад! В субботу на крутой конфе буду рассказывать важную для сердца любого вайбкодера тему - как устроен поиск в кодовых агентах.
Забавный факт: я выступал почти на всех крупных AI-конференциях (IT-конференциях, как сказали бы доэйайные динозавры), делаю это несколько раз в год и у меня нету ни одного повторяющегося доклада. Есть такие чуваки, которые с одной и той же темой гастролируют по конфам, меняют пару слайдов и делают вид, что это ок. Наверное, с точки зрения энергоресурсосбережения это неплохо, но я так не умею и каждый раз, когда соглашаюсь выступать - сижу ночами прокручиваю смыслы как трансформер матрички и спрашиваю себя ну зачем ты опять это сделал. Вот че тебе не сиделось-то, а? Конечно, что-то из прошлых докладов и мыслетоплива в процессе переиспользуется, но все равно это каждый раз как в первый раз и сборка с нуля.
А потом ты собираешь что-то, делаешь прогоны с крутыми ребятами, впитываешь фидбэк, репетируешь несколько раз сам. И потом получается что-то прикольное. Ну, знаете этот инженерный восторг, когда что-то получилось завелось и оно даже прикольное?
В этот раз, как и всегда, все будет именно так.
P.S.: забавный фан-факт про эту конфу - в прошлом году я подслушал за соседним столом чуваки долго разговаривали про кэш - ну типа, он растет и это проблема, кэш-мисс лучше сразу в графану выводить - дада, лучше прогревать, но после того, как один спросил "причем тут вообще gpu?" я понял, что часть говорила про классический, а другая про KV - но всем было ок и без этой мелкой детали 🥲
Приходите послушать.
Я про бэкенд
3 октября 2026
Connect, г. Москва 5-й Донской пр., 17
Зафиналили доклад! В субботу на крутой конфе буду рассказывать важную для сердца любого вайбкодера тему - как устроен поиск в кодовых агентах.
Забавный факт: я выступал почти на всех крупных AI-конференциях (IT-конференциях, как сказали бы доэйайные динозавры), делаю это несколько раз в год и у меня нету ни одного повторяющегося доклада. Есть такие чуваки, которые с одной и той же темой гастролируют по конфам, меняют пару слайдов и делают вид, что это ок. Наверное, с точки зрения энергоресурсосбережения это неплохо, но я так не умею и каждый раз, когда соглашаюсь выступать - сижу ночами прокручиваю смыслы как трансформер матрички и спрашиваю себя ну зачем ты опять это сделал. Вот че тебе не сиделось-то, а? Конечно, что-то из прошлых докладов и мыслетоплива в процессе переиспользуется, но все равно это каждый раз как в первый раз и сборка с нуля.
А потом ты собираешь что-то, делаешь прогоны с крутыми ребятами, впитываешь фидбэк, репетируешь несколько раз сам. И потом получается что-то прикольное. Ну, знаете этот инженерный восторг, когда что-то получилось завелось и оно даже прикольное?
В этот раз, как и всегда, все будет именно так.
P.S.: забавный фан-факт про эту конфу - в прошлом году я подслушал за соседним столом чуваки долго разговаривали про кэш - ну типа, он растет и это проблема, кэш-мисс лучше сразу в графану выводить - дада, лучше прогревать, но после того, как один спросил "причем тут вообще gpu?" я понял, что часть говорила про классический, а другая про KV - но всем было ок и без этой мелкой детали 🥲
Приходите послушать.
Я про бэкенд
3 октября 2026
Connect, г. Москва 5-й Донской пр., 17
я про бэкенд
я про бэкенд — Конференция про вызовы бэкенд-разработки в эпоху роста нагрузки и развития AI
🔥8❤3👏3
Почему grep все еще с нами и 50 лет эволюции поиска по коду
Опубликовал статью "50 лет эволюции поиска по коду: что под капотом кодинговых агентов". В ней про grep, AST, LSP, нграммы и многое другое. Про все то, что придумывалось для того, чтобы найти нужный код. Название буквальное: статья не про устройство поиска сейчас (про это будет доклад завтра), а про то, чем этот поиск делается - какие есть алгоритмы, подходы и технологии.
Когда я первый раз увидел grep в трейсах Claude Code и затем их CTO сказал, что они вообще отказались от векторного поиска (который последние пару лет казался чем-то неприкосновенным), мне захотелось раскопать эту идею глубже и собрать всё в одном месте. Я потратил несколько суток на ресерч, но все так и осталось драфтом.
Уже больше полугода я никак не мог собраться и добить эту статью. Потому что сначала хотелось рассказать про самые кишки каждого подхода, и добавить в том числе как тупиковые ветки развития (их было много и там много интересных решений), так и что-то крутое специфичное и нишевое (но пока не взлетевшее на олимп, типа биграмного fff с горячим файловым индексом и mcp), но получался монстр-текст, который никто точно не будет читать.
Поэтому я собрал некий happy path в том смысле, что каждая из перечисленных технологий жива и с нами до сих пор. Потратил сегодняшнюю ночь, но все зафиналил (вот что делается, когда надо поставить куар в доклад, лол).
Читается легко, пользы вагон, поэтому - рекомендую.
Ожидаю штук 8 типичных для себя на хабре дизлайков "потому что текст похож на сгенерированный" (если я начну писать все нейронкой и считать людей за дебилов - отписывайтесь! я написал тысячу постов про путешествиия еще до этих наших элэлэмок), "реклама" (если мне кто захочет заплатить за это - я возьму, но пока увы), "личная неприязнь" (лол!) и мое любимое - "ничего не понял из написанного"
https://habr.com/ru/articles/1089460/
Опубликовал статью "50 лет эволюции поиска по коду: что под капотом кодинговых агентов". В ней про grep, AST, LSP, нграммы и многое другое. Про все то, что придумывалось для того, чтобы найти нужный код. Название буквальное: статья не про устройство поиска сейчас (про это будет доклад завтра), а про то, чем этот поиск делается - какие есть алгоритмы, подходы и технологии.
Когда я первый раз увидел grep в трейсах Claude Code и затем их CTO сказал, что они вообще отказались от векторного поиска (который последние пару лет казался чем-то неприкосновенным), мне захотелось раскопать эту идею глубже и собрать всё в одном месте. Я потратил несколько суток на ресерч, но все так и осталось драфтом.
Уже больше полугода я никак не мог собраться и добить эту статью. Потому что сначала хотелось рассказать про самые кишки каждого подхода, и добавить в том числе как тупиковые ветки развития (их было много и там много интересных решений), так и что-то крутое специфичное и нишевое (но пока не взлетевшее на олимп, типа биграмного fff с горячим файловым индексом и mcp), но получался монстр-текст, который никто точно не будет читать.
Поэтому я собрал некий happy path в том смысле, что каждая из перечисленных технологий жива и с нами до сих пор. Потратил сегодняшнюю ночь, но все зафиналил (вот что делается, когда надо поставить куар в доклад, лол).
Читается легко, пользы вагон, поэтому - рекомендую.
https://habr.com/ru/articles/1089460/
🔥8👏5🎉3❤2
Decision Models - моя любовь. Мне кажется, что все в мире AI ждали чего-то похожего. Идея настолько простая и элегантная, но как же долго к ней шли.
Это похоже на ровно тот самый кубик, который можно по взрослому тащить в прод и который может поменять архитектуру и процессы разработки некоторой части софта. Потому что по факту мы постоянно принимаем маленькие решения, и если они будут делаться с близким к 100% качеству за <100мс и стоить две копеечки - это же космос что можно будет строить на этой базе.
Вчера ночью сделал бенчмарк, чтобы замерить все известные на момент сейчас модельки и по итогу дропнул статью.
Все детали тут, максимально рекомендую:
https://habr.com/ru/articles/1092000/
Это похоже на ровно тот самый кубик, который можно по взрослому тащить в прод и который может поменять архитектуру и процессы разработки некоторой части софта. Потому что по факту мы постоянно принимаем маленькие решения, и если они будут делаться с близким к 100% качеству за <100мс и стоить две копеечки - это же космос что можно будет строить на этой базе.
Вчера ночью сделал бенчмарк, чтобы замерить все известные на момент сейчас модельки и по итогу дропнул статью.
Все детали тут, максимально рекомендую:
https://habr.com/ru/articles/1092000/
👍9❤5🔥4🌚1
Снова влез в авантюру, а точнее - в целых две!
Первое: стал ведущим инженерного трека на Гигаконф (идет прям сейчас) про модели и инференс. Во-первых, потому что прикольно, а во-вторых и это главное - когда агенты заберут нашу работу (прошу заметить, «когда» а не «если») - с таким опытом можно будет хотя бы подрабатывать на корпоративах или свадьбах 😀
А вторая: 20ого числа будет новая флагманская конференция от Олега Бунина - AI Native Conf, на которой будем обсуждать как нам всем дальше жить в эпоху AI.
Я там в программном комитете и думал просто чилить на конфе, потому что программу мы подбирали тщательно, но за 4 дня до конфы снялись несколько спикеров от крутой флагманской компании, поэтому буду выступать с докладом, тема которого с начала лета меня не отпускает - про новую конкуренцию и то, какие продукты мы вообще будем строить 🚀
Первое: стал ведущим инженерного трека на Гигаконф (идет прям сейчас) про модели и инференс. Во-первых, потому что прикольно, а во-вторых и это главное - когда агенты заберут нашу работу (прошу заметить, «когда» а не «если») - с таким опытом можно будет хотя бы подрабатывать на корпоративах или свадьбах 😀
А вторая: 20ого числа будет новая флагманская конференция от Олега Бунина - AI Native Conf, на которой будем обсуждать как нам всем дальше жить в эпоху AI.
Я там в программном комитете и думал просто чилить на конфе, потому что программу мы подбирали тщательно, но за 4 дня до конфы снялись несколько спикеров от крутой флагманской компании, поэтому буду выступать с докладом, тема которого с начала лета меня не отпускает - про новую конкуренцию и то, какие продукты мы вообще будем строить 🚀
🔥8👍3❤2
This media is not supported in your browser
VIEW IN TELEGRAM
Кстати, всех с пятницей! (и токенмаксингом на выходных)
P.S.: секретное видео с корпоратива Антропика в честь прошлого релиза опуса 5.5
P.S.: секретное видео с корпоратива Антропика в честь прошлого релиза опуса 5.5
🤣7❤3🔥3🐳1