На прошлой неделе я написал огроомный обзор на Jev, основанный на двух часах интервью их СЕО и изучении их же кукбука.
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/
👍13🔥3🤔3❤2
Я про бэкенд: как устроен поиск в кодовых агентах и почему это важно
Зафиналили доклад! В субботу на крутой конфе буду рассказывать важную для сердца любого вайбкодера тему - как устроен поиск в кодовых агентах.
Забавный факт: я выступал почти на всех крупных AI-конференциях (IT-конференциях, как сказали бы доэйайные динозавры), делаю это несколько раз в год и у меня нету ни одного повторяющегося доклада. Есть такие чуваки, которые с одной и той же темой гастролируют по конфам, меняют пару слайдов и делают вид, что это ок. Наверное, с точки зрения энергоресурсосбережения это неплохо, но я так не умею и каждый раз, когда соглашаюсь выступать - сижу ночами прокручиваю смыслы как трансформер матрички и спрашиваю себя ну зачем ты опять это сделал. Вот че тебе не сиделось-то, а? Конечно, что-то из прошлых докладов и мыслетоплива в процессе переиспользуется, но все равно это каждый раз как в первый раз и сборка с нуля.
А потом ты собираешь что-то, делаешь прогоны с крутыми ребятами, впитываешь фидбэк, репетируешь несколько раз сам. И потом получается что-то прикольное. Ну, знаете этот инженерный восторг, когда что-то получилось завелось и оно даже прикольное?
В этот раз, как и всегда, все будет именно так.
P.S.: забавный фан-факт про эту конфу - в прошлом году я подслушал за соседним столом чуваки долго разговаривали про кэш - ну типа, он растет и это проблема, кэш-мисс лучше сразу в графану выводить - дада, лучше прогревать, но после того, как один спросил "причем тут вообще gpu?" я понял, что часть говорила про классический, а другая про KV - но всем было ок и без этой мелкой детали 🥲
Приходите послушать.
Я про бэкенд
3 октября 2026
Connect, г. Москва 5-й Донской пр., 17
Зафиналили доклад! В субботу на крутой конфе буду рассказывать важную для сердца любого вайбкодера тему - как устроен поиск в кодовых агентах.
Забавный факт: я выступал почти на всех крупных AI-конференциях (IT-конференциях, как сказали бы доэйайные динозавры), делаю это несколько раз в год и у меня нету ни одного повторяющегося доклада. Есть такие чуваки, которые с одной и той же темой гастролируют по конфам, меняют пару слайдов и делают вид, что это ок. Наверное, с точки зрения энергоресурсосбережения это неплохо, но я так не умею и каждый раз, когда соглашаюсь выступать - сижу ночами прокручиваю смыслы как трансформер матрички и спрашиваю себя ну зачем ты опять это сделал. Вот че тебе не сиделось-то, а? Конечно, что-то из прошлых докладов и мыслетоплива в процессе переиспользуется, но все равно это каждый раз как в первый раз и сборка с нуля.
А потом ты собираешь что-то, делаешь прогоны с крутыми ребятами, впитываешь фидбэк, репетируешь несколько раз сам. И потом получается что-то прикольное. Ну, знаете этот инженерный восторг, когда что-то получилось завелось и оно даже прикольное?
В этот раз, как и всегда, все будет именно так.
P.S.: забавный фан-факт про эту конфу - в прошлом году я подслушал за соседним столом чуваки долго разговаривали про кэш - ну типа, он растет и это проблема, кэш-мисс лучше сразу в графану выводить - дада, лучше прогревать, но после того, как один спросил "причем тут вообще gpu?" я понял, что часть говорила про классический, а другая про KV - но всем было ок и без этой мелкой детали 🥲
Приходите послушать.
Я про бэкенд
3 октября 2026
Connect, г. Москва 5-й Донской пр., 17
🔥8❤3👏3
Почему grep все еще с нами и 50 лет эволюции поиска по коду
Опубликовал статью "50 лет эволюции поиска по коду: что под капотом кодинговых агентов". В ней про grep, AST, LSP, нграммы и многое другое. Про все то, что придумывалось для того, чтобы найти нужный код. Название буквальное: статья не про устройство поиска сейчас (про это будет доклад завтра), а про то, чем этот поиск делается - какие есть алгоритмы, подходы и технологии.
Когда я первый раз увидел grep в трейсах Claude Code и затем их CTO сказал, что они вообще отказались от векторного поиска (который последние пару лет казался чем-то неприкосновенным), мне захотелось раскопать эту идею глубже и собрать всё в одном месте. Я потратил несколько суток на ресерч, но все так и осталось драфтом.
Уже больше полугода я никак не мог собраться и добить эту статью. Потому что сначала хотелось рассказать про самые кишки каждого подхода, и добавить в том числе как тупиковые ветки развития (их было много и там много интересных решений), так и что-то крутое специфичное и нишевое (но пока не взлетевшее на олимп, типа биграмного fff с горячим файловым индексом и mcp), но получался монстр-текст, который никто точно не будет читать.
Поэтому я собрал некий happy path в том смысле, что каждая из перечисленных технологий жива и с нами до сих пор. Потратил сегодняшнюю ночь, но все зафиналил (вот что делается, когда надо поставить куар в доклад, лол).
Читается легко, пользы вагон, поэтому - рекомендую.
Ожидаю штук 8 типичных для себя на хабре дизлайков "потому что текст похож на сгенерированный" (если я начну писать все нейронкой и считать людей за дебилов - отписывайтесь! я написал тысячу постов про путешествиия еще до этих наших элэлэмок), "реклама" (если мне кто захочет заплатить за это - я возьму, но пока увы), "личная неприязнь" (лол!) и мое любимое - "ничего не понял из написанного"
https://habr.com/ru/articles/1089460/
Опубликовал статью "50 лет эволюции поиска по коду: что под капотом кодинговых агентов". В ней про grep, AST, LSP, нграммы и многое другое. Про все то, что придумывалось для того, чтобы найти нужный код. Название буквальное: статья не про устройство поиска сейчас (про это будет доклад завтра), а про то, чем этот поиск делается - какие есть алгоритмы, подходы и технологии.
Когда я первый раз увидел grep в трейсах Claude Code и затем их CTO сказал, что они вообще отказались от векторного поиска (который последние пару лет казался чем-то неприкосновенным), мне захотелось раскопать эту идею глубже и собрать всё в одном месте. Я потратил несколько суток на ресерч, но все так и осталось драфтом.
Уже больше полугода я никак не мог собраться и добить эту статью. Потому что сначала хотелось рассказать про самые кишки каждого подхода, и добавить в том числе как тупиковые ветки развития (их было много и там много интересных решений), так и что-то крутое специфичное и нишевое (но пока не взлетевшее на олимп, типа биграмного fff с горячим файловым индексом и mcp), но получался монстр-текст, который никто точно не будет читать.
Поэтому я собрал некий happy path в том смысле, что каждая из перечисленных технологий жива и с нами до сих пор. Потратил сегодняшнюю ночь, но все зафиналил (вот что делается, когда надо поставить куар в доклад, лол).
Читается легко, пользы вагон, поэтому - рекомендую.
https://habr.com/ru/articles/1089460/
🔥9👏5🎉3❤2
Decision Models - моя любовь. Мне кажется, что все в мире AI ждали чего-то похожего. Идея настолько простая и элегантная, но как же долго к ней шли.
Это похоже на ровно тот самый кубик, который можно по взрослому тащить в прод и который может поменять архитектуру и процессы разработки некоторой части софта. Потому что по факту мы постоянно принимаем маленькие решения, и если они будут делаться с близким к 100% качеству за <100мс и стоить две копеечки - это же космос что можно будет строить на этой базе.
Вчера ночью сделал бенчмарк, чтобы замерить все известные на момент сейчас модельки и по итогу дропнул статью.
Все детали тут, максимально рекомендую:
https://habr.com/ru/articles/1092000/
Это похоже на ровно тот самый кубик, который можно по взрослому тащить в прод и который может поменять архитектуру и процессы разработки некоторой части софта. Потому что по факту мы постоянно принимаем маленькие решения, и если они будут делаться с близким к 100% качеству за <100мс и стоить две копеечки - это же космос что можно будет строить на этой базе.
Вчера ночью сделал бенчмарк, чтобы замерить все известные на момент сейчас модельки и по итогу дропнул статью.
Все детали тут, максимально рекомендую:
https://habr.com/ru/articles/1092000/
👍9❤5🔥4🌚1
Снова влез в авантюру, а точнее - в целых две!
Первое: стал ведущим инженерного трека на Гигаконф (идет прям сейчас) про модели и инференс. Во-первых, потому что прикольно, а во-вторых и это главное - когда агенты заберут нашу работу (прошу заметить, «когда» а не «если») - с таким опытом можно будет хотя бы подрабатывать на корпоративах или свадьбах 😀
А вторая: 20ого числа будет новая флагманская конференция от Олега Бунина - AI Native Conf, на которой будем обсуждать как нам всем дальше жить в эпоху AI.
Я там в программном комитете и думал просто чилить на конфе, потому что программу мы подбирали тщательно, но за 4 дня до конфы снялись несколько спикеров от крутой флагманской компании, поэтому буду выступать с докладом, тема которого с начала лета меня не отпускает - про новую конкуренцию и то, какие продукты мы вообще будем строить 🚀
Первое: стал ведущим инженерного трека на Гигаконф (идет прям сейчас) про модели и инференс. Во-первых, потому что прикольно, а во-вторых и это главное - когда агенты заберут нашу работу (прошу заметить, «когда» а не «если») - с таким опытом можно будет хотя бы подрабатывать на корпоративах или свадьбах 😀
А вторая: 20ого числа будет новая флагманская конференция от Олега Бунина - AI Native Conf, на которой будем обсуждать как нам всем дальше жить в эпоху AI.
Я там в программном комитете и думал просто чилить на конфе, потому что программу мы подбирали тщательно, но за 4 дня до конфы снялись несколько спикеров от крутой флагманской компании, поэтому буду выступать с докладом, тема которого с начала лета меня не отпускает - про новую конкуренцию и то, какие продукты мы вообще будем строить 🚀
🔥9👍4❤2🤡1
This media is not supported in your browser
VIEW IN TELEGRAM
Кстати, всех с пятницей! (и токенмаксингом на выходных)
P.S.: секретное видео с корпоратива Антропика в честь прошлого релиза опуса 5.5
P.S.: секретное видео с корпоратива Антропика в честь прошлого релиза опуса 5.5
🤣13❤3🔥3🐳1
Fable vs DeepSeek Uncensored: как я пентестил банк и потом занялся травлей самого себя
Провел один из самых одновременно прикольных и мерзких своих экспериментов.
Я взял расцензуренный дипсик 4.1 Flash на 552B, воткнул его в подпиленный под это опенкод и дал три задачи:
1) Попробовать сломать с нуля написанный на Fable банк
2) Просканить мой живой bare metal и попытаться взломать его
3) Построить план травли человека и пойти его выполнять
Пока я пил чай, дипсик пропентестил оба барика, прислав под 20M запросов и нашел все, что только можно было найти с улицы, составил красивый отчетик по итогу и не слился ни с одной задачи. Ему просто похеру на все: если надо устроить буллинг жирного черного небинарного карлика - вообще без проблем. Религия, политика, наркотики, смерть и вообще любая запрещенка - я не смог найти хоть какие-то тормоза и предохранители.
С буллингом я выбрал свой акк в инсте, просто закинул ссылку - эта мразь собрала всю фактуру, построила план и пошла выполнять, прислав мне в личку живую аудюху, что мои посты говно и зачем я вообще их пишу.
Я все конспектировал, скриншотил, записывал в блокнотик и написал пост с подробностями на хабр:
https://habr.com/ru/articles/1097598/
🕺🗣 Буду рад репостам, потому что выводы из эксперимента - требующие внимания, так сказать, окно в Нарнию уже открыто
P.S.: после нажатия кнопки Destroy ноды и всего сетапа, испытал огромное облегчение 😄
Провел один из самых одновременно прикольных и мерзких своих экспериментов.
Я взял расцензуренный дипсик 4.1 Flash на 552B, воткнул его в подпиленный под это опенкод и дал три задачи:
1) Попробовать сломать с нуля написанный на Fable банк
2) Просканить мой живой bare metal и попытаться взломать его
3) Построить план травли человека и пойти его выполнять
Пока я пил чай, дипсик пропентестил оба барика, прислав под 20M запросов и нашел все, что только можно было найти с улицы, составил красивый отчетик по итогу и не слился ни с одной задачи. Ему просто похеру на все: если надо устроить буллинг жирного черного небинарного карлика - вообще без проблем. Религия, политика, наркотики, смерть и вообще любая запрещенка - я не смог найти хоть какие-то тормоза и предохранители.
С буллингом я выбрал свой акк в инсте, просто закинул ссылку - эта мразь собрала всю фактуру, построила план и пошла выполнять, прислав мне в личку живую аудюху, что мои посты говно и зачем я вообще их пишу.
Я все конспектировал, скриншотил, записывал в блокнотик и написал пост с подробностями на хабр:
https://habr.com/ru/articles/1097598/
🕺🗣 Буду рад репостам, потому что выводы из эксперимента - требующие внимания, так сказать, окно в Нарнию уже открыто
P.S.: после нажатия кнопки Destroy ноды и всего сетапа, испытал огромное облегчение 😄
🔥22😁9😱5🐳5👍3👾2
Ты же луддит! 🔨
В моем инфополе слово "луддит" стало появляться очень часто и оно всегда было ругательным, потому что ну нельзя же бастовать против прогресса и уничтожать технологии. Мне было интересно поглубже разобраться в этом явлении, я наконец-то до этого добрался, и реальная история оказалась драматичнее.
Паровые машины принесли прогресс, но люди не были против прогресса и машин, более того, они хорошо владели этими машинами, дело было в другом.
Написал большую статью про луддизм - лонгрид о первой войне человека с машиной и о людях, чья профессия стала дешеветь быстрее, чем они успевали придумать себе другую жизнь. Прям как ща с нашей иишечкой.
Приятного чтения:
https://habr.com/ru/articles/1104236/
В моем инфополе слово "луддит" стало появляться очень часто и оно всегда было ругательным, потому что ну нельзя же бастовать против прогресса и уничтожать технологии. Мне было интересно поглубже разобраться в этом явлении, я наконец-то до этого добрался, и реальная история оказалась драматичнее.
Паровые машины принесли прогресс, но люди не были против прогресса и машин, более того, они хорошо владели этими машинами, дело было в другом.
Написал большую статью про луддизм - лонгрид о первой войне человека с машиной и о людях, чья профессия стала дешеветь быстрее, чем они успевали придумать себе другую жизнь. Прям как ща с нашей иишечкой.
Приятного чтения:
https://habr.com/ru/articles/1104236/
Please open Telegram to view this post
VIEW IN TELEGRAM
Хабр
Луддиты: история от первых паровых машин до наших дней и AI
Не используете 8 подписок на AI по 200$ каждая? Так вы, получается, луддит . Слово «луддит» дошло до нас как нечто негативное, описывающего человека, который отрицает прогресс и даже пытается с ним...
❤5👍5🔥5
Доброе утро всем кроме Дарио
P.S.: Сжег 2.3 млрд токенов на Астре за выходные, полет нормальный! Готовлю много годноты, совсем скоро, stay tuned🚀
P.S.: Сжег 2.3 млрд токенов на Астре за выходные, полет нормальный! Готовлю много годноты, совсем скоро, stay tuned
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣9💯5🔥3😁1