Ролевые игры с моделями
Миша @koloskof предложил сделать обзор GStack от Гарри Тана, CEO YCombinator.
Я подумал, что стоит сначала разобраться, как вообще работает назначение ролей в промпте. Ведь это колдунство не меняет веса модели, не добавляет ей знаний, не увеличивает количество параметров и не расширяет контекстное окно.
Точно ли все эти «действуй, как CEO стартапа и серийный предприниматель» влияют на качество ответа?
Разумеется, LLM не имеет мнения ни по какому вопросу. Как мы уже обсуждали, всё, что делает модель — это предсказывает самый вероятный следующий токен. Но поскольку LLM обучена на колоссальном массиве человеческих текстов, она способна симулировать самые разные точки зрения.
Технически назначение роли — это способ управлять вероятностями предсказания.
Или, как изящно сформулировал Андрей Карпатый:
В архитектуре трансформеров есть механизм self-attention. Увидев в запросе токены «CEO», «стартап» и «предприниматель», он активирует соответствующие паттерны в весах. И модель вместо усредненного безопасного ответа (где RLHF занижает вероятность сложных терминов) начинает подбирать токены так, как это сделал бы CEO.
Так что там с GStack?
Гарри Тан опубликовал свой набор конкретных ролей (CEO, техлид, инженер-параноик, релиз-инженер, QA и др.) и скиллов (планирование, ревью, релиз, тестирование, ретро) с зашитыми предпочтениями самого Гарри.
Как мы выяснили выше, это действительно работает. Хотя вы наверняка захотите заточить эти скиллы под себя (за два дня с момента публикации уже более полутора тысяч форков на гитхабе).
Однако в подходе нет ничего нового. Например, в самом Claude Code в системном промпте зашита роль разработчика. А в моем исследовании «5 LLM в роли CEO» роли генерировались прямо в процессе выполнения верхнеуровневой цели по созданию стартапа. Аналогичный подход я использовал для создания @tdttMasterMindBot для мастермайндов — ведущий подбирает участников под ваш запрос. Еще одной очень популярной вариацией на эту же тему является фреймворк superpowers.
А ребята из Paperclip, про которых я недавно писал, анонсировали Clipmart — возможность качать целые «компании» агентов по клику.
В общем, подобных наборов на гитхабе over 9000. Этот конкретный неплох, но и ничем принципиально не отличается. Полагаю, что хайп случился из-за личности автора.
@devspotting
Миша @koloskof предложил сделать обзор GStack от Гарри Тана, CEO YCombinator.
Я подумал, что стоит сначала разобраться, как вообще работает назначение ролей в промпте. Ведь это колдунство не меняет веса модели, не добавляет ей знаний, не увеличивает количество параметров и не расширяет контекстное окно.
Точно ли все эти «действуй, как CEO стартапа и серийный предприниматель» влияют на качество ответа?
Разумеется, LLM не имеет мнения ни по какому вопросу. Как мы уже обсуждали, всё, что делает модель — это предсказывает самый вероятный следующий токен. Но поскольку LLM обучена на колоссальном массиве человеческих текстов, она способна симулировать самые разные точки зрения.
Технически назначение роли — это способ управлять вероятностями предсказания.
Или, как изящно сформулировал Андрей Карпатый:
Мы призываем призраков
В архитектуре трансформеров есть механизм self-attention. Увидев в запросе токены «CEO», «стартап» и «предприниматель», он активирует соответствующие паттерны в весах. И модель вместо усредненного безопасного ответа (где RLHF занижает вероятность сложных терминов) начинает подбирать токены так, как это сделал бы CEO.
Так что там с GStack?
Гарри Тан опубликовал свой набор конкретных ролей (CEO, техлид, инженер-параноик, релиз-инженер, QA и др.) и скиллов (планирование, ревью, релиз, тестирование, ретро) с зашитыми предпочтениями самого Гарри.
Как мы выяснили выше, это действительно работает. Хотя вы наверняка захотите заточить эти скиллы под себя (за два дня с момента публикации уже более полутора тысяч форков на гитхабе).
Однако в подходе нет ничего нового. Например, в самом Claude Code в системном промпте зашита роль разработчика. А в моем исследовании «5 LLM в роли CEO» роли генерировались прямо в процессе выполнения верхнеуровневой цели по созданию стартапа. Аналогичный подход я использовал для создания @tdttMasterMindBot для мастермайндов — ведущий подбирает участников под ваш запрос. Еще одной очень популярной вариацией на эту же тему является фреймворк superpowers.
А ребята из Paperclip, про которых я недавно писал, анонсировали Clipmart — возможность качать целые «компании» агентов по клику.
В общем, подобных наборов на гитхабе over 9000. Этот конкретный неплох, но и ничем принципиально не отличается. Полагаю, что хайп случился из-за личности автора.
@devspotting
👍9🔥3🙏3❤1🎉1
ИИ больше не фигня
Исследователи из Percepta опубликовали статью, где рассказали об эксперименте по запуску кода на Си прямо внутри модели. Для этого они обучили трансформер работать как виртуальная машина (WASM-интерпретатор).
Это стало возможно благодаря их новому механизму 2D‑attention. Он позволяет модели искать данные в истории с логарифмической сложностью вместо квадратичной, достигая скорости в десятки тысяч токенов в секунду на обычном CPU при выполнении кода.
Пока это proof‑of‑concept — маленькая модель, специально заточенная под VM. Неясно, насколько такой подход будет интегрируем в большие мультимодальные LLM. А главный вопрос —
Чем это лучше привычного tool use?
«Ну, во-первых, это красиво». Во-вторых, если такой подход станет мейнстримом, мой папа больше не сможет использовать неспособность LLM в математику как аргумент, что ИИ — фигня :)
А если серьезно, то для целого класса задач исчезает потребность во внешней обвязке как таковой, что потенциально кардинально снижает latency — больше не нужно передавать контекст от нейронки к внешнему инструменту и обратно.
По крайней мере отзывы от мэтров звучат многообещающе.
Михаил Парахин:
Андрей Карпатый:
Как думаете, когда мы увидим WASM VM внутри GPT или Claude?
[1] https://x.com/MParakhin/status/2033347801544065076
[2] https://x.com/karpathy/status/2033383295237734847
@devspotting
Исследователи из Percepta опубликовали статью, где рассказали об эксперименте по запуску кода на Си прямо внутри модели. Для этого они обучили трансформер работать как виртуальная машина (WASM-интерпретатор).
Это стало возможно благодаря их новому механизму 2D‑attention. Он позволяет модели искать данные в истории с логарифмической сложностью вместо квадратичной, достигая скорости в десятки тысяч токенов в секунду на обычном CPU при выполнении кода.
Пока это proof‑of‑concept — маленькая модель, специально заточенная под VM. Неясно, насколько такой подход будет интегрируем в большие мультимодальные LLM. А главный вопрос —
Чем это лучше привычного tool use?
«Ну, во-первых, это красиво». Во-вторых, если такой подход станет мейнстримом, мой папа больше не сможет использовать неспособность LLM в математику как аргумент, что ИИ — фигня :)
А если серьезно, то для целого класса задач исчезает потребность во внешней обвязке как таковой, что потенциально кардинально снижает latency — больше не нужно передавать контекст от нейронки к внешнему инструменту и обратно.
По крайней мере отзывы от мэтров звучат многообещающе.
Михаил Парахин:
Это похоже на настоящий прорыв. Так красиво, так просто задним умом — все признаки отличной работы! [1]
Андрей Карпатый:
Погодите-ка, это же так здорово!! И то, и другое: 1) компилятор Си в весах LLM и 2) hard-max attention с логарифмической сложностью, и потенциальные обобщения. Вдохновляет! [2]
Как думаете, когда мы увидим WASM VM внутри GPT или Claude?
[1] https://x.com/MParakhin/status/2033347801544065076
[2] https://x.com/karpathy/status/2033383295237734847
@devspotting
👍8🔥4❤1😁1
С баблом против гравитации
Если вы, как и я, пользуетесь Antigravity, то наверняка столкнулись с внезапно исчезающей квотой. Мне грешновато жаловаться, учитывая, что я пользуюсь пиратским аккаунтом, но проблема массовая.
Что случилось
По условиям подписки Google AI Pro квота на модели должна обновляться каждые 5 часов. На практике — многодневные локауты. На форуме Google Dev сотни комментариев в связанных темах: у некоторых квота обнуляется за один запрос, у кого-то вообще сгорает, пока приложение висит в фоне без обращений. Поддержка репостит формальную отписку о введении AI Credits.
Один из пользователей сделал разбор логов и нашёл причину как минимум части проблем — баг с инициализацией OAuth. Суть: расширение пытается использовать клиент language server до того, как тот успевает инициализироваться. Токен авторизации не передаётся, Antigravity считает пользователя незалогиненным — и начинает списывать квоту как у бесплатного аккаунта, игнорируя Pro-логику. При этом в UI никаких намеков на проблему — пользователь видит свой аватар.
Репорту скоро два месяца, у поста ~7k просмотров, куча лайков. Поддержка молчит, с тех пор вышло несколько релизов Antigravity, но баг до сих пор не пофикшен.
Пока всё это происходит, Google ввела AI Credits — отдельный механизм поверх квот. Когда базовая квота исчерпана, дальнейшие запросы списываются из кредитов (если включена соответствующая настройка). Кредиты респаунятся раз в месяц. Top-up стоит $25 за 2500 кредитов. То есть де-факто появился способ работать без локаутов — но уже за отдельные деньги.
Как быть
У новых пользователей Google Cloud есть $300 бонусных кредитов на 90 дней. Это не то же самое, что AI Credits для Antigravity, но позволяет подключить Gemini API через Vertex AI напрямую и продолжать вайбкодить.
Столкнулись с подобным? Пользуетесь ли бонусными кредитами Google Cloud?
@devspotting
Если вы, как и я, пользуетесь Antigravity, то наверняка столкнулись с внезапно исчезающей квотой. Мне грешновато жаловаться, учитывая, что я пользуюсь пиратским аккаунтом, но проблема массовая.
Что случилось
По условиям подписки Google AI Pro квота на модели должна обновляться каждые 5 часов. На практике — многодневные локауты. На форуме Google Dev сотни комментариев в связанных темах: у некоторых квота обнуляется за один запрос, у кого-то вообще сгорает, пока приложение висит в фоне без обращений. Поддержка репостит формальную отписку о введении AI Credits.
Один из пользователей сделал разбор логов и нашёл причину как минимум части проблем — баг с инициализацией OAuth. Суть: расширение пытается использовать клиент language server до того, как тот успевает инициализироваться. Токен авторизации не передаётся, Antigravity считает пользователя незалогиненным — и начинает списывать квоту как у бесплатного аккаунта, игнорируя Pro-логику. При этом в UI никаких намеков на проблему — пользователь видит свой аватар.
Репорту скоро два месяца, у поста ~7k просмотров, куча лайков. Поддержка молчит, с тех пор вышло несколько релизов Antigravity, но баг до сих пор не пофикшен.
Пока всё это происходит, Google ввела AI Credits — отдельный механизм поверх квот. Когда базовая квота исчерпана, дальнейшие запросы списываются из кредитов (если включена соответствующая настройка). Кредиты респаунятся раз в месяц. Top-up стоит $25 за 2500 кредитов. То есть де-факто появился способ работать без локаутов — но уже за отдельные деньги.
Как быть
У новых пользователей Google Cloud есть $300 бонусных кредитов на 90 дней. Это не то же самое, что AI Credits для Antigravity, но позволяет подключить Gemini API через Vertex AI напрямую и продолжать вайбкодить.
Столкнулись с подобным? Пользуетесь ли бонусными кредитами Google Cloud?
@devspotting
👍7❤1🔥1🤔1
OpenOats — open source транскрайбер в реальном времени на стероидах
Решил делиться новыми тулами, которые мне зашли. Герой сегодняшней публикации отлично справляется с ведением логов встреч и генерацией фоллоу-апов, но может даже больше.
OpenOats — это маленькое бесплатное macOS-приложение, которое слушает микрофон и системное аудио, на лету транскрибирует собеседников и при желании вытаскивает релевантные куски из локальной базы знаний. Окно скрыто от шаринга экрана (поэтому сделать скрин для поста не смог, пришлось утащить авторский).
Под капотом связка из распознавания (при первом запуске скачается модель на выбор; разбиение по ролям обеспечивается за счет двух источников звука, диаризации нет, так что всегда два участника — вы и они), суммаризации и RAG по заметкам через OpenRouter или полностью локально через Ollama.
Для суммаризации более чем достаточно бесплатных моделей, я использую openrouter/free.
Фан-факты
1. Я начал писать заметку вчера утром и в те далекие времена проект назывался OpenGranola. Судя по OpenClaw, так принято в вайб-комьюнити.
2. Зарепортил баг — автор закрыл его за несколько часов и за один день выпустил 6 версий, параллельно коммитя в другие репозитории.
3. К моменту выхода публикации появилось еще пяток версий.
Делитесь и вы своими находками!
@devspotting
Решил делиться новыми тулами, которые мне зашли. Герой сегодняшней публикации отлично справляется с ведением логов встреч и генерацией фоллоу-апов, но может даже больше.
OpenOats — это маленькое бесплатное macOS-приложение, которое слушает микрофон и системное аудио, на лету транскрибирует собеседников и при желании вытаскивает релевантные куски из локальной базы знаний. Окно скрыто от шаринга экрана (поэтому сделать скрин для поста не смог, пришлось утащить авторский).
Под капотом связка из распознавания (при первом запуске скачается модель на выбор; разбиение по ролям обеспечивается за счет двух источников звука, диаризации нет, так что всегда два участника — вы и они), суммаризации и RAG по заметкам через OpenRouter или полностью локально через Ollama.
Для суммаризации более чем достаточно бесплатных моделей, я использую openrouter/free.
Фан-факты
1. Я начал писать заметку вчера утром и в те далекие времена проект назывался OpenGranola. Судя по OpenClaw, так принято в вайб-комьюнити.
2. Зарепортил баг — автор закрыл его за несколько часов и за один день выпустил 6 версий, параллельно коммитя в другие репозитории.
3. К моменту выхода публикации появилось еще пяток версий.
Делитесь и вы своими находками!
@devspotting
🔥12👍6❤1👌1
Копиправые и копилевые
Когда я пришел в Яндекс 15 лет назад, одним из неукладывающихся в голове фактов было то, что весь софт строго лицензионный. Умные люди, которые совершенно точно умеют пользоваться торрентами, зачем-то тратят время и деньги, чтобы купить то, что быстрее и проще скачать бесплатно. Дичь какая-то!
Потом меня, конечно, покусали, и я тоже начал покупать софт.
Но защитником копирастов я так и не стал (и почти всё, что пишу сам, выкладываю под MIT).
Но сегодня пятница — можно набросить и на противоположный лагерь: воинствующих копилефтеров.
Что случилось?
В экосистеме Python есть не самая известная (до недавнего времени), но критически важная библиотека chardet — для определения кодировки текста.
Почти миллиард скачиваний в год. Скорее всего, вы её используете — даже если не пишете на питоне.
С 2006 года она распространялась под лицензией LGPL: использовать можно, но производный код тоже должен быть открыт. Классический копилефт.
Её автор — Марк Пилгрим — когда-то портировал её с C++.
В 2011 Пилгрим выпилил все свои следы в интернете (включая github) и исчез на 15 лет.
В марте 2026-го, мейнтейнер Дэн Бланшар, который 13 лет мейнтейнил chardet, выпустил версию 7.0.0. Под лицензией MIT. Написал с нуля за 5 дней с помощью Claude Code. Он давно хотел это сделать, но без ИИ такая работа заняла бы годы.
Результат объективно лучше оригинала:
— в 41 раз быстрее
— точность 96,8% вместо 94,5%
— поддержка 99 кодировок вместо ~30
— ноль внешних зависимостей
Сходство с предыдущей версией — 1,29%. Для сравнения: версии 5.x → 6.x показывали 80–93%. Это не форк. Это новая вещь.
Тут из пятнадцатилетнего молчания вышел Марк Пилгрим. Его первый публичный пост за полтора десятилетия: «Нет права перелицензировать». FSF его поддержала. Новая версия оказалась в подвешенном состоянии.
В сообществе драма:
Хотя если честно, защита копилефта держалась в первую очередь на стоимости переписывания с нуля. Но теперь эта стоимость стремится к цене за электричество.
Какой смысл защищать то, что уже почти мертво?
Мало того, что Бланшар 13 лет развивал проект. Он выпустил куда более качественную библиотеку. Открытую. От этого все только выигрывают.
Если заблокировать эту версию — завтра появятся сотни новых реализаций под новыми именами. Считаю, что у копилефта нет шансов против нейросетей.
А как вы относитесь к копилефту в эпоху ИИ?
@devspotting
Когда я пришел в Яндекс 15 лет назад, одним из неукладывающихся в голове фактов было то, что весь софт строго лицензионный. Умные люди, которые совершенно точно умеют пользоваться торрентами, зачем-то тратят время и деньги, чтобы купить то, что быстрее и проще скачать бесплатно. Дичь какая-то!
Потом меня, конечно, покусали, и я тоже начал покупать софт.
Но защитником копирастов я так и не стал (и почти всё, что пишу сам, выкладываю под MIT).
Но сегодня пятница — можно набросить и на противоположный лагерь: воинствующих копилефтеров.
Что случилось?
В экосистеме Python есть не самая известная (до недавнего времени), но критически важная библиотека chardet — для определения кодировки текста.
Почти миллиард скачиваний в год. Скорее всего, вы её используете — даже если не пишете на питоне.
С 2006 года она распространялась под лицензией LGPL: использовать можно, но производный код тоже должен быть открыт. Классический копилефт.
Её автор — Марк Пилгрим — когда-то портировал её с C++.
В 2011 Пилгрим выпилил все свои следы в интернете (включая github) и исчез на 15 лет.
В марте 2026-го, мейнтейнер Дэн Бланшар, который 13 лет мейнтейнил chardet, выпустил версию 7.0.0. Под лицензией MIT. Написал с нуля за 5 дней с помощью Claude Code. Он давно хотел это сделать, но без ИИ такая работа заняла бы годы.
Результат объективно лучше оригинала:
— в 41 раз быстрее
— точность 96,8% вместо 94,5%
— поддержка 99 кодировок вместо ~30
— ноль внешних зависимостей
Сходство с предыдущей версией — 1,29%. Для сравнения: версии 5.x → 6.x показывали 80–93%. Это не форк. Это новая вещь.
Тут из пятнадцатилетнего молчания вышел Марк Пилгрим. Его первый публичный пост за полтора десятилетия: «Нет права перелицензировать». FSF его поддержала. Новая версия оказалась в подвешенном состоянии.
В сообществе драма:
ИИ уничтожает open source
Хотя если честно, защита копилефта держалась в первую очередь на стоимости переписывания с нуля. Но теперь эта стоимость стремится к цене за электричество.
Какой смысл защищать то, что уже почти мертво?
Мало того, что Бланшар 13 лет развивал проект. Он выпустил куда более качественную библиотеку. Открытую. От этого все только выигрывают.
Если заблокировать эту версию — завтра появятся сотни новых реализаций под новыми именами. Считаю, что у копилефта нет шансов против нейросетей.
А как вы относитесь к копилефту в эпоху ИИ?
@devspotting
👍14🔥5👎3🤯2🎉1
🍿 #WatchAndVibe. Выпуск 5.
В сегодняшнем выпуске свежее интервью Андрея Карпатого (основателя Eureka Labs, сооснователя OpenAI, бывшего главы ИИ в Tesla) Саре Го из подкаста No Priors:
https://www.youtube.com/watch?v=kwSVtQ7dziU
Наверняка вы слышали про его недавний open source проект — AutoResearch, где агенты в автоматическом режиме занимаются улучшением модели. Так что ИИ, который улучшает сам себя, все ближе. Например, в рамках экспериментов агенты нашли настройки гиперпараметров, которые Андрей с 10+ годами экспертизы сам упустил.
И несмотря на это Андрей из тех, кто в отличие от руководителей AI-лабораторий, не обещает AGI через неделю, хотя и постоянно приближает нас к нему. При этом он сам не успевает за темпами развития и испытывает «ИИ-психоз» (тут я его очень понимаю!).
Вообще обучающие проекты и посты Андрея, на мой взгляд, — лучшие материалы для понимания современных LLM. Горячо рекоменую подписаться на него на заблокированных площадках: X, YouTube.
Видео длинное, успели поговорить про навыки для нового мира, исследование рынка труда, антропоморфных роботов и много чего еще. Но Карпатый умеет объяснять. Приятного просмотра!
А вы чувствуете ИИ-психоз? Переживаете, если не успеваете израсходовать квоту?
@devspotting
В сегодняшнем выпуске свежее интервью Андрея Карпатого (основателя Eureka Labs, сооснователя OpenAI, бывшего главы ИИ в Tesla) Саре Го из подкаста No Priors:
https://www.youtube.com/watch?v=kwSVtQ7dziU
Наверняка вы слышали про его недавний open source проект — AutoResearch, где агенты в автоматическом режиме занимаются улучшением модели. Так что ИИ, который улучшает сам себя, все ближе. Например, в рамках экспериментов агенты нашли настройки гиперпараметров, которые Андрей с 10+ годами экспертизы сам упустил.
И несмотря на это Андрей из тех, кто в отличие от руководителей AI-лабораторий, не обещает AGI через неделю, хотя и постоянно приближает нас к нему. При этом он сам не успевает за темпами развития и испытывает «ИИ-психоз» (тут я его очень понимаю!).
Вообще обучающие проекты и посты Андрея, на мой взгляд, — лучшие материалы для понимания современных LLM. Горячо рекоменую подписаться на него на заблокированных площадках: X, YouTube.
Видео длинное, успели поговорить про навыки для нового мира, исследование рынка труда, антропоморфных роботов и много чего еще. Но Карпатый умеет объяснять. Приятного просмотра!
А вы чувствуете ИИ-психоз? Переживаете, если не успеваете израсходовать квоту?
@devspotting
YouTube
The End of Coding: Andrej Karpathy on Agents, AutoResearch, and the Loopy Era of AI
What happens when AI agents can design experiments, collect data, and improve — without a human in the loop? Andrej Karpathy joins Sarah Guo on the state of models, the future of engineering and education, thinking about impact on jobs, and his project AutoResearch:…
👍7🔥4❤1🎉1
Воскресный #digest №5
За прошедшую неделю мы с вами успели:
• Познакомиться с QMD — опенсорсным локальным поисковиком по заметкам от CEO Shopify. Три движка поиска, ноль подписок, одна беда — ме-е-едленный.
• Устроить ролевые игры с моделями, а заодно посмотреть на GStack от CEO YCombinator.
• Узнать, что Percepta запустили Си-код прямо внутри трансформера. Карпатый и Парахин в восторге, папа все еще сомневается.
• Расследовать баг с квотами Antigravity. Google молчит, OAuth не инициализируется, кредиты тают.
• Поделиться находкой OpenOats — опенсорсным real-time транскрайбером для macOS. Кстати, с момента поста там еще целай куча новых фичей!
• Устроить пятничный наброс на копилефт. Мнения разошлись не только в интернетах, но и в комментах.
• Обсудить ИИ-психоз по мотивам интервью Андрея Карпатого в #WatchAndVibe — обмазались нейронками и работаем еще больше. Просчитались, но где?
Как всегда буду рад заявкам на следующую неделю!
@devspotting
За прошедшую неделю мы с вами успели:
• Познакомиться с QMD — опенсорсным локальным поисковиком по заметкам от CEO Shopify. Три движка поиска, ноль подписок, одна беда — ме-е-едленный.
• Устроить ролевые игры с моделями, а заодно посмотреть на GStack от CEO YCombinator.
• Узнать, что Percepta запустили Си-код прямо внутри трансформера. Карпатый и Парахин в восторге, папа все еще сомневается.
• Расследовать баг с квотами Antigravity. Google молчит, OAuth не инициализируется, кредиты тают.
• Поделиться находкой OpenOats — опенсорсным real-time транскрайбером для macOS. Кстати, с момента поста там еще целай куча новых фичей!
• Устроить пятничный наброс на копилефт. Мнения разошлись не только в интернетах, но и в комментах.
• Обсудить ИИ-психоз по мотивам интервью Андрея Карпатого в #WatchAndVibe — обмазались нейронками и работаем еще больше. Просчитались, но где?
Как всегда буду рад заявкам на следующую неделю!
@devspotting
🔥6👍4❤1🎉1
Размышляя об эффективности обвязки
Сейчас типичное использование инструментов для работы с кодинговыми агентами выглядит так: кто готов платить за жирную подписку, сидит на самой мощной модели, а кто пытается экономить — использует дорогую модель для планирования и что-то попроще для генерации кода.
Еще есть сценарии, когда обвязка выбирает модель на свое усмотрение (даже сам ChatGPT использует маленькую модель-роутер, чтобы принять решение, в каком режиме «думать» над вашим промптом).
Но почему-то (по крайней мере, насколько мне известно) инструменты вроде Claude Code или Codex не применяют подобный подход для оптимизации контекста.
Типичный ризонинг любой задачи выглядит примерно так:
и так далее.
А потом все эти скачанные результаты веб-поиска вместе с HTML-разметкой, запуски консольных команд (например, для установки зависимостей с кучей выхлопа) и прочитанные наугад файлы попадают в контекст и гоняются с каждым запросом до конца выполнения задачи.
Сначала от избыточного контекста модель тупеет, а потом и вовсе срабатывает механизм компактизации, убивая заодно и кэширование.
А пользователь все это оплачивает.
Хотя кажется, что было бы гораздо эффективнее готовить контекст до того, как он попадет в медленную и дорогую модель: сначала супер-быстрая и дешевая моделька могла бы взять на себя тул-коллинг (включая даже вызов MCP) и обработку ответов, выкинуть явно лишнее, оптимизировать нужное, и передавала бы в большую только действительно релевантный код.
Плюсы очевидны, минусов, кроме минорного оверхеда на быструю модель, вроде нет. Что я упускаю? Делает ли так кто-нибудь?
@devspotting
Сейчас типичное использование инструментов для работы с кодинговыми агентами выглядит так: кто готов платить за жирную подписку, сидит на самой мощной модели, а кто пытается экономить — использует дорогую модель для планирования и что-то попроще для генерации кода.
Еще есть сценарии, когда обвязка выбирает модель на свое усмотрение (даже сам ChatGPT использует маленькую модель-роутер, чтобы принять решение, в каком режиме «думать» над вашим промптом).
Но почему-то (по крайней мере, насколько мне известно) инструменты вроде Claude Code или Codex не применяют подобный подход для оптимизации контекста.
Типичный ризонинг любой задачи выглядит примерно так:
кожаный попросил добавить кнопку, сейчас пойму, что у нас тут за проект. Для этого получу листинг файлов в корне... Ага, вижу README, почитаю. Хм, ничего полезного. Почитаю package.json. Ага, похоже, используется какая-то библиотека. Поищу ее документацию в интернете. Нашел 20 релевантных сайтов, первый в выдаче выглядит подходящим, качаю его... Так, вижу ссылку на документацию, качаю ее. Нашел ссылку на нужную страницу, читаю документацию... Хорошо, теперь поищу исходники, для этого получу листинг папки src. Так, вижу файлы, погрепаю их в поисках строки button. Нашел 45 файлов со вхождением, почитаю их... Примерно понятно, как использовать button, теперь ищу, куда именно добавить кнопку, для этого почитаю еще 50 файлов...
и так далее.
А потом все эти скачанные результаты веб-поиска вместе с HTML-разметкой, запуски консольных команд (например, для установки зависимостей с кучей выхлопа) и прочитанные наугад файлы попадают в контекст и гоняются с каждым запросом до конца выполнения задачи.
Сначала от избыточного контекста модель тупеет, а потом и вовсе срабатывает механизм компактизации, убивая заодно и кэширование.
А пользователь все это оплачивает.
Хотя кажется, что было бы гораздо эффективнее готовить контекст до того, как он попадет в медленную и дорогую модель: сначала супер-быстрая и дешевая моделька могла бы взять на себя тул-коллинг (включая даже вызов MCP) и обработку ответов, выкинуть явно лишнее, оптимизировать нужное, и передавала бы в большую только действительно релевантный код.
Плюсы очевидны, минусов, кроме минорного оверхеда на быструю модель, вроде нет. Что я упускаю? Делает ли так кто-нибудь?
@devspotting
👍11🔥5❤1
This media is not supported in your browser
VIEW IN TELEGRAM
TurboQuant
Похоже, у обладателей топовых макбуков появилась возможность запускать пригодные для кодинга модели локально.
Google Research опубликовали статью, описывающую алгоритм квантизации для сжатия KV-кэша без потерь в качестве (по крайней мере, на приведенных бенчмарках), а сообщество уже реализовало его для MLX и во всю квантует модели. Полагаю, сегодня-завтра увидим их на Hugging Face.
Обещают экономию памяти в ~6 раз и 8-кратное ускорение инференса.
Начинаю задумываться, не поменять ли ноут по такому поводу.
Кто там переживал, что токены подорожают? :)
@devspotting
Похоже, у обладателей топовых макбуков появилась возможность запускать пригодные для кодинга модели локально.
Google Research опубликовали статью, описывающую алгоритм квантизации для сжатия KV-кэша без потерь в качестве (по крайней мере, на приведенных бенчмарках), а сообщество уже реализовало его для MLX и во всю квантует модели. Полагаю, сегодня-завтра увидим их на Hugging Face.
Обещают экономию памяти в ~6 раз и 8-кратное ускорение инференса.
Начинаю задумываться, не поменять ли ноут по такому поводу.
Кто там переживал, что токены подорожают? :)
@devspotting
1👍9🔥3❤2
Spec Driven Development: понимаем, чего хотим
Писать PRD (документ с описанием что, зачем и для кого) до написания кода — отличная практика, которая старше самого программирования.
Но, увы, подход далеко не всегда применяется. И если у человека обычно есть контекст, он сомневается и задает вопросы, то нейронка знает ровно то, что написано в промпте. Внятная формулировка цели становится критичной.
Но тут есть две проблемы:
Во-первых, лень расписывать подробности. Переделывать потом дороже, но кого это останавливает?
Во-вторых, мы сами зачастую не понимаем, чего хотим (или хотим не того, что реально нужно).
Пока «работаешь в поле», кажется, что уж топы корпораций точно понимают, куда всё движется. Вот взять хотя бы визионера Альтмана и сервис Sora. От релиза Android-приложения до закрытия сервиса — 4 месяца.
Есть мнение, воля и принятие решений — это то, что ИИ у нас не отнимет. Ученые, впрочем, не уверены, есть ли свобода воли и у человека (а политики, похоже, совершенно убеждены в ее отсутствии).
Тем ироничнее, что нейронки — идеальный инструмент, чтобы понять, чего ты все-таки хочешь.
По статистике 62% топ-менеджеров советуются с LLM при принятии решений.
Но мы ведь инженеры, так что просто спросить совета у LLM в чате — не наш путь. Нам нужна система.
И мы ведь программисты, поэтому использовать существующие системы нам мешает NIH-синдром. В результате таких систем бесконечное количество. И я, конечно, написал и свою, но пока давайте посмотрим на мейнстрим.
Наверное, самый популярный фреймворк — Superpowers. Появился в октябре 2025, 114k звезд на github на момент написания поста. В комплекте полный воркфлоу от мозгового штурма и планирования до TDD, git-веток и ревью кода с использованием субагентов. Навыки активируются автоматически при релевантных задачах или вызываются слеш-командами.
Аналог — Spec kit от github — август 2025, 82k звезд. Тут набор CLI-команд на python для генерации спек и планов, без полной автоматизации.
Свежая вариация на тему — Get shit done появилась всего 3 месяца назад, но уже 42k звезд. Позиционирует себя для случаев, когда заранее неизвестно, что именно делать и/или требования меняются в процессе. Но 3 месяца — это бесконечно долго, так что уже вышла GSD2 — автономный CLI-инструмент на базе PI SDK.
Еще один вариант — BMAD method — 42k звезд. Идея в том, чтобы супер-подробно обдумать план со всех сторон (используются разные роли), описать все в документации, разбить на задачи и затем методично реализовать продукт целиком. Но тут есть риск устать еще на этапе проектирования.
И, наконец, OpenSpec, 34k звезд. Основная фишка во внесении модификаций через обновление спек, после чего агент начинает переписывать код. Кмк, хорошо подходит для работы с большими существующими кодовыми базами.
Подытоживая
Когда ничего не понятно — начинать с GSD, а когда общее направление вырисовывается — улучшать с Superpowers или OpenSpec.
Но важно не переусложнять — если делаете что-то совсем простое, то достаточно встроенного режима планирования в вашем приложении для агентского кодинга.
А еще не бойтесь собрать флоу специально под себя. Как это сделать — поговорим в будущих постах.
И, конечно, в посте далеко не полный список (а каждый день появляются новые решения), так что делитесь тем, что лучше всего работает для вас.
@devspotting
Писать PRD (документ с описанием что, зачем и для кого) до написания кода — отличная практика, которая старше самого программирования.
Но, увы, подход далеко не всегда применяется. И если у человека обычно есть контекст, он сомневается и задает вопросы, то нейронка знает ровно то, что написано в промпте. Внятная формулировка цели становится критичной.
Но тут есть две проблемы:
Во-первых, лень расписывать подробности. Переделывать потом дороже, но кого это останавливает?
Во-вторых, мы сами зачастую не понимаем, чего хотим (или хотим не того, что реально нужно).
Пока «работаешь в поле», кажется, что уж топы корпораций точно понимают, куда всё движется. Вот взять хотя бы визионера Альтмана и сервис Sora. От релиза Android-приложения до закрытия сервиса — 4 месяца.
Есть мнение, воля и принятие решений — это то, что ИИ у нас не отнимет. Ученые, впрочем, не уверены, есть ли свобода воли и у человека (а политики, похоже, совершенно убеждены в ее отсутствии).
Тем ироничнее, что нейронки — идеальный инструмент, чтобы понять, чего ты все-таки хочешь.
По статистике 62% топ-менеджеров советуются с LLM при принятии решений.
Но мы ведь инженеры, так что просто спросить совета у LLM в чате — не наш путь. Нам нужна система.
И мы ведь программисты, поэтому использовать существующие системы нам мешает NIH-синдром. В результате таких систем бесконечное количество. И я, конечно, написал и свою, но пока давайте посмотрим на мейнстрим.
Наверное, самый популярный фреймворк — Superpowers. Появился в октябре 2025, 114k звезд на github на момент написания поста. В комплекте полный воркфлоу от мозгового штурма и планирования до TDD, git-веток и ревью кода с использованием субагентов. Навыки активируются автоматически при релевантных задачах или вызываются слеш-командами.
Аналог — Spec kit от github — август 2025, 82k звезд. Тут набор CLI-команд на python для генерации спек и планов, без полной автоматизации.
Свежая вариация на тему — Get shit done появилась всего 3 месяца назад, но уже 42k звезд. Позиционирует себя для случаев, когда заранее неизвестно, что именно делать и/или требования меняются в процессе. Но 3 месяца — это бесконечно долго, так что уже вышла GSD2 — автономный CLI-инструмент на базе PI SDK.
Еще один вариант — BMAD method — 42k звезд. Идея в том, чтобы супер-подробно обдумать план со всех сторон (используются разные роли), описать все в документации, разбить на задачи и затем методично реализовать продукт целиком. Но тут есть риск устать еще на этапе проектирования.
И, наконец, OpenSpec, 34k звезд. Основная фишка во внесении модификаций через обновление спек, после чего агент начинает переписывать код. Кмк, хорошо подходит для работы с большими существующими кодовыми базами.
Подытоживая
Когда ничего не понятно — начинать с GSD, а когда общее направление вырисовывается — улучшать с Superpowers или OpenSpec.
Но важно не переусложнять — если делаете что-то совсем простое, то достаточно встроенного режима планирования в вашем приложении для агентского кодинга.
А еще не бойтесь собрать флоу специально под себя. Как это сделать — поговорим в будущих постах.
И, конечно, в посте далеко не полный список (а каждый день появляются новые решения), так что делитесь тем, что лучше всего работает для вас.
@devspotting
Futurism
Study Finds That Execs Are Already Outsourcing Their Thinking to AI
The same class of business executives who heaped AI onto us by the shovelfull aren't immune to its effects.
👍16🔥7🙏1
Нейро-мастермайд
В комментариях ко вчерашнему посту про Spec driven development Леша не согласился с тезисом, что нейронки — идеальный инструмент, чтобы понять, чего ты хочешь. Конечно, на вкус и цвет фломастеры разные, но я решил рассказать про еще один способ получить от LLM помощь в поиске таких ответов.
Идея появилась за завтраком с нашей общей с Лешей бывшей коллегой Жанной Кругловой. Она из разработчика и менеджера ушла в коучинг и рассказывала, как проводит мастермайнды для C-level руководителей. Это чем-то похоже на брейншторм, только вместо хаотичного сбора случайных идей эксперты с разным опытом помогают друг другу решить личные запросы на регулярных структурированных встречах.
Конечно, сразу захотелось навайбкодить себе нейро-мастермайнд @tdttMasterMindBot. Я уже упоминал его в посте «Ролевые игры с моделями», расскажу чуть подробнее.
Если просто задать LLM вопрос, то ответ будет усредненным и стерильно-корректным, чтобы никого не задеть и получить максимальную оценку на пост-трейне. В таком режиме модель восхищается любой самой дикой идеей и совершенно не позволяет взглянуть на проблему под разными углами.
Поэтому подход мастермайнда с несколькими виртуальными экспертами отлично решает проблему.
Флоу в боте устроен очень просто:
1. Пользователь формулирует свой запрос
2. Агент-ведущий подбирает подходящих экспертов так, чтобы они имели разные взгляды на тему и раскрывали ее с разных сторон
3. Пользователь либо соглашается с предложенным составом, либо его корректирует
4. Эксперты по очереди высказываются, исходя из своей роли
5. В процессе можно что-то докинуть в обсуждение. Параллельно бот собирает факты из ответов пользователя и добавляет их в контекст всех сессий.
6. После завершения сессии ведущий суммаризирует обсуждение и отдает отчет
7. В любой момент к завершенной сессии можно вернуться и продолжить
Под капотом модель Gemini 3 Flash, бот живет в Яндекс Облаке (так что модель периодически понимает, что ее вызывают из неподдерживаемой страны и ругается). Исходники на гитхабе.
Получилось достаточно забавно, периодически пользуюсь. И, конечно, повторить это поведение можно просто с помощью промпта в любом LLM-чате.
А если у вас есть запрос для настоящего мастермайнда — пишите Жанне @ZhannaKruglova, она будет рада.
@devspotting
В комментариях ко вчерашнему посту про Spec driven development Леша не согласился с тезисом, что нейронки — идеальный инструмент, чтобы понять, чего ты хочешь. Конечно, на вкус и цвет фломастеры разные, но я решил рассказать про еще один способ получить от LLM помощь в поиске таких ответов.
Идея появилась за завтраком с нашей общей с Лешей бывшей коллегой Жанной Кругловой. Она из разработчика и менеджера ушла в коучинг и рассказывала, как проводит мастермайнды для C-level руководителей. Это чем-то похоже на брейншторм, только вместо хаотичного сбора случайных идей эксперты с разным опытом помогают друг другу решить личные запросы на регулярных структурированных встречах.
Конечно, сразу захотелось навайбкодить себе нейро-мастермайнд @tdttMasterMindBot. Я уже упоминал его в посте «Ролевые игры с моделями», расскажу чуть подробнее.
Если просто задать LLM вопрос, то ответ будет усредненным и стерильно-корректным, чтобы никого не задеть и получить максимальную оценку на пост-трейне. В таком режиме модель восхищается любой самой дикой идеей и совершенно не позволяет взглянуть на проблему под разными углами.
Поэтому подход мастермайнда с несколькими виртуальными экспертами отлично решает проблему.
Флоу в боте устроен очень просто:
1. Пользователь формулирует свой запрос
2. Агент-ведущий подбирает подходящих экспертов так, чтобы они имели разные взгляды на тему и раскрывали ее с разных сторон
3. Пользователь либо соглашается с предложенным составом, либо его корректирует
4. Эксперты по очереди высказываются, исходя из своей роли
5. В процессе можно что-то докинуть в обсуждение. Параллельно бот собирает факты из ответов пользователя и добавляет их в контекст всех сессий.
6. После завершения сессии ведущий суммаризирует обсуждение и отдает отчет
7. В любой момент к завершенной сессии можно вернуться и продолжить
Под капотом модель Gemini 3 Flash, бот живет в Яндекс Облаке (так что модель периодически понимает, что ее вызывают из неподдерживаемой страны и ругается). Исходники на гитхабе.
Получилось достаточно забавно, периодически пользуюсь. И, конечно, повторить это поведение можно просто с помощью промпта в любом LLM-чате.
А если у вас есть запрос для настоящего мастермайнда — пишите Жанне @ZhannaKruglova, она будет рада.
@devspotting
🔥9👍6❤1😁1🙏1
Исследуем границы возможностей нейросетей. Часть про книги.
90% нового контента в интернете генерится нейронками. Мы уже обсуждали изображения и поэзию, сегодня предлагаю поговорить про генерацию прозы.
Корал Харт, писательница из ЮАР, за 8 месяцев сгенерировала более 200 романов (почти по роману в день!) разных жанров под разными псевдонимами, опубликовала их на Amazon и заработала на этом миллионы долларов. Теперь она ведет суперуспешные курсы, где учит других авторов генерить книги.
Пока она давала интервью об этом журналисту из Нью-Йорк Таймс, Claude написал ей еще одну книгу (Корал считает, что Claude пишет лучше всего).
Одна из проблем, с которой она столкнулась — цензура нейросетей мешает писать интимные сцены. Она запустила целый курс «Write Dirty With Me» о том, как все-таки заставить ИИ не стесняться секса. Хотя мы-то с вами знаем, что делать!
Но это всё где-то в Африке, а буквально на днях случилась драма уже в России.
Ксения Буржская — писательница, поэтесса, евангелист ИИ и соавтор библии Алисы в интервью по случаю выхода ее нового романа «Дегустация» рассказала, как использовала нейронки при написании книги:
При этом Ксения противник маркировки «написано с помощью ИИ», так что признание вызвало знатные бурления в интернете: взгляд Галины Юзефович и пост Ксении соправданиями объяснением ситуации. А рецензии на Яндекс Книгах звучат примерно как «не читал, но нейрослоп осуждаю».
Буржская, кстати, говорит, что Gemini справляется с любовными сценами вполне неплохо, и между прочим, все мыдрочим генерим тексты, просто не все в этом признаются. Странно, что посты для канала я все еще пишу сам. Пойду руки помою...
И хотя мне кажется, что Электровафин @electroVafinBot из поста про telegram-ботов получился почти как живой, мои попытки заставить нейронку написать новый «Москва-Петушки» пока создают скорее рассеянного с улицы Бассейной.
Но хочется, конечно, попробовать собрать агентский пайплайн из автора, экспертов-консультантов, редакторов и корректоров. Тем более, что с момента эксперимента Корал Харт вышли новые версии моделей.
А для вас важно, чтобы кожаный автор страдал в процессе создания интересной книги? Должны ли генерированные тексты маркироваться или сегодня это уже примерно как признаваться, что книга написана с использованием текстового процессора?
@devspotting
90% нового контента в интернете генерится нейронками. Мы уже обсуждали изображения и поэзию, сегодня предлагаю поговорить про генерацию прозы.
Корал Харт, писательница из ЮАР, за 8 месяцев сгенерировала более 200 романов (почти по роману в день!) разных жанров под разными псевдонимами, опубликовала их на Amazon и заработала на этом миллионы долларов. Теперь она ведет суперуспешные курсы, где учит других авторов генерить книги.
Пока она давала интервью об этом журналисту из Нью-Йорк Таймс, Claude написал ей еще одну книгу (Корал считает, что Claude пишет лучше всего).
Одна из проблем, с которой она столкнулась — цензура нейросетей мешает писать интимные сцены. Она запустила целый курс «Write Dirty With Me» о том, как все-таки заставить ИИ не стесняться секса. Хотя мы-то с вами знаем, что делать!
Но это всё где-то в Африке, а буквально на днях случилась драма уже в России.
Ксения Буржская — писательница, поэтесса, евангелист ИИ и соавтор библии Алисы в интервью по случаю выхода ее нового романа «Дегустация» рассказала, как использовала нейронки при написании книги:
Напиши мне структурный план романа полностью, по главам, вернее, по сериям, потому что это сериал. Вот тебе подробный синопсис, и учти, что в конце каждой серии нужен клиффхэнгер.
При этом Ксения противник маркировки «написано с помощью ИИ», так что признание вызвало знатные бурления в интернете: взгляд Галины Юзефович и пост Ксении с
Буржская, кстати, говорит, что Gemini справляется с любовными сценами вполне неплохо, и между прочим, все мы
И хотя мне кажется, что Электровафин @electroVafinBot из поста про telegram-ботов получился почти как живой, мои попытки заставить нейронку написать новый «Москва-Петушки» пока создают скорее рассеянного с улицы Бассейной.
Но хочется, конечно, попробовать собрать агентский пайплайн из автора, экспертов-консультантов, редакторов и корректоров. Тем более, что с момента эксперимента Корал Харт вышли новые версии моделей.
А для вас важно, чтобы кожаный автор страдал в процессе создания интересной книги? Должны ли генерированные тексты маркироваться или сегодня это уже примерно как признаваться, что книга написана с использованием текстового процессора?
@devspotting
Telegram
Devspotting
Исследуем границы возможностей нейросетей. Часть про изображения.
Вчера в третьем часу ночи обсуждали с Сергеем Бережным срочную тему — предел технологий и смысл человеческого труда.
Так что в 03:32 Серега опубликовал статью, в которой сформулировал вывод:…
Вчера в третьем часу ночи обсуждали с Сергеем Бережным срочную тему — предел технологий и смысл человеческого труда.
Так что в 03:32 Серега опубликовал статью, в которой сформулировал вывод:…
🔥10❤5🎉1
🍿 #WatchAndVibe. Выпуск 6.
Вышло интервью Лекса Фридмана с одним из важнейших людей в ИИ-индустрии — CEO NVIDIA Дженсеном Хуангом.
https://www.youtube.com/watch?v=vif8NQcjVf0
За 2.5 часа они успели обсудить перспективы ИИ и NVIDIA (Хуанг аргументирует, почему продолжит расти), инференс в космосе, будущее программирования, сознание, мораль и как он все это вывозит.
Дженсен допускает мысль, что AGI уже де-факто достигнут, но повторить успех NVIDIA у него нет шансов — как удобно, когда с терминами так и не определились.
Отдельный инсайт про игру в долгую — благодаря видеокартам дети привыкают, что NVIDIA делает лучшее железо. Вырастая и приходя в разработку, дата-саенс или науку, они уже лояльны и по умолчанию выбирают стек, которому привыкли доверять.
Так что же такое этот ваш AGI? Достигли? Достигнем?
@devspotting
Вышло интервью Лекса Фридмана с одним из важнейших людей в ИИ-индустрии — CEO NVIDIA Дженсеном Хуангом.
https://www.youtube.com/watch?v=vif8NQcjVf0
За 2.5 часа они успели обсудить перспективы ИИ и NVIDIA (Хуанг аргументирует, почему продолжит расти), инференс в космосе, будущее программирования, сознание, мораль и как он все это вывозит.
Дженсен допускает мысль, что AGI уже де-факто достигнут, но повторить успех NVIDIA у него нет шансов — как удобно, когда с терминами так и не определились.
Отдельный инсайт про игру в долгую — благодаря видеокартам дети привыкают, что NVIDIA делает лучшее железо. Вырастая и приходя в разработку, дата-саенс или науку, они уже лояльны и по умолчанию выбирают стек, которому привыкли доверять.
Так что же такое этот ваш AGI? Достигли? Достигнем?
@devspotting
YouTube
Jensen Huang: NVIDIA - The $4 Trillion Company & the AI Revolution | Lex Fridman Podcast #494
Jensen Huang is the co-founder and CEO of NVIDIA, the world's most valuable company and the engine powering the AI computing revolution.
Thank you for listening ❤ Check out our sponsors: https://lexfridman.com/sponsors/ep494-sb
See below for timestamps, transcript…
Thank you for listening ❤ Check out our sponsors: https://lexfridman.com/sponsors/ep494-sb
See below for timestamps, transcript…
👍10❤5🔥1
Воскресный #digest №6
На этой неделе мы много успели:
• Порассуждать о том, почему бы не поставить быструю и дешевую модель оптимизировать контекст для медленной и дорогой.
• Обрадоваться TurboQuant от Google Research для квантования моделей без потери качества (оказывается, исследование вышло год назад, но про него только сейчас написали в блоге).
• Изучить популярные фреймворки для Spec Driven Development: Superpowers, Spec kit, GSD, BMAD и OpenSpec.
• Рассмотреть нейро-мастермайнд как способ понять, чего ты хочешь.
• Обсудить писательство с нейронками (но так и не выяснили, должен ли автор страдать, чтобы результат считался настоящим).
• Посмотреть интервью с Дженсеном Хуангом, который продает детям NVIDIA смолоком матери видеокартами.
Что вам понравилось? О чем написать на следующей неделе?
@devspotting
На этой неделе мы много успели:
• Порассуждать о том, почему бы не поставить быструю и дешевую модель оптимизировать контекст для медленной и дорогой.
• Обрадоваться TurboQuant от Google Research для квантования моделей без потери качества (оказывается, исследование вышло год назад, но про него только сейчас написали в блоге).
• Изучить популярные фреймворки для Spec Driven Development: Superpowers, Spec kit, GSD, BMAD и OpenSpec.
• Рассмотреть нейро-мастермайнд как способ понять, чего ты хочешь.
• Обсудить писательство с нейронками (но так и не выяснили, должен ли автор страдать, чтобы результат считался настоящим).
• Посмотреть интервью с Дженсеном Хуангом, который продает детям NVIDIA с
Что вам понравилось? О чем написать на следующей неделе?
@devspotting
👍7❤2🔥1
В этом году участвую сразу в двух активностях на CodeFest: провожу мастер-класс «От вайбкодера к контекст-инженеру» и в новом формате — разборошной по теме «Использование AI в SDLC».
Если вы тоже там будете — давайте развиртуализируемся!
@devspotting
Если вы тоже там будете — давайте развиртуализируемся!
@devspotting
👍8🔥5👏3❤1
Нафига Figma?
В далеком 2021 году, почти в прошлой жизни, моя команда экспериментировала с синхронизацией кода с макетами в Figma. Боль для продуктовой компании была очень понятна: после того как макет превращается в живой сервис, исчезает источник истины. Чему верить при внесении изменений: макету или реализации в коде?
Тогда мы покрыли какое-то количество кейсов, Серега Савельев даже рассказывал про результаты на ЯСубботнике, но до полной автоматизации было далеко. Чуть позже появились десятки (возможно, сотни) подобных решений.
А потом пришли LLM-агенты.
И вот на прошлой неделе Figma выпустила недостающие части для вайб-дизайна: дополнили Figma MCP инструментами и набором скиллов, чтобы агент мог полностью контролировать холст и использовать компоненты из вашей дизайн-системы.
И там все как у людей: теперь агент знает, какие компоненты есть в дизайн-системе, но все равно чаще предпочитает создать их с нуля, чем воспользоваться готовыми. Если только не ткнуть носом. Совсем как было у нас с общей библиотекой компонентов.
Понятно, что аналоги были. Понятно, что шероховатости дошлифуют и можно ожидать, что за ближайшие несколько месяцев связка полностью заработает (как раз и бесплатный период закончится).
Но... зачем это всё теперь? Ладно еще собрать интерактивный сторибук со всеми состояниями компонентов / экранами и сценариями приложения, но если уж дизайнит агент, почему бы ему не делать это сразу в коде? Какой смысл в лишнем слое сегодня?
@devspotting
В далеком 2021 году, почти в прошлой жизни, моя команда экспериментировала с синхронизацией кода с макетами в Figma. Боль для продуктовой компании была очень понятна: после того как макет превращается в живой сервис, исчезает источник истины. Чему верить при внесении изменений: макету или реализации в коде?
Тогда мы покрыли какое-то количество кейсов, Серега Савельев даже рассказывал про результаты на ЯСубботнике, но до полной автоматизации было далеко. Чуть позже появились десятки (возможно, сотни) подобных решений.
А потом пришли LLM-агенты.
И вот на прошлой неделе Figma выпустила недостающие части для вайб-дизайна: дополнили Figma MCP инструментами и набором скиллов, чтобы агент мог полностью контролировать холст и использовать компоненты из вашей дизайн-системы.
И там все как у людей: теперь агент знает, какие компоненты есть в дизайн-системе, но все равно чаще предпочитает создать их с нуля, чем воспользоваться готовыми. Если только не ткнуть носом. Совсем как было у нас с общей библиотекой компонентов.
Понятно, что аналоги были. Понятно, что шероховатости дошлифуют и можно ожидать, что за ближайшие несколько месяцев связка полностью заработает (как раз и бесплатный период закончится).
Но... зачем это всё теперь? Ладно еще собрать интерактивный сторибук со всеми состояниями компонентов / экранами и сценариями приложения, но если уж дизайнит агент, почему бы ему не делать это сразу в коде? Какой смысл в лишнем слое сегодня?
@devspotting
👍9🔥1
Недавно анонсировал свой мастер-класс «От вайбкодера к контекст-инженеру» на CodeFest в Новосибирске.
Теперь есть повод встретиться с читателями из Питера — в июне на Saint TeamLead Conf расскажу про «От хайпа к культуре: нанимаем ИИ в компанию» с точки зрения руководителя.
Кто-нибудь планирует посетить? Давайте знакомиться вживую!
Теперь есть повод встретиться с читателями из Питера — в июне на Saint TeamLead Conf расскажу про «От хайпа к культуре: нанимаем ИИ в компанию» с точки зрения руководителя.
Кто-нибудь планирует посетить? Давайте знакомиться вживую!
👍9🔥2🥰1
This media is not supported in your browser
VIEW IN TELEGRAM
TRIBE v2
Одна запрещенная организация пошла еще дальше в своем лютейшем экстремизме и научилась предсказывать вашу реакцию на любой контент.
А чтобы этим бесовским изобретением могли пользоваться сразу все экстремисты мира , они опубликовали модель, код и подробную научную работу.
TRIBE v2 — симулятор мозговой активности на основе fMRI-данных, способный к zero-shot предсказаниям реакции на визуальные и аудиальные стимулы для новых людей и языков.
Открытие важно для науки, медицины и моего завтрашнего поста, но, конечно, использовать будут в первую очередь маркетологи, чтобы у нас совсем не осталось шансов прекратить скроллить алгоритмические ленты, и политики (потому что они тоже маркетологи).
Как считаете, есть ли грань между качественным контентом и нейробиологическим манипулированием?
@devspotting
Одна запрещенная организация пошла еще дальше в своем лютейшем экстремизме и научилась предсказывать вашу реакцию на любой контент.
TRIBE v2 — симулятор мозговой активности на основе fMRI-данных, способный к zero-shot предсказаниям реакции на визуальные и аудиальные стимулы для новых людей и языков.
Открытие важно для науки, медицины и моего завтрашнего поста, но, конечно, использовать будут в первую очередь маркетологи, чтобы у нас совсем не осталось шансов прекратить скроллить алгоритмические ленты, и политики (потому что они тоже маркетологи).
Как считаете, есть ли грань между качественным контентом и нейробиологическим манипулированием?
@devspotting
👍9🔥2😱1
Исследуем границы возможностей нейросетей. Первоапрельская часть про юмор.
Шутка ли — первого апреля пишу в Телегу.
Конечно, было бы гораздо смешнее, если бы сегодня запретили парковочный мессенджер. Впрочем, хватает и новостей, что опсосы будут брать дополнительную оплату за международный трафик в международной сети интернет.
Вообще-то я стендапер, а бизнес и программирование — так, для души.
Так что я, разумеется, исследовал возможности LLM для генерации шуток. Ничего смешного!
Почему нейросети не умеют в юмор
LLM уже вполне в состоянии объяснить, в чем прикол, но не в состоянии придумывать шутки сами.
INB4: нет, это не skill issue, настройка температуры не помогает. Не помогает даже промпт «ты гениальный стендапер, король постиронии и мастер сарказма».
Это не останавливает разных иноагентов от попыток использовать ChatGPT, но такие эксперименты — только людей смешить.
Юмор глубоко субъективен, контекстуален и строится на сложной игре ожиданий, эмпатии и культурного бэкграунда.
Мало того, что непонятно, как скорить результат (что одному асессору смешно, то стендаперу — баян), так еще и остаются все те же проблемы, по которым нейронки не справляются с поэзией:
* токены лишают LLM слуха, что критично для каламбуров. Мой самый любимый мне рассказал когда-то Дима @dimaom: «каламбур (а телом бел)»
* модели стремятся к статистически наиболее вероятному продолжению, а суть панча — в сломе ожидания.
На эту тему есть достаточно много исследований и экспериментов. Из свежего — Quipslop от Theo (open-source проект, где одни модели придумывают панчи, а другие модели и люди их оценивают) и исследование Алексея Тихонова на основе полученных данных. Спойлер: Gemini справляется лучше остальных как по мнению людей, так и по версии других нейронок.
Так научатся ли нейронки шутить в конце концов?
Я склонен считать, что таки да:
1. Можно обучить специализированные модели
2. По-настоящему мультимодальные модели могут решить проблему с восприятием звучания и подачей
3. Я не зря вчера рассказал про TRIBE V2 — LLM сможет использовать виртуальную модель мозга в качестве абсолютного, масштабируемого и объективного «оценщика». Вместо того чтобы спрашивать человека «Смешно ли это?», сеть будет напрямую смотреть, вызывает ли сгенерированный контент активацию в центрах удовольствия симулированного мозга.
Ну хорошо, в будущем ржака, а что же делать сейчас?
В книгах про написание шуток вам расскажут, что весь юмор работает по одной схеме и чтобы его сочинять, можно использовать стандартный алгоритм и «подводящие упражнения» (конкретные шаги могут чуть отличаться от автора к автору, но общий смысл у всех совпадает).
Так вот, сегодняшние нейронки вполне в состоянии нагенерить «запчастей»: придумать сетап, извлечь из него ключевые темы, сгенерировать к ним ассоциации и анти-ассоциации, поскорить эти ассоциации, подобрать омонимы, придумать неочевидные аналогии.
Не знаю, насколько это действительно поможет, но пропаганда других стимуляторов вдохновения нынче запрещена.
Перестанет ли быть смешной шутка, если вы узнаете, что ее сочинила нейронка?
@devspotting
Шутка ли — первого апреля пишу в Телегу.
Конечно, было бы гораздо смешнее, если бы сегодня запретили парковочный мессенджер. Впрочем, хватает и новостей, что опсосы будут брать дополнительную оплату за международный трафик в международной сети интернет.
Вообще-то я стендапер, а бизнес и программирование — так, для души.
Так что я, разумеется, исследовал возможности LLM для генерации шуток. Ничего смешного!
Почему нейросети не умеют в юмор
LLM уже вполне в состоянии объяснить, в чем прикол, но не в состоянии придумывать шутки сами.
INB4: нет, это не skill issue, настройка температуры не помогает. Не помогает даже промпт «ты гениальный стендапер, король постиронии и мастер сарказма».
Это не останавливает разных иноагентов от попыток использовать ChatGPT, но такие эксперименты — только людей смешить.
Юмор глубоко субъективен, контекстуален и строится на сложной игре ожиданий, эмпатии и культурного бэкграунда.
Мало того, что непонятно, как скорить результат (что одному асессору смешно, то стендаперу — баян), так еще и остаются все те же проблемы, по которым нейронки не справляются с поэзией:
* токены лишают LLM слуха, что критично для каламбуров. Мой самый любимый мне рассказал когда-то Дима @dimaom: «каламбур (а телом бел)»
* модели стремятся к статистически наиболее вероятному продолжению, а суть панча — в сломе ожидания.
На эту тему есть достаточно много исследований и экспериментов. Из свежего — Quipslop от Theo (open-source проект, где одни модели придумывают панчи, а другие модели и люди их оценивают) и исследование Алексея Тихонова на основе полученных данных. Спойлер: Gemini справляется лучше остальных как по мнению людей, так и по версии других нейронок.
Так научатся ли нейронки шутить в конце концов?
Я склонен считать, что таки да:
1. Можно обучить специализированные модели
2. По-настоящему мультимодальные модели могут решить проблему с восприятием звучания и подачей
3. Я не зря вчера рассказал про TRIBE V2 — LLM сможет использовать виртуальную модель мозга в качестве абсолютного, масштабируемого и объективного «оценщика». Вместо того чтобы спрашивать человека «Смешно ли это?», сеть будет напрямую смотреть, вызывает ли сгенерированный контент активацию в центрах удовольствия симулированного мозга.
Ну хорошо, в будущем ржака, а что же делать сейчас?
В книгах про написание шуток вам расскажут, что весь юмор работает по одной схеме и чтобы его сочинять, можно использовать стандартный алгоритм и «подводящие упражнения» (конкретные шаги могут чуть отличаться от автора к автору, но общий смысл у всех совпадает).
Так вот, сегодняшние нейронки вполне в состоянии нагенерить «запчастей»: придумать сетап, извлечь из него ключевые темы, сгенерировать к ним ассоциации и анти-ассоциации, поскорить эти ассоциации, подобрать омонимы, придумать неочевидные аналогии.
Не знаю, насколько это действительно поможет, но пропаганда других стимуляторов вдохновения нынче запрещена.
Перестанет ли быть смешной шутка, если вы узнаете, что ее сочинила нейронка?
@devspotting
👍10🔥3❤1
Qwen3.6-Plus — топовая модель бесплатно
Alibaba выкатила Qwen3.6-Plus и сразу предоставила её бесплатно на OpenRouter — можно подключить в Claude Code, OpenClaw, Pi, Cursor или любой другой OpenAI-совместимый инструмент.
Модель заточена под агентные задачи. Утверждается, что особенно хороша для фронтенд-разработки. Контекстное окно — 1М токенов.
Что по приборам
- SWE-bench Verified (реальные задачи из GitHub-репозиториев): 78.8% — на уровне или выше Claude 4.5 Sonnet и GPT-5
- GPQA (задачи аспирантского уровня по физике, химии, биологии): 90.4% — топ-SOTA на момент релиза
Из интересного: модель поддерживает
Важный момент: бесплатный тир на OpenRouter означает, что данные промптов идут на дообучение модели.
Кто-нибудь уже пробовал? Как вам?
@devspotting
Alibaba выкатила Qwen3.6-Plus и сразу предоставила её бесплатно на OpenRouter — можно подключить в Claude Code, OpenClaw, Pi, Cursor или любой другой OpenAI-совместимый инструмент.
Модель заточена под агентные задачи. Утверждается, что особенно хороша для фронтенд-разработки. Контекстное окно — 1М токенов.
Что по приборам
- SWE-bench Verified (реальные задачи из GitHub-репозиториев): 78.8% — на уровне или выше Claude 4.5 Sonnet и GPT-5
- GPQA (задачи аспирантского уровня по физике, химии, биологии): 90.4% — топ-SOTA на момент релиза
Из интересного: модель поддерживает
preserve_thinking — контекст цепочки рассуждений сохраняется между вызовами. Для агентных пайплайнов это важно: не нужно каждый раз «разогревать» её заново.Важный момент: бесплатный тир на OpenRouter означает, что данные промптов идут на дообучение модели.
Кто-нибудь уже пробовал? Как вам?
@devspotting
🔥11👍2😁2
Когда подорожают токены?
В комментариях в этом канале и среди коллег часто звучит теория, что вот сейчас ушлые корпораты подсадят всех на иглу дешевого инференса, а потом (когда нас заменят на нейронки), ка-а-а-ак поднимут цены!
Предлагаю по случаю пятницы обсудить эту перспективку.
Самый популярный аргумент звучит так: подписки дотируются, чтобы захватить рынок и подсадить. И это правда. Исследователь под ником she-llac выяснил: Claude Max ($200/мес) дает эквивалент API вплоть до $3 600+ в месяц при теплом кэше. Claude Pro ($20) — в 16–37 раз дешевле, чем платить по API. То есть да — лаборатории сейчас банчат нейро-стафф по дешману.
Дальше — парадокс Джевонса: чем дешевле ресурс, тем больше его потребляют. Дешевые токены порождают новые SaaS, агентные пайплайны и прочие сценарии использования — спрос растет быстрее, чем падает цена. В результате у компаний появляется возможность для поднятия цен.
Наконец, более сложные модели объективно дороже, а дальнейшее масштабирование требует железа на порядки больше — квадратичный рост вычислений ради линейного прироста качества.
И что же? Остается срочно навайбкодить себе единорога, пока лавочка не закрылась?
Почему я в это не верю
Для начала такой факт: с 2023 по 2026 год цена за токен упала в 1000+ раз. GPT-4 стоил $30/60 за 1M токенов — сегодня Qwen3.5 или Gemma 3n дают сопоставимые возможности за $0.02–0.03. И тенденция скорее ускоряется:
- Железо — H100 → Blackwell → Rubin: каждое поколение дает 2–3x токенов/доллар. HBM4 поднимает утилизацию чипов до 90%.
- Альтернативные чипы — TPU, специализированный AI-silicon: Midjourney уже сэкономил $16M/год, просто сменив железо.
- Алгоритмы — дистилляция снижает затраты в 10–100x, модели становятся меньше и умнее одновременно. TurboQuant, придуманный для оптимизации KV-кэша, в сообществе уже пробуют применять для сжатия весов.
- Инфраструктура — batch API дает скидку 50%, кэширование контекста режет реальные расходы в разы. Stateless/elastic инференс убивает idle-costs.
Общий тренд: снижение цены на порядок ежегодно — быстрее, чем в PC или интернете в эпоху доткома.
Открытые модели и локальный инференс
Уже сейчас на пусть и недешевом, но все еще бытовом железе можно запустить Gemma 4, Nemotron, gpt-oss и целый зоопарк от китайских лабораторий.
Судя по всему, к моменту, когда пессимисты ожидают повышения цен, на средних ноутбуках можно будет запускать модели уровня Claude Sonnet 4.5.
Конкуренция между OpenAI, Anthropic, Google, DeepSeek и прочими китайцами — структурная. Ни один из них не может поднять цены, не потеряв рынок. А с открытыми весами у корпоративных пользователей появляется полноценная альтернатива.
В конце концов, на интернет ведь тоже всех подсадили, но мы спокойно берем безлимитные мобильные пакеты и смотрим 4k-видео в метро (не в Москве, конечно, откуда тут мобильный интернет в 2026?).
Так что я ожидаю, что для бытовых задач мы получим модели в разы мощнее нынешних SOTA за пренебрежительно дешевую подписку, а для промышленного использования стоимость токенов будет иметь примерно такое же значение, как сейчас стоимость трафика для SaaS-компаний — да, петабайты стоят денег, но это точно не фактор, который определяет финмодель.
Разубедите?
@devspotting
В комментариях в этом канале и среди коллег часто звучит теория, что вот сейчас ушлые корпораты подсадят всех на иглу дешевого инференса, а потом (когда нас заменят на нейронки), ка-а-а-ак поднимут цены!
Предлагаю по случаю пятницы обсудить эту перспективку.
Самый популярный аргумент звучит так: подписки дотируются, чтобы захватить рынок и подсадить. И это правда. Исследователь под ником she-llac выяснил: Claude Max ($200/мес) дает эквивалент API вплоть до $3 600+ в месяц при теплом кэше. Claude Pro ($20) — в 16–37 раз дешевле, чем платить по API. То есть да — лаборатории сейчас банчат нейро-стафф по дешману.
Дальше — парадокс Джевонса: чем дешевле ресурс, тем больше его потребляют. Дешевые токены порождают новые SaaS, агентные пайплайны и прочие сценарии использования — спрос растет быстрее, чем падает цена. В результате у компаний появляется возможность для поднятия цен.
Наконец, более сложные модели объективно дороже, а дальнейшее масштабирование требует железа на порядки больше — квадратичный рост вычислений ради линейного прироста качества.
И что же? Остается срочно навайбкодить себе единорога, пока лавочка не закрылась?
Почему я в это не верю
Для начала такой факт: с 2023 по 2026 год цена за токен упала в 1000+ раз. GPT-4 стоил $30/60 за 1M токенов — сегодня Qwen3.5 или Gemma 3n дают сопоставимые возможности за $0.02–0.03. И тенденция скорее ускоряется:
- Железо — H100 → Blackwell → Rubin: каждое поколение дает 2–3x токенов/доллар. HBM4 поднимает утилизацию чипов до 90%.
- Альтернативные чипы — TPU, специализированный AI-silicon: Midjourney уже сэкономил $16M/год, просто сменив железо.
- Алгоритмы — дистилляция снижает затраты в 10–100x, модели становятся меньше и умнее одновременно. TurboQuant, придуманный для оптимизации KV-кэша, в сообществе уже пробуют применять для сжатия весов.
- Инфраструктура — batch API дает скидку 50%, кэширование контекста режет реальные расходы в разы. Stateless/elastic инференс убивает idle-costs.
Общий тренд: снижение цены на порядок ежегодно — быстрее, чем в PC или интернете в эпоху доткома.
Открытые модели и локальный инференс
Уже сейчас на пусть и недешевом, но все еще бытовом железе можно запустить Gemma 4, Nemotron, gpt-oss и целый зоопарк от китайских лабораторий.
Судя по всему, к моменту, когда пессимисты ожидают повышения цен, на средних ноутбуках можно будет запускать модели уровня Claude Sonnet 4.5.
Конкуренция между OpenAI, Anthropic, Google, DeepSeek и прочими китайцами — структурная. Ни один из них не может поднять цены, не потеряв рынок. А с открытыми весами у корпоративных пользователей появляется полноценная альтернатива.
В конце концов, на интернет ведь тоже всех подсадили, но мы спокойно берем безлимитные мобильные пакеты и смотрим 4k-видео в метро (не в Москве, конечно, откуда тут мобильный интернет в 2026?).
Так что я ожидаю, что для бытовых задач мы получим модели в разы мощнее нынешних SOTA за пренебрежительно дешевую подписку, а для промышленного использования стоимость токенов будет иметь примерно такое же значение, как сейчас стоимость трафика для SaaS-компаний — да, петабайты стоят денег, но это точно не фактор, который определяет финмодель.
Разубедите?
@devspotting
👍20🔥4😁1