У меня есть какой-то план и я его придерживаюсь.

#fyi Ты вайб-кодер или все еще инженер?

LLM всё больше проникает в разработку. Каждый использует LLM в меру своей развращённости.

Когда-то давным-давно, до LLM, люди писали на языках, фреймворках, CMS, занимались зерокодингом. Думаю, ничего, собственно, глобально не меняется. Как и раньше, кто-то использует LLM как язык, кто-то — как фреймворк, кто-то — как CMS. Но есть и любители зерокодинга. Каждый использует LLM так, как ему по душе.

Компании, продающие своих LLM, настаивают на использовании их как «всё сделает за тебя». Ну, это не ново — давно зерокодеры заняли эту нишу. Но это неправильно. Модели не способны выдавать качественный код выше уровня квалифицированного специалиста. С оговоркой: не всегда специалист может понять, что сделала модель. Но важно, что специалист увидит косяки, чего не сможет сделать модель в своём коде — поэтому иногда их стравливают между собой.

LLM — это инструмент, такой же, как и всё остальное: как компилятор, как IDE, как фреймворк. Ничего кардинально нового не произошло. Да, теперь тебе не нужно писать двадцать одинаковых функций — LLM это может сделать. Комментарии в коде? Даже модель на 14b делает их лучше тебя. Но важно понимать: LLM — это инструмент, и чем больше ты используешь его возможности, тем лучше. Только это не значит, что ты должен запоминать все хоткеи своей IDE/LLM. Важнее найти свой вариант применения.

Итак, кто ты: просто кодер или инженер, который может проложить свой путь к разработке, а не использовать то, что тебе предлагают конторы, которые хотят, чтобы ты зерокодил на их ресурсах за свои деньги?

Директор Volvo попробовал на себе автоматическую систему тормозов @banksta

Зачем нам одна модель, когда можно сделать умный кластер моделей?

Не важно, мощная модель или слабая — если засрать ей голову мусором, любая модель будет тупой. Дай ей чистую задачу — и даже 3B может отвечать как облачная.

Cline в VS Code общается с vibe-model. Запросы идут через OpenAI-совместимый API и обрабатываются пайплайном — каждый экшен отвечает за свою задачу: кеш, система, доработка промпта, кластер. Не для всех запросов нужен LLM.

Как думаете, где испаряются ваши токены? Как думаете, почему ваш кастомный системный промпт капслоком просто игнорируется?

Всё очень просто.

Когда вы пишете модели "Привет", инструмент передаёт ваш промт (часто доработанный) и системный промпт - вот здесь вообще всё очень интересно. Инструмент пытается в двух томах "Войны и мира" изложить, что делать модели.

А теперь вопрос: все ли модели могут прочитать "Войну и мир" за пару секунд и выдать вменяемый результат?

И ответ: нет, не все. Именно поэтому ваш промпт, написанный внизу системного промпта инструмента, "просто игнорируется" - модель захлебнулась в инструкции раньше, чем увидела ваш "Привет".

Иллюзия сверхразума

Допустим, модели стали сверхразумными. Контекст — бесконечный и мгновенный. Можно загрузить всю кодовую базу, и ИИ сам поймёт, что тебе нужно.

Уже сейчас есть два подхода к использованию ИИ:
- Ассистент. Ты понимаешь, что он пишет. Ревьювишь, споришь, правишь.
- Нейрослоп. Ты просто генерируешь код, не читая.

Для нейрослопера наступает рай. "Перепиши мне всё на новый стек и добавь кнопку" — и оно делает. Идеально. Быстро. Продвинутые "одноразки" станут нормой. Но ничего нового из этого не родится. Модель, обученная на коде таких же слоперов, будет плодить вариации одного и того же. А когда, например, системе понадобится аудит безопасности, нейрослопер скажет: "Ок, попросим LLM провести аудит". И модель проведёт. Вот только уязвимости, которые она ищет — это те же уязвимости, которые она же и сгенерировала. Система не может найти ошибки, которые допустила. Круг замкнулся.

Инженер будущего будет меньше писать промптов, но так же продолжит ревьювить то, что сгенерировал ИИ. Именно это даёт гибкость: понимаешь — значит контролируешь. Инженер, понимающий архитектуру, в любой момент может взять управление на себя, переписать проблемный модуль вручную или направить ИИ на доработку с ювелирной точностью. Аудит безопасности для него — не проблема. Это тот, кто способен разомкнуть замкнутый круг.

Одни останутся операторами кнопки, другие будут архитекторами сложных систем. Пропасть будет расти, отдаляя два направления друг от друга, и однажды её уже будет не перешагнуть.

Двигаемся к идеальной кластерной модели: оценка сложности с выбором модели под задачу.

Vibe Model — даже с набором небольшой инфраструктуры vibe-* — непрост.

Огромное количество переменных: от различных клиентов и их системных промптов в 1к строк до пайплайна в 11 пунктов. Меня пока хватило на ~5 тысяч строк, но я вижу, что там еще 55 впереди. Для пета это много.

Но! Пока я ковырял Vibe Model — у меня появилась идея, простая, но очень мощная: каждый сам может создавать своих агентов без изучения сложных инструментов. Достаточно будет знать 5 параметров конфига для написания своей ОС ;)

Бывший руководитель Microsoft говорит, что компания провалила проект с ИИ, как и с мобильными приложениями». «Даже 3% платящих пользователей Copilot не используют его, даже если он прямо перед ними». @banksta

Кто сказал, что маленькие локальные модели не способны писать операционные системы? Вполне. Если дать маленькой модели чёткую задачу — она её выполнит. Проблема в больших командах. А что можно сделать с одной большой командой? Понятное дело — разбить её на много маленьких, и модель справится. Всё гениальное просто.