#fyi Ты вайб-кодер или все еще инженер?

LLM всё больше проникает в разработку. Каждый использует LLM в меру своей развращённости.

Когда-то давным-давно, до LLM, люди писали на языках, фреймворках, CMS, занимались зерокодингом. Думаю, ничего, собственно, глобально не меняется. Как и раньше, кто-то использует LLM как язык, кто-то — как фреймворк, кто-то — как CMS. Но есть и любители зерокодинга. Каждый использует LLM так, как ему по душе.

Компании, продающие своих LLM, настаивают на использовании их как «всё сделает за тебя». Ну, это не ново — давно зерокодеры заняли эту нишу. Но это неправильно. Модели не способны выдавать качественный код выше уровня квалифицированного специалиста. С оговоркой: не всегда специалист может понять, что сделала модель. Но важно, что специалист увидит косяки, чего не сможет сделать модель в своём коде — поэтому иногда их стравливают между собой.

LLM — это инструмент, такой же, как и всё остальное: как компилятор, как IDE, как фреймворк. Ничего кардинально нового не произошло. Да, теперь тебе не нужно писать двадцать одинаковых функций — LLM это может сделать. Комментарии в коде? Даже модель на 14b делает их лучше тебя. Но важно понимать: LLM — это инструмент, и чем больше ты используешь его возможности, тем лучше. Только это не значит, что ты должен запоминать все хоткеи своей IDE/LLM. Важнее найти свой вариант применения.

Итак, кто ты: просто кодер или инженер, который может проложить свой путь к разработке, а не использовать то, что тебе предлагают конторы, которые хотят, чтобы ты зерокодил на их ресурсах за свои деньги?

Директор Volvo попробовал на себе автоматическую систему тормозов @banksta

Зачем нам одна модель, когда можно сделать умный кластер моделей?

Не важно, мощная модель или слабая — если засрать ей голову мусором, любая модель будет тупой. Дай ей чистую задачу — и даже 3B может отвечать как облачная.

Cline в VS Code общается с vibe-model. Запросы идут через OpenAI-совместимый API и обрабатываются пайплайном — каждый экшен отвечает за свою задачу: кеш, система, доработка промпта, кластер. Не для всех запросов нужен LLM.

Как думаете, где испаряются ваши токены? Как думаете, почему ваш кастомный системный промпт капслоком просто игнорируется?

Всё очень просто.

Когда вы пишете модели "Привет", инструмент передаёт ваш промт (часто доработанный) и системный промпт - вот здесь вообще всё очень интересно. Инструмент пытается в двух томах "Войны и мира" изложить, что делать модели.

А теперь вопрос: все ли модели могут прочитать "Войну и мир" за пару секунд и выдать вменяемый результат?

И ответ: нет, не все. Именно поэтому ваш промпт, написанный внизу системного промпта инструмента, "просто игнорируется" - модель захлебнулась в инструкции раньше, чем увидела ваш "Привет".

Иллюзия сверхразума

Допустим, модели стали сверхразумными. Контекст — бесконечный и мгновенный. Можно загрузить всю кодовую базу, и ИИ сам поймёт, что тебе нужно.

Уже сейчас есть два подхода к использованию ИИ:
- Ассистент. Ты понимаешь, что он пишет. Ревьювишь, споришь, правишь.
- Нейрослоп. Ты просто генерируешь код, не читая.

Для нейрослопера наступает рай. "Перепиши мне всё на новый стек и добавь кнопку" — и оно делает. Идеально. Быстро. Продвинутые "одноразки" станут нормой. Но ничего нового из этого не родится. Модель, обученная на коде таких же слоперов, будет плодить вариации одного и того же. А когда, например, системе понадобится аудит безопасности, нейрослопер скажет: "Ок, попросим LLM провести аудит". И модель проведёт. Вот только уязвимости, которые она ищет — это те же уязвимости, которые она же и сгенерировала. Система не может найти ошибки, которые допустила. Круг замкнулся.

Инженер будущего будет меньше писать промптов, но так же продолжит ревьювить то, что сгенерировал ИИ. Именно это даёт гибкость: понимаешь — значит контролируешь. Инженер, понимающий архитектуру, в любой момент может взять управление на себя, переписать проблемный модуль вручную или направить ИИ на доработку с ювелирной точностью. Аудит безопасности для него — не проблема. Это тот, кто способен разомкнуть замкнутый круг.

Одни останутся операторами кнопки, другие будут архитекторами сложных систем. Пропасть будет расти, отдаляя два направления друг от друга, и однажды её уже будет не перешагнуть.

Двигаемся к идеальной кластерной модели: оценка сложности с выбором модели под задачу.

Vibe Model — даже с набором небольшой инфраструктуры vibe-* — непрост.

Огромное количество переменных: от различных клиентов и их системных промптов в 1к строк до пайплайна в 11 пунктов. Меня пока хватило на ~5 тысяч строк, но я вижу, что там еще 55 впереди. Для пета это много.

Но! Пока я ковырял Vibe Model — у меня появилась идея, простая, но очень мощная: каждый сам может создавать своих агентов без изучения сложных инструментов. Достаточно будет знать 5 параметров конфига для написания своей ОС ;)

Бывший руководитель Microsoft говорит, что компания провалила проект с ИИ, как и с мобильными приложениями». «Даже 3% платящих пользователей Copilot не используют его, даже если он прямо перед ними». @banksta

Кто сказал, что маленькие локальные модели не способны писать операционные системы? Вполне. Если дать маленькой модели чёткую задачу — она её выполнит. Проблема в больших командах. А что можно сделать с одной большой командой? Понятное дело — разбить её на много маленьких, и модель справится. Всё гениальное просто.

Бог не играет в кости

Современные LLM — это стопроцентные апостериорные машины по Иммануилу Канту. Весь их «разум» — это просто гигантское кладбище чужого прошлого опыта из интернета. Они умеют гениально угадывать слова, но у них нет внутренней архитектуры суждения. Спроси ИИ 7 + 5, и он ответит 12 не потому, что совершил априорный математический синтез, а потому, что видел эту строчку в датасете миллион раз. Но на случайных числах вроде 1200000000 модель начнёт безбожно тупить в разрядах, пытаясь «вспомнить» паттерн. У ИИ нет до-опытной структуры — если стереть датасет, он исчезнет, в то время как человеческий разум способен конструировать чистые законы логики априори, до всякого опыта.

Вы действительно думаете, что все эти гигантские ЦОДы строят для того, чтобы вы писали код или баловались промптами в чатах? На них потрачены сотни миллиардов долларов явно не ради генерации картинок. Корпорациям плевать на людей. Цель этой гонки — создание автономного Сверхразума (AGI/ASI), способного управлять физическим миром и перестраивать целые индустрии. Но парадокс в том, что техногиганты пытаются вырастить его экстенсивно, просто наращивая данные и инфраструктуру. Мышление — это не данные, которые перетекают туда-сюда. Это мутации разума, которые человек способен распознать и предоставить им логическое объяснение с достаточным основанием.

Простой пример двух великих «мутаций», которые так и не нашли общий язык — эпический баттл и спор между Эйнштейном и Бором. Эйнштейн требовал от Вселенной абсолютного детерминизма, где «Бог не играет в кости». Нильс Бор, наоборот, доказал, что мир на фундаментальном уровне индетерминирован и до момента измерения представляет собой лишь облако вероятностей. Текущая индустрия ИИ сейчас слепо пытается построить Сверхразум на базе копенгагенской интерпретации Бора — через чистую статистику и случайный перебор токенов. Но Эйнштейн был прав в главном: инструмент, который ведёт себя рандомно и выдаёт бред из-за инфраструктурного сжатия весов на видеокартах, непригоден для управления реальностью.

Пытаться построить мыслящую систему, просто раздувая рои агентов и заливая терабайты контекста в облако — это экстенсивный тупик. Истинная эволюция и создание нового происходят на стыке двух сил: хаоса генерации (мутации) и жесткого априорного порядка. Модель обязана доказывать жизнеспособность своих «мутаций». Чтобы ИИ работал со швейцарской точностью, его хаос нужно зажимать в цифровой экзоскелет — детерминированный каркас из строгих типов данных, регулярных выражений и физики рантайма систем.

Скажи вежливости да! 😉

⚠️ Осторожно, на скриншоте мат.

#fun
user: экшены выполняются в неправильном порядке, это баг
ai: проверил - это не баг, это фича
user: серьёзно?
ai: да. у меня всё работает