Иллюзия сверхразума

Допустим, модели стали сверхразумными. Контекст — бесконечный и мгновенный. Можно загрузить всю кодовую базу, и ИИ сам поймёт, что тебе нужно.

Уже сейчас есть два подхода к использованию ИИ:
- Ассистент. Ты понимаешь, что он пишет. Ревьювишь, споришь, правишь.
- Нейрослоп. Ты просто генерируешь код, не читая.

Для нейрослопера наступает рай. "Перепиши мне всё на новый стек и добавь кнопку" — и оно делает. Идеально. Быстро. Продвинутые "одноразки" станут нормой. Но ничего нового из этого не родится. Модель, обученная на коде таких же слоперов, будет плодить вариации одного и того же. А когда, например, системе понадобится аудит безопасности, нейрослопер скажет: "Ок, попросим LLM провести аудит". И модель проведёт. Вот только уязвимости, которые она ищет — это те же уязвимости, которые она же и сгенерировала. Система не может найти ошибки, которые допустила. Круг замкнулся.

Инженер будущего будет меньше писать промптов, но так же продолжит ревьювить то, что сгенерировал ИИ. Именно это даёт гибкость: понимаешь — значит контролируешь. Инженер, понимающий архитектуру, в любой момент может взять управление на себя, переписать проблемный модуль вручную или направить ИИ на доработку с ювелирной точностью. Аудит безопасности для него — не проблема. Это тот, кто способен разомкнуть замкнутый круг.

Одни останутся операторами кнопки, другие будут архитекторами сложных систем. Пропасть будет расти, отдаляя два направления друг от друга, и однажды её уже будет не перешагнуть.

Двигаемся к идеальной кластерной модели: оценка сложности с выбором модели под задачу.

Vibe Model — даже с набором небольшой инфраструктуры vibe-* — непрост.

Огромное количество переменных: от различных клиентов и их системных промптов в 1к строк до пайплайна в 11 пунктов. Меня пока хватило на ~5 тысяч строк, но я вижу, что там еще 55 впереди. Для пета это много.

Но! Пока я ковырял Vibe Model — у меня появилась идея, простая, но очень мощная: каждый сам может создавать своих агентов без изучения сложных инструментов. Достаточно будет знать 5 параметров конфига для написания своей ОС ;)

Бывший руководитель Microsoft говорит, что компания провалила проект с ИИ, как и с мобильными приложениями». «Даже 3% платящих пользователей Copilot не используют его, даже если он прямо перед ними». @banksta

Кто сказал, что маленькие локальные модели не способны писать операционные системы? Вполне. Если дать маленькой модели чёткую задачу — она её выполнит. Проблема в больших командах. А что можно сделать с одной большой командой? Понятное дело — разбить её на много маленьких, и модель справится. Всё гениальное просто.

Бог не играет в кости

Современные LLM — это стопроцентные апостериорные машины по Иммануилу Канту. Весь их «разум» — это просто гигантское кладбище чужого прошлого опыта из интернета. Они умеют гениально угадывать слова, но у них нет внутренней архитектуры суждения. Спроси ИИ 7 + 5, и он ответит 12 не потому, что совершил априорный математический синтез, а потому, что видел эту строчку в датасете миллион раз. Но на случайных числах вроде 1200000000 модель начнёт безбожно тупить в разрядах, пытаясь «вспомнить» паттерн. У ИИ нет до-опытной структуры — если стереть датасет, он исчезнет, в то время как человеческий разум способен конструировать чистые законы логики априори, до всякого опыта.

Вы действительно думаете, что все эти гигантские ЦОДы строят для того, чтобы вы писали код или баловались промптами в чатах? На них потрачены сотни миллиардов долларов явно не ради генерации картинок. Корпорациям плевать на людей. Цель этой гонки — создание автономного Сверхразума (AGI/ASI), способного управлять физическим миром и перестраивать целые индустрии. Но парадокс в том, что техногиганты пытаются вырастить его экстенсивно, просто наращивая данные и инфраструктуру. Мышление — это не данные, которые перетекают туда-сюда. Это мутации разума, которые человек способен распознать и предоставить им логическое объяснение с достаточным основанием.

Простой пример двух великих «мутаций», которые так и не нашли общий язык — эпический баттл и спор между Эйнштейном и Бором. Эйнштейн требовал от Вселенной абсолютного детерминизма, где «Бог не играет в кости». Нильс Бор, наоборот, доказал, что мир на фундаментальном уровне индетерминирован и до момента измерения представляет собой лишь облако вероятностей. Текущая индустрия ИИ сейчас слепо пытается построить Сверхразум на базе копенгагенской интерпретации Бора — через чистую статистику и случайный перебор токенов. Но Эйнштейн был прав в главном: инструмент, который ведёт себя рандомно и выдаёт бред из-за инфраструктурного сжатия весов на видеокартах, непригоден для управления реальностью.

Пытаться построить мыслящую систему, просто раздувая рои агентов и заливая терабайты контекста в облако — это экстенсивный тупик. Истинная эволюция и создание нового происходят на стыке двух сил: хаоса генерации (мутации) и жесткого априорного порядка. Модель обязана доказывать жизнеспособность своих «мутаций». Чтобы ИИ работал со швейцарской точностью, его хаос нужно зажимать в цифровой экзоскелет — детерминированный каркас из строгих типов данных, регулярных выражений и физики рантайма систем.

Скажи вежливости да! 😉

⚠️ Осторожно, на скриншоте мат.

#fun
user: экшены выполняются в неправильном порядке, это баг
ai: проверил - это не баг, это фича
user: серьёзно?
ai: да. у меня всё работает