Vibecoding Haven (BotfatherDEV)

мені «дуже подобається», коли роботу LLM зводять до це просто next-token predictor

бо технічно — це так і є

але це завжди пояснення рівня:

людина — це просто мʼясо, яке передає електричні імпульси

ніби це правда, але майже нічого не пояснює.

є дуже цікава стаття The Platonic Representation Hypothesis.

головна ідея там така:

Neural networks, trained with different objectives on different data and modalities, are converging to a shared statistical model of reality in their representation spaces

тобто різні нейронки, навчені на різних задачах, даних і модальностях, поступово сходяться до спільної статистичної моделі реальності.

не просто вгадують слова
не просто «дістають відповідь з памʼяті»

а будують внутрішню репрезентацію того світу, який породив ці дані.

у статті є ще дуже красива фраза:

all strong models are alike, each weak model is weak in its own way

Тобто, слабкі моделі слабкі кожна у своєму сенсі, а сильні моделі стають схожими, бо реальність, яку вони намагаються стиснути — одна

І ось якщо так редукувати LLM, то людина теж «просто предиктор наступного сигналу»

нервова система теж отримує сигнали, стискає їх, шукає закономірності, будує внутрішню модель світу і постійно передбачає, що буде далі.

ми ніколи не бачимо реальність напряму, ми бачимо лише її проєкції.

і автори дуже красиво пишуть:

The training data for our algorithms are shadows on the cave wall

дані — це тіні на стіні печери.

але сильні моделі, можливо, вчаться не просто повторювати тіні, а поступово відновлювати структуру того, що ці тіні породжує.

Тому ми працюємо не з якоюсь магічною памʼяттю і не просто з генератором тексту, а з системою, у якої є внутрішня статистична модель реальності

а коли ми даємо їй tools, browser, code execution, files, API, memory і feedback loop — ця модель починає не тільки описувати світ, а й діяти в ньому)

Отже, вайбкодинг — це коли ти навчився формулювати намір, обмеження і фідбек так, щоб внутрішня репрезентація світу в моделі могла через інструменти змінювати реальний проєкт

434 views06:34