Была у меня в закладках статья о том как работают LLM, уже довольно давно лежала, но тут в один из вечеров я все-таки решил ее почитать. Дальше я посмотрел какое-то количество видосов на ютубе и пообщался с самим ChatGPT.

И вот мой инсайт - LLM как понятно из названия large language models - это "очень условно" большие словари и когда наш промпт, нарезанный на токены, проходит через них - система выбирает наиболее вероятно подходящие токены под тот набор токенов, который пришел на вход. Дальше в зависимости от языка, на котороом пришел входной промпт будут формироваться разные наборы токенов, хоть после перевода в токены язык и растворяется и остаются абстрактные смысловые векторы, но!

Есть одна наша когнитивная особенность, что чат мимикрирует под человека и мы привыкаем с ним работать в формате общения как будто это и правда какой-то "интеллект", а не LLM. Поэтому промпты зачастую содержат лишнюю смысловую и эмоциональную окраску, которая в контексте выполнения задач по кодингу только мешает.

Чем точнее и формальнее промпт в контексте кодинговых задач, тем более точный результат на выходе.

В итоге пара вечеров с gpt + codex превратились в Shortcut (только для Apple девайсов, в процессе он может запросить доступ к браузеру - ему нужно сделать запрос к API, поэтому нужно разрешение), который позволяет нормализовывать промпт для кодинговых задач и которым я делюсь с вами! Вот пример его работы.

Input:
Мне кажется, что текущая реализация какая-то запутанная и вообще не очень, можешь нормально объяснить, что тут происходит и как это вообще лучше переделать?

Normalized:
Provide a clear and detailed explanation of the current implementation, describing its functionality and purpose.
Identify any issues or complexities in the implementation.
Suggest improvements or a better approach to redesign the implementation for clarity and efficiency.

Буду признателен любому фидбэку после использования.

P.S. Ну и, конечно, это теперь встроено в работу WOWCODER по умолчанию, любой промпт перед работой прогоняется через normalizer. Субъективно по моему опыту работает как минимум не хуже, в первом комменте пример промпта одной из последних задач, нормализованный промпт и правки кода, которые отдал Codex.

Директор по AI в Tesla и ранее в Open AI (Andrej Karpathy) и один из главных разработчиков Claude Code (Boris Cherny) говорят про то же, что я тут говорил, наверное, уже год назад. Индустрия уже поменялась и надо меняться тоже или будет поздно.

Йоу, йоу, йоу!

Ревью пройдено без единого комментария! Причем странно, что статус с waiting for review сразу поменялся на approved, ну да ладно.

Немного деталей:
- использовался zencoder для оркестрации AI (код писался Claude и Codex)
- бекенд на CF workers + KV написал Claude, мини-лендинг тоже он
- дизайн лендинга Figma Make
- иконку нарисовал Chat GPT, угадаете какая иконка взята за референс?
- дизайн приложения (если это можно так назвать) делался Claude через промптинг вида “следуй Human Interface Guidelines” и небольшими вкраплениями моих ручных правок
- платежи сделаны на Adapty, потому что я не хотел самостоятельно ковыряться в IAP
- кстати с платежами был один пример зачем в этой цепочке сейчас я, потому что я начинал делать обработку платежей на apple server notification api, но это долго и неправильно как мне сказал Claude, он переделал на отправку запроса с транзакцией для пополнения с клиента, но делал это в открытом виде, без подписи и валидации самой транзакции, что любой авторизованный юзер мог бы прямыми запросами в эндпоинт пополнять баланс кредитов, но я вовремя его на этом поймал и он исправил свою же ошибку
- в итоге сам руками я написал не больше строк 100
- ну и по времени - один вечер пятницы, одни выходные убитые полностью, одна суббота с последних выходных тоже почти полностью
- WOW! LOOK!

WowLook AI
WowLook AI
WowLook AI