https://www.twitch.tv/progkit - подписывайтесь на мой твич канал, по вечерам иногда буду стримить, можно при деле поболтать!

Сегодня будет стрим? Будем настраивать llm на n8n?

Я тут забурился в автоматизированное написание статей для сайта, чтобы наполнять его контентом для привлечения органичекого трафика на сайт.

Так вот скажу я вам этот "контент завод" та еще игрушка, мне нужно чтобы поисковик не понимал что текст написан AI а это прям сложная штука ведь он написан AI :)

Пробую разные промпты и автопроверку через другую неиронку и переписываю снова и так по кругу....
замкнутому кругу...

В общем-то результаты тестов и гугления или «перплексии» привели меня к таким мыслям:

- во-первых, LLM-ки не создадут мне нового контента, а это будет просто дублирование чего-то, на чём они учились, и с точки зрения поисковика при тривиальном промпте типа «напиши статью на тему “бла бла”» они напишут хреново перефразированные чужие мысли. Да, усложнив промпт, можно добиться неузнаваемости в детекторах ИИ, но опять же вопрос в нужности такого контента.

- во-вторых, гугл стал в выдаче на вопросы типа «как разархивировать tar» просто выдавать генерацию от их ИИ. Т. е. написание статей некоторых категорий не имеет смысла: пользователь не дойдёт даже до неё — он прочитает то, что ему гугл выдаст.

Итогом: не отказываюсь искать решение для хорошей генерации немусорных текстов, которые помогут наполнить блог чем-то полезным; при этом решил пойти путём создания контента самостоятельно, но пользуясь помощником в плане редактора, пунктуации и т. д.

Для этого я создал раздел «Проекты», в котором буду вести проекты, по которым же буду делать стримы, а также создавать текст в блог на тему стрима или решения какой-то конкретной проблемы.


https://progkit.dev/projects/

Чуть чуть сделал "ребрендинг". Привожу к единому стилю все свои медийные площадки

Я так понял сео оптимизация учит медитации, я уже 2 дня жду индексации сайта, полагаю это норма!

Сайт зашёл в индекс и гугл показал ошибки которые надо исправить.

Одна из них это картинки которые долго грузятся. Поискал решения для своего кейса, это статический билд на базе nextjs и без явного import картинка не будет оптимизироваться даже сторонними либами.

Придется пилить свой велосипед, записать видос думаю на эту тему если время позволит, текстовая статья будет обязательно, она должна попасть в индекс)

Ура велосипед отменяется, есть хорошее решение https://www.npmjs.com/package/next-export-optimize-images

От LLM нельзя получать все сразу, нужно ходить маленькими шагами

Продолжаю тему. Скорее всего, после прочтения этого поста, вопросов будет больше чем ответов.

Предисловие. Когда мы учимся читать, мы не читаем сразу все тома романа воины и мира.

К чему это я. Сейчас есть несколько продуктов которые помогают писать код с помощью llm. И так называемые вайб кодеры "пишут" код, возможно иногда даже осмысленно.

Но до ладно, вопрос не о них. А о приложении которое генерирует код. Когда в чатике курсора пишешь - напиши такую-то функцию или зарефач исправь баги, приложение делает это в контексте файла над которым вайбкодер работает, что часто приводит к возможно рабочему коду но он тут не соответствует ни стилю проекта ни пониманию зачем он тут. другими словами это просто более грамотный т9 чем у нас в телефоне.

А что если агент, назовем его агентом, это llm помошник,. Он знает суть проекта, он понимает смыслы проекта и каждого файла, он знает всю кодовую базу и прежде чем что-то написать он сначала найдет все что нужно по контексту задачи, уточнит так ли оно должно работать и напишет код в том же стиле и зависимостями что уже есть не вырываясь из контекста всего проекта каким большим бы он не был.

На мой взгляд это возможно с помощью LSP и векторной базы например pgvector. LSP поможет разобрать каждый файл на осмысленные куски, которые можно векторизовать, которые можно обогатить дополнительной информацией, комментариями и когда агент будет выполнять какую-то работу, он сначала соберёт смыслы а потом сделает механическую работу, напишет код как т9, "зная" зачем.
Параллельно записывая этот код в свою базу знаний.

Компании который увольняют сотрудников заменяя их AI делятся на два типа.

Первый тип - это те которые увольняют "мусорных" сотрудников. Людей которые нифига не делают и не владеют компетенциями, их реально можно заменить на машину потому что, то что они делают, продукт их работо-деятельности тривиален и автоматизируем.

Второй тип - "придурки" назову их так, сорян, но это реально так. Они поверили в новую религию "AI-сделает нам все". На фоне хайпов о том как крутаны вайбкодеры запускают овер дофига проектов с офигенным рэйтом и зарабатывают себе на полет в космос с помощью LLM, они увольняют спецов и иногда заменяют их более слабыми сотрудниками по компетенциям иногда не просто сильно уступающим, а даже отсутствующим. Кто-то из них уже влетел, а кто-то еще влетит!

Объясню свою позицию. LLM это инструмент, это не настоящий интеллект, НЕТ! Это просто крутой T9, есть даже исследование от Apple на эту тему. В руках опытного инженера этот инструмент позволяет ускорить разработку поддерживаемого ПО. ПОДДЕРЖИВАЕМОГО - это один из важных аспектов.

Человек который потратил тонны времени на изучение архитектур ПО, условно правильных паттернов проектирования и программирования обслужит бизнес правильно и регулярно. Человек который не понимает хотябы азов, напишет что-то рабочее, однократно! А теперь задам вопрос риторический вопрос, почему Генри Форд построил конвеер?

А бывает так что в одной и той-же компании есть сразу два типа управленцев, они чистят и тех и других, "оптимизируя" расходы. Штош...

Программисты те кто хорошо понимают архитектуру приложений, те кто продолжают изучать и разбираться в паттернах программирования и проектирования, те кто вкладывают ресурсы в свое обучение победят тех кто кинулся облизывать волшебную кнопку Tab. Рынок жесток, он отбирает только лучшие работающие модели, ему всегда нужен рост. Роста без понимания нет.

ProgKit - Кухня программиста | Подписаться

Еще один большой нюанс который я заметил. Промпт уже не решает. Даже при условно плохом промпте, но с хорошим контекстом LLM будет выдавать некоторый условно хороший результат.

Следить за окном контекста очень важно при построении вашего LLM-App.

ProgKit - Кухня программиста | Подписаться

Собственно этого я и хотел, клод код использует свою неиронку, а тут можно подключить ollama. Буду тестить сегодня

GitHub - charmbracelet/crush: The glamourous AI coding agent for your favourite terminal 💘
https://github.com/charmbracelet/crush

В общем, пока не тратьте время! Оно не работает 🤪.

Новый бум MVC!

Я думаю нас ждет новый бум MVC фреймворков, максимально простых. Ruby on Rails, Laravel, Django и т.д.

В них AI легче держать контекст при выполнении какой-то задачи, а разработчику легче дебажить.

Ко всему этому огороду еще популярными будут какие-то server functions. Очень простые контекстные окна, написал на Bun какую-то функцию которая решает небольшую проблему, сделал Dockerfile и залил куда-то без всяких крутых девопсов в coolify простым push в Git.

Бум, продукт готов, начинаем маркетинг. В том же репозитории прописываем стратегии и делаем ассеты для рекламных кампаний.

Движение в соло начинает обороты