Че по моделям?

Хочу верить, что хоть кто то из вас, после прочтения моих постов, захотел завести себе зверька под названием OpenClaw. А чтобы немного вас к этому сподвигнуть, я пошарю пару лайфхаков как настроить себе Openclaw бесплатно, без смс и регистрации. Ну не совсем без смс, тут спиздел малость 😄

В конфиге опенкло можно указывать основную модель и фоллбеки. Получается ранжирование, от предпочитаемых, ко всякому шлаку. Я жлоблюсь платить бабки за инструмент, пользу которого для себя еще выясняю. Посему, я нарыл пару вариантов как жить с ним условно бесплатно

Вариант первый - жить локально. Думаете вам нужно ахуеть какое железо для этого? Если вам ок ответы по 2-5 мин, то нет, не нужно. А это как раз мой сценарий. Я с ним не чатится пришел, я ему задачу дал и пусть в фоне там обрабатывает. Если вы того же мнения, то давайте разбираться что у нас есть в арсенале

Для начала, надо бы чекнуть какую модель потянет ваш пк. Ну или выделенный сервер, мак мини, старяй сяоми или где вы там решили крутить это дерьмо. Можно заполнить всякие формочки в интернете и получить список моделек, но чет это... ну неудобно это. Я же нашел прекрасный проект на гитхабе - https://github.com/Pavelevich/llm-checker. Поставил, запустил через llm-checker recommend, взял че тебе надо. Сказка-песня, рекомендую. Приложил скрин че он мне выдал, у меня 4060 и 32 гига оперативы

Как поставить модель локально? У вас есть как минимум 2 варианта.
Если вам ок терминал, то есть ollama - cli для управления моделями, делаете просто ollama pull нужная_модель, ждете пока скачается и все. Ну в конфиг опенкло добавить не забудьте.
Если вам нужен интерфейс, есть LMStduio. Там тоже дофига моделей доступно, выбирайте какую хотите, качайте, добавляйте в опенкло (как это сделать)

Хватает ли этого? Пока что для моих задач хватало. Да, на облаке пизже. Да, отвечает долго. Да, в игрушки не шибко поиграешь пока модель трудится. Но это совсем уж бесплатно и ваши данные никуда не утекают (если вы боитесь за свою папку на 100ТБ)

В следующем посте разберу вариант с облаком, для тех кто с картошки сидит ➡️

🦞Подключаем OpenClaw к облачным моделям. От простого к сложному, от бич-схемы до прайма

😞 Freeride. Есть такая штука как OpenRouter- это маршрутизатор для ллм моделей, который умеет свитчится между моделями, но вы при этом стучитесь на один эндпоинт. У него есть бесплатные модели. Вот Freeride умеет между ними переключаться, когда лимиты кончаются. Лимитов будет больше если на счету будет лежать 10 баксов. Работает, но кое-как, честно говоря. Я постоянно упирался в лимиты, да еще и список моделей в конфиге опенкло оно перетирает на свои. Годится для настройки опенкло в первый раз, чисто попробовать

🥂 Ollama. В прошлом посте я говорил про ее локальные модели, но есть еще облачные. Работает прекрасно прям, время ответа хорошее, модели умные, просто пушка. Если грамотно распоряжаться лимитами, то даже бесплатного плана хватит, лимиты скидываются раз в неделю. Пару лайфхаков о том как меньше жрать лимитом дам позже. Есть план за 20$/мес, задумываюсь о покупке

😑 Google AI Studio. У них прям неплохие модели, которые уже "устарели", например gemini 3 flash. Доступ к ним бесплатный, но с лимитами. На некоторые модели доступно аж 14.400 запросов в день. Это много? Зависит от задачи, но вообще это прилично. А еще, если привязать (просто привязать) карту, иностранную конечно, к проекту, то отсыпять аж 300 баксов кредитами 💰 Для повседневного использования этого хватит на несколько месяцев или даже пол года

🏋️ Самый топ - миксовать используемые модели в зависимости от задач. Нужен жесткий анализ и понимание - платные облачные модели. Просто "сделай А, результат запихни в Б" - локальная модель. А помочь в этом может LLMRouter - на основании сложности задачи и стоимости моделей он сам определит к какой моделе отдать запрос. Там же в репе есть инструкция для подключения. Только вот... Ему нужна модель чтобы понимать к какой моделе отдать запрос 🤢 Хотя локальная вполне подойдет для этой задачи

Меня взломали! 😵

Я пилю пет проект. Арендовал сервак, захостил там базу и все что надо и пока немного не до него было

Тут решил ткнуть его палкой и... нифига не произошло! Полез в логи, в логах вижу "не найдена запись в базе". Знаю что запись была. Полез в базу. И вижу что какой то уникум решил требовать с меня сколько то там битка)) За инфу которая вообще ничего не стоит, там были тестовые данные вообще

Штош, товарищ от меня получит, как говорил Олег, ни-ху-я 😄

Cursor выкатил Automations
https://cursor.com/docs/cloud-agent/automations

Если кратко, то работают они так - сработал триггер, он запустил написанный тобой промпт, который вызвал некий тул. Раньше у них были хуки, теперь они их развили в такие вот пайплайны автоматизаций

Это ровно та мысль, что была в прошлом посте! 🤔
Только они ограничены своим приложением и степом разработки, а SDLC затрагивает куда больше этапов

Но мне отрадно что мои мысли совпадают с тем, куда развиваются такие продукты как Cursor

Фиксируем контракты и схемы ✏️

Вот есть у меня N сервисов, которые общаются между собой по REST. Че обычно делают? Фиксируют контракт в каком нибудь swagger и как бы все. Круто если он актуальный, еще круче если по нему генерят код

Но есть проблемы. Так как схему для сваггера обычно генерят на лету, то никакой фиксации контракта тут нет. Сгенерят новую схему и забудут. А хочется чтобы источником истины в первую очередь был контракт, как в каком нибудь gRPC

Много слышал про https://typespec.io и решил попробовать. У меня есть куча микросервисов и гейтвей между ними. И работает это афигеть как прекрасно! Поменял контракт - перегенерил файлы-сервисы и живи дальше. Допом прикрутил себе прекоммит хук, мол, если не поддерживаешь актуальный контракт, то будь добр исправься

Это круто, но у меня тут еще база данных одна на всех, хочется и коллекции в ней также описывать. Не так давно читал на Хабре статейку где схемы описывали как файлы. Но чет оно выглядит очень душно. И может я от жизни отстал, но есть оказывается Prisma! В ней как и с контрактами - описал, сгенерил, поддержал. Ляпота

Теперь мои микросервисы живут в мире и согласии, за которым блюдёт линтер. Допом LLMке проще ориентироваться че у меня есть и кто потребитель контрактов или коллекций с базы

Кому надоело сравнивать то, что нарисовали с Figma, с тем, что есть в вашем UI kit'е? 🤬

Мне вот да. Поэтому научил своего Хулио (рабочее название для принеси-подай-дальше сами знаете агента) проводить ревью макетов в Figma и выдавать отчет че не так.

Выглядит как на скрине. Если в задаче есть ссылка на фигму, он поймет что надо в нее сходить, вытянуть релевантные блоки, сматчить их с UI kit'ом и подсветить расхождения

Это лишь один из его навыков. НО! Навыки вообще не главная фишка. Главное то, как он их выбирает. У него вообще нигде нет цепочки "если видишь X, то сделай Y", он сам решает когда применимы его скиллы. Такой подход пока показывает себя успешно и я его натягиваю на наши процессы. Пока такая история

За что я люблю бизнес залы в аэропортах 😄

Лечу в Новосибирск, выступать на Codefest. Раньше не слышал про эту конфу и из знакомых никто не рассказывал, интересно че там будет. Она не специализируется на фронте или js, так что придется притворяться реальным инженером