Как ужать расходы на AI-обработку данных в 12 раз

Чувак реально вынес мозг десяткам тысяч сообщений через LLM: вытягивал данные из текста, раскладывал объявления по полочкам и собирал из этого чистый JSON. Пробовал и халявные модели, и платные API — в итоге докрутил стоимость одного запроса до смешных 0.006 рублей, не потеряв в качестве.

В статье он вскрывает, как докопался до решения и зачем наваял свой API-слой поверх OpenCode Go.

Читать далее

👉 Node.JS [ru]