Стародубцев x IT-ХОЗЯЕВА
3.93K subscribers
831 photos
102 videos
5 files
541 links
Платформа для поиска работы: jobturbo.ru

IT-ХОЗЯЕВА: boosty.to/jointime
По всем вопросам: @jointimer
Реклама: @vlad_0045
Download Telegram
💡 Как дообучить LLM

Берем open-source LLM (вроде Qwen или DeepSeek) и дообучаем вытаскивать JSON из текста по схеме. Автор разобрал весь пайплайн: задача, метрики (Levenshtein + валидность JSON), датасет scrapegraphai/scrapegraphai-100k (1k примеров), тест на paraloq/json_data_extraction. И отдельно замерили MMLU. Если вам нужно заставить маленькую модель стабильно выдавать структурированный ответ — это годный референс.

Источник

P.S. Нравится ли вам такой формат на канале?
Please open Telegram to view this post
VIEW IN TELEGRAM
123🔥104
Экономный ИИ. 12 способов снизить расходы (токенов/на токены)

Сжечь меньше токенов — 12 способов от того, кто 3 года экономит на ИИ. Главное: не пихать всё в один контекст, юзать китайские модели (они в 10 раз дешевле), писать спеки на английском и выносить ревью в отдельные сессии. Самый жирный совет — подписки вместо API, если работаешь активно. Правильный workflow экономит x5–x7, и это не про жадность, а про архитектуру.

Хоть у меня такой проблемы именно на разработке нету, но почитать было интересно. Появилось пару вдохновляющих идей на оптимизацию в моем SaaS.

Источник
1👍84👏2🗿1
Рофл про «бан Python» вышел из-под контроля и долетел до меня 😆

Cегодня у меня все деплои полегли разом. pip install ломится в pypi.org, а в ответ — тишина и таймаут.

Решение простое — полные зеркала PyPI держите, может поможет кому (подставил в мой ci):


variables:
PIP_INDEX_URL: "https://mirrors.aliyun.com/pypi/simple/"
PIP_EXTRA_INDEX_URL: "https://pypi.tuna.tsinghua.edu.cn/simple/" # запасной
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥632👍1😁1
АХАХАХААХА
36😁185👍3
Сегодня в 20:00 в нашем закрытом сообществе будет крутейшая встреча с Евгением Титковым @frontend_engineer_blog

Поговорим про Harness (это полная программная инфраструктура, обёртывающая LLM). Про то сколько ещё продлится счастье с подписками и, что не всё так однозначно. И гость действительно знает о чём говорит, ведь он работает в Facebook, в команде, которая делает все эти штуки.

В честь данного события скидка на 50% в сообщество, доступ только для уровня "Хозяин".

Осталось всего два места. Открывать без впн для оплаты РУ картой.
8🤣5🔥11
Режим лудки активирован, сегодня не спим 😆

P.S. Новый релиз модели от антропиков
Please open Telegram to view this post
VIEW IN TELEGRAM
92👍1
Fable, ну оооочень сладкий, мне прям очень зашла новая модель.

Но не просто так они же фейканули новым опусом, который был не таким крутым по инкрименту относительно прошлого. Вообщем маркетологи у антропиков сильные ребята.

Сейчас все мы половим эйфорию и потом выключат рубильник/пересадят на подписку за 200.

Если бы можно было бы сделать ставку, что через год адекватные модели по подписке будут стоить 400$+ в месяц, я бы её не задумываясь сделал 😨
Please open Telegram to view this post
VIEW IN TELEGRAM
9💯3😁21
Openclaw теперь легаси, Hermes набирает обороты. Уже 200 к звездочек. Я всё ещё не понимаю зачем это кому-то нужно, напишите в комменты юзкейсы 😭

https://github.com/NousResearch/hermes-agent
Please open Telegram to view this post
VIEW IN TELEGRAM
3😭2🤯1
Почему медведю нужно уйти 😂

Попробуйте тоже, приглашаю в комментарии закинуть результат.
Please open Telegram to view this post
VIEW IN TELEGRAM
4🤣215👍1😁1
📰 Контекстное окно: почему нейросеть забывает части разговора

Нейросеть забывает диалог не потому что тупая, а из-за архитектуры Transformer. Без контекстного окна — никуда, но оно не резиновое: каждое новое сообщение доупаковывается в промпт, и модель перечитывает всё с нуля. Плюс на русском тексте токенов уходит в 1.5–2 раза больше, чем на английском — та же история упирается в лимит быстрее. Механизм self-attention пытается удержать связи, но с ростом длины диалога это становится вычислительным адом. Короче: не ругай нейронку, что забыла начало — она просто не может иначе.

Источник
17🔥4👍21
Вначале думай, потом делай 🏴‍☠️

Раньше все идеи продумывались очень тщательно и тщательно планировались. Но и много идей хороших не проходили из-за сложности реализации. Сейчас приходит любая хрень в голову, и Клод говорит, что это отличная тема, гоу пробовать. Но для качественной реализации надо походить с ней пару дней и обкашлять, а то рискуете сделать что-то для одного пользователя (для вас). Вообщем, нужно что-то среднее между обдумыванием и реализацией.

Инструменты для валидации идеи и нужности её обществу уже давно существуют, просто не забываем, что наша цель — не просто выжечь токены за день, но и выжечь их с пользой.
Please open Telegram to view this post
VIEW IN TELEGRAM
114👍42💯1
Как же горит срака от Opus с его:
🤣163👍2😁2
HH выкатил новую фичу — автогенерация письма сопроводительного. Но тут несколько моментов:
1. Работодатель может оплатить функцию палева таких автооткликов и вы выстрелите себе в ногу)

Напомню, что в @roaster_resume_bot уже давно есть генерации сопроводительных писем, а ещё и автоответы рекрутерам. А самое главное, что hh воспринимает отлкик, через этот сервис, как ручной 🏴‍☠️

Уже 320 000 автооткликов было сделано на платформе. WW! А ещё куча других фич, я реально постарался.

P.S. Если хотите сидеть в вебверсии вот держите ссылку https://jobturbo.ru/
Please open Telegram to view this post
VIEW IN TELEGRAM
111👍54👏1
Стародубцев x IT-ХОЗЯЕВА
HH выкатил новую фичу — автогенерация письма сопроводительного. Но тут несколько моментов: 1. Работодатель может оплатить функцию палева таких автооткликов и вы выстрелите себе в ногу) Напомню, что в @roaster_resume_bot уже давно есть генерации сопроводительных…
Кстати 160 лямов токенов потребление за 5 дней у моего SaaS'a. Вообще удивительно, конечно насколько быстро растут нагрузки/потребление, решил сейчас видосики снимать с отчетами каждую неделю. Вы бы знали сколько неочивидных проблем я решил за время существования проекта, просто шок 😨

P.S. В личке у меня спросили почему у меня такой дешевый сервис, а у меня нету цели прям жестко заработать с него. Я использую это как опыт, ну и верю, что с хорошим отношением и диалогом с потребителями на кусок хлеба с маслом точно будет хватать.
Please open Telegram to view this post
VIEW IN TELEGRAM
221👍5🔥32👏1
👍 Хватит сливать токены! Базовая гигиена для экономии лимитов ИИ-агентов

Пройдемся по базе и обсудим, как в Claude Code, Codex и других агентах экономить токены, меньше засорять контекст, какие инструменты использовать, и в каких ситуациях.

🟢 Сегодня (20.06.26) в 20:00, в сообществе IT-ХОЗЯЕВА.
Please open Telegram to view this post
VIEW IN TELEGRAM
5🔥4🗿3🎉1
Хотите дойти до последнего уровня?
😁213🔥1
Как я себя ощущаю на двух подписках codex + claude 😆

Решил таки продолжить сравнение, не хочу быть фанатом одного тулинга. Из необычного gpt, сама проактивно мне предложила улучшение моего mr, после успешной реализации.
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥1663👍1
Навайбкодились?
👏113🏆3🔥11