⚪️ Клод Код и план-капкан - как работать в клоде в 2026
Если кто то помнит, я работал плотно в Клод коде до августа 2025, аж ещё с самой бэта версии клод кода, но перешёл в гпт/кодекс после отупения опуса-2025 и выпуска интересной гпт-5. Но это уже история
С тех пор мало чего поменялось: фронтир как был - две лабы, так и остался.
Сейчас созрел вернуться в некотором виде к клоду, не оставляя гпт: думаю, подписочку клода можно было бы взять! Для начала Pro, потом видимо Max. Уж больно иснересен опус 5.5, не могу пройти мимо.
Но нынче идёт 2026, и уже всё не так просто: клод банит налево и направо, борется с санкционниками и дистилляторами. Поэтому как назначенный санкционник - оцениваю риски огребания бана весьма неиллюзорными. А бана мы не хотим, мы хотим щупать опуса.
▶️ В связи с этим, прорабатываю план как грамотно и гигиенично овладеть клодом. Для начала нужно подсобрать информацию и "сверить часы". Сначала приведу вводные, которые я осознаю и которые мне кажется имеют значение:
• оплата для начала точно будет какой то буржуйской картой через сервис посредник, карта типа на меня, без шеринга с широкими народными массами;
• регион карты / биллинг адрес: для начала попробую найти US;
• я хочу поставить агента клода на VPS, чтобы не мучить ноутбук ещё пучком сессий разработки, но при этом я хочу работать в Desktop (подключим по SSH)
• датацентровые ip от vps не очень котируются клодом, поэтому нам нужен будет постоянный резидентный прокси (что даёт некоторую свободу от провайдера VPS); прокси по стране должен бы совпадать с биллинговым адресом картой оплаты
• на компе будем заводить отдельный профиль для веб сессий с клодом - и там будет своя временная зона (часовой пояс), и запрещена геолокация в браузере, и не будет посторонних rer$
• на всякий случай - телефон, у меня есть UK номера от giffgaff с возможностью получения SMS;
• телеметрию у десктопного клода будем отключать на моем ноуте через софтину типа Little Snitch / LuLu;
• думаю про фильтрацию запросов в клод через какой то прокси - типа CPA, но специализированный, чтобы он "лишнее" оттуда вырезал: если такое есть, не гуглил ещё, но думаю у китайских товарищей точно что то должно быть, - но пока не знаю надо ли оно
❓Кто на опыте: есть какие то замечания по плану? Есть советы? Планирую по итогам сетапа дать обзор - какой сетап в итоге "пошёл в бой" с бан-хаммером антропиков. Так сказать, "овладей клодом без регистрации и смс"
@deksden_notes
Если кто то помнит, я работал плотно в Клод коде до августа 2025, аж ещё с самой бэта версии клод кода, но перешёл в гпт/кодекс после отупения опуса-2025 и выпуска интересной гпт-5. Но это уже история
С тех пор мало чего поменялось: фронтир как был - две лабы, так и остался.
Сейчас созрел вернуться в некотором виде к клоду, не оставляя гпт: думаю, подписочку клода можно было бы взять! Для начала Pro, потом видимо Max. Уж больно иснересен опус 5.5, не могу пройти мимо.
Но нынче идёт 2026, и уже всё не так просто: клод банит налево и направо, борется с санкционниками и дистилляторами. Поэтому как назначенный санкционник - оцениваю риски огребания бана весьма неиллюзорными. А бана мы не хотим, мы хотим щупать опуса.
▶️ В связи с этим, прорабатываю план как грамотно и гигиенично овладеть клодом. Для начала нужно подсобрать информацию и "сверить часы". Сначала приведу вводные, которые я осознаю и которые мне кажется имеют значение:
• оплата для начала точно будет какой то буржуйской картой через сервис посредник, карта типа на меня, без шеринга с широкими народными массами;
• регион карты / биллинг адрес: для начала попробую найти US;
• я хочу поставить агента клода на VPS, чтобы не мучить ноутбук ещё пучком сессий разработки, но при этом я хочу работать в Desktop (подключим по SSH)
• датацентровые ip от vps не очень котируются клодом, поэтому нам нужен будет постоянный резидентный прокси (что даёт некоторую свободу от провайдера VPS); прокси по стране должен бы совпадать с биллинговым адресом картой оплаты
• на компе будем заводить отдельный профиль для веб сессий с клодом - и там будет своя временная зона (часовой пояс), и запрещена геолокация в браузере, и не будет посторонних rer$
• на всякий случай - телефон, у меня есть UK номера от giffgaff с возможностью получения SMS;
• телеметрию у десктопного клода будем отключать на моем ноуте через софтину типа Little Snitch / LuLu;
• думаю про фильтрацию запросов в клод через какой то прокси - типа CPA, но специализированный, чтобы он "лишнее" оттуда вырезал: если такое есть, не гуглил ещё, но думаю у китайских товарищей точно что то должно быть, - но пока не знаю надо ли оно
❓Кто на опыте: есть какие то замечания по плану? Есть советы? Планирую по итогам сетапа дать обзор - какой сетап в итоге "пошёл в бой" с бан-хаммером антропиков. Так сказать, "овладей клодом без регистрации и смс"
@deksden_notes
🔥12😁11🤯2
⚪️ Step 5 preview выложили в опенсорс
Как StepFun и обещали! Веса уже где положено, в BF16 / FP8:
🔗 Обнимашки : https://huggingface.co/stepfun-ai/Step-5-Preview
🔗 MdS : https://modelscope.ai/models/stepfun-ai/Step-5-Preview
🔗 гитхаб : https://github.com/stepfun-ai/Step-5-Preview
Напомню, что это модель:
• MoE 600b, a27b
• 1m контекст
• text + image, то есть с вижином
• vLLM / SGLang
🔗 Техблог про детали : https://platform.stepfun.ai/blog/inside-step-5-preview
Ну и ещё у них есть своя упряжка, Step Code:
🔗 гитхаб : https://github.com/stepfun-ai/Step-Code
На Aai индекс 44, это чуток хуже Glm 5.3 и чуток лучше DS 4.1 flash
@deksden_notes
Как StepFun и обещали! Веса уже где положено, в BF16 / FP8:
🔗 Обнимашки : https://huggingface.co/stepfun-ai/Step-5-Preview
🔗 MdS : https://modelscope.ai/models/stepfun-ai/Step-5-Preview
🔗 гитхаб : https://github.com/stepfun-ai/Step-5-Preview
Напомню, что это модель:
• MoE 600b, a27b
• 1m контекст
• text + image, то есть с вижином
• vLLM / SGLang
🔗 Техблог про детали : https://platform.stepfun.ai/blog/inside-step-5-preview
Ну и ещё у них есть своя упряжка, Step Code:
🔗 гитхаб : https://github.com/stepfun-ai/Step-Code
На Aai индекс 44, это чуток хуже Glm 5.3 и чуток лучше DS 4.1 flash
@deksden_notes
👍4
⚪️ Ship-темберь, день 11/28
Тибо отписался про сегодняшнюю фичу: они починили печально знаменитое кодексовское "model at capacity". Вроде как!
Теперь егдо лжно стать сильно меньше, а если и будет, упряжка покатится дальше сама (интересно, goal перестал блокироваться?)
Фича немного смешная - потому что сами сломали, сами починили. Но она капец как актуальна, потому что эти постоянные ошибки прям достали! я уже три пайплайна переделал на повышенную устойчивость к отваливанию провайдера - что раньше было совсем не актуально. Но иначе по утрам работать невозможно.
Посмотрим как оно будет в жизни
@deksden_notes
Тибо отписался про сегодняшнюю фичу: они починили печально знаменитое кодексовское "model at capacity". Вроде как!
Теперь егдо лжно стать сильно меньше, а если и будет, упряжка покатится дальше сама (интересно, goal перестал блокироваться?)
Фича немного смешная - потому что сами сломали, сами починили. Но она капец как актуальна, потому что эти постоянные ошибки прям достали! я уже три пайплайна переделал на повышенную устойчивость к отваливанию провайдера - что раньше было совсем не актуально. Но иначе по утрам работать невозможно.
Посмотрим как оно будет в жизни
@deksden_notes
👍6😁3🔥2🥴1
⚪️ Muse Spark Open - релиз
Цук не забыл про опенсорс, что редкость для нынешних американских фронтирных лаб - делается релиз модели Muse Spark Open
Ключенвые моменты:
• 816B, A42B, 1m контекст
• омни модальная (!!): текст, картинки, аудио/видео
• можно запустить на двух M5 Mac Studio через MLX
• работает с SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, llama.cpp, Unsloth
• AMD, Apple, Intel, and NVIDIA silicon
• лицензия - Muse Model License, with limited commercial terms (это надо изучать чего там такое)
🔗 Бложик : https://research.meta.ai/blog/muse-spark-open
🔗 Обнимашки : https://huggingface.co/collections/meta-models/muse-spark-open
Я глянул бенчи - штука послабее Spark 1.3, примерно на уровне 1.2, что жалко - 1.3 очень даже неплохая модель. И конечно заметно отстаёт от Чудо-Муси, особенно Полной.
По AAi выходит 39, это на уровне свежих флешей (ds 4.1 flash, qwen3.8 flash, mimo 2.6 flash).
Но тот же квен с Aai 40 имеет всего 180b параметров, что экономнее (правда контекст 256к).
А у glm 5.3 индекс 42 (заметно поумнее) и 320b.
То есть буржуям и Цуку пока не получилось в топ-опенсорс - не дотягивает до китайских релизов даже текущего поколения. Не знаю кого такое заинтересует особо - поклонников идеологически правильных корпусов данных?
Но за опенсорс в любом случае - спасибо!
@deksden_notes
Цук не забыл про опенсорс, что редкость для нынешних американских фронтирных лаб - делается релиз модели Muse Spark Open
Ключенвые моменты:
• 816B, A42B, 1m контекст
• омни модальная (!!): текст, картинки, аудио/видео
• можно запустить на двух M5 Mac Studio через MLX
• работает с SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, llama.cpp, Unsloth
• AMD, Apple, Intel, and NVIDIA silicon
• лицензия - Muse Model License, with limited commercial terms (это надо изучать чего там такое)
🔗 Бложик : https://research.meta.ai/blog/muse-spark-open
🔗 Обнимашки : https://huggingface.co/collections/meta-models/muse-spark-open
Я глянул бенчи - штука послабее Spark 1.3, примерно на уровне 1.2, что жалко - 1.3 очень даже неплохая модель. И конечно заметно отстаёт от Чудо-Муси, особенно Полной.
По AAi выходит 39, это на уровне свежих флешей (ds 4.1 flash, qwen3.8 flash, mimo 2.6 flash).
Но тот же квен с Aai 40 имеет всего 180b параметров, что экономнее (правда контекст 256к).
А у glm 5.3 индекс 42 (заметно поумнее) и 320b.
То есть буржуям и Цуку пока не получилось в топ-опенсорс - не дотягивает до китайских релизов даже текущего поколения. Не знаю кого такое заинтересует особо - поклонников идеологически правильных корпусов данных?
Но за опенсорс в любом случае - спасибо!
@deksden_notes
👍7
⚪️ Retry/repair/fix циклы в модельных и агентных пайплайнах
Предмет этой замеки - это софт, работающий с ИИ. То есть это не работа меня как разработчика с агентом, это то, какие подходы я использую в создаваемом софте, который, в свою очередь, работает с моделями, и, иногда, в агентом режиме.
Последние недели сильно "кашлял" инференс на клозедах ("model at capacity") - и много пайплайнов в разных системах сбоило. Пришлось реагировать. Провёл ревизию, настроил пайплайны с использованием ряда принципов, делюсь ими с вами.
▶️ Проблемы делю так:
1️⃣ Транспортные/провайдерские: это когда провайдер не отвечает, когда рвётся стрим ответа, когда "model at capacity" - это такие проблемы, когда можно просто повторить запрос; то есть делаем Retry;
Нестабильностью научила такому: повторы делаю с прогрессивной задержкой, первый через 10 секунд, второй - через 30 секунд, третий - через 60 секунд. Бюджет повторов 3 раза максимум, если ошибка после третьего, считаю что провайдер не дышит и роняю пайплайн. Если после любого повтора модель вернула успешный ответ, я сбрасываю счётчик повторов, и при следующей ошибке бюджет - опять 3 раза. Так удалось тянуть пайплайны если кодекс хоть как то дышал.
2️⃣ Есть провайдерские ошибки с лимитами (модель упёрлась в лимит подписки, кончились кредиты/деньги на аккаунте) и авторизацией (протухли логины/авторизации, были инвалидированы) - тогда нет смысла повторять запросы, сразу валим пайплайн. Важно не потерять причину, потому что часто при такой ошибке требуется вмешательство человека. В некоторых пайплайнах настроил ждать сброса лимитов, смотрим когда лимит сбросится, выжидаем и делаем retry.
3️⃣ Когда модель вернула некорректный ответ - не в структуре (схему дежить Structured Output), а логическая проблема в содержимом - неправильный идентификатор, некорректное значение.
Такое бывает у туповатых моделей типа Луны, если задача для них тяжёлая: много надо сопоставить, много вводных = путается.
Когда обнаружили логическую проблему, мы делаем Repair/Fix запрос. Тут берём специальный repair-промпт, который похож на первоначланьый, но содержит инструкции чтобы модель исправляла ошибку, и описание допущенной ошибки.
Также тут придумал такое: делать дауншифтинг задачи. Например, нужно было разобрать пачку данных из 50 элементов. В 2х допущена ошибка. В repair промпт берём только 2 косячных элемента, правильные элементы уже исключаем из задачи, и модель чинит только поломанное. Готовое и корректное убираем из контекста, повторно модели не показываем.
Если нужно было вернуть сложный объект, и была допущена ошибка с каким то блоком - просим перегенерировать только этот блок, без полной схемы. А уже в детерминированном коде после repair запроса патчим первоначальный объект чтобы получить полный и корректный итоговый ответ.
Что дает дауншифтинг? Модель может сфокусироваться на ошибочных элементах и ей проще починить допущенные проблемы. Скорее всего в первоначальной задаче модели не хватило ресурса внимания для подного и качественного решения, и снижение контекста и сложности задачи ей помогут. Если же дать первоначальный объём - легко получить ошибку в других 2-3 элементах, да и гонять повторно обработку уже обработанных данных - это такое себе решение.
4️⃣ Когда система оркестрирует агентную упряжку и сессия агента валится - тут расследуем причину падения. Если пресловутая "capacity" - то делаем по приципу похожему на модельный пайплайн, но в агентной версии. Те же 3 повтора, с прогрессирующей задержкой, но через промпт "continue". Если "не шмогла" - тогда валим пайплайн.
Аналогично для проблемы лимитов/авторизации в агентном пайплайне. Есть возможность подождать сброса - ждём (конечно, это про 5h лимит, недельные ждать пока необходимости не было).
❓ Вот такие подходы. Используете что то такое? Также делаете? Или какие то интересные находки на эту тему есть? Давайте обратную связь в комменты/чат ⬇️
🏞️ Картинка: Если кашляет — даём отдышаться. Если выдала квадратную шестерёнку — берём напильник
@deksden_notes
Предмет этой замеки - это софт, работающий с ИИ. То есть это не работа меня как разработчика с агентом, это то, какие подходы я использую в создаваемом софте, который, в свою очередь, работает с моделями, и, иногда, в агентом режиме.
Последние недели сильно "кашлял" инференс на клозедах ("model at capacity") - и много пайплайнов в разных системах сбоило. Пришлось реагировать. Провёл ревизию, настроил пайплайны с использованием ряда принципов, делюсь ими с вами.
▶️ Проблемы делю так:
1️⃣ Транспортные/провайдерские: это когда провайдер не отвечает, когда рвётся стрим ответа, когда "model at capacity" - это такие проблемы, когда можно просто повторить запрос; то есть делаем Retry;
Нестабильностью научила такому: повторы делаю с прогрессивной задержкой, первый через 10 секунд, второй - через 30 секунд, третий - через 60 секунд. Бюджет повторов 3 раза максимум, если ошибка после третьего, считаю что провайдер не дышит и роняю пайплайн. Если после любого повтора модель вернула успешный ответ, я сбрасываю счётчик повторов, и при следующей ошибке бюджет - опять 3 раза. Так удалось тянуть пайплайны если кодекс хоть как то дышал.
2️⃣ Есть провайдерские ошибки с лимитами (модель упёрлась в лимит подписки, кончились кредиты/деньги на аккаунте) и авторизацией (протухли логины/авторизации, были инвалидированы) - тогда нет смысла повторять запросы, сразу валим пайплайн. Важно не потерять причину, потому что часто при такой ошибке требуется вмешательство человека. В некоторых пайплайнах настроил ждать сброса лимитов, смотрим когда лимит сбросится, выжидаем и делаем retry.
3️⃣ Когда модель вернула некорректный ответ - не в структуре (схему дежить Structured Output), а логическая проблема в содержимом - неправильный идентификатор, некорректное значение.
Такое бывает у туповатых моделей типа Луны, если задача для них тяжёлая: много надо сопоставить, много вводных = путается.
Когда обнаружили логическую проблему, мы делаем Repair/Fix запрос. Тут берём специальный repair-промпт, который похож на первоначланьый, но содержит инструкции чтобы модель исправляла ошибку, и описание допущенной ошибки.
Также тут придумал такое: делать дауншифтинг задачи. Например, нужно было разобрать пачку данных из 50 элементов. В 2х допущена ошибка. В repair промпт берём только 2 косячных элемента, правильные элементы уже исключаем из задачи, и модель чинит только поломанное. Готовое и корректное убираем из контекста, повторно модели не показываем.
Если нужно было вернуть сложный объект, и была допущена ошибка с каким то блоком - просим перегенерировать только этот блок, без полной схемы. А уже в детерминированном коде после repair запроса патчим первоначальный объект чтобы получить полный и корректный итоговый ответ.
Что дает дауншифтинг? Модель может сфокусироваться на ошибочных элементах и ей проще починить допущенные проблемы. Скорее всего в первоначальной задаче модели не хватило ресурса внимания для подного и качественного решения, и снижение контекста и сложности задачи ей помогут. Если же дать первоначальный объём - легко получить ошибку в других 2-3 элементах, да и гонять повторно обработку уже обработанных данных - это такое себе решение.
4️⃣ Когда система оркестрирует агентную упряжку и сессия агента валится - тут расследуем причину падения. Если пресловутая "capacity" - то делаем по приципу похожему на модельный пайплайн, но в агентной версии. Те же 3 повтора, с прогрессирующей задержкой, но через промпт "continue". Если "не шмогла" - тогда валим пайплайн.
Аналогично для проблемы лимитов/авторизации в агентном пайплайне. Есть возможность подождать сброса - ждём (конечно, это про 5h лимит, недельные ждать пока необходимости не было).
❓ Вот такие подходы. Используете что то такое? Также делаете? Или какие то интересные находки на эту тему есть? Давайте обратную связь в комменты/чат ⬇️
🏞️ Картинка: Если кашляет — даём отдышаться. Если выдала квадратную шестерёнку — берём напильник
@deksden_notes
👍7🔥7❤2
Forwarded from Vlad
This media is not supported in your browser
VIEW IN TELEGRAM
⚪️ deja-vu: одна память для Claude Code, Codex, Cursor и ещё 39 агентов
#гостевой_пост #opensource
Каждый агент пишет историю сессий на диск, но забывает о ней. Перешел например с клода на кодекс (или забанили :)) и агент начинает с нуля, хотя множество задач уже решено.
deja-vu индексирует эти файлы у всех агентов сразу, включая всё, что было до установки. Нужное агент получает сам через хуки и MCP: в начале сессии, перед правкой файла, после упавшей команды. Без LLM и ключей, один бинарник на Go, всё локально. 19 тысяч сессий индексируются за 17 секунд.
Легко настраивается синк индекса между машинами по ssh для единой базы знаний. Заодно в нём остаются сессии, которые Claude Code сам удаляет через 30 дней. Между харнессами можно перескакивать удобно через tui, продолжая сессию.
https://github.com/vshulcz/deja-vu
Автор: @vshulcz
#гостевой_пост #opensource
Каждый агент пишет историю сессий на диск, но забывает о ней. Перешел например с клода на кодекс (или забанили :)) и агент начинает с нуля, хотя множество задач уже решено.
deja-vu индексирует эти файлы у всех агентов сразу, включая всё, что было до установки. Нужное агент получает сам через хуки и MCP: в начале сессии, перед правкой файла, после упавшей команды. Без LLM и ключей, один бинарник на Go, всё локально. 19 тысяч сессий индексируются за 17 секунд.
Легко настраивается синк индекса между машинами по ssh для единой базы знаний. Заодно в нём остаются сессии, которые Claude Code сам удаляет через 30 дней. Между харнессами можно перескакивать удобно через tui, продолжая сессию.
curl -fsSL https://raw.githubusercontent.com/vshulcz/deja-vu/main/install.sh | sh
deja install --auto
https://github.com/vshulcz/deja-vu
Автор: @vshulcz
❤16👍9🔥8
⚪️ Редакционная политика канала / чата
Коллеги! Напомню редакционную политику (нашей небольшой редакции в составе меня и иногда кодекса на подхвате) - народа стало немного поболее, может быть кто то не в курсе.
Помимо моих собственных заметок в канал/чат (новости, и авторские материалы) я публикую такой контент:
1️⃣ я поддерживаю и совершенно бесплатно публикую Open Source проекты от коммьюнити - оформление поста совершенно на ваш выбор, прошу только поставить тег #opensource для облегчения поиска в чате (поиск в телеге - это беда и горе, конечно); чтобы сделать публикацию - пишите мне в личку @deksden и присылайте свои посты; фильтр проектов не вводил, надеюсь на оценку коммьюнити
2️⃣ можно бесплатно делать публикацию интересных / важных / полезных постов ваших/сторонних каналов - я называю это #гостевой_пост , это можно тоже согласовать в личке если хотите в канал (там сильно больше аудитория чем в чате); но можно и в чат бростаь, если считаете какой то материал достойным репоста- я ревниво не баню репосты посторонних каналов если это в пределах разумного и не похоже на явное промо канала/чата, что, кстати, бывало - но и тут будут предупреждения автору без внезапных банов
3️⃣ я не одобряю несогласованную коммерцию в чате - все платные услуги можно писать в чат после согласования в личке, ибо бывали не самые хорошие прецеденты;
4️⃣ за рекламными постами - писать в личку; реклама делается согласованным продуктам и прошу отнестись с пониманием - она помогает поддерживать работну над каналом и чатом;
👉 льготные условия для рекламы есть для таких категорий постов:
- вакансии на профильные темы
- конференции, митапы, и прочие тематические эвенты - тоже пишите, для бесплатных вариантов льготы и тоже всё обсуждается;
▶️ В качестве информации: я провожу эксперимент по некоторому расширению охвата, и с недавних пор есть репост материалов канала в vc.ru/deksden_notes и там на удивление даже есть какая то аудитория/просмотры/подписчики.
Планирую подключить другие площадки, но в некотором раздумии о стоящих российских платформах. vk? dzen? max? Кто на опыте - пишите в комменты/чат, интересно мнение/аргументы/опыт. Вот например меня max смущает своей зашкварной репутацией. Вроде habr тематический, но для него надо бы формат немного другой, статьями по теме - да и аудитория с известной долей токсичности, а ту ещё и ИИ! В общем, есть чего обсуждать.
@deksden_notes
Коллеги! Напомню редакционную политику (нашей небольшой редакции в составе меня и иногда кодекса на подхвате) - народа стало немного поболее, может быть кто то не в курсе.
Помимо моих собственных заметок в канал/чат (новости, и авторские материалы) я публикую такой контент:
1️⃣ я поддерживаю и совершенно бесплатно публикую Open Source проекты от коммьюнити - оформление поста совершенно на ваш выбор, прошу только поставить тег #opensource для облегчения поиска в чате (поиск в телеге - это беда и горе, конечно); чтобы сделать публикацию - пишите мне в личку @deksden и присылайте свои посты; фильтр проектов не вводил, надеюсь на оценку коммьюнити
2️⃣ можно бесплатно делать публикацию интересных / важных / полезных постов ваших/сторонних каналов - я называю это #гостевой_пост , это можно тоже согласовать в личке если хотите в канал (там сильно больше аудитория чем в чате); но можно и в чат бростаь, если считаете какой то материал достойным репоста- я ревниво не баню репосты посторонних каналов если это в пределах разумного и не похоже на явное промо канала/чата, что, кстати, бывало - но и тут будут предупреждения автору без внезапных банов
3️⃣ я не одобряю несогласованную коммерцию в чате - все платные услуги можно писать в чат после согласования в личке, ибо бывали не самые хорошие прецеденты;
4️⃣ за рекламными постами - писать в личку; реклама делается согласованным продуктам и прошу отнестись с пониманием - она помогает поддерживать работну над каналом и чатом;
👉 льготные условия для рекламы есть для таких категорий постов:
- вакансии на профильные темы
- конференции, митапы, и прочие тематические эвенты - тоже пишите, для бесплатных вариантов льготы и тоже всё обсуждается;
▶️ В качестве информации: я провожу эксперимент по некоторому расширению охвата, и с недавних пор есть репост материалов канала в vc.ru/deksden_notes и там на удивление даже есть какая то аудитория/просмотры/подписчики.
Планирую подключить другие площадки, но в некотором раздумии о стоящих российских платформах. vk? dzen? max? Кто на опыте - пишите в комменты/чат, интересно мнение/аргументы/опыт. Вот например меня max смущает своей зашкварной репутацией. Вроде habr тематический, но для него надо бы формат немного другой, статьями по теме - да и аудитория с известной долей токсичности, а ту ещё и ИИ! В общем, есть чего обсуждать.
@deksden_notes
👍15🔥7👌2
⚪️ Ship-темберь, день 12/28
Вы уже прочитали в наше утро Тибо? Он написал что в день 12 они релизят улучшения работы кеша, улучшения GPT-6 Pro в веб чате, и виджет с мини для мобилок.
Итого: ресета не дали на выходные, - трогаем траву. Противоречивое чувство))
▶️ Как оцениваю день - не так уж и кисло, как показалось на первый взгляд!
Улучшения Pro в чате - это, на самом деле, довольно значимо, оно правдо стало заметно поумнее, ещё и субагентов запускает. Довольно мощная штука.
Виджет - это игровой момент, разбавить ситуацию, тоже одобряю, на самом деле.
А вот с кешем в кодексе хотел поглубже разобраться. Так то это тоже важно - это определяет как используется минимум 90% токенов при агентной работе и действительно прямо влияет на usage.
В общем, запряг кодекс разобраться с кодексом, поисследовать кодовую базу codex cli. Что доложили:
• теперь у агента и субагентов общий ключ контекста. раньше он зависил от thread id которая была у них разная, теперь от общей session id. Это не гарантирует общий кеш, но раньше запуск субагента обязательно создавал отдельный кеш, а теперь - только если префикс кеша разошёлся! подтверждается улучшение
• сделали так, что ребёнок наследует историю родителя, а инструкции ребёнку добавляются после. Условно:
Включается опцией multi_agent_v2.preserve_fork_prefix, и она по умолчанию выключена (!).
* в Responces api тюнинговали работу с бэкэндом, сохраняя метаданные сессии в запросах
• про TTL кеша в коде ничего не говорится, видимо это настройки на бэкэнде
👉 поэтому да, в коде явно видны улучшения работы с кешем. Но ресет все равно было бы неплохо получить, и желательно сегодня
(ц) такой день!
@deksden_notes
Вы уже прочитали в наше утро Тибо? Он написал что в день 12 они релизят улучшения работы кеша, улучшения GPT-6 Pro в веб чате, и виджет с мини для мобилок.
Итого: ресета не дали на выходные, - трогаем траву. Противоречивое чувство))
▶️ Как оцениваю день - не так уж и кисло, как показалось на первый взгляд!
Улучшения Pro в чате - это, на самом деле, довольно значимо, оно правдо стало заметно поумнее, ещё и субагентов запускает. Довольно мощная штука.
Виджет - это игровой момент, разбавить ситуацию, тоже одобряю, на самом деле.
А вот с кешем в кодексе хотел поглубже разобраться. Так то это тоже важно - это определяет как используется минимум 90% токенов при агентной работе и действительно прямо влияет на usage.
В общем, запряг кодекс разобраться с кодексом, поисследовать кодовую базу codex cli. Что доложили:
• теперь у агента и субагентов общий ключ контекста. раньше он зависил от thread id которая была у них разная, теперь от общей session id. Это не гарантирует общий кеш, но раньше запуск субагента обязательно создавал отдельный кеш, а теперь - только если префикс кеша разошёлся! подтверждается улучшение
• сделали так, что ребёнок наследует историю родителя, а инструкции ребёнку добавляются после. Условно:
Ребёнок: [общий контекст][история работы][инструкции ребёнка][задача]
Включается опцией multi_agent_v2.preserve_fork_prefix, и она по умолчанию выключена (!).
* в Responces api тюнинговали работу с бэкэндом, сохраняя метаданные сессии в запросах
• про TTL кеша в коде ничего не говорится, видимо это настройки на бэкэнде
👉 поэтому да, в коде явно видны улучшения работы с кешем. Но ресет все равно было бы неплохо получить, и желательно сегодня
(ц) такой день!
@deksden_notes
🔥8❤6👍4💯3😁1
⚪️ DeepSeek 4.1 Flash 1017
Слухи среди китайских товарищей оказались праведивыми: новый чекпоинт дипсика посетил нас в субботу!
Конечно, он всем сильнее и лучше прежнего. И опять сдвигает паретто влево, дешевле и умнее. Этим дипсики конечно круты
Кроме того, они релизят свои тулы Search & Fetch APIs - Each endpoint: $0.75 per 1,000 calls. Для DeepSeek Harness, Claude Code, Codex вызовы этих тулов через DeepSeek API бесплатно до 31 октября.
🔗 Анонс : https://x.com/deepseek_ai/status/2111375640717033777
🔗 Модель сразу на обнимашках : https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017
🔗 Ну и MdS конечно : https://modelscope.cn/models/deepseek-ai/DeepSeek-V4.1-Flash-1017
Для пользователей DSH: модель оптимизирована под эту упряжку, но надо ставить DeepSeek Harness 0.2.1-rc.1 или новее.
(ц) open source goes brr
@deksden_notes
Слухи среди китайских товарищей оказались праведивыми: новый чекпоинт дипсика посетил нас в субботу!
Конечно, он всем сильнее и лучше прежнего. И опять сдвигает паретто влево, дешевле и умнее. Этим дипсики конечно круты
Кроме того, они релизят свои тулы Search & Fetch APIs - Each endpoint: $0.75 per 1,000 calls. Для DeepSeek Harness, Claude Code, Codex вызовы этих тулов через DeepSeek API бесплатно до 31 октября.
🔗 Анонс : https://x.com/deepseek_ai/status/2111375640717033777
🔗 Модель сразу на обнимашках : https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017
🔗 Ну и MdS конечно : https://modelscope.cn/models/deepseek-ai/DeepSeek-V4.1-Flash-1017
Для пользователей DSH: модель оптимизирована под эту упряжку, но надо ставить DeepSeek Harness 0.2.1-rc.1 или новее.
(ц) open source goes brr
@deksden_notes
👍13🔥9👏5
⚪️ Ship-темберь, день 13/28
В тринадцатый день - он вовсе не несчастливый, а вполне себе ок. Ресет))
Обещают накатить до конца дня PST. Это примерно 10 утра по Москве, если календартного дня. Но даже если рабочего - это 3-4 ночи, но кто работает то в субботу? В общем, ночью/под утро ждём ресет!
(ц) фаст на всё!
@deksden_notes
В тринадцатый день - он вовсе не несчастливый, а вполне себе ок. Ресет))
Обещают накатить до конца дня PST. Это примерно 10 утра по Москве, если календартного дня. Но даже если рабочего - это 3-4 ночи, но кто работает то в субботу? В общем, ночью/под утро ждём ресет!
(ц) фаст на всё!
@deksden_notes
👍12🔥7❤2🤗1
⚪️ OpenCode - "distillation attack"
Проиозошла атака на openCode, затронуто 1.4% пользователей, всем "затронутым" прислали письма счастья. Украли привязанные к opencode ключики сторонних вендоров (там ключи куда то надо было привязвать? не знал) и слили с этих ключей немало токенов, есть сообщения про $400, $1700. Не ясно - будут ли компенсированы эти затраты, хотя опенкод говорит, что работают совместно с вендорами, может быть и будет что то!
Странная история. Не совсем понятно - при чём тут дистилляция, если это просто взлом и кража апи доступа.
🔗 Анонс этой : https://x.com/opencode/status/2111519637049319818
(ц) аккуратненько!
@deksden_notes
Проиозошла атака на openCode, затронуто 1.4% пользователей, всем "затронутым" прислали письма счастья. Украли привязанные к opencode ключики сторонних вендоров (там ключи куда то надо было привязвать? не знал) и слили с этих ключей немало токенов, есть сообщения про $400, $1700. Не ясно - будут ли компенсированы эти затраты, хотя опенкод говорит, что работают совместно с вендорами, может быть и будет что то!
Странная история. Не совсем понятно - при чём тут дистилляция, если это просто взлом и кража апи доступа.
🔗 Анонс этой : https://x.com/opencode/status/2111519637049319818
(ц) аккуратненько!
@deksden_notes
😐9
⚪️ Ship-темберь, день 14/28
Тибо пишет про небольшую доработку: позволили в десктоп апп редактировать предыдущие сообщения
🔗 Пост : https://x.com/thsottiaux/status/2111990254408434095
По мне - действительно небольшая но удобная фича
❓ У меня в приложении пока не нашёл - как это делается. У кого то работает?
@deksden_notes
Тибо пишет про небольшую доработку: позволили в десктоп апп редактировать предыдущие сообщения
🔗 Пост : https://x.com/thsottiaux/status/2111990254408434095
По мне - действительно небольшая но удобная фича
❓ У меня в приложении пока не нашёл - как это делается. У кого то работает?
@deksden_notes
👎6👍4🤔4
Тратите много денег на API LLM? Это поправимо
Если вы делаете продукт с ИИ или гоняете агентов через API, то наверняка уже считали, сколько денег уходит на запросы. На этапе прототипа токены улетают вполне по-взрослому, хотя сам продукт ещё ничего не зарабатывает.
Ко мне пришли ребята из CheapGPT. У них единый API к GPT, Claude и Gemini, а цены до 3 раз ниже, чем напрямую у провайдеров. Таких сервисов сейчас немало, и к любому из них у меня возникают вопросы:
🔒 Что происходит с моими логами?
Содержимое промптов и ответов CheapGPT не хранит. Если этого мало, есть защищённый режим: запросы шифруются, и сервис технически не может прочитать, что вы туда отправляете.
✅ Кто их на самом деле обрабатывает?
Многие дешёвые API работают через цепочку перекупщиков, часто китайских. Где в этой цепочке оседают ваши промпты и кому их потом продают, не знает никто. У CheapGPT запросы уходят только напрямую на сервера OpenAI, Anthropic и Google с подписочных аккаунтов. Без посредников между ними и вами. Проверить это можно благодаря открытому коду и dstack
📊 Не подсовывают ли мне модель попроще?
У CheapGPT бенчмарки открытые, и их можно прогнать самому и сравнить качество ответов. Я бы заодно замерил задержки на своих задачах, особенно если от скорости ответа зависит работа продукта.
🚀 Выдерживает ли высокую нагрузку?
Если у вас постоянная большая нагрузка, то по запросу CheapGPT выделит 1000+ RPM.
💸 А что по деньгам?
Экономия зависит от модели. Например, сейчас GPT-6.1 Sol у OpenAI стоит $2 за вход и $10 за выход. У CheapGPT тот же миллион стоит $0,667 на входе и $3,333 на выходе. Получается примерно в 3 раза дешевле. Claude же дешевле на 40 процентов.
Откуда такая разница? Ребята закупают подписки и превращают их в API, а закупку аккаунтов, ротацию, баны и всю сопутствующую возню берут на себя.
API совместим с OpenAI и Anthropic, работают их SDK. Достаточно получить ключ, заменить адрес API и выбрать модель
Оплата в рублях, без зарубежных карт. С юрлицами работают по договору и дают закрывающие документы.
Если уже используете эти модели по API, посмотрите цены и попробуйте CheapGPT на своих сценариях. А если сейчас подключать нечего, за развитием проекта можно следить https://t.me/AIproductiv
Реклама: ИП Зайделов Анатолий Георгиевич. ИНН 781129420099.
#реклама
Если вы делаете продукт с ИИ или гоняете агентов через API, то наверняка уже считали, сколько денег уходит на запросы. На этапе прототипа токены улетают вполне по-взрослому, хотя сам продукт ещё ничего не зарабатывает.
Ко мне пришли ребята из CheapGPT. У них единый API к GPT, Claude и Gemini, а цены до 3 раз ниже, чем напрямую у провайдеров. Таких сервисов сейчас немало, и к любому из них у меня возникают вопросы:
🔒 Что происходит с моими логами?
Содержимое промптов и ответов CheapGPT не хранит. Если этого мало, есть защищённый режим: запросы шифруются, и сервис технически не может прочитать, что вы туда отправляете.
✅ Кто их на самом деле обрабатывает?
Многие дешёвые API работают через цепочку перекупщиков, часто китайских. Где в этой цепочке оседают ваши промпты и кому их потом продают, не знает никто. У CheapGPT запросы уходят только напрямую на сервера OpenAI, Anthropic и Google с подписочных аккаунтов. Без посредников между ними и вами. Проверить это можно благодаря открытому коду и dstack
📊 Не подсовывают ли мне модель попроще?
У CheapGPT бенчмарки открытые, и их можно прогнать самому и сравнить качество ответов. Я бы заодно замерил задержки на своих задачах, особенно если от скорости ответа зависит работа продукта.
🚀 Выдерживает ли высокую нагрузку?
Если у вас постоянная большая нагрузка, то по запросу CheapGPT выделит 1000+ RPM.
💸 А что по деньгам?
Экономия зависит от модели. Например, сейчас GPT-6.1 Sol у OpenAI стоит $2 за вход и $10 за выход. У CheapGPT тот же миллион стоит $0,667 на входе и $3,333 на выходе. Получается примерно в 3 раза дешевле. Claude же дешевле на 40 процентов.
Откуда такая разница? Ребята закупают подписки и превращают их в API, а закупку аккаунтов, ротацию, баны и всю сопутствующую возню берут на себя.
API совместим с OpenAI и Anthropic, работают их SDK. Достаточно получить ключ, заменить адрес API и выбрать модель
Оплата в рублях, без зарубежных карт. С юрлицами работают по договору и дают закрывающие документы.
Если уже используете эти модели по API, посмотрите цены и попробуйте CheapGPT на своих сценариях. А если сейчас подключать нечего, за развитием проекта можно следить https://t.me/AIproductiv
Реклама: ИП Зайделов Анатолий Георгиевич. ИНН 781129420099.
#реклама
🤡16🔥11🤮3💩3👍2❤1
⚪️ Релиз MiniMax M3.1 Flash
Space Bunny оказался новым флешем от минимаксов!
И вот нынче - релиз
🔗 Анонс: https://x.com/MiniMax_AI/status/2112150867868541221
Отмечают префоманс в доменах Cowork (видимо, так назвали домен агента для задач бизнеса), Coding, Visual Reasoning. Интересно что по бенчам уделывает glm 5.3 почти по всем показателям.
Ценники по апи: $0.15 ($0.015) / $0.60
У минимаксов есть свои подписки (в том числе и на видео-модель):
🔗 подписки : https://www.minimax.io/m-plan
Технических деталей не сказали, тех репорта нет пока, веса пока не опубликованы - это будет сделано 23 октября, уже скоро.
Другие графики и бенчи кидаю в комменты, как обычно - ну и в чате канала они конечно то же транслируются ⬇️
(ц) больше флешей хороших и разных!
@deksden_notes
Space Bunny оказался новым флешем от минимаксов!
И вот нынче - релиз
🔗 Анонс: https://x.com/MiniMax_AI/status/2112150867868541221
Отмечают префоманс в доменах Cowork (видимо, так назвали домен агента для задач бизнеса), Coding, Visual Reasoning. Интересно что по бенчам уделывает glm 5.3 почти по всем показателям.
Ценники по апи: $0.15 ($0.015) / $0.60
У минимаксов есть свои подписки (в том числе и на видео-модель):
🔗 подписки : https://www.minimax.io/m-plan
Технических деталей не сказали, тех репорта нет пока, веса пока не опубликованы - это будет сделано 23 октября, уже скоро.
Другие графики и бенчи кидаю в комменты, как обычно - ну и в чате канала они конечно то же транслируются ⬇️
(ц) больше флешей хороших и разных!
@deksden_notes
🔥7👍5
⚪️ Ship-темберь, день 15/28
Нет, не ресет ((
Новый формат презентации на этом шипмасе - нас ждало "кулинароное шоу" про рамен. Чего именно там показывали:
• агента dot, который работает постоянно, а не только в разговоре. Он сам пишет сообщения, собирает рецепт и список ингредиентов
• облачные задачи Codex, которые продолжают работать, когда ноутбук закрыт
• ChatGPT Space, общую страницу для пользователя и dot, где лежит рецепт
• обновлённый Codex CLI с TUI на весь экран, с панелью всех агентов, переносом разговора в отдельную копию репозитория и голосовым общением с терминалом
• голосовую модель GPT-Live 1. Ведущий нарочно мямлит и делает паузы, а модель не перебивает, отвечая «I was waiting my turn»
• игру «Ramen Gate» в 8-битном стиле: её ваншотит с голосового запроса Codex в режиме «GPT-x-Astra ultra fast», а потом в неё играют на портативной консоли ModRetro.
• несколько коммьюнити проектов: космический шутер, игру «Draw a Horse», и как расшифровывали шифр наполеоновского генерала.
🔗 Сабж: https://x.com/OpenAIDevs/status/2112242739198959913
❓ Но чего из всего этого именно нового - я не совсем понял! Вы поняли?
(ц) ресет был бы уместнее
@deksden_notes
Нет, не ресет ((
Новый формат презентации на этом шипмасе - нас ждало "кулинароное шоу" про рамен. Чего именно там показывали:
• агента dot, который работает постоянно, а не только в разговоре. Он сам пишет сообщения, собирает рецепт и список ингредиентов
• облачные задачи Codex, которые продолжают работать, когда ноутбук закрыт
• ChatGPT Space, общую страницу для пользователя и dot, где лежит рецепт
• обновлённый Codex CLI с TUI на весь экран, с панелью всех агентов, переносом разговора в отдельную копию репозитория и голосовым общением с терминалом
• голосовую модель GPT-Live 1. Ведущий нарочно мямлит и делает паузы, а модель не перебивает, отвечая «I was waiting my turn»
• игру «Ramen Gate» в 8-битном стиле: её ваншотит с голосового запроса Codex в режиме «GPT-x-Astra ultra fast», а потом в неё играют на портативной консоли ModRetro.
• несколько коммьюнити проектов: космический шутер, игру «Draw a Horse», и как расшифровывали шифр наполеоновского генерала.
🔗 Сабж: https://x.com/OpenAIDevs/status/2112242739198959913
❓ Но чего из всего этого именно нового - я не совсем понял! Вы поняли?
(ц) ресет был бы уместнее
@deksden_notes
💯9🤣6👨💻2🫡2❤1
⚪️ Clairic от Cloudflare
Новый релиз модели от CF (помните их решатель Clef?) - и они пытаютя открыть новый тип моделей в дополнение к решателям: extract модели.
Все отметили необычный успёх и концептуальность предложенного TypeSafe нового класса моделей (они назвали их SystemOne) - decision модели (решатели), и Jev как первый в своём классе. Тьма компаний быстро выпустило свои аналоги - потому что модель, отвечающая очень быстро, за доли секунды (особенно в сравнении с ризонинг LLM моделями), оказалась способна решать много конкретных задач в пайплайнах.
Теперь CF представляет модель в этой же концепции SystemOne, но которая вместо решения из предложенных вариантов делает:
• извлечение данных из предложенного контекста
• определение неких значений (estimating values) на основе контекста
• предсказание значений в серии
Модель работает быстро, стоит недорого ($0.10 за вход), 64k контекста, картинки понимает.
Для того, чтобы въехать в тему - лучше всего прочитать блок, а потом смотреть доку:
🔗 Блог, самое подробное и концептуальное пояснение : https://blog.cloudflare.com/clairic-extraction-model/
🔗 Карточка модели : https://developers.cloudflare.com/workers-ai/models/clairic/
🔗 Дока про концепцию extraction моделей : https://developers.cloudflare.com/workers-ai/concepts/extraction-models/
Я вижу кучу мест, где можно применить подобные подходы в пайплайнах обработки разных данных и задач! Неожиданно такие инновационные моменты видеть от нетрадиционного игрока в ИИ - CF.
(ц) оч круто и интересно
@deksden_notes
Новый релиз модели от CF (помните их решатель Clef?) - и они пытаютя открыть новый тип моделей в дополнение к решателям: extract модели.
Все отметили необычный успёх и концептуальность предложенного TypeSafe нового класса моделей (они назвали их SystemOne) - decision модели (решатели), и Jev как первый в своём классе. Тьма компаний быстро выпустило свои аналоги - потому что модель, отвечающая очень быстро, за доли секунды (особенно в сравнении с ризонинг LLM моделями), оказалась способна решать много конкретных задач в пайплайнах.
Теперь CF представляет модель в этой же концепции SystemOne, но которая вместо решения из предложенных вариантов делает:
• извлечение данных из предложенного контекста
• определение неких значений (estimating values) на основе контекста
• предсказание значений в серии
Модель работает быстро, стоит недорого ($0.10 за вход), 64k контекста, картинки понимает.
Для того, чтобы въехать в тему - лучше всего прочитать блок, а потом смотреть доку:
🔗 Блог, самое подробное и концептуальное пояснение : https://blog.cloudflare.com/clairic-extraction-model/
🔗 Карточка модели : https://developers.cloudflare.com/workers-ai/models/clairic/
🔗 Дока про концепцию extraction моделей : https://developers.cloudflare.com/workers-ai/concepts/extraction-models/
Я вижу кучу мест, где можно применить подобные подходы в пайплайнах обработки разных данных и задач! Неожиданно такие инновационные моменты видеть от нетрадиционного игрока в ИИ - CF.
(ц) оч круто и интересно
@deksden_notes
👀6🤔4🔥2
⚪️ Codex Reset
Это было неожиданно! У меня оставался 1%, залез в окно с usage выбирать - или тратить банковый ресет, или пожечь кредитов, и тут прилетел ресет)))
Чуть чуть и было бы очень обидно))
(ц) ынжой!
@deksden_notes
Это было неожиданно! У меня оставался 1%, залез в окно с usage выбирать - или тратить банковый ресет, или пожечь кредитов, и тут прилетел ресет)))
Чуть чуть и было бы очень обидно))
(ц) ынжой!
@deksden_notes
💯16🔥11😁2
⚪️ OSS Scanner - Клод ревью для опенсорса
Клод начал программу, предоставляющую бесплатное ревью для опенсорс проектов. Полностью агентное, без перепроверки человеком - поэтому могут быть вопросы. Зато обещают самые сильные модели, включая Мифоса (видимо, без фоллбэков в старенького опуса).
🔗 Анонс: https://x.com/claudedevs/status/2112299602510749992
🔗 Запись: https://github.com/anthropics/oss-scanner
🔗 FAQ: https://red.anthropic.com/oss-scanner/
Критерии участия не совсем чёткие и оценочные. Берут важные проекты, у которых есть пользователи и которые сопровождаются. Не форки. В общем, почитайте FAQ кому актуально!
Не для всех, зато точно на пользу и бесплатно
(ц) молодцы, на самом деле
@deksden_notes
Клод начал программу, предоставляющую бесплатное ревью для опенсорс проектов. Полностью агентное, без перепроверки человеком - поэтому могут быть вопросы. Зато обещают самые сильные модели, включая Мифоса (видимо, без фоллбэков в старенького опуса).
🔗 Анонс: https://x.com/claudedevs/status/2112299602510749992
🔗 Запись: https://github.com/anthropics/oss-scanner
🔗 FAQ: https://red.anthropic.com/oss-scanner/
Критерии участия не совсем чёткие и оценочные. Берут важные проекты, у которых есть пользователи и которые сопровождаются. Не форки. В общем, почитайте FAQ кому актуально!
Не для всех, зато точно на пользу и бесплатно
(ц) молодцы, на самом деле
@deksden_notes
👍5
⚪️ PandaCode
Вот про такую штуку скажу - она как T3 Code, но экономичнее кушает память, потому как Tauri 2, Rust, SQLite / TypeScript.
🔗 Репо : https://github.com/aicodeking/pandacode
почти MIT но на коммерческих форках требует атрибуцию на оригинал.
macOS / win / linux
Рулит установленными упряжками, codex, claude, и многими другими. Фич много, гляньте репо
(ц) Выглядит достойно
@deksden_notes
Вот про такую штуку скажу - она как T3 Code, но экономичнее кушает память, потому как Tauri 2, Rust, SQLite / TypeScript.
🔗 Репо : https://github.com/aicodeking/pandacode
почти MIT но на коммерческих форках требует атрибуцию на оригинал.
macOS / win / linux
Рулит установленными упряжками, codex, claude, и многими другими. Фич много, гляньте репо
(ц) Выглядит достойно
@deksden_notes
👍11
⚪️ DeepInfer от DeepSeek
Очень интересный релиз от Дипсиков для тех, кто в теме инференса - их собственный инференс-фреймворк. Учитывая какие мастера Дипсики сделать хорошо и дёшево...
🔗 репо: https://github.com/deepseek-ai/DeepInfer
🔹 High-performance kernels & optimized inference engine
🔹 Distributed inference & speculative decoding
🔹 SWA Bounded Replay & structured outputs
А ещё библиотеку для преобразования взоящих запросов в нужный дипсикам формат, токенизации и генерации обратно ответов:
🔗 репо : https://github.com/deepseek-ai/deepseek-recipe
🌍 Open models. Open kernels. Open inference.
Много чего людям в теме можно изучать и много чего причерпнуть. Круто, да.
(ц) не ту компанию назвали openAI
@deksden_notes
Очень интересный релиз от Дипсиков для тех, кто в теме инференса - их собственный инференс-фреймворк. Учитывая какие мастера Дипсики сделать хорошо и дёшево...
🔗 репо: https://github.com/deepseek-ai/DeepInfer
🔹 High-performance kernels & optimized inference engine
🔹 Distributed inference & speculative decoding
🔹 SWA Bounded Replay & structured outputs
А ещё библиотеку для преобразования взоящих запросов в нужный дипсикам формат, токенизации и генерации обратно ответов:
🔗 репо : https://github.com/deepseek-ai/deepseek-recipe
🌍 Open models. Open kernels. Open inference.
Много чего людям в теме можно изучать и много чего причерпнуть. Круто, да.
(ц) не ту компанию назвали openAI
@deksden_notes
👍15🔥10🍓3💯1
⚪️ Самая эффективная упряжка для DeepSeek 4.1 Flash-1017 в Bug Hunt Bench
Автор бенча Bug Hunt (Paweł Huryn) на днях заметил, что результаты нового флеша-1017 от Дипсиков заметно выросли в родной упряжке. В связи с этим, он решил затестить - на каких упряжках новый флеш работает эффективнее всего с задачей поиска багов.
🔗 Почитать в первоисточнике тред : https://x.com/PawelHuryn/status/2112571119412646370
Что оказалось: самые сильные для его задачи универсальные упряжки - Pi, Grok Build CLI, and OpenCode 2.0.
Накидаю табличек с треда в комменты поста на канале/чат ⬇️ Ну а за деталями можно и в оригинальный пост сходить
(ц) Астрологи объявли неделю Дип Сика, количество материалов про ДипСик удваивается!
@deksden_notes
Автор бенча Bug Hunt (Paweł Huryn) на днях заметил, что результаты нового флеша-1017 от Дипсиков заметно выросли в родной упряжке. В связи с этим, он решил затестить - на каких упряжках новый флеш работает эффективнее всего с задачей поиска багов.
🔗 Почитать в первоисточнике тред : https://x.com/PawelHuryn/status/2112571119412646370
Что оказалось: самые сильные для его задачи универсальные упряжки - Pi, Grok Build CLI, and OpenCode 2.0.
Накидаю табличек с треда в комменты поста на канале/чат ⬇️ Ну а за деталями можно и в оригинальный пост сходить
(ц) Астрологи объявли неделю Дип Сика, количество материалов про ДипСик удваивается!
@deksden_notes
👍16❤5