Reality_AI
Руки всё сильнее и сильнее чешутся попробовать Гермеса. У нас в компании есть парочка ассистентов на основе OpenClaw (про них позже расскажу), и дома разворачивал на Raspberry Pi 2B ассистента picoclaw, хотя пока он лежит выключенный, не придумал ему готовых…
Решил сегодня пока в фокусе продолжить тему железа. Точнее, больше полипропилена.
У меня уже была одна точка раздачи полива в теплице, но это один из углов участка, не до всех нужных мест шланги дотягиваются, хоть каждый год их и докупаю. И четыре клапана мало.
Решил сделать с другого угла ещё одну точку раздачи. Под руками как раз был утеплённый щиток, приклепал его к забору. Спаял блок клапанов, закрепил. Надо довести ПП до туда, недалеко, и собрать щит и плату с ESPшкой. Поставлю ещё внешнюю розетку с реле для подключения насоса бассейна.
Ещё в планах есть довпаять в систему датчик давления 4-20 мА и расходомер. Чтобы было не просто "включить полив", а "вылить 100л воды в теплицу и потом 50л на грядки". Или по времени. Желательно в т.ч. голосовым ИИ-ассистенту.
У меня уже была одна точка раздачи полива в теплице, но это один из углов участка, не до всех нужных мест шланги дотягиваются, хоть каждый год их и докупаю. И четыре клапана мало.
Решил сделать с другого угла ещё одну точку раздачи. Под руками как раз был утеплённый щиток, приклепал его к забору. Спаял блок клапанов, закрепил. Надо довести ПП до туда, недалеко, и собрать щит и плату с ESPшкой. Поставлю ещё внешнюю розетку с реле для подключения насоса бассейна.
Ещё в планах есть довпаять в систему датчик давления 4-20 мА и расходомер. Чтобы было не просто "включить полив", а "вылить 100л воды в теплицу и потом 50л на грядки". Или по времени. Желательно в т.ч. голосовым ИИ-ассистенту.
Reality_AI
Ещё в планах есть довпаять в систему датчик давления 4-20 мА и расходомер.
... и когда-нибудь вывести давление воды и напряжение по фазам в нашем поселке в Grafana ¯\_(ツ)_/¯
🔥1
Forwarded from Pavel Zloi
Сила трёх
MCP, Skills и CLI часто пытаются сталкивать лбами, будто нужно выбрать что-то одно. Но это разные слои агентного воркфлоу. MCP даёт доступ к внешним системам, CLI закрывает тяжёлые, рутинные или редкие операции, а Skills прописывает правила работы и постепенно превращается в память агента.
Читать пост "Сила трёх: MCP, Skills, CLI"
PS. Всё в телегу одним постом не влезло, поэтому запостил у себя на Бусти, кстати подписывайтесь, приятного прочтения.
MCP, Skills и CLI часто пытаются сталкивать лбами, будто нужно выбрать что-то одно. Но это разные слои агентного воркфлоу. MCP даёт доступ к внешним системам, CLI закрывает тяжёлые, рутинные или редкие операции, а Skills прописывает правила работы и постепенно превращается в память агента.
Читать пост "Сила трёх: MCP, Skills, CLI"
PS. Всё в телегу одним постом не влезло, поэтому запостил у себя на Бусти, кстати подписывайтесь, приятного прочтения.
Вот обещанный ролик про Spring AI 2:
[https://youtu.be/T5QkZPjPNEM]
Я решил делать не один ролик, а серию. Но продолжать буду в зависимости от вашей реацкции.
Cмотрите, ставьте лайки, пишите комментарии и шарьте тем, кому это может быть полезно.
Я правда старался 🙂
[https://youtu.be/T5QkZPjPNEM]
Я решил делать не один ролик, а серию. Но продолжать буду в зависимости от вашей реацкции.
Cмотрите, ставьте лайки, пишите комментарии и шарьте тем, кому это может быть полезно.
Я правда старался 🙂
YouTube
Spring AI 2 - новый baseline. Настраиваем ChatClient против локальной модели.
Первый выпуск серии про Spring AI 2.
Разбираем базовый, но очень важный механизм: ChatClient. Поднимаем локальную LLM через Ollama, подключаем её к Java-приложению, настраиваем параметры генерации и смотрим, что реально происходит внутри, когда модель выбирает…
Разбираем базовый, но очень важный механизм: ChatClient. Поднимаем локальную LLM через Ollama, подключаем её к Java-приложению, настраиваем параметры генерации и смотрим, что реально происходит внутри, когда модель выбирает…
🔥1
Forwarded from AI for Devs
🪨 JetBrains протестировали скилл Caveman: обещанные 65% экономии токенов превратились в 8.5%
Caveman — скилл для агентов вроде Claude Code, который переводит текстовые ответы в рубленый «пещерный» стиль без служебных слов. Код и вызовы инструментов не трогает. Целых 85к звёзд на GitHub!
Тест прогнали на бенчмарке SkillsBench, 86 из 87 задач, Claude Sonnet 5 с низким reasoning effort. Сравнивали одни и те же задачи без скилла и с принудительно включённым.
Результат по 82 парным задачам:
1. Экономия output-токенов: 8.5% (592k против 542k), далеко от обещанных 65%. Авторы считали экономию на чатовой прозе, а в агентной работе основную массу токенов занимают код, диффы и тексты ошибок, которые скилл не сжимает.
2. Качество не пострадало: средний скор 0.326 против 0.311, статистически неразличимо (p = 0.82).
3. Экономия $ отсутствует. По логике 8.5% экономии токенов должны были дать скидку около 10% по деньгам. Но один вырожденный случай всё нивелировал: одна задача перешла порог в 200k токенов контекста и попала под дорогой тариф API, её цена выросла с $0.33 до $8.29. Из-за этого прогон со скиллом вышел на 11.6% дороже ($40.60 против $36.39).
Со скиллом или без, результат по сути один и тот же, что по деньгам, что по качеству. Разве что читать ответы веселее)
@ai_for_devs
Caveman — скилл для агентов вроде Claude Code, который переводит текстовые ответы в рубленый «пещерный» стиль без служебных слов. Код и вызовы инструментов не трогает. Целых 85к звёзд на GitHub!
Тест прогнали на бенчмарке SkillsBench, 86 из 87 задач, Claude Sonnet 5 с низким reasoning effort. Сравнивали одни и те же задачи без скилла и с принудительно включённым.
Результат по 82 парным задачам:
1. Экономия output-токенов: 8.5% (592k против 542k), далеко от обещанных 65%. Авторы считали экономию на чатовой прозе, а в агентной работе основную массу токенов занимают код, диффы и тексты ошибок, которые скилл не сжимает.
2. Качество не пострадало: средний скор 0.326 против 0.311, статистически неразличимо (p = 0.82).
3. Экономия $ отсутствует. По логике 8.5% экономии токенов должны были дать скидку около 10% по деньгам. Но один вырожденный случай всё нивелировал: одна задача перешла порог в 200k токенов контекста и попала под дорогой тариф API, её цена выросла с $0.33 до $8.29. Из-за этого прогон со скиллом вышел на 11.6% дороже ($40.60 против $36.39).
Со скиллом или без, результат по сути один и тот же, что по деньгам, что по качеству. Разве что читать ответы веселее)
@ai_for_devs
GitHub
GitHub - JuliusBrussee/caveman: 🪨 why use many token when few token do trick. Viral skill + proxy for coding agents that cuts 65%…
🪨 why use many token when few token do trick. Viral skill + proxy for coding agents that cuts 65% of tokens by talking like a caveman. - JuliusBrussee/caveman
👍2
Про ИИ-сисадмина
Не знаю, дискуссионный ли в интернетах этот вопрос, или нет, но у меня есть свой убедительный опыт, отвечающий на него. Выполняют ли ИИ-агенты инфраструктурные задачи лучше, чем программируют? Да! Модели, сожравшие весь доступный интернет, очень точно помнят все консольные утилитки и их параметры для работы с сетью, proxmox, nginx, curl и прочим. Они прочитали все мануалы и форумы. Особенно качественно, если какая-то утилита уже покрылась мхом и за последние десятилетия только оттачивалась в мелочах.
В нашей компании этой весной мы перестраивали внутреннюю инфраструктуру. Так вот, ИИ-агент, работая в git-репозитории с парой .md файлов, выполнил 60%+ работы. Именно на его сессиях чётко проявился паттерн с обратной связью. Сейчас типичная сессия выглядит так:
И агент идёт шуршать созданными навыками: сперва уточнит у меня всё, что я забыл сообщить из базового, выяснит свободный IP = VMID в сети виртуалок, убедится в наличии debian genericcloud образа, настроит cloud-init шаблон, создаст её, сгенерирует и установит надёжный пароль, добавит цель в VictoriaMetrics, пропишет в отдельном MCP-сервере коннект к ней. При необходимости отдельным навыком поставит докер и настроит cron-скрипты для очистки от мусора.
Зафиксирует новую VM с ключевыми параметрами в AS-IS.md и запушит его.
Могу сразу попросить развернуть в докере какой-то сервис (например, банально postgres), для этого у меня ещё один самописный навык с моими собственными лучшими практиками.
А в конце сессии чаще всего проведёт ретроспективу сессии и на основе своих ошибок предложит в использованные навыки внести минимальные правки, чтобы больше их не совершать (иногда, конечно, всё равно совершит, но вероятность будет меньше).
Не знаю, дискуссионный ли в интернетах этот вопрос, или нет, но у меня есть свой убедительный опыт, отвечающий на него. Выполняют ли ИИ-агенты инфраструктурные задачи лучше, чем программируют? Да! Модели, сожравшие весь доступный интернет, очень точно помнят все консольные утилитки и их параметры для работы с сетью, proxmox, nginx, curl и прочим. Они прочитали все мануалы и форумы. Особенно качественно, если какая-то утилита уже покрылась мхом и за последние десятилетия только оттачивалась в мелочах.
В нашей компании этой весной мы перестраивали внутреннюю инфраструктуру. Так вот, ИИ-агент, работая в git-репозитории с парой .md файлов, выполнил 60%+ работы. Именно на его сессиях чётко проявился паттерн с обратной связью. Сейчас типичная сессия выглядит так:
— Запровижени мне виртуалку <имя> с <такими ресурсами cpu/mem/hdd>, на <таком-то гипервизоре>
И агент идёт шуршать созданными навыками: сперва уточнит у меня всё, что я забыл сообщить из базового, выяснит свободный IP = VMID в сети виртуалок, убедится в наличии debian genericcloud образа, настроит cloud-init шаблон, создаст её, сгенерирует и установит надёжный пароль, добавит цель в VictoriaMetrics, пропишет в отдельном MCP-сервере коннект к ней. При необходимости отдельным навыком поставит докер и настроит cron-скрипты для очистки от мусора.
Зафиксирует новую VM с ключевыми параметрами в AS-IS.md и запушит его.
Могу сразу попросить развернуть в докере какой-то сервис (например, банально postgres), для этого у меня ещё один самописный навык с моими собственными лучшими практиками.
А в конце сессии чаще всего проведёт ретроспективу сессии и на основе своих ошибок предложит в использованные навыки внести минимальные правки, чтобы больше их не совершать (иногда, конечно, всё равно совершит, но вероятность будет меньше).
🔥2
orba/superpowers юзаю уже давно, временами действительно полезная штука, а этот набор навыков теперь тоже хочется попробовать.
Forwarded from Технозаметки Малышева
Addy Osmani выпустил обновление агентских навыков, формирующих инженерную дисциплину для AI-агентов
Эдди Османи, - не случайный разраб с гитхаба, - это человек который 14 лет руководил Developer Experience в Google Chrome, создал Lighthouse и PageSpeed, а теперь в должности Director в Google Cloud AI отвечает за агентную платформу Google.
Его проект Agent Skills решает простую проблему: AI-агенты по умолчанию идут кратчайшим путём — пропускают спецификации, тесты, ревью безопасности.
Agent Skills упаковывает инженерную дисциплину старших разработчиков в 24 навыка.
📋 Что внутри:
• 8 слеш-команд от идеи до продакшена:
/spec → /plan → /build → /test → /review → /webperf → /code-simplify → /ship
• /build auto — автономный режим: утверждаешь план один раз, агент сам реализует, тестирует и коммитит каждую задачу по TDD
• В каждом навыке встроена таблица типичных отмазок агента с опровержениями и красные флаги
• /ship запускает 4 параллельные ревью-персоны (code-reviewer, security-auditor, test-engineer, web-perf-auditor) и собирает их в go/no-go
• Работает с Claude Code, Gemini CLI, Cursor, Antigravity, OpenCode (😊 ), Windsurf и Copilot
• Вшита инженерная культура Google: Hyrum's Law в API-дизайне, Chesterton's Fence в упрощении кода, Shift Left в CI/CD
💡 Последнее обновление добавляет навык source-driven development — агент обязан цитировать официальную документацию, детектить стек и разрешать конфликты источников до написания кода.
Переработан перформанс-тулинг: Lighthouse vs RUM, деревья решений для TTFB, best practices для LCP.
В прямом сравнении с Obra/Superpowers Agent Skills быстрее дошёл до кода и провёл больше валидаций, поймав баг совместимости за пределами фичи.
💼 Почему это важно:
• Agent Skills и Superpowers (который пока популярнее, - 246k ★) формируют новый класс инструментов, - не просто фреймворки для написания кода, а фреймворки для дисциплинированного поведения агента, надежно доводящего код до прода.
#AgentSkills #Superpowers #AddyOsmani #Google #навыки
------
@tsingular
Эдди Османи, - не случайный разраб с гитхаба, - это человек который 14 лет руководил Developer Experience в Google Chrome, создал Lighthouse и PageSpeed, а теперь в должности Director в Google Cloud AI отвечает за агентную платформу Google.
Его проект Agent Skills решает простую проблему: AI-агенты по умолчанию идут кратчайшим путём — пропускают спецификации, тесты, ревью безопасности.
Agent Skills упаковывает инженерную дисциплину старших разработчиков в 24 навыка.
📋 Что внутри:
• 8 слеш-команд от идеи до продакшена:
/spec → /plan → /build → /test → /review → /webperf → /code-simplify → /ship
• /build auto — автономный режим: утверждаешь план один раз, агент сам реализует, тестирует и коммитит каждую задачу по TDD
• В каждом навыке встроена таблица типичных отмазок агента с опровержениями и красные флаги
• /ship запускает 4 параллельные ревью-персоны (code-reviewer, security-auditor, test-engineer, web-perf-auditor) и собирает их в go/no-go
• Работает с Claude Code, Gemini CLI, Cursor, Antigravity, OpenCode (
• Вшита инженерная культура Google: Hyrum's Law в API-дизайне, Chesterton's Fence в упрощении кода, Shift Left в CI/CD
💡 Последнее обновление добавляет навык source-driven development — агент обязан цитировать официальную документацию, детектить стек и разрешать конфликты источников до написания кода.
Переработан перформанс-тулинг: Lighthouse vs RUM, деревья решений для TTFB, best practices для LCP.
В прямом сравнении с Obra/Superpowers Agent Skills быстрее дошёл до кода и провёл больше валидаций, поймав баг совместимости за пределами фичи.
💼 Почему это важно:
• Agent Skills и Superpowers (который пока популярнее, - 246k ★) формируют новый класс инструментов, - не просто фреймворки для написания кода, а фреймворки для дисциплинированного поведения агента, надежно доводящего код до прода.
#AgentSkills #Superpowers #AddyOsmani #Google #навыки
------
@tsingular
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Forwarded from Нейроканал
OpenRouter перестал открываться из России. Ранее были сообщения, что аккаунты из РФ банят, но лично я по себе и знакомым подтвердить не могу, без проблем принимают оплату и выдают ключи.
И вот сегодня чиню по всем своим сервисам, запросы отдают 403 по географии, стандартный отлуп CloudFlare.
Если тоже дёргали опенраутер из РФ, проверьте у себя, может быть тоже отвалилось.
@neuro_channel
И вот сегодня чиню по всем своим сервисам, запросы отдают 403 по географии, стандартный отлуп CloudFlare.
Если тоже дёргали опенраутер из РФ, проверьте у себя, может быть тоже отвалилось.
@neuro_channel
🔥1
Forwarded from Откровения от Олега
Забавно, что LLM в каком-то смысле являются копиумом, позволяющим забыть о настоящих задачах программирования.
Например, автоматизированная разработка высоко параллельных и многопоточных распределенных алгоритмов - это все еще фантастика, их хорошо это пишут только живые люди.
Это одна из самых недружелюбных, но одновременно - самых практически полезных областей в айтишечке. Она недружелюбна к людям примерно настолько же, как и к машинам. Но люди как-то научились с этим справляться.
Число возможных перестановок операций растёт экспоненциально, и баг может встретиться лишь в одной перестановке из миллиардов. Одинаковый код даёт разные результаты в зависимости от планировщика (рантайма, операционной системы, процессора) или задержек сети. Тестирование почти бесполезно - можно прогнать миллион раз и ни разу не попасть в проблемный interleaving.
В распределённых системах к этому добавляются отказы, но не полные - а частичные. Узлы падают, сообщения теряются и переупорядочиваются, случаются разделения вычислительных или сетевых сегментов (вся территория FLP и CAP).
Всё, что решает эти проблемы - выглядит как геморрой. Ты это еще не начал даже использовать, а уже понимаешь, что тебе пиздец.
Например, даже обычный параллелизм, который (казалось бы) компиляторы автоматизируют давно и успешно. Все слышали про авто-векторизацию, оптимизацию циклов, OpenMP, data-parallel фреймворки, MapReduce, Хадупы и Спарки. Человек задаёт ограниченную регулярную структуру, система сама раскладывает по потокам и узлам. Всё это работает потому, что не порождает умных и сложных конкурентных алгоритмов, а лишь раскидывает по нодам достаточно регулярную работу.
Даже в этой хорошей и приятной области, если ты спросишь профессионала (дата-инженера какого-нибудь), хочет ли он варить Хадуп из 7 залуп, он скорей всего не хочет. Всё это тормозное, корявое и убогое. И оптимизации циклов работают через раз, и Спарк отвечает по полдня, и тому подобное.
Дальше всё ещё хуже. Верификация уже написанных алгоритмов тоже работает как будто бы хорошо. Наверняка все слышали про TLA+/TLC, Spin, mCRL2, итп. Amazon описал на TLA+ ядро S3 и DynamoDB, и поэтому у них количество девяток после нуля больше чем жопа твоей бывшей. Raft и Paxos формально доказаны в Coq/Isabelle (фреймворк Verdi, и Iris для конкурентной separation logic).
Также все знают, что Paxos-ом пугают детей в детском саду, после чего дети заикаются до конца жизни, а писать на TLA+ что либо может только мазохист, вы же понимаете что там даже циклов нет? Ах да, чтобы писать на всём этом нужно иметь минимум 2 докторских в области теории категорий и клинической самопсихиатрии.
Синтез новых эффективных алгоритмов "с нуля" из спецификации всегда был чем-то типа научной фантастики. Есть какие-то работы про скетчинг и синтез синхронизаций (автоматически расставить блокировки/барьеры, чтобы программа стала корректной). Но они масштабируются только на маленькие программы, которые сумасшедшие ученые пишут в своих дисерах. Придумать новый lock-free контейнер или новый протокол консенсуса автоматические инструменты не могут.
Точней, не могли. Потому что у нас как чёрт из табакерки вылез LLM. И теперь мы можем сделать морду кирпичом, написать 100 страниц шизофазии в формате .md и смотреть, как несчастная модель пытается наскрести нам какую-никакую но иногда даже работающую реализацию. Понемножку так наскрести, по 40 минут за сессию.
И сразу так хорошо и спокойно становится, так приятно. Типа задача решилась, и решать ее как будто бы и не надо. LLM же сама всё напишет.
А вот только она не напишет. Ну по крайней мере, сама по себе, без каких-то специальных действий с нашей стороны. Чтобы написала - надо ДУМАТЬ. А думать-то уже все разучились. Думать больно и неприятно. И о чем вообще думать-то - это же потерянные знания Тёмной Эры Технологий. Практически ересь.
А потом ты заходишь в Твиттер и читаешь треды, где разумисты пишут целые полотна текста про то, что нейросети уже всё автоматизировали, осталось только лежать на печи и ждать, пока роботы нас убьют. И это пишут люди, покупающие планки оперативки по цене авианосца Адмирал Кузнецов, чьи компьютеры, чахло хрюкая, пытаются в один-четыре потока прососать сквозь себя видеоигры 20-летней давности (запустите Half-Life 2 - он все еще тормозит).
Да ладно Half-Life 2, а что насчет самой свежей версии Claude или OpenCode? Здесь же все вайбкодеры. Склонируйте OpenCode, загрузите в свой любимый агент, и попросите его ускорить генерацию кода на 20% не теряя качества. Он же должен автоматически что-то там пошуршать, распараллелить и ускорить. А он фигак и не ускоряет. Ни за один проход, ни за два, ни за десять. А почему? А что случилось? А вот думайте теперь.
Например, автоматизированная разработка высоко параллельных и многопоточных распределенных алгоритмов - это все еще фантастика, их хорошо это пишут только живые люди.
Это одна из самых недружелюбных, но одновременно - самых практически полезных областей в айтишечке. Она недружелюбна к людям примерно настолько же, как и к машинам. Но люди как-то научились с этим справляться.
Число возможных перестановок операций растёт экспоненциально, и баг может встретиться лишь в одной перестановке из миллиардов. Одинаковый код даёт разные результаты в зависимости от планировщика (рантайма, операционной системы, процессора) или задержек сети. Тестирование почти бесполезно - можно прогнать миллион раз и ни разу не попасть в проблемный interleaving.
В распределённых системах к этому добавляются отказы, но не полные - а частичные. Узлы падают, сообщения теряются и переупорядочиваются, случаются разделения вычислительных или сетевых сегментов (вся территория FLP и CAP).
Всё, что решает эти проблемы - выглядит как геморрой. Ты это еще не начал даже использовать, а уже понимаешь, что тебе пиздец.
Например, даже обычный параллелизм, который (казалось бы) компиляторы автоматизируют давно и успешно. Все слышали про авто-векторизацию, оптимизацию циклов, OpenMP, data-parallel фреймворки, MapReduce, Хадупы и Спарки. Человек задаёт ограниченную регулярную структуру, система сама раскладывает по потокам и узлам. Всё это работает потому, что не порождает умных и сложных конкурентных алгоритмов, а лишь раскидывает по нодам достаточно регулярную работу.
Даже в этой хорошей и приятной области, если ты спросишь профессионала (дата-инженера какого-нибудь), хочет ли он варить Хадуп из 7 залуп, он скорей всего не хочет. Всё это тормозное, корявое и убогое. И оптимизации циклов работают через раз, и Спарк отвечает по полдня, и тому подобное.
Дальше всё ещё хуже. Верификация уже написанных алгоритмов тоже работает как будто бы хорошо. Наверняка все слышали про TLA+/TLC, Spin, mCRL2, итп. Amazon описал на TLA+ ядро S3 и DynamoDB, и поэтому у них количество девяток после нуля больше чем жопа твоей бывшей. Raft и Paxos формально доказаны в Coq/Isabelle (фреймворк Verdi, и Iris для конкурентной separation logic).
Также все знают, что Paxos-ом пугают детей в детском саду, после чего дети заикаются до конца жизни, а писать на TLA+ что либо может только мазохист, вы же понимаете что там даже циклов нет? Ах да, чтобы писать на всём этом нужно иметь минимум 2 докторских в области теории категорий и клинической самопсихиатрии.
Синтез новых эффективных алгоритмов "с нуля" из спецификации всегда был чем-то типа научной фантастики. Есть какие-то работы про скетчинг и синтез синхронизаций (автоматически расставить блокировки/барьеры, чтобы программа стала корректной). Но они масштабируются только на маленькие программы, которые сумасшедшие ученые пишут в своих дисерах. Придумать новый lock-free контейнер или новый протокол консенсуса автоматические инструменты не могут.
Точней, не могли. Потому что у нас как чёрт из табакерки вылез LLM. И теперь мы можем сделать морду кирпичом, написать 100 страниц шизофазии в формате .md и смотреть, как несчастная модель пытается наскрести нам какую-никакую но иногда даже работающую реализацию. Понемножку так наскрести, по 40 минут за сессию.
И сразу так хорошо и спокойно становится, так приятно. Типа задача решилась, и решать ее как будто бы и не надо. LLM же сама всё напишет.
А вот только она не напишет. Ну по крайней мере, сама по себе, без каких-то специальных действий с нашей стороны. Чтобы написала - надо ДУМАТЬ. А думать-то уже все разучились. Думать больно и неприятно. И о чем вообще думать-то - это же потерянные знания Тёмной Эры Технологий. Практически ересь.
А потом ты заходишь в Твиттер и читаешь треды, где разумисты пишут целые полотна текста про то, что нейросети уже всё автоматизировали, осталось только лежать на печи и ждать, пока роботы нас убьют. И это пишут люди, покупающие планки оперативки по цене авианосца Адмирал Кузнецов, чьи компьютеры, чахло хрюкая, пытаются в один-четыре потока прососать сквозь себя видеоигры 20-летней давности (запустите Half-Life 2 - он все еще тормозит).
Да ладно Half-Life 2, а что насчет самой свежей версии Claude или OpenCode? Здесь же все вайбкодеры. Склонируйте OpenCode, загрузите в свой любимый агент, и попросите его ускорить генерацию кода на 20% не теряя качества. Он же должен автоматически что-то там пошуршать, распараллелить и ускорить. А он фигак и не ускоряет. Ни за один проход, ни за два, ни за десять. А почему? А что случилось? А вот думайте теперь.
Forwarded from Технозаметки Малышева
Unsloth прокачал DeepSeek-V4-Flash для локального запуска и теперь модель на 284B параметров можно запустить на 128 ГБ оперативки
DeepSeek-V4 вышел в апреле и с тех пор успел наделать шума: Pro-версия на 1,6 триллиона параметров (49 млрд активных) обходит GPT-5.4 и Claude Opus 4.6 по кодингу на SWE Verified, а Flash-версия с 284 млрд параметров и всего 13 млрд активных при 1-миллионном контексте дышит им в спину практически за бесплатно.
Но локально запустить это чудо было накладно, а местами даже невозможно: llama.cpp выдавал абракадабру со второго хода диалога и Unsloth только что это исправили.
📋 Что сделали в Unsloth:
• Нашли баг в llama.cpp: префиксное кэширование ломало multi-turn диалоги. Исправили в PR #25402 — теперь инструментальные вызовы работают корректно (15/15 тестов)
• Переписали шаблон чата: добавили
• Сделали bit-exact квантизацию: DeepSeek-V4 обучен с MXFP4 — веса экспертов (96% модели) хранятся в этом формате из коробки. Unsloth распаковала их бит-в-бит, а не переквантовала заново как другие провайдеры GGUF
• UD-Q8_K_XL — полностью lossless квантизация (162 ГБ, KL-дивергенция ~0, 100% совпадение токенов)
• UD-IQ3_XXS — 103 ГБ, влезет на 128 ГБ VRAM, бенчмарки: 86.2% MMLU-Pro, 88.1% GPQA Diamond, 56.9% Terminal Bench 2.0
💡 Прикол ситуации в том что DeepSeek сделал quantization-aware training чтобы модель работала в MXFP4 из коробки, но другие конвертеры GGUF просто переквантовывали экспертов заново — теряя 5% точности на Q4_K и более 30% на IQ2.
Unsloth единственные кто использовал нативный формат а не перегонял веса через дополнительное округление.
Разница в качестве видна сразу: на графике Pareto efficiency их кванты лежат на фронте «размер/качество», все остальные — ниже.
💼 Что это значит практически:
• Frontier-модель уровня GPT-5.4 теперь запускается на машине с 128 ГБ RAM — без API, без цензуры, без риска что провайдер отключит доступ потому что вы из России
• Unsloth Studio (бесплатный опенсорс) даёт веб-интерфейс с самовосстанавливающимися тул-коллами и выполнением кода. По сути — локальный Claude Code с frontier-моделью
• DeepSeek-V4-Flash при 13 млрд активных параметров — это самый эффективный по памяти frontier-уровень.
Модель которая месяц назад требовала стойку в датацентре теперь запускается на десктопе за $3 000 типа DGX Spark ну или Macbook Pro M5 128Gb .
И это не «урезанная» версия — это бит-в-бит lossless.
а вы еще спрашиваете почему я про Гигу 3.5 не пишу, - он при 400B параметрах как раз с DeepSeek v4 flash по мощности.
и вот дилемма, - 128гигов или 400? макбук за 600К или стойка H100 за 60млн ? сложный выбор, конечно.
#DeepSeek #Unsloth #LLM #локальныйAI #OpenSource
------
@tsingular
DeepSeek-V4 вышел в апреле и с тех пор успел наделать шума: Pro-версия на 1,6 триллиона параметров (49 млрд активных) обходит GPT-5.4 и Claude Opus 4.6 по кодингу на SWE Verified, а Flash-версия с 284 млрд параметров и всего 13 млрд активных при 1-миллионном контексте дышит им в спину практически за бесплатно.
Но локально запустить это чудо было накладно, а местами даже невозможно: llama.cpp выдавал абракадабру со второго хода диалога и Unsloth только что это исправили.
📋 Что сделали в Unsloth:
• Нашли баг в llama.cpp: префиксное кэширование ломало multi-turn диалоги. Исправили в PR #25402 — теперь инструментальные вызовы работают корректно (15/15 тестов)
• Переписали шаблон чата: добавили
reasoning_effort (max, high, off), вернули reasoning_content для тул-коллов, протестировали на 4 000+ диалогах• Сделали bit-exact квантизацию: DeepSeek-V4 обучен с MXFP4 — веса экспертов (96% модели) хранятся в этом формате из коробки. Unsloth распаковала их бит-в-бит, а не переквантовала заново как другие провайдеры GGUF
• UD-Q8_K_XL — полностью lossless квантизация (162 ГБ, KL-дивергенция ~0, 100% совпадение токенов)
• UD-IQ3_XXS — 103 ГБ, влезет на 128 ГБ VRAM, бенчмарки: 86.2% MMLU-Pro, 88.1% GPQA Diamond, 56.9% Terminal Bench 2.0
💡 Прикол ситуации в том что DeepSeek сделал quantization-aware training чтобы модель работала в MXFP4 из коробки, но другие конвертеры GGUF просто переквантовывали экспертов заново — теряя 5% точности на Q4_K и более 30% на IQ2.
Unsloth единственные кто использовал нативный формат а не перегонял веса через дополнительное округление.
Разница в качестве видна сразу: на графике Pareto efficiency их кванты лежат на фронте «размер/качество», все остальные — ниже.
💼 Что это значит практически:
• Frontier-модель уровня GPT-5.4 теперь запускается на машине с 128 ГБ RAM — без API, без цензуры, без риска что провайдер отключит доступ потому что вы из России
• Unsloth Studio (бесплатный опенсорс) даёт веб-интерфейс с самовосстанавливающимися тул-коллами и выполнением кода. По сути — локальный Claude Code с frontier-моделью
• DeepSeek-V4-Flash при 13 млрд активных параметров — это самый эффективный по памяти frontier-уровень.
Модель которая месяц назад требовала стойку в датацентре теперь запускается на десктопе за $3 000 типа DGX Spark ну или Macbook Pro M5 128Gb .
И это не «урезанная» версия — это бит-в-бит lossless.
а вы еще спрашиваете почему я про Гигу 3.5 не пишу, - он при 400B параметрах как раз с DeepSeek v4 flash по мощности.
и вот дилемма, - 128гигов или 400? макбук за 600К или стойка H100 за 60млн ? сложный выбор, конечно.
#DeepSeek #Unsloth #LLM #локальныйAI #OpenSource
------
@tsingular
Технозаметки Малышева
Unsloth прокачал DeepSeek-V4-Flash для локального запуска и теперь модель на 284B параметров можно запустить на 128 ГБ оперативки DeepSeek-V4 вышел в апреле и с тех пор успел наделать шума: Pro-версия на 1,6 триллиона параметров (49 млрд активных) обходит…
Для тех, кто не в курсе, рассказываю: unsloth — это два австралийских брата-акробата, Даниэль и Майкл Ханы. А не какая-то большая топовая ИИ-корпорация :)
Forwarded from Refat Talks: Tech & AI
Refat--augmentation-automation--humans-workflows-agents-2026.pdf
1.9 MB
Запись и слайды моего доклада "Что оставить людям, что коду (workflow), что агенту".
📹 Запись: https://youtu.be/1Ps5ra13_ro?t=80
🖼 Слайды в аттаче.
Тезисно, о чем было:
- почему важно различать два режима: augmentation (человек в центре) и automation (фоновая автоматизация)
- где что ломается: люди не масштабируются, workflow негибкий, агент дорогой и ненадежный на потоке;
- кейс маркетингового агентства: augmentation работала отлично, а agentic-автоматизация все время ломалась, пока не пришли к схеме, где максимум переносим в workflow, а агент их пишет и поддерживает;
- простое правило: можешь написать чек-лист или граф - автоматизируй, думаешь каждый раз заново - оставляй человеку. И несколько мыслей о том когда выносить агентов в фоновые автоматизации.
- почему понимание сложно делегируется и роль эксперта от этого только растет;
- пара практических вещей: файлы как артефакт, SOP, делать ревью максимально удобными, единый governance вместо разрозненных трейсов;
- пример про извлечение данных из документов: стоило $11 за документ у агента и упало до <$1, когда то же самое переписали в workflow;
- про проект дата-скрейпинга, где мы ушли от LLM-экстракшена к агентной кодогенерации: агент пишет детерминированные парсеры, а не LLM парсит страницы вживую (oб этом, кстати, еще буду писать, stay tuned).
📹 Запись: https://youtu.be/1Ps5ra13_ro?t=80
🖼 Слайды в аттаче.
Тезисно, о чем было:
- почему важно различать два режима: augmentation (человек в центре) и automation (фоновая автоматизация)
- где что ломается: люди не масштабируются, workflow негибкий, агент дорогой и ненадежный на потоке;
- кейс маркетингового агентства: augmentation работала отлично, а agentic-автоматизация все время ломалась, пока не пришли к схеме, где максимум переносим в workflow, а агент их пишет и поддерживает;
- простое правило: можешь написать чек-лист или граф - автоматизируй, думаешь каждый раз заново - оставляй человеку. И несколько мыслей о том когда выносить агентов в фоновые автоматизации.
- почему понимание сложно делегируется и роль эксперта от этого только растет;
- пара практических вещей: файлы как артефакт, SOP, делать ревью максимально удобными, единый governance вместо разрозненных трейсов;
- пример про извлечение данных из документов: стоило $11 за документ у агента и упало до <$1, когда то же самое переписали в workflow;
- про проект дата-скрейпинга, где мы ушли от LLM-экстракшена к агентной кодогенерации: агент пишет детерминированные парсеры, а не LLM парсит страницы вживую (oб этом, кстати, еще буду писать, stay tuned).
Refat Talks: Tech & AI
Refat--augmentation-automation--humans-workflows-agents-2026.pdf
Наконец-то осилил досмотреть этот доклад, много полезной информации, крайне всем входящим в ИИ / внедряющим ИИ рекомендую.
Forwarded from Pavel Zloi
Хорошо, что я решил не спешить с перетестом GigaChat 3.5 432B, а дождался разбора (от Родиона @ai_driven) поддержки агентности этой модели, если кратенько, то я в целом чего-то подобного и ожидал, модель оказалась слабее GPT-OSS-120B.
Моё предложение для спецов из Сбера как собрать датасет чтобы сделать модель лучше:
1. обновить уже наконец линейку сберовских моделей доступных по API, а то GigaChat 2 морально устарела во всём, плюс не только ваши модели, добавьте все какие хотите дистилить, ту же gpt-oss-120b и скажем kimi k2.7
2. добавить специальный ДЕШЁВЫЙ тариф для агентов работающих через API
3. запустить рекламу про домашнего агента, скажем на примере OpenClaw, ну или скажем моего Coddy Agent ;)
4. поощрять юзеров которые пользуются агентом через ваше API плюшками, скидками на услуги, повышенной ставкой по вкладу и так далее, вы это всё умеете
5. собирать логи работы с апишкой
6. обучить уже наконец крутую агентную модель и зарелизить её в OpenSource
Моё предложение для спецов из Сбера как собрать датасет чтобы сделать модель лучше:
1. обновить уже наконец линейку сберовских моделей доступных по API, а то GigaChat 2 морально устарела во всём, плюс не только ваши модели, добавьте все какие хотите дистилить, ту же gpt-oss-120b и скажем kimi k2.7
2. добавить специальный ДЕШЁВЫЙ тариф для агентов работающих через API
3. запустить рекламу про домашнего агента, скажем на примере OpenClaw, ну или скажем моего Coddy Agent ;)
4. поощрять юзеров которые пользуются агентом через ваше API плюшками, скидками на услуги, повышенной ставкой по вкладу и так далее, вы это всё умеете
5. собирать логи работы с апишкой
6. обучить уже наконец крутую агентную модель и зарелизить её в OpenSource
Forwarded from Koda
🚀🚀🚀 Kodacode release v1.0 + топовая модель Koda Pro на основе GLM 5.2
Прошёл больше года с первого публичного релиза KodaCode для VS Code — и сегодня мы выпускаем версию 1.0. Да и с лендинга убираем подпись «beta-тестирование».
В v1.0 мы сильно обновили агента, улучшили модели.
На нашем бенче из задач SWE-bench Verified качество старой Koda Pro выросло на +10 п.п.:
Koda Pro old: 59% → 69%
Koda Base: 35% → 45.1%
А новая Koda Pro на GLM 5.2 приблизилась к топовым моделям:
Koda Pro GLM 5.2 — 77.4%
Claude Sonet 5 — 78.8%
Claude Opus 4.8 — 83%
Еще в релизе кроме агента :
- маркетплейс скилов и MCP
- простое подключение российских провайдеров моделей: vsellm.ru, bothub.chat, proxyapi.ru, neuraldeep.ru.
- Telegram-интеграцию теперь можно использовать не только в VS Code, но и в JetBrains и CLI
- добавили просмотр diff прямо в чате в плагинах
- улучшили с зависаниями на больших сессиях
- кучу багов пофиксили
Больше деталей в статье на хабре https://habr.com/ru/article/1056758/
Скачать KodaCode тут https://download.kodacode.ru
Прошёл больше года с первого публичного релиза KodaCode для VS Code — и сегодня мы выпускаем версию 1.0. Да и с лендинга убираем подпись «beta-тестирование».
В v1.0 мы сильно обновили агента, улучшили модели.
На нашем бенче из задач SWE-bench Verified качество старой Koda Pro выросло на +10 п.п.:
Koda Pro old: 59% → 69%
Koda Base: 35% → 45.1%
А новая Koda Pro на GLM 5.2 приблизилась к топовым моделям:
Koda Pro GLM 5.2 — 77.4%
Claude Sonet 5 — 78.8%
Claude Opus 4.8 — 83%
Еще в релизе кроме агента :
- маркетплейс скилов и MCP
- простое подключение российских провайдеров моделей: vsellm.ru, bothub.chat, proxyapi.ru, neuraldeep.ru.
- Telegram-интеграцию теперь можно использовать не только в VS Code, но и в JetBrains и CLI
- добавили просмотр diff прямо в чате в плагинах
- улучшили с зависаниями на больших сессиях
- кучу багов пофиксили
Больше деталей в статье на хабре https://habr.com/ru/article/1056758/
Скачать KodaCode тут https://download.kodacode.ru
🔥1