😢12 10
OpenHuman: опенсорсный аналог Dots
На DevDay OpenAI представили dots: облачный личный агент, который помнит всё про тебя и делает задачи сам.
Но тем временем на GitHub уже давно лежит его открытый аналог OpenHuman: личный агент с открытой памятью на твоём диске, 39.6k звёзд.
🧠 Что это за зверь:
Десктопный агент для Mac, Windows и Linux от TinyHumans AI, GPL-3.0, Rust + Tauri. Три роли: мозг с постоянной памятью, оркестратор агентов, глубокий исследователь.
⚙️ Что под капотом:
- Memory Tree: память в Markdown-файлах в локальной SQLite, зеркалится в Obsidian. Данные из 118+ интеграций (Gmail, Notion, GitHub) подкачиваются каждые 20 минут
- TokenJuice: сжимает выход инструментов, до 80% экономии токенов
- Оркестратор: графы с чекпоинтами, застрявший агент возвращает отчёт с причиной, связь между агентами через Signal-шифрование
- Privacy Mode: один переключатель, и запросы не покидают машину (запрет зашит в Rust-ядро)
💡 Чем отличается от dots:
dots держит память в облаке OpenAI и работает через подписку ChatGPT. OpenHuman хранит всё локально с шифрованием, модель можно выбрать свою через Ollama.
Счётчик ИИ фреймворков в коллекции уже достиг 130!
Первые места, - Краб, Гермес, opencode, n8n и, что интересно, - AutoGPT их уверенно догоняет. Вот куда бы я посмотрел.
Сочувствую тем, кто только вкатывается в тему, - столько перечитать и изучить...
Проще сразу в фермеры.
#OpenHuman #dots #OpenAI #агенты
———
@tsingular
На DevDay OpenAI представили dots: облачный личный агент, который помнит всё про тебя и делает задачи сам.
Но тем временем на GitHub уже давно лежит его открытый аналог OpenHuman: личный агент с открытой памятью на твоём диске, 39.6k звёзд.
🧠 Что это за зверь:
Десктопный агент для Mac, Windows и Linux от TinyHumans AI, GPL-3.0, Rust + Tauri. Три роли: мозг с постоянной памятью, оркестратор агентов, глубокий исследователь.
⚙️ Что под капотом:
- Memory Tree: память в Markdown-файлах в локальной SQLite, зеркалится в Obsidian. Данные из 118+ интеграций (Gmail, Notion, GitHub) подкачиваются каждые 20 минут
- TokenJuice: сжимает выход инструментов, до 80% экономии токенов
- Оркестратор: графы с чекпоинтами, застрявший агент возвращает отчёт с причиной, связь между агентами через Signal-шифрование
- Privacy Mode: один переключатель, и запросы не покидают машину (запрет зашит в Rust-ядро)
💡 Чем отличается от dots:
dots держит память в облаке OpenAI и работает через подписку ChatGPT. OpenHuman хранит всё локально с шифрованием, модель можно выбрать свою через Ollama.
Счётчик ИИ фреймворков в коллекции уже достиг 130!
Первые места, - Краб, Гермес, opencode, n8n и, что интересно, - AutoGPT их уверенно догоняет. Вот куда бы я посмотрел.
Сочувствую тем, кто только вкатывается в тему, - столько перечитать и изучить...
Проще сразу в фермеры.
#OpenHuman #dots #OpenAI #агенты
———
@tsingular
👍13✍7⚡1😁1😢1
This media is not supported in your browser
VIEW IN TELEGRAM
Как обеспечить контроль доступа ИИ агентов к данным.
Держите полезную статью моего хорошего знакомого и коллеги еще со времён Майкрософта.
Рекомендую:
https://habr.com/ru/articles/1088836/
Плюсики там не забудьте на хабре поставить :)
#cybersecurity #RBAC #агенты
------
@tsingular
Держите полезную статью моего хорошего знакомого и коллеги еще со времён Майкрософта.
Рекомендую:
https://habr.com/ru/articles/1088836/
Плюсики там не забудьте на хабре поставить :)
#cybersecurity #RBAC #агенты
------
@tsingular
🔥13✍3⚡1🥰1
Media is too big
VIEW IN TELEGRAM
Figure AI отправила гуманоидного робота Figure 02 прыгать в расплавленную сталь на литейном заводе в Финляндии 🏭🔥.
Цель — вывод поколения из эксплуатации и переработка металла в лимитированные сувениры.
Figure 02 — вторая генерация роботов Figure. Он совершил первые выходы на работу (BMW, логистика, уборка) и стал основой для запуска ИИ Helix. Теперь массовым становится F.03, а обслуживание F.02 признано нецелесообразным.
Проблема: защита интеллектуальной собственности (актуаторы, компоненты). Разборка вручную слишком дорога и задержит выпуск F.04. Совет «растопить» дал Арнольд Шварценеггер, отсылая к финалу «Терминатор 2» 🎬🤖. Он согласился участвовать в проекте.
Поиск площадки был сложным: заводы в США и Мексике отказали из-за литиевых батарей. Помогал экс-ведущий «Разрушителей легенд». В итоге выбрана фабрика в Иматре, Финляндия 🇫🇮.
Тренировки шли в Сан-Хосе 🇺🇸: роботы прыгали с 2-го этажа на маты. ИИ обучали в симуляции на точное попадание в контейнер со сталью.
На заводе использовали 75-тонную дуговую печь. Бюджет времени: 24 часа, 6 плавок по 20 минут (потом сталь остывает). Высокая температура и ЭМ-поле вывели из строя камеры, но роботы работали безупречно 📉🔋.
Слитки уже в США и перерабатываются в редкие сувениры для частных лиц (цена не указана). Большинство F.02 расплавлены, несколько хранятся в штаб-квартире.
Figure подтверждает: видео реальные, робот самостоятельно прыгнул в сталь 🎥✅.
#Figure #роботы #терминатор
------
@tsingular
Цель — вывод поколения из эксплуатации и переработка металла в лимитированные сувениры.
Figure 02 — вторая генерация роботов Figure. Он совершил первые выходы на работу (BMW, логистика, уборка) и стал основой для запуска ИИ Helix. Теперь массовым становится F.03, а обслуживание F.02 признано нецелесообразным.
Проблема: защита интеллектуальной собственности (актуаторы, компоненты). Разборка вручную слишком дорога и задержит выпуск F.04. Совет «растопить» дал Арнольд Шварценеггер, отсылая к финалу «Терминатор 2» 🎬🤖. Он согласился участвовать в проекте.
Поиск площадки был сложным: заводы в США и Мексике отказали из-за литиевых батарей. Помогал экс-ведущий «Разрушителей легенд». В итоге выбрана фабрика в Иматре, Финляндия 🇫🇮.
Тренировки шли в Сан-Хосе 🇺🇸: роботы прыгали с 2-го этажа на маты. ИИ обучали в симуляции на точное попадание в контейнер со сталью.
На заводе использовали 75-тонную дуговую печь. Бюджет времени: 24 часа, 6 плавок по 20 минут (потом сталь остывает). Высокая температура и ЭМ-поле вывели из строя камеры, но роботы работали безупречно 📉🔋.
Слитки уже в США и перерабатываются в редкие сувениры для частных лиц (цена не указана). Большинство F.02 расплавлены, несколько хранятся в штаб-квартире.
Figure подтверждает: видео реальные, робот самостоятельно прыгнул в сталь 🎥✅.
#Figure #роботы #терминатор
------
@tsingular
🔥22😢11🆒3🕊2❤1⚡1🗿1👾1
Forwarded from Искусственный интеллект. Высокие технологии
Исследователь Картер Чёрч с помощью GPT-6 Astra расшифровал шифрованное письмо маршалу Огюсту де Мармону, одному из генералов Наполеона. Письмо датировано мартом 1809 года, а у модели вся работа заняла около шести часов.
Сначала нужно было вообще вытащить читаемый текст из плохого скана рукописи. Astra распознала 1300 символов шифра, среди которых оказалось 155 разных знаков.
Дальше модель нашла опубликованный частичный ключ французского историка криптографии Даниэля Танта: 33 буквы, которые покрывали примерно 435 символов. Для остальных знаков она написала солвер на имитации отжига, а затем сверила результат с исторической перепиской и исправила дату документа.
Внутри оказалась военная сводка из штаба Евгения Богарне: позиции войск и передвижения австрийцев накануне вторжения Австрии в апреле 1809 года. Мармону пишут не бояться «нескольких отрядов или сборища черни». Заодно нашлось окончание фразы, которая обрывается в мемуарах Наполеона, изданных в 1865 году.
Решение проверил Сатоси Томокиё, который ведёт сайт исторических шифров Cryptiana, и теперь шифр числится там как разгаданный.
https://runtimewire.com/article/gpt-6-astra-marmont-cipher-carter-church
https://x.com/Machinelearrn/status/2105593763582107849
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥51 2👍1😁1👀1
Подняли тут вопрос на тему, а как вообще внедрять ИИ, - какие есть методологии для сценариев когда ещё не все процессы оцифрованы?
Я предложил посмотреть на крупных международных вендоров, которые глобально лидируют эту тему в части внедрений, что они используют и в итоге собрал приличный такой обзор в формате презентации.
Что получилось:
📊 Microsoft (где искать): улучшать по журналам событий из ИТ-систем, а не по интервью. В собственном кейсе карта процесса показала 20% переделок, а цикл рассчитывают сократить с 12 до 8 недель. Слабое место, - процесс обязательно должен оставлять цифровой след.
🧠 AWS (почему не внедряется): первая версия их сессий раз за разом упиралась во фразу «здесь нужен человек».
Подход пересобрали: начинают с сильных сторон команды, и участники сами решают, что отдать агенту, а что развить.
Оценка сессий выросла до 5.0 из 5.
Слабое место, - версии всего два месяца, а оценки ставят сами участники без внешней перепроверки.
💡 OpenAI (что делать первым): сотрудники сами находят задачи по трём признакам боли и шести примитивам.
Дальше идеи раскладывают по матрице «ценность против усилий» и пересматривают раз в квартал.
Слабое место, - без порядка в данных всё застревает на личных ассистентах.
🎯 Anthropic (когда пилот удался): пороги выпуска пилота записываются до старта, каждый успех оформляется в плейбук.
Слабое место, - нужны данные в нужном формате и права на их использование.
🧭 Google (готовы ли мы): самооценка по 6 темам и 3 фазам зрелости. Почти все начинают с первой фазы, и совет здесь один, - сначала данные, потом кейсы.
Главные выводы:
Внедрение ИИ, - это не проект, а цикл: оценить зрелость, найти точки по фактам, выбрать 2–3 пилота, выпустить их по заранее записанным порогам и следить за результатом.
И главный барьер тут не технологии, а люди.
Решение о передаче работы агенту должны принимать сами сотрудники, и у каждой такой передачи должен быть владелец.
Все пять компаний движутся от «ИИ помогает в задаче» к «агент выполняет все шаги процесса».
Понятно, что нужно детальнее погружаться в исходники на порталах вендоров, но для понимания на верхнем уровне вполне интересно.
Полная презентация в ИИзбранном, - обсудим в прямом эфире там же.
#презентации #руководства #методологии #вендоры
———
@tsingular
Я предложил посмотреть на крупных международных вендоров, которые глобально лидируют эту тему в части внедрений, что они используют и в итоге собрал приличный такой обзор в формате презентации.
Что получилось:
📊 Microsoft (где искать): улучшать по журналам событий из ИТ-систем, а не по интервью. В собственном кейсе карта процесса показала 20% переделок, а цикл рассчитывают сократить с 12 до 8 недель. Слабое место, - процесс обязательно должен оставлять цифровой след.
🧠 AWS (почему не внедряется): первая версия их сессий раз за разом упиралась во фразу «здесь нужен человек».
Подход пересобрали: начинают с сильных сторон команды, и участники сами решают, что отдать агенту, а что развить.
Оценка сессий выросла до 5.0 из 5.
Слабое место, - версии всего два месяца, а оценки ставят сами участники без внешней перепроверки.
💡 OpenAI (что делать первым): сотрудники сами находят задачи по трём признакам боли и шести примитивам.
Дальше идеи раскладывают по матрице «ценность против усилий» и пересматривают раз в квартал.
Слабое место, - без порядка в данных всё застревает на личных ассистентах.
🎯 Anthropic (когда пилот удался): пороги выпуска пилота записываются до старта, каждый успех оформляется в плейбук.
Слабое место, - нужны данные в нужном формате и права на их использование.
🧭 Google (готовы ли мы): самооценка по 6 темам и 3 фазам зрелости. Почти все начинают с первой фазы, и совет здесь один, - сначала данные, потом кейсы.
Главные выводы:
Внедрение ИИ, - это не проект, а цикл: оценить зрелость, найти точки по фактам, выбрать 2–3 пилота, выпустить их по заранее записанным порогам и следить за результатом.
И главный барьер тут не технологии, а люди.
Решение о передаче работы агенту должны принимать сами сотрудники, и у каждой такой передачи должен быть владелец.
Все пять компаний движутся от «ИИ помогает в задаче» к «агент выполняет все шаги процесса».
Понятно, что нужно детальнее погружаться в исходники на порталах вендоров, но для понимания на верхнем уровне вполне интересно.
Полная презентация в ИИзбранном, - обсудим в прямом эфире там же.
#презентации #руководства #методологии #вендоры
———
@tsingular
🔥7⚡2✍2🤝1
Colab CLI: A100 из терминала по цене двух кофе
Google тихо сделал то, чего все ждали: подписка Google AI Pro теперь включает Colab. 200 compute units в месяц, и через новый CLI их можно тратить прямо из терминала, без браузера и вкладки с ноутбуком.
Или, что интереснее нам,- напрямую отдать в распоряжение ИИ агенту.
⚙️ Что умеет:
- поднимает CPU, GPU (T4, L4, H100, A100) и TPU за секунды
-
-
-
- есть агентский режим: shebang со встроенным
💡 Математика халявы:
Например A100 40GB ест 5.30 CU/час, версия 80GB с High-RAM, 6.77 CU/час. Делим 200 CU на ставку и получаем 30-37 часов A100 в месяц. При региональной цене Pro в 2 евро час A100 выходит примерно в 7 центов. Облачные цены Google на эту же железку: от $3.52/час.
💼 Почему это важно:
Раньше Colab был вкладкой браузера для студентов. Теперь это CLI-инфраструктура для агентов: Antigravity, Claude Code и Codex могут сами поднимать GPU, гонять файнтюн и забирать веса. Личный облачный ускоритель по цене подписки, для маленьких моделей и экспериментов этого хватит с головой.
📺 Проверил вживую перед постом: сессия A100 поднялась за 4 секунды, matmul 4096³×50 прогнался за полсекунды, 12.2 TFLOPS. Единственное правило: не забудь colab stop, ставка капает даже в простое.
#Colab #GoogleAI #GPU #CLI #агенты
———
@tsingular
Google тихо сделал то, чего все ждали: подписка Google AI Pro теперь включает Colab. 200 compute units в месяц, и через новый CLI их можно тратить прямо из терминала, без браузера и вкладки с ноутбуком.
Или, что интереснее нам,- напрямую отдать в распоряжение ИИ агенту.
⚙️ Что умеет:
- поднимает CPU, GPU (T4, L4, H100, A100) и TPU за секунды
-
colab exec -f script.py выполняет локальный файл на облачном GPU, код шлётся прямо в кернел-
colab download забирает веса модели или логи обратно на машину-
colab run запускает эфемерную джобу: поднял VM, выполнил скрипт, погасил, одной командой- есть агентский режим: shebang со встроенным
colab run, скрипт сам просит себе GPU💡 Математика халявы:
Например A100 40GB ест 5.30 CU/час, версия 80GB с High-RAM, 6.77 CU/час. Делим 200 CU на ставку и получаем 30-37 часов A100 в месяц. При региональной цене Pro в 2 евро час A100 выходит примерно в 7 центов. Облачные цены Google на эту же железку: от $3.52/час.
💼 Почему это важно:
Раньше Colab был вкладкой браузера для студентов. Теперь это CLI-инфраструктура для агентов: Antigravity, Claude Code и Codex могут сами поднимать GPU, гонять файнтюн и забирать веса. Личный облачный ускоритель по цене подписки, для маленьких моделей и экспериментов этого хватит с головой.
📺 Проверил вживую перед постом: сессия A100 поднялась за 4 секунды, matmul 4096³×50 прогнался за полсекунды, 12.2 TFLOPS. Единственное правило: не забудь colab stop, ставка капает даже в простое.
#Colab #GoogleAI #GPU #CLI #агенты
———
@tsingular
✍11🔥11❤4⚡3👍1
Forwarded from Machinelearning
Команда открытого движка инференса SGLang добавила эндпоинт
/v1/decisions, который превращает обычную чат-модель в модель для принятия решений.Второй эндпоинт,
/v1/systemone, отдаёт те же решения в формате System One API, который TypeSafe AI представила 19 сентября вместе со своей моделью Jev.API поддерживает выбор из 2–26 вариантов (до 255 с двухбуквенными метками), оценку по шкале из 2–10 уровней и вопрос «да или нет».
SGLang присваивает каждому варианту метку из одного токена - буквы для выбора, цифры для оценки,
yes и no для бинарных вопросов.Затем движок читает логарифмические вероятности следующего токена по всему словарю и переводит их в вероятности через софтмакс с учётом температуры.
Отсюда ограничение - метка обязана укладываться в один токен в позиции ответа.
Решение принимает один вход без истории диалога, а вероятности у холодного запроса и у запроса из префиксного кэша могут расходиться на несколько сотых.
Для демонстрации SGLang заставил Qwen3.8-27B играть в Pokémon FireRed. Модель по текущему состоянию игры выбирала между атакой, сменой покемона и лечением меньше чем за 100 мс на решение и прошла Элитную четвёрку и чемпиона.
Функция доступна в nightly-сборках SGLang из основной ветки. Её проверили на Qwen3.8-27B и Qwen3.5-35B-A3B, другие модели подойдут, если метки ответов укладываются в один токен.
Примеры запросов и описание формата есть в документации SGLang.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5👍5🔥3⚡1
Forwarded from Анализ данных (Data analysis)
Пользователи нашли в локальных файлах Claude и Claude Code набор идентификаторов и телеметрии, которые потенциально позволяют понять, что разные аккаунты запускались на одном компьютере.
В CLI сохраняются:
-
machineID — постоянный ID установки-
userID и anonymousId — идентификаторы телеметрии- отдельные ID для других конфигураций и окружений
В десктопном приложении есть:
-
ant-did — ID устройства-
ant-device-registry.json — реестр устройства и связанных аккаунтов-
remote-control-state.json — телеметрия-
config.json — настройки, последний аккаунт, служебное состояние и кэш-
chromeExtension.pairedDeviceId — ID связанного браузерного расширения-
claude-code-sessions/ — локальная история сессий Claude Code для аккаунтов, которые использовались на машинеТо есть даже после выхода из аккаунта на компьютере может оставаться достаточно локальных метаданных, чтобы связать несколько учеток между собой.
Перед переустановкой, сменой аккаунта или восстановлением после блокировки стоит сначала сохранить важные проекты и сессии и понимать, какие данные Claude хранит локально.
Удаление локальных метаданных само по себе не гарантирует снятие блокировки и может привести к потере настроек или сессий.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11✍5❤1👍1💯1
Когда это все началось, многие в шутку говорили, что похоже, что Трамп советовался с ИИ.
А тут выяснилось, что это не шутка.
Мы живём в таймлайне, где президент США советуется с ИИ перед принятием решений.
Будущее наступило де факто.
Можно ли говорить, что ИИ теперь управляет США? как думаете?
#США #Trump #Grok
———
@tsingular
А тут выяснилось, что это не шутка.
Мы живём в таймлайне, где президент США советуется с ИИ перед принятием решений.
Будущее наступило де факто.
Можно ли говорить, что ИИ теперь управляет США? как думаете?
#США #Trump #Grok
———
@tsingular
🤯17 17🤣7👀3❤1💯1🗿1
ASD-STE100 - техническое упрощение как навык для агента
По следам поста Андрея Карпатого (https://x.com/karpathy/status/2105819303471976479)
STE(Simplified Technical English) помогает техническим писателям писать ясно, просто и однозначно, чтобы их тексты понимали читатели по всему миру.
Есть его подвид - ASD-STE100 для авиакосмической отрасли.
Решил сделать по нему свой вариант навыка.
Проверяет текст по чек-листу: длина предложений, залог, пунктуация, термины. Он заменяет сложные слова простыми: utilize → use, prior to → before, operable → can operate. Если замена слово в слово не работает, навык перестраивает фразу.
Пишет сообщения об ошибках по паттерну стандарта: уровень риска, команда, причина. Он держит один термин для одного предмета во всём тексте.
Лимиты из стандарта: инструкция до 20 слов, описание до 25, термин до 3 слов, абзац до 6 предложений. Для русского языка навык применяет те же принципы без английского словаря.
Андрей предлагает такие сценарии:
Оригинальная документация стандарта, текст и навык в ИИзбранном
Публичный открытый навык (не мой):
https://github.com/danyuchn/asd-ste100-skill
#ASD #STE #навыки
———
@tsingular
По следам поста Андрея Карпатого (https://x.com/karpathy/status/2105819303471976479)
STE(Simplified Technical English) помогает техническим писателям писать ясно, просто и однозначно, чтобы их тексты понимали читатели по всему миру.
Есть его подвид - ASD-STE100 для авиакосмической отрасли.
Решил сделать по нему свой вариант навыка.
Проверяет текст по чек-листу: длина предложений, залог, пунктуация, термины. Он заменяет сложные слова простыми: utilize → use, prior to → before, operable → can operate. Если замена слово в слово не работает, навык перестраивает фразу.
Пишет сообщения об ошибках по паттерну стандарта: уровень риска, команда, причина. Он держит один термин для одного предмета во всём тексте.
Лимиты из стандарта: инструкция до 20 слов, описание до 25, термин до 3 слов, абзац до 6 предложений. Для русского языка навык применяет те же принципы без английского словаря.
Андрей предлагает такие сценарии:
Текст. Попросите LLM объяснить что-то на ASD-STE100: это спецификация контролируемого языка, созданная для документации по обслуживанию авиатехники. LLM хорошо её знают, а строгие правила дают чистый и легко читаемый стиль.
Спецификация жёсткая, поэтому иногда помогает смягчить запрос, например: «на 80% в духе ASD-STE100».
диаграммы и
изображения: Вместо текста попросите нарисовать диаграмму. Её проще воспринять и понять.
веб-страницы: Попросите ответ «в HTML» и получите красивую интерактивную страницу. LLM уже хорошо делают фронтенд, анимации и т. п.
видео-объяснения: Самый перспективный формат — полностью кастомные обучающие видео на любую тему. Попробуйте, например: «Сделай видео-объяснение X в стиле 3Blue1Brown, озвучку — через мой API-ключ ElevenLabs». Ключ нужен для озвучки, либо попросите LLM найти бесплатные альтернативы, работающие локально. Это уже начинает получаться!
Итог:
Чем лучше LLM, тем больше рутины они берут на себя, а наша работа смещается на уровень надзора и понимания.
LLM помогают и здесь: интеллект и код становятся всё доступнее, поэтому можно заказывать большие одноразовые артефакты под конкретную задачу (веб-приложения, видео-объяснения), которые раньше не имело смысла создавать.
Оригинальная документация стандарта, текст и навык в ИИзбранном
Публичный открытый навык (не мой):
https://github.com/danyuchn/asd-ste100-skill
#ASD #STE #навыки
———
@tsingular
✍10🔥5👍2⚡1🤝1
This media is not supported in your browser
VIEW IN TELEGRAM
Termium - браузер в терминале
Интересный открытый проект вышел - полноценный Chromium браузер прямо в вашем терминале.
Работает через headless режим через графический протокол Kitty (Ghostty, Kitty, WezTerm) или sixel (foot, xterm, Windows Terminal) или вообще через цветной ASCII где угодно :).
Установка:
Твиттер разработчика
#Termium #браузер
———
@tsingular
Интересный открытый проект вышел - полноценный Chromium браузер прямо в вашем терминале.
Работает через headless режим через графический протокол Kitty (Ghostty, Kitty, WezTerm) или sixel (foot, xterm, Windows Terminal) или вообще через цветной ASCII где угодно :).
Установка:
curl -fsSL https://termium.dev/install | bash
Твиттер разработчика
#Termium #браузер
———
@tsingular
👍14🔥6⚡3✍1
This media is not supported in your browser
VIEW IN TELEGRAM
Decision 2.0 от vLLM - еще один сверхбыстрый классификатор
Команда vLLM Semantic Router выпустила вторую версию Decision Foundation Models: шесть открытых весов от 0.6B до 27B, которые по скорости уделывают Jev в 20 раз.
⚙️ Что это: модели-решения. Обычная LLM генерирует текст, Decision возвращает типизированные вероятности, причём разная модель делает это по-разному: Choice выбирает опцию из кандидатов, Noul отвечает «да/нет» с вероятностью, Score расставляет оценки по шкале.
Один формат для маршрутизации запроса, проверки политики и оценки срочности.
🤖 Семейство Decision 2.0:
- Kai 0.6B, стартовая точка для маршрутизации,
- Eos 0.8B и Sol 2B, компактные гибриды с контекстом 16k,
- Nox 4B, правила и комбинации условий,
- Lux 9B, сильнейшая открытая в линейке,
- Vega 27B, вошла в мировой топ-3 Jev Decision Index из 71 модели.
📊 Цифры: каждая модель лидирует в своём размере на Jev Decision Index.
До 2,5× выше балл Decision 1.0 при том же размере.
64 вопроса об одном запросе за один проход за 63 мс на одиночном GPU.
И 20× быстрее Jev API на одиночном решении.
🛠 Интеграция: Apache-2.0, загрузка через Transformers, нативная сборка под vLLM Semantic Router.
Формат System One: state, model, questions. До 512 решений в одном батче.
💼 Зачем бизнесу: это слой между интеллектом и действием. Вопрос «пустить тяжёлую модель или лёгкую, эскалировать тикет или нет, срочно или терпит» больше не требует промпта на 500 токенов в GPT-классе.
Решение стоит миллисекунды и копейки, а веса лежат у тебя на диске.
GitHub | HuggingFace
Похоже что такие модели становятся стандартным слоем в каждом агентном стеке, как сегодня эмбеддинги и реранкеры.
Для модераторов, кстати, шикарно - 27млрд модель вполне примет осознанное решение.
Получить ответ по 64-м признакам за 60мс - это прям максимально полезно может быть
#Decision #vllm #llm #ai
———
@tsingular
Команда vLLM Semantic Router выпустила вторую версию Decision Foundation Models: шесть открытых весов от 0.6B до 27B, которые по скорости уделывают Jev в 20 раз.
⚙️ Что это: модели-решения. Обычная LLM генерирует текст, Decision возвращает типизированные вероятности, причём разная модель делает это по-разному: Choice выбирает опцию из кандидатов, Noul отвечает «да/нет» с вероятностью, Score расставляет оценки по шкале.
Один формат для маршрутизации запроса, проверки политики и оценки срочности.
🤖 Семейство Decision 2.0:
- Kai 0.6B, стартовая точка для маршрутизации,
- Eos 0.8B и Sol 2B, компактные гибриды с контекстом 16k,
- Nox 4B, правила и комбинации условий,
- Lux 9B, сильнейшая открытая в линейке,
- Vega 27B, вошла в мировой топ-3 Jev Decision Index из 71 модели.
📊 Цифры: каждая модель лидирует в своём размере на Jev Decision Index.
До 2,5× выше балл Decision 1.0 при том же размере.
64 вопроса об одном запросе за один проход за 63 мс на одиночном GPU.
И 20× быстрее Jev API на одиночном решении.
🛠 Интеграция: Apache-2.0, загрузка через Transformers, нативная сборка под vLLM Semantic Router.
Формат System One: state, model, questions. До 512 решений в одном батче.
💼 Зачем бизнесу: это слой между интеллектом и действием. Вопрос «пустить тяжёлую модель или лёгкую, эскалировать тикет или нет, срочно или терпит» больше не требует промпта на 500 токенов в GPT-классе.
Решение стоит миллисекунды и копейки, а веса лежат у тебя на диске.
GitHub | HuggingFace
Похоже что такие модели становятся стандартным слоем в каждом агентном стеке, как сегодня эмбеддинги и реранкеры.
Для модераторов, кстати, шикарно - 27млрд модель вполне примет осознанное решение.
Получить ответ по 64-м признакам за 60мс - это прям максимально полезно может быть
#Decision #vllm #llm #ai
———
@tsingular
🔥9⚡3✍2❤2🤩1🙏1
Llama.cpp тоже добавили поддержку моделей типа SystemOne
https://huggingface.co/blog/ggml-org/decision-models-in-llamacpp
Новый стандарт по факту.
Кстати, что интересно,- есть и модели с глазками:
llama serve -hf ggml-org/OpenJev-GGUF
на базе OpenJev
#llamacpp #systemone
------
@tsingular
https://huggingface.co/blog/ggml-org/decision-models-in-llamacpp
Новый стандарт по факту.
Кстати, что интересно,- есть и модели с глазками:
llama serve -hf ggml-org/OpenJev-GGUF
на базе OpenJev
#llamacpp #systemone
------
@tsingular
🔥8❤2⚡1✍1👍1
Утро диких промптов.
Наткнулся на прикольный промт у @nukonechnoru, делюсь:
делитесь, что у вас получится
#промпты
———
@tsingular
Наткнулся на прикольный промт у @nukonechnoru, делюсь:
Кадр должен содержать одно неожиданное физическое действие или визуальное обстоятельство. Не повторяй стандартные модельные позы. Пусть персонаж взаимодействует с окружающей средой так, будто фотограф случайно поймал фрагмент странного перформанса.
Для каждого кадра самостоятельно придумай один необычный элемент:
- странное использование обычного предмета;
- неожиданное положение тела;
абсурдное взаимодействие с окружением;
- физическое нарушение привычной композиции;
- контраст между серьёзностью персонажа и происходящим;
- ощущение, что кадр является частью неизвестного действия.
Не объясняй странность и не превращай её в сюрреалистический спецэффект. Событие должно выглядеть физически возможным и происходить непосредственно перед камерой.
Главное правило: фотография должна вызывать реакцию "что здесь вообще происходит?", а не "какая красивая фотосессия".
делитесь, что у вас получится
#промпты
———
@tsingular
⚡16❤7🔥7😁4✍3👍3🆒1
Forwarded from Метаверсище и ИИще
This media is not supported in your browser
VIEW IN TELEGRAM
LTX бахнули отдельную IC-LoRA Layout to Render для LTX-2.5 22B.
Она весит около 1.31 GB,rank 128 и обучена специально воспринимать 3D viewport/playblast как control signal.
Нейрорендер в действии и опенсорсе.
Заодно лежит готовый двухпроходный ComfyUI workflow:
Первый проход - 960x544, 8 steps.
Второй - 1920x1088, ещё 3 steps после x2 latent upscale.
Для запуска нужны базовые distilled-веса LTX-2.5, Gemma 4 12B encoder, video/audio VAE и spatial upscaler. Официальные ComfyUI-ноды и workflows тоже есть.
Что на входе? Плейбласт из Blender, и первый кадр в нужном стиле. Лучше всего брать первый кадр плейбласта и прогонять его через какой-нибудь image-to-image.
У них также есть Alpha Gen, SDR->HDR, Native Resolution, Refine/Restore и Layout to Render, то есть Lightricks явно пытаются застолбить опенсорсную поляну как post-production/VFX toolkit.
Ссылки:
LoRA:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render
Файлы LoRA + готовый JSON workflow:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render/tree/main
Сам workflow:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render/blob/main/LTX-2.5_ICLoRA_Layout_To_Render_Two_Stage_Distilled.json
@cgevent
Она весит около 1.31 GB,rank 128 и обучена специально воспринимать 3D viewport/playblast как control signal.
Нейрорендер в действии и опенсорсе.
Заодно лежит готовый двухпроходный ComfyUI workflow:
LTX-2.5_ICLoRA_Layout_To_Render_Two_Stage_Distilled.jsonПервый проход - 960x544, 8 steps.
Второй - 1920x1088, ещё 3 steps после x2 latent upscale.
Для запуска нужны базовые distilled-веса LTX-2.5, Gemma 4 12B encoder, video/audio VAE и spatial upscaler. Официальные ComfyUI-ноды и workflows тоже есть.
Что на входе? Плейбласт из Blender, и первый кадр в нужном стиле. Лучше всего брать первый кадр плейбласта и прогонять его через какой-нибудь image-to-image.
У них также есть Alpha Gen, SDR->HDR, Native Resolution, Refine/Restore и Layout to Render, то есть Lightricks явно пытаются застолбить опенсорсную поляну как post-production/VFX toolkit.
Ссылки:
LoRA:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render
Файлы LoRA + готовый JSON workflow:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render/tree/main
Сам workflow:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render/blob/main/LTX-2.5_ICLoRA_Layout_To_Render_Two_Stage_Distilled.json
@cgevent
⚡6🤯5🔥3❤1🤩1
JevBench: бенч классификаторов в котором умная GPT-5.6 лишь на 14м месте
📋 TypeSafe AI,- стартап экс-исследователя OpenAI Диогу Алмейды, соавтора RLHF, с $40 млн от DCVC, в середине сентября после двух лет скрытой разработки выпустила модель Jev (название отсылает к парадоксу Джевонса: чем дешевле ресурс, тем больше его потребляют). Модель получает состояние и типизированные вопросы, а коду возвращает готовое решение с вероятностями, текст не генерируя вовсе.
За считанные дни вокруг вырос класс открытых аналогов, и у класса появился собственный бенчмарк JevBench: 52 системы, 534 решения, открытые задачи и методика под MIT.
📊 Балл сворачивается из четырёх осей равного веса: интеллект (точность выше угадывания), калибровка (сбывается ли «уверен на 80%» в 80% случаев), скорость и цена за тысячу решений, а не за токены.
Итог считается средним геометрическим, поэтому одна слабая ось топит балл, и точность за деньги уже не выкупишь.
Jev впереди с 74,4. Открытая пересборка SemIf на Qwen3.5-4B отстаёт на 1,3 пункта при почти вдвое меньшей цене, а обычный Qwen3-32B без всякого обучения под решения идёт шестым.
GPT-5.6 Luna показала лучший интеллект рейтинга, 95,3, и лишь 14-е место: 24 цента за тысячу решений против четырёх у Jev.
Реранкеры bge и GTE застряли около нуля.
💼 Для классификации, маршрутизации и оценки внутри продукта, где большая LLM дорога и медленна, это уже рабочий класс моделей: одно решение Jev читает в среднем 950 входных токенов, выходные токены бесплатны.
Открытые пересборки подобрались к оригиналу на 1,3 пункта, так что спор скоро сместится с цены на калибровку и стабильность.
Чёт я не думал, что их уже так много, в том числе открытых бесплатных.
Лицо инвесторов TypeSafe, которые залили в Jev $40 млн неделю назад предствили? :)
📎 GitHub · Документация Jev
#Jev #бенчмарк
———
@tsingular
📋 TypeSafe AI,- стартап экс-исследователя OpenAI Диогу Алмейды, соавтора RLHF, с $40 млн от DCVC, в середине сентября после двух лет скрытой разработки выпустила модель Jev (название отсылает к парадоксу Джевонса: чем дешевле ресурс, тем больше его потребляют). Модель получает состояние и типизированные вопросы, а коду возвращает готовое решение с вероятностями, текст не генерируя вовсе.
За считанные дни вокруг вырос класс открытых аналогов, и у класса появился собственный бенчмарк JevBench: 52 системы, 534 решения, открытые задачи и методика под MIT.
📊 Балл сворачивается из четырёх осей равного веса: интеллект (точность выше угадывания), калибровка (сбывается ли «уверен на 80%» в 80% случаев), скорость и цена за тысячу решений, а не за токены.
Итог считается средним геометрическим, поэтому одна слабая ось топит балл, и точность за деньги уже не выкупишь.
Jev впереди с 74,4. Открытая пересборка SemIf на Qwen3.5-4B отстаёт на 1,3 пункта при почти вдвое меньшей цене, а обычный Qwen3-32B без всякого обучения под решения идёт шестым.
GPT-5.6 Luna показала лучший интеллект рейтинга, 95,3, и лишь 14-е место: 24 цента за тысячу решений против четырёх у Jev.
Реранкеры bge и GTE застряли около нуля.
💼 Для классификации, маршрутизации и оценки внутри продукта, где большая LLM дорога и медленна, это уже рабочий класс моделей: одно решение Jev читает в среднем 950 входных токенов, выходные токены бесплатны.
Открытые пересборки подобрались к оригиналу на 1,3 пункта, так что спор скоро сместится с цены на калибровку и стабильность.
Чёт я не думал, что их уже так много, в том числе открытых бесплатных.
Лицо инвесторов TypeSafe, которые залили в Jev $40 млн неделю назад предствили? :)
📎 GitHub · Документация Jev
#Jev #бенчмарк
———
@tsingular
🔥10❤5⚡3😁2😢1