Step 3.7 Flash — это разреженная визуально-языковая модель Mixture-of-Experts (MoE) с 198 миллиардами параметров, которая сочетает в себе языковую основу с 196 миллиардами параметров и визуальный кодировщик с 1,8 миллиардами параметров для естественного понимания изображений. Модель разработана для высокочастотных производственных задач и активирует около 11 миллиардов параметров на токен, обеспечивая пропускную способность до 400 токенов в секунду. Step 3.7 Flash поддерживает контекстное окно размером 256К и предлагает три уровня логического вывода на выбор (низкий, средний и высокий), чтобы разработчики могли легко сбалансировать скорость, стоимость и глубину анализа.
Работает локально на 128 ГБ ОЗУ!
Step 3.7 Flash is available via our API platform (中文/EN), and you can chat with it on the Web (中文/EN) or in our App (iOS/Android).
Если у вас есть возможность установить Stepfun 3.7 Flash в оперативную память, попробуйте! По качеству изображения он близок к GLM 5.1, а по восприятию трехмерного мира — примерно на 80 % к нему.
Однако, учитывая, что его параметры составляют всего 25 % от параметров GLM 5.1 и у него есть встроенная система технического зрения, можно сказать, что на данный момент ему нет равных. (Пример генерации симулятора) и (Sonic-like platformer)
(Обсуждение)
#Step37Flash #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
LLM Checker — бесплатная утилита, которая анализирует ваше железо (RAM, GPU, CPU) и подбирает из каталога в 200+ моделей подходящие под ваши задачи.
Результат ранжируется по качеству, скорости генерации, размеру и энергопотреблению!
#LLMChecker #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Media is too big
VIEW IN TELEGRAM
Агент Который растет Вместе с вами!
- Живёт повсюду
Telegram, Discord, Slack, WhatsApp, Signal, электронная почта, интерфейс командной строки — и это далеко не полный список платформ. Один агент, одна память!
- Постоянная память
Он изучает ваши проекты, автоматически генерирует навыки и никогда не забывает, как решил ту или иную проблему.
- Целенаправленная автоматизация
Планирование отчетов, резервного копирования и брифингов на основе естественного языка — выполняется автоматически через шлюз, что позволяет сосредоточиться на других задачах.
- Делегирование - Умножение задач
Изолированные субагенты с собственными диалогами, терминалами и скриптами Python RPC для конвейеров с нулевыми затратами на контекст.
- Поиск - Просмотр веб-страниц
Веб-поиск, автоматизация браузера, компьютерное зрение, генерация изображений, преобразование текста в речь и мультимодальные рассуждения.
- Изолированная песочница
Пять бэкендов — локальный, Docker, SSH, Singularity, Modal — с усилением защиты контейнеров и изоляцией пространств имен.
Для: Mac OS, Windows, Linux (Тарифы)
(Обсуждение)
#HermesDesktop #MacOS #Windows #Linux #AiAgent #AgentAi #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Holo3.1: быстрые агенты для локального использования на компьютере
Holo3.1
— это новейшее семейство визуально-языковых моделей (Vision-Language Models, VLM) для агентов, использующих компьютер. В отличие от Holo3, эта модель поддерживает не только автоматизацию браузеров и настольных компьютеров, но и мобильные устройства, а также нативную поддержку вызова функций для бесшовной интеграции с фреймворками агентов и локальное развертывание с помощью оптимизированных контрольных точек с квантованием.
Семейство Holo3.1 включает в себя модели с параметрами от 0,8B до 35B-A3B. Holo3.1 обеспечивает высокую производительность при использовании в компьютерах, пользовательских интерфейсах, мобильных устройствах и бизнес-процессах, повышая гибкость развертывания и экономическую эффективность.
Разработано: компанией H
Тип модели: Визуальные языковые модели для навигации и агентов по использованию компьютеров
Доступные модели: Holo3.1-0.8B, Holo3.1-4B, Holo3.1-9B, Holo3.1-35B-A3B
Базовые модели: семейство Qwen 3.5
Поддерживаемые среды: Веб, настольные, мобильные
Доступные варианты квантования для Holo3.1-35B-A3B: BF16, FP8, NVFP4, Q4 GGUF
Запись в блоге: hcompany.ai/holo3.1
Быстрый запуск: hub.hcompany.ai/quickstart
Лицензия: Лицензия Apache 2.0
(Обсуждение)
#Holo31 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Статья: Малы, да удалы: почему важны ИИ-модели, которые совсем не на слуху
https://www.forbes.ru/mneniya/562028-maly-da-udaly-pocemu-vazny-ii-modeli-kotorye-sovsem-ne-na-sluhu
https://www.forbes.ru/mneniya/562028-maly-da-udaly-pocemu-vazny-ii-modeli-kotorye-sovsem-ne-na-sluhu
Forbes.ru
Малы, да удалы: почему важны ИИ-модели, которые совсем не на слуху
Новости из мира ИИ давно выглядят как гонка количества нулей в отчетных цифрах: модели с триллионами параметров, приближающиеся к $1 трлн оценки ведущих ИИ-стартапов, многомиллиардные инвестиции, дата-центры размером с небольшой город и с гигаваттным
This media is not supported in your browser
VIEW IN TELEGRAM
📝 ToolKitText чистит текст после копипаста
Бесплатный набор утилит для работы с текстом в браузере. Скопировал из PDF, Google Docs или ChatGPT — текст разъехался, переносы кривые, шрифты чужие. Закидываешь сюда, чистишь в один клик.
Что умеет:
• Считает слова, знаки, строки и время на чтение
• Fix PDF — восстанавливает абзацы после копипаста
• Strip AI Formatting — удаляет markdown-разметку и звёздочки после ChatGPT
• Убирает лишние переносы и склеивает текст
• Полная очистка от скрытой разметки и чужих шрифтов
Работает локально в браузере — данные не уходят на сервер. Без регистрации, рекламы и трекеров.
🔗 https://toolkittext.com
#ToolKitText #AiText #LocalAi #AiLocal
Бесплатный набор утилит для работы с текстом в браузере. Скопировал из PDF, Google Docs или ChatGPT — текст разъехался, переносы кривые, шрифты чужие. Закидываешь сюда, чистишь в один клик.
Что умеет:
• Считает слова, знаки, строки и время на чтение
• Fix PDF — восстанавливает абзацы после копипаста
• Strip AI Formatting — удаляет markdown-разметку и звёздочки после ChatGPT
• Убирает лишние переносы и склеивает текст
• Полная очистка от скрытой разметки и чужих шрифтов
Работает локально в браузере — данные не уходят на сервер. Без регистрации, рекламы и трекеров.
#ToolKitText #AiText #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Автор Dataroom не видит смысла давать эту работу дорогим моделям (в целях экономии токенов) и предлагает делить эту задачу на две фазы:
1/ Локальная модель ищет в вебе, переранжирует источники и складывает всё в структурированный .zip: папки topics/, sources/, data/, summary md и каждый факт с ссылкой на источник.
Это занимает столько времени, сколько ты задашь, ну например час.
2/ Дальше уже дорогой фронтир-агент Claude/Codex читает эти файлы и работает только по ним. Без веба.
Первый вопрос, который у меня возник — ну ладно, локальная модель (автор советует Qwen3.6-35B-A3B), но она же не стоит рядом с тем же фронтир моделями с которыми мы привыкли и как она вообще будет нормально ресёрчить?
Qwen не ресёрчит, eё работа оркестрация инструментов:
• Формулирует поисковые запросы
• Решает какие страницы читать дальше
• Понимает когда тему можно закрывать
• Записывает выжимки в markdown
• Через function calling вызывает инструменты, а не пытается их заменить
А всю работу по поиску в вебе делает Jina CLI, не LLM. Он умеет искать, вытаскивать чистый текст со страниц, ранжировать источники по релевантности и выкидывать повторы, даже если они переписаны другими словами.
Плюс цитирование зашито в сам пайплайн: каждый факт записывается с URL на первоисточник.
Eщё бонус локалки в том, что нет лимита сессий. API Claude обрывает сессию по времени и считает токены.
Qwen на твоём железе только тратит электричество и может крутиться час, два, три. Поэтому ресёрч получается долгим, но именно поэтому и тщательным.
Так что хорошая модель ≠ качественный ресёрч. Качество приходит от пайплайна, а не от мощности модели.
Есть еще Skill для агентов, чтобы они сами запускали Dataroom как API: послал запрос, подождал, скачал zip.
Веб-версия | GitHub (Источник)
#DeepResearch #Dataroom #AiAgent #AgentAi #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Gemma — это семейство открытых моделей, разработанных компанией Google DeepMind. Модели Gemma 4 являются мультимодальными и обрабатывают текстовые и графические данные (со звуком на E2B, E4B и 12B), а также генерируют текстовые данные. В этом релизе представлены модели с открытыми весами как в предварительно обученном, так и в оптимизированном по инструкции вариантах. Gemma 4 имеет контекстное окно до 256 000 токенов и поддерживает более 140 языков.
Модель Gemma 4, основанная на архитектурах Dense и Mixture-of-Experts (MoE), хорошо подходит для таких задач, как генерация текста, кодирование и логическое мышление. Модели доступны в пяти различных размерах: E2B, E4B, 12B, 26B A4B и 31B. Благодаря разным размерам их можно использовать в самых разных устройствах — от дорогих телефонов до ноутбуков и серверов, что делает доступ к современному искусственному интеллекту более доступным.
В Gemma 4 представлены ключевые возможности и архитектурные усовершенствования:
- Reasoning — все модели этой линейки обладают широкими возможностями логического мышления и настраиваемыми режимами работы.
- Расширенные мультимодальные возможности — обработка текста, изображений с переменным соотношением сторон и разрешением (все модели), видео и аудио (встроены в модели E2B, E4B и 12B).
- Разнообразные и эффективные архитектуры — предлагает варианты Dense и Mixture-of-Experts (MoE) разных размеров для масштабируемого развертывания.
- Оптимизировано для использования на устройствах — модели меньшего размера специально разработаны для эффективного локального выполнения на ноутбуках и мобильных устройствах.
- Увеличенное контекстное окно — модели меньшего размера имеют контекстное окно размером 128 КБ, а модели среднего размера — 256 КБ.
- Улучшенное кодирование и агентные возможности — заметные улучшения в тестах на кодирование, а также встроенная поддержка вызова функций, что позволяет создавать автономных агентов с широкими возможностями.
- Встроенная поддержка системных подсказок — в Gemma 4 появилась встроенная поддержка роли system , что позволяет вести более структурированные и контролируемые диалоги.
Принимает на вход текст, аудио и изображения с видео. Длина видео ограничена 30 секундами, а аудио 60 секундами. Модель ризонер, с 256к контекста и лицензией Apache 2.0.
Самое интересное в релизе — то как в нём устроена мультимодальность. Обычно моделям для мультимодальности нужен отдельный энкодер, здесь же они обходятся простыми линейными проекциями, что требует меньше параметров и вычислений.
Блог: https://developers.googleblog.com/gemma-4-12b-the-developer-guide/
(Обсуждение) (Еще тут)
Статья: Gemma 4 12B
#Gemma4 #Gemma412B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Claude Code, Codex CLI, OpenCode, Copilot CLI, Droid и есть Assistants: Hermes Agent и OpenClaw!
И кроме поддержки Google TurboQuant, есть и поддержка: MTP (Multi-Token Prediction)! Отличный аналог #Jan
#atomicchat #atomic #GoogleTurboQuant #TurboQuant #MacOS #SoftAi #AiSoft #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Система преобразования текста в речь Higgs Audio v3 предназначена для голосового чата: она не просто читает, а говорит. Она преобразует ответы модели в выразительную разговорную речь на более чем 100 языках, с клонированием голоса без обучения и встроенным контролем эмоций, стиля, просодии, пауз и звуковых эффектов.
(Обсуждение)
#HiggsAudio #HiggsAudiov3TTS #TTS #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🎵 Google выпустил опенсорсную модель для генерации музыки в реальном времени
Magenta RealTime 2 работает локально на устройстве и генерирует музыку непрерывно, без остановок.
Модель реагирует на команды с задержкой около 200 мс. Управлять можно через текст, аудио или MIDI — выбирай удобный формат и экспериментируй с созданием треков прямо на лету.
🎵 Google выпустил бесплатную модель для создания музыки в реальном времени
Magenta RealTime 2 превращает MacBook в полноценный музыкальный инструмент. Модель поддерживает десятки жанров и умеет имитировать разные звуки — управлять можно через текстовые команды, жесты или виртуальное пианино.
Порог входа низкий: даже новичок соберёт мелодию из одной ноты. Запускается на MacBook Air без танцев с бубном.
#MagentaRealTime #MagentaRealTime2 #AiMusic #MusicAi #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Google запустила утилиту AI Edge Gallery для macOS, которая позволяет владельцам Mac запускать ИИ-модели непосредственно на устройстве без подключения к интернету. Такое решение повышает конфиденциальность данных, снижает зависимость от облачных сервисов и позволяет работать с нейросетями даже офлайн.
В отличие от популярных решений вроде Ollama или LM Studio, платформа Google пока поддерживает только собственные модели компании. Пользователям доступны Gemma-4-12B-it, Gemma-4-E2B-it, Gemma-4-E4B-it, Gemma-3n-E2B-it и Gemma-3n-E4B-it. Самой интересной пока считается Gemma 4 12B — мультимодальная модель с 12 млрд параметров, способная работать с текстом, изображениями и аудио.
По заявлению Google, производительность локальной модели Gemma 4 12B сопоставима с более крупными моделями класса 26B, но при этом способна запускаться на ноутбуках с 16 ГБ оперативной памяти.
- AI Edge Eloquent - #iOS и #MacOS
- AI Edge Gallery - #Android и #iOS и #MacOS
#Google #AIEdgeEloquent #AIEdgeGallery #Диктовка #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM