Local Ai
LifeOS — это персональный органайзер, с которым вы в основном и общаетесь. Вы произносите что-то вслух, Whisper (или любая другая модель преобразования речи в текст) локально транскрибирует это, локальная языковая модель читает текст, и он становится задачей, событием, записью в дневнике, расходом, взвешиванием или приемом пищи. Модель предлагает варианты, но никогда их не записывает. Приложение проверяет каждый вариант, и в каждой карточке приводятся слова, из которых она была создана. Преимущество в том, что ничего не покидает пределы вашего устройства.
(Обсуждение)
#LifeOS #ASR #AiVoice #Диктовка #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
В отличие от традиционных инструментов ИИ, которые зависят от удаленных облачных API, Agro переносит весь механизм логического вывода, планирование контекста, выполнение инструментов агента и рендеринг AIGC непосредственно на ваше физическое устройство. Благодаря нативной среде выполнения Google LiteRT-LM на C++ и бэкендам аппаратного ускорения (Apple Metal, WebGPU Dawn, DirectX, Vulkan, OpenCL), Agro гарантирует 100% конфиденциальность данных и сверхплавный и быстрый процесс генерации.
🌟 Основные преимущества:
🔒 100 % локальное и автономное использование: все диалоги, исторические записи и логические выводы хранятся исключительно на вашем устройстве — никакие данные не отправляются в облако.
⚡️ Собственное аппаратное ускорение: низкоуровневое управление памятью и оптимизация графического процессора, адаптированная для графических процессоров настольных компьютеров, Apple Neural Engine / Metal и мобильных графических процессоров.
🧩 Автономный цикл работы агента и экосистема инструментов: встроенный структурированный цикл вызова инструментов, поддерживающий локальное выполнение JavaScript, веб-поиск в реальном времени и анализ содержимого URL.
🎨 Мультимодальная структурированная генерация: помимо обычного текста, позволяет синтезировать и отображать на устройстве в режиме реального времени векторную графику SVG, 8-битный чиптюн и анимацию Lottie.
#Android Agro-1.2.2.apk
#macOS Arm64 Agro-1.2.2-macos-aarch64.dmg - если карантин, то в Терминале:
sudo xattr -d com.apple.quarantine /Applications/Agro.app#Windows X86_64 Agro-1.2.2-windows-x86_64.exe
(Обсуждение)
P,S, Очень простое для начинающих! Выбор Gemma4-4B или любая LiteRT на диске! Помнит историю чата как "знания"!
#Agro #Linux #iOS #iPhone #AiAgent #AgentAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
благодаря llama.cpp — очень большие модели MoE на 64-гигабайтном Mac
Форк llama.cpp для запуска моделей MoE намного большего размера, чем доступная оперативная память с потоковой передачей их экспертов с SSD по запросу, оптимизированный специально для Apple Silicon.
Целевое оборудование: M1 Max, 64 ГБ, ~400 ГБ/с. Все, кроме экспертов, остается в оперативной памяти; эксперты хранятся в ограниченном кэше, который заполняется по запросу и с помощью одноуровневой предварительной выборки. Таким образом, полезный размер контрольной точки определяется пропускной способностью диска, а не оперативной памятью — модель 284B размером 107 ГиБ работает на компьютере с 64 ГБ оперативной памяти со скоростью, которая действительно пригодна для агентного кодирования.
(Обсуждение)
#llamacpp #Qwen38FlashNext #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 BayesChat - Privacy-first, AI Chat Workspace, BYOK, MCP tool & Chat Presets
🔗 https://bayeschat.xyz
⬇️ https://apps.apple.com/us/app/bayeschat-ai-chat-byok-mcp/id6777948055
Для #MacOS скоро!
#BayesChat #iOS #iPhone #iPad #BYOK #MCP #API
(Конфиденциальность, AI-чат, BYOK, инструмент MCP и предустановки чата!)
Поддержка нескольких провайдеров: Подключение к любой модели через API, совместимые с OpenAI / Anthropic, включая локальные модели
Предустановки чата: Сохраните приглашение, модель, параметр и инструмент в качестве предустановок для повторного использования. Переключайтесь между ними одним касанием, чтобы повысить эффективность рабочего процесса
Поддержка протокола MCP: интеграция MCP для вызова сторонних инструментов
Точная настройка параметров: формируйте каждый ответ с помощью точных и гибких элементов управления
Прямая трансляция: рендеринг анимации пишущей машинки в реальном времени с формулами LaTeX и разметкой
Настраиваемые темы и цвета: выберите тему и цвета по своему вкусу
Для #MacOS скоро!
Вы переходите от одной задачи к другой, и для каждой из них нужна своя подсказка, своя настройка. Особенно на телефоне. В итоге вам приходится снова и снова все перенастраивать.
Знакомая ситуация? Это утомительно!
Поэтому автор решил просто все исправить.
BayesChat позволяет сохранить подсказку, модель, параметры и инструменты в виде одного пресета. Чтобы переключиться между задачами, достаточно одного нажатия.
Больше не нужно каждый раз начинать с нуля.
И, конечно же, он полностью поддерживает локальные языковые модели (Пост)
#BayesChat #iOS #iPhone #iPad #BYOK #MCP #API
Please open Telegram to view this post
VIEW IN TELEGRAM
WeMM-Embedding — это семейство универсальных мультимодальных моделей встраивания, разработанных командой WeChat Vision. Они обеспечивают унифицированное представление текста, изображений, видео, визуальных документов и смешанных мультимодальных входных данных, демонстрируя высочайшую производительность в различных тестах, охватывающих разные задачи и области.
WeMM-Embedding-9B — это универсальная мультимодальная модель встраивания, созданная на основе Qwen3.5. Она принимает текст, изображения, видео, визуальные документы и смешанные мультимодальные входные данные и возвращает 4096-мерное нормализованное по L2 встраивание.
Аудиовход не поддерживается.
(Обсуждение)
#Embedding #WeMMEmbedding #Qwen35 #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Local Ai
Везде (во всех вкладках) настроек надо выбрать локальную модель и скачать ее!
Для #Транскрибация очень быстрая #Parakeet
Для исправления, чата и ... есть большой выбор локальных моделей! (Смотри скриншоты)
#MacOS чит М: OpenWhispr-1.9.2-arm64.dmg
Чип Intel: OpenWhispr-1.9.2.dmg
#Windows OpenWhispr-Setup-1.9.2.exe
#OpenWhispr #Whisper #Linux #Диктовка #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Local Ai
Vellium — это настольное приложение с открытым исходным кодом, ориентированное на локальное использование, для общения с ИИ, ролевых игр и написания больших текстов.
Последние обновления в основном направлены на упрощение использования локальных голосовых и модельных настроек.
Режим реального времени теперь поддерживает микрофонный ввод, локальное распознавание речи или распознавание речи, совместимое с Whisper, потоковую передачу текста в речь, вложения, контекст экрана и обычные инструменты чата — и все это в одном голосовом интерфейсе.
Локальную голосовую модель можно установить и настроить прямо в приложении. Whisper Large v3 Turbo Q5_0 доступен для распознавания, а TeraTTSv2 обеспечивает воспроизведение на английском и русском языках в режиме реального времени. Процесс преобразования текста в речь остается активным между ответами, что позволяет избежать полной перезагрузки модели при каждом ответе.
Также была упрощена настройка llama.cpp. Vellium может обнаруживать существующие llama-server установки, модели GGUF и запущенные локальные конечные точки, а затем настраивать их как управляемый бэкенд.
Было внесено множество мелких исправлений: более надежная потоковая передача TTS, более безопасное извлечение архива во время выполнения, улучшенное обнаружение конечных точек, улучшенная обработка тайм-аутов, поддержка системных сертификатов и упрощенная навигация по настройкам.
Чаты, персонажи, книги знаний, писательские проекты и коллекции знаний хранятся локально в SQLite.
Vellium работает на macOS, Windows и Linux и поддерживает API, совместимые с OpenAI, OpenRouter, LM Studio, Ollama и KoboldCpp.
(Обсуждение)
Ранее было: https://t.me/Ai2Local/230
#Vellium #MacOS #Windows #Linux #ChatRP #RP #Whisper #TTS #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🎨 Private Diffusion - Local Art - Изображение Локально
Оно использует как нейронный движок, так и графический процессор (а также ядра NAX на M5 и A19 Pro) для логического вывода.
Приложение пока в разработке, но уже поддерживает около 10 моделей, включая Krea 2 Turbo и Kroma, Z-Image-Turbo.
Модели меньшего размера также работают на iPhone и iPad.
Ссылка на TestFlight для тех, кто хочет попробовать.
🔗 https://testflight.apple.com/join/DQwfQsEg
(Из обсуждения)
#PrivateDiffusion #LocalArt #AiArt #Zimage #Flux2 #Krea2 #ERNIEimage #iPhone #iPad #MacOS #AiLocal #LocalAi
Оно использует как нейронный движок, так и графический процессор (а также ядра NAX на M5 и A19 Pro) для логического вывода.
Приложение пока в разработке, но уже поддерживает около 10 моделей, включая Krea 2 Turbo и Kroma, Z-Image-Turbo.
Модели меньшего размера также работают на iPhone и iPad.
Ссылка на TestFlight для тех, кто хочет попробовать.
(Из обсуждения)
#PrivateDiffusion #LocalArt #AiArt #Zimage #Flux2 #Krea2 #ERNIEimage #iPhone #iPad #MacOS #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Собственный вывод MiniMax-H3 на языке C для NVIDIA CUDA в Linux и Metal на Apple Silicon. Преобразование текста в видео/аудио, обработка первого/последнего кадра и упорядоченные ссылки на изображения/видео/аудио Ref2VA работают без сбоев на обоих бэкендах.
#MiniMaxH3 #MiniMax #H3 #h3cStudio #AiVideo #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Выберите свой компьютер, укажите, для чего вам нужна модель, и система выдаст подходящие варианты.
(Обсуждение)
#llmpicker #AiModel #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
MOSS-Transcribe-Diarize Pro — более мощная модель с более высокой общей производительностью, доступная на онлайн-платформе.
MOSS-Transcribe-Diarize 0.9B поддерживает более 50 языков.
MOSS-Transcribe-Diarize — это наше флагманское семейство моделей, позволяющее за один проход преобразовывать реальные аудиозаписи в структурированные расшифровки с указанием говорящего. Вместо того чтобы объединять отдельные системы автоматического распознавания речи и диаризации, эти модели совместно выполняют транскрипцию речи и диаризацию, создавая текст с временным выравниванием, точными временными метками и согласованными метками говорящих, такими как [S01], [S02], и т. д.
MOSS-Transcribe-Diarize, созданный для работы с совещаниями, звонками, подкастами, интервью, лекциями и видеоконтентом, предназначен для обработки длинных, сложных записей с участием нескольких говорящих, где важна надежность. Он также может генерировать дополнительные аннотации акустических событий, предоставляя нижестоящим системам более полное представление о том, что происходило, кто говорил и когда.
Модель принимает необработанный аудиофайл и выдает компактную расшифровку с указанием времени.
#MOSS #Transcribe #Diarize #ASR #Транскрибация #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Fine-Tuning-Studio - Интерфейс чата, предназначенный для написания собственных примеров тонкой настройки и экспорта файла CSV/JSONL на ваше устройство.
🔗 https://github.com/StarpowerTechnology/Fine-Tuning-Studio
(Обсуждение)
#FineTuningStudio #FineTuning #AiLocal #LocalAi
(Обсуждение)
#FineTuningStudio #FineTuning #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
🎙 Sopro V2 Turbo — голосовой клонер на 120M параметров
Компактная модель для клонирования голоса, которая работает полностью на устройстве. Никаких GPU и облаков — только браузер или обычный ноутбук.
Что умеет:
• Клонирует голос по 5-20 секундам образца
• Первый звук через ~300 мс на CPU ноутбука
• Генерирует речь в 5 раз быстрее реального времени
• Поддерживает английский, португальский, французский и немецкий
Локальный веб-интерфейс запускается одной командой:
Заточен под слабое железо — всё работает прямо в браузере, без специальных ресурсов.
🌐 https://samuel-vitorino.github.io/sopro/
🔗 https://research.haloneuro.ai/posts/sopro-v2
🔗 https://github.com/samuel-vitorino/sopro
🔗 https://huggingface.co/samuel-vitorino/sopro-v2-turbo
🔗 https://huggingface.co/spaces/hugging-apps/sopro-v2-turbo-tts - Демо!
#SoproV2Turbo #Sopro #TTS #AiVoice #AiLocal #LocalAi
Компактная модель для клонирования голоса, которая работает полностью на устройстве. Никаких GPU и облаков — только браузер или обычный ноутбук.
Что умеет:
• Клонирует голос по 5-20 секундам образца
• Первый звук через ~300 мс на CPU ноутбука
• Генерирует речь в 5 раз быстрее реального времени
• Поддерживает английский, португальский, французский и немецкий
Локальный веб-интерфейс запускается одной командой:
uvx -from sopro soprotts serveЗаточен под слабое железо — всё работает прямо в браузере, без специальных ресурсов.
#SoproV2Turbo #Sopro #TTS #AiVoice #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Одно предложение — и готов целый курс, а теперь вы можете управлять процессом.
В версии OpenMAIC v1.0.0, выпущенной 27 августа 2026 года, наряду с классическим генератором в один клик появился рабочий стол Pro: общайтесь с агентом, который спланирует ваш учебный план, создаст и отредактирует каждую страницу и будет работать с вашими материалами.
🤖 Рабочее пространство агента — рабочее пространство с приоритетом чата, в котором можно планировать, создавать и редактировать целые курсы
💾 Долгосрочные сеансы — сеансы с поддержкой сервера, которые сохраняются после перезапуска; их можно отменить, возобновить или изменить в любой момент
📎 Материалы сеанса — загружайте документы, аудио- и видеофайлы или используйте результаты веб-поиска; на их основе агент создает контент
🧰 Инструменты курса + 20 встроенных навыков — слайды, тесты, интерактивные элементы, проблемно-ориентированное обучение, изображения, видео, озвучка, .pptx импорт
🔌 Нейтральный по своей сути — используйте собственные модели, медиафайлы, поисковые системы и серверные хранилища
🎓 OpenMAIC 1.0 — опенсорсная платформа для создания курсов из промта
Загружаешь тему, PDF, презентацию, аудио или видео — агент собирает программу, генерирует уроки и даёт править всё через чат. Внутри не только слайды: ИИ-преподаватель и виртуальные одноклассники спорят с тобой, рисуют на доске, проводят квизы, запускают 3D-симуляции, мини-игры и практические проекты.
Платформа работает с разными моделями, экспортирует курсы в PPTX и HTML, поддерживает локальный запуск.
#OpenMAIC #Обучение #Classroom #TTS #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1
- Gemma-4-26B-A4B в качестве переводчика
- Qwen3.6-35B-A3B в качестве корректора
Контекст: запускают конвейер, который локально переводит целые художественные книги с английского на русский — фрагмент + глоссарий + скользящие аннотации к главам → перевод → замечания рецензента → исправление → корректура → аннотации к фрагментам. Книга — это ~1,5–2 млн токенов! После года тренировок появилась конфигурация для запуска, которая достаточно быстрая, чтобы не надоедать: 2–3 книги в день.
Подробно: https://www.reddit.com/r/LocalLLaMA/comments/1w54s3q/running_a_2model_literary_booktranslation/
#booktranslation #book #Перевод #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM