This media is not supported in your browser
VIEW IN TELEGRAM
✨ Bonsai-27B 1-bit 27B в браузере на WebGPU, без установки!
(25–30 tok/s on a 6 GB RTX 3060 Laptop)
mentria.ai - это браузерный движок для вывода данных на WebGPU / WGSL.
Также в движке: младшие версии (Qwen3.5 0.8B, 2B, 4B) поддерживают телефоны и бюджетные устройства, адаптеры LoRA с горячей заменой нескольких МБ на matmul менее чем за секунду, а также есть модуль Vision Tower для ввода изображений.
🔗 https://mentria.ai/tools/ai-chat/
(Обсуждение)
#WebGPU #mentriaai #mentria #Bonsai27B #LocalAi #AiLocal
(25–30 tok/s on a 6 GB RTX 3060 Laptop)
mentria.ai - это браузерный движок для вывода данных на WebGPU / WGSL.
Также в движке: младшие версии (Qwen3.5 0.8B, 2B, 4B) поддерживают телефоны и бюджетные устройства, адаптеры LoRA с горячей заменой нескольких МБ на matmul менее чем за секунду, а также есть модуль Vision Tower для ввода изображений.
Исходный код, результаты тестов и способы измерения представлены в репозитории: https://github.com/mentria-ai/website.
Страница с фактами о движке, на которой рассказывается о том, как на самом деле работают движок и модель: https://mentria.ai/assets/learn/engine-facts.html
(уровень 27B появится, когда ваш графический процессор будет соответствовать требованиям).
(Обсуждение)
#WebGPU #mentriaai #mentria #Bonsai27B #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
meetas - Ваши собрания остаются на вашем компьютере.
🎙 meetas записывает совещания с вашего микрофона (или импортирует существующие записи), расшифровывает их в автономном режиме с помощью локального распознавания речи, отвечает на вопросы, выделяет задачи и анализирует все с помощью ваших собственных локальных языковых моделей — без облачных сервисов, учетных записей и внешних ИИ-сервисов.
✨ Функции:
Запись
🎙 Запись совещаний — запуск, пауза, возобновление, остановка; все данные сохраняются даже в случае сбоя
📥 Импорт существующих записей — WAV, MP3, M4A, FLAC, OGG, OPUS, AAC и видеофайлы (MP4, MKV, WEBM, MOV, AVI — аудиодорожка транскрибируется, например, из записей экрана во время совещания) — возобновляемые загрузки, импортируются как обычные совещания
⚡️ Транскрипция в реальном времени — непрерывная транскрипция во время совещания (по желанию)
🔊 Улучшение звука — опциональное локальное шумоподавление с настраиваемыми профилями; улучшенная и оригинальная версии всегда доступны одновременно
Транскрипция
📝 Offline ASR — локальные модели от tiny до large-v3-turbo (faster-whisper) плюс Parakeet для работы в реальном времени; язык определяется автоматически для любого языка, который поддерживает выбранная вами модель — в том числе для совещаний с переключением языков, по сегментам
ИИ (все локальные)
🤖 Анализ совещаний — структурированный анализ по 9 разделам (краткое содержание, темы, решения, задачи и т. д.), где каждое утверждение подкреплено цитатами из протокола — ничего не выдумано
� Вопросы и чат — обоснованные вопросы с реальными цитатами из протокола (и уровнем доказательности, чтобы вы всегда видели, насколько убедителен ответ), относящиеся к одному совещанию, проекту или нескольким совещаниям; а также общий чат, который никогда не затрагивает данные ваших совещаний
✨ Автоматическое добавление заголовка и тегов — пусть локальная языковая модель предложит вам заголовок и теги
👥 Распознавание говорящего — локальная диаризация говорящего, возможность переименовать говорящего (по желанию)
Организуйте и действуйте
📂 Проекты — групповые совещания и документы (PDF, DOCX, ODT, XLSX, PPTX, TXT, MD, CSV); документы индексируются и становятся доступными для поиска и обсуждения
🔎 Поиск — мгновенный полнотекстовый + локальный гибридный (векторный) поиск по стенограммам и документам проекта
✅ Задачи — извлечение задач из совещания, общий обзор, история, архив
📊 Аналитика по нескольким встречам — сравнение встреч, дайджест нескольких встреч (полностью в автономном режиме), повторяющиеся темы и хронология вашей активности
🏷 Теги и маркеры — организация встреч, пометка важных моментов, редактирование расшифровок с полной историей версий
🗑 Корзина — временное удаление с возможностью восстановления; окончательное удаление только по вашему желанию
Вывод
📤 Экспорт — Markdown, TXT, JSON, HTML (PDF/DOCX с чистым резервным вариантом), с возможностью выбора разделов
💾 Резервные копии — согласованное локальное резервное копирование и восстановление с предварительным просмотром
🔒 Данные остаются локальными — по умолчанию без облачных сервисов, телеметрии и подключения к сети
(Обсуждение)
#meetas #Parakeet #Linux #Whisper #Диктовка #Транскрибация #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3
Быстрое создание изображений локально и в автономном режиме.
Это уже гораздо больше, чем старый Stable Diffusion GUI. На сентябрь 2026 года приложение умеет современные image/video-модели, локальное обучение LoRA, ControlNet, inpainting/outpainting, Infinite Canvas. В актуальных релизах фигурируют FLUX.2, Qwen Image, Z-Image, LTX-2.3, Ideogram 4, Krea 2 и другие модели. Локальный режим бесплатен.
Собственный движок Metal (не оболочка Python), загрузка моделей в один клик и поддержка всего — от SD 1.5 до FLUX.2, Qwen Image и обучения LoRA на устройстве. Локальная генерация не ограничена и бесплатна; дополнительная подписка распространяется только на облачные вычисления.
Бесплатно из App Store, нативный движок на Metal FlashAttention + Neural Engine. SD 1.5 / SDXL / FLUX / ControlNet / LoRA, даже обучение LoRA и куски видео (Wan). Для большинства Mac это лучший локальный генератор картинок: проще DiffusionBee и обычно быстрее ComfyUI на Apple Silicon.
❓Насколько быстро генерируются изображения на Apple Silicon?
Все приведенные ниже цифры взяты из опубликованных сообществом измерений с указанием источника. ModelFit не проводит собственные тесты.
→SD 1.5, 512 × 512: ~ 5-10 секунд на Mac mini M4 Pro (для heyuan110); ~ 8-15 секунд на M2 Pro для рисования (для rentamac.io )
→SDXL, 1024 × 1024: ~ 20-40 секунд на M4 Pro, 25 шагов (на heyuan110)
→FLUX.1 dev Q6, 1024 × 1024, 20 шагов: ~ 50-90 на M4 Pro в ComfyUI (согласно heyuan110)
→FLUX.1 schnell (2 шага): менее 15 секунд на M2 Ultra, ~ 80 секунд на M3 Pro без квантования (согласно таблице тестов mflux)
Схема такая: модели класса schnell можно использовать на любом современном чипе Pro/Max, модели класса dev можно использовать с небольшой задержкой, а машины с чипом base-M и 8 ГБ памяти должны оставаться на SD 1.5.
Из статьи: Локальная генерация изображений на Mac: что подходит для вашей оперативной памяти (2026)
#DrawThings #SD15 #SD #SDXL #FLUX #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Нативная поддержка Stable Diffusion на Mac!
Mochi Diffusion — это вариант, ориентированный на Core ML: меньше занимает памяти, медленнее работает при первом запуске, но быстрее при последующих, после того как модель будет скомпилирована в .mlmodelc. Используйте его, если вам нужны только варианты Stable Diffusion и вы хотите максимально компактную настройку.
Сейчас заявлены Stable Diffusion и FLUX.2 Klein, Image2Image, ControlNet, галерея и собственные Core ML-модели. Всё нативно на SwiftUI и полностью offline.
Но между Mochi Diffusion и Draw Things я бы однозначно сначала ставил Draw Things. Mochi интересен своей простотой и использованием Core ML/Neural Engine.
#MochiDiffusion #StableDiffusion #SD #FLUX2Klein #FLUX2 #FLUX #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
mlx-serve — запускайте любую языковую модель на своем Mac
Локальный вывод данных, совместимый с OpenAI и Anthropic, для Apple Silicon — MLX и GGUF — быстрее, чем LM Studio, при использовании идентичных весов MLX. Без Python. Без облака. Без Electron.
Это уже не просто чат. Нативный сервер для Apple Silicon поддерживает MLX и GGUF, одновременно OpenAI- и Anthropic-совместимые API. Самое необычное: авторы добавили локальную генерацию не только текста, но и изображений, видео, музыки, речи, клонирование голоса и даже 3D; приложение MLX Core добавляет чат, agent mode, MCP и управление моделями.
Общайтесь с ним, задавайте ему вопросы о ваших документах, создавайте изображения, музыку, видео и 3D-модели, а также поручайте ему работу на вашем компьютере — бесплатно, с открытым исходным кодом и без подключения к интернету. Он поддерживает все основные открытые модели, работает быстрее, чем LM Studio, и все, что вы вводите, остается на компьютере.
mlx-serve — это собственный Zig-сервер, который запускает любую языковую модель на Apple Silicon — модели в формате MLX и все модели GGUF на HuggingFace (Qwen, Llama, Mistral, Gemma, DeepSeek V4 Flash и тысячи других). Он предоставляет OpenAI-совместимые и Anthropic-совместимые HTTP API «из коробки», так что один и тот же http://localhost:11234 работает с Claude Code, OpenAI SDK, Continue, Cursor, Open WebUI и со всем, что использует один из этих протоколов.
Помимо текста, тот же сервер генерирует изображения, видео, музыку, речь (с клонированием голоса) и 3D-модели — и все это нативно на MLX. Поставляется с MLX Core, приложением для macOS с панелью меню, чатом, режимом агента, вызовом инструментов MCP и управлением моделями.
mlx-serve + MLX Core — нативный сервер (Zig, без Python/Electron) под Apple Silicon: MLX и GGUF, API как у OpenAI, Anthropic и даже Ollama. Можно подключить Enchanted, Open WebUI, Claude Code, Cursor. Заявляют, что на тех же MLX-весах быстрее LM Studio. Требование жёсткое: свежая macOS и Apple Silicon.
#mlxserve #MCP #MLX #AgentAi #AiAgent #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
10 лучших локальных приложений с большими языковыми моделями
Рассмотрели подробно:
1. Atomic Chat (свое поставили 1-м, но оно и правда отличное!)
2. LM Studio
3. Ollama
4. Jan
5. GPT4All
6. AnythingLLM
7. Msty
8. Cherry Studio
9. Open WebUI
10. BoltAI — лучший нативный клиент для Mac
BoltAI — это нативный macOS клиент, созданный и поддерживаемый одним разработчиком, Дэниелом Нгуеном. Он не запускает модели самостоятельно (как WebUI), а является интерфейсом, который подключается к облачным API и локальным бэкендам, таким как Atomic Chat, Ollama или LM Studio.
Он известен своей функцией под названием палетка команд ИИ, которая позволяет использовать десятки команд с помощью горячей клавиши в любом приложении. Например, вы можете выделить какой-то текст, нажать горячую клавишу, и ИИ перепишет или вычистит его, а затем вставит обратно в то же место с тем же форматированием. Очень простой в использовании ИИ.
(Он доступен только для Mac и требует приобретения разовой бессрочной лицензии (79 или 99 долларов за один Mac), которая включает в себя обновления в течение года.)
Лучше всего подходит для: пользователей Mac, которым нужен быстрый нативный клиент с командами ИИ, доступными для всей системы.
В списке точно не хватает Unsloth Desktop - реально лучшее решение!
Тут про Enchanted — нативный клиент под Mac / iPhone / iPad / Vision Pro для Ollama (или совместимого сервера). Сам модели не гоняет, но даёт «яблочный» чат и доступ с телефона к локальной модели на Mac.
Enchanted UI идеально подходит для пользователей Apple, которым нужно нативное приложение, похожее на ChatGPT, а не вкладка в браузере или Docker-контейнер. В нем нет RAG и баз знаний, но для повседневного общения на iPhone, iPad, Mac или Vision Pro это самый совершенный вариант из всех, что мы рассмотрели в этом руководстве.
Jaz — это новая версия этого проекта.
#macOS #Windows #Linux #SoftAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Персональный ИИ на ваших собственных компьютерах — любой агент, циклы, которые запускаются на ночь, доски, память и контроль git. Разделение на клиент и сервер, постоянное подключение, открытый исходный код от начала и до конца.
Руководящие принципы:
- Используйте основные агенты-кодировщики. Лаборатории Frontier вкладывают значительные средства в агентов-кодировщиков и бенчмаркинг. Jaz должен использовать их наработки, а не изобретать велосипед.
- Используйте существующие тарифные планы Pro. Продлите подписку на Claude и Codex, получив поддержку API-ключей и агентов с открытым исходным кодом.
- Единая память, которую вы контролируете и можете экспортировать.
- Подключите основные приложения. Telegram, WhatsApp, Gmail, Календарь и Slack должны подключаться к одному и тому же контексту.
- Открытый исходный код.
#Jaz #AiAgent #AgentAi #OpenCode #Codex #Claude #MCP #OpenRouter
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM