Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
💬 Sidekick - Общайтесь с локальной языковой моделью, которая может предоставлять информацию из ваших файлов, папок и веб-сайтов на вашем Mac без установки какого-либо другого ПО.

Все диалоги происходят в автономном режиме, и ваши данные остаются в безопасности. Sidekick — это в первую очередь локальное приложение со встроенным механизмом логического вывода для локальных моделей, а также с API, совместимыми с OpenAI, для дополнительных вариантов моделей.
Это local-first нативное приложение для macOS, которое позволяет общаться с локальной LLM, давая ей доступ к вашим файлам, папкам и даже локальным веб-сайтам!
Sidekick индексирует ваш диск и отвечает на вопросы по вашим документам, не отправляя ни байта данных в сеть!
Sidekick поддерживает современные локальные модели GGUF, такие как Qwen3.5, благодаря встроенному llama.cpp серверу.
Для Mac с Apple Silicon

🔗 https://github.com/johnbean393/Sidekick - тут подробно!
⬇️ Скачать: Sidekick.1.0.0-rc.18.dmg
#Sidekick #llamacpp #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 MacGPT - ChatGPT на вашем Mac и в строке меню

Отличное нативное приложение, которое поселяет локальную языковую модель прямо в строку меню macOS. Позволяет вызывать ИИ глобальной горячей клавишей в любом текстовом поле системы для саммаризации или рерайта.
🔗 https://www.macgpt.com
#MacGPT #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 Osaurus - Управляйте своим ИИ.
Агенты, память, инструменты и идентификация, которые работают на вашем Mac.
Это нативный Swift AI harness: локальные модели, агенты, долговременная память, tools, MCP server + client, browser use, computer use, sandbox, автоматизации, subagents и даже локальная генерация изображений.

Особенно интересна архитектура: можно создать отдельных локальных агентов — исследователь, аналитик, программист, файловый ассистент — каждому дать свою память, рабочую папку и набор инструментов. При переходе между моделями память и агент сохраняются.

На macOS 26 sandbox может использовать отдельную Linux VM. Есть встроенный MLX inference engine и поддержка Apple Foundation Models.

Создано исключительно на Swift. Полностью автономно. С открытым исходным кодом.
Инференс — это все, что вам нужно. Все остальное может принадлежать вам.
С каждым днем модели становятся все дешевле и взаимозаменяемее. Что действительно незаменимо, так это окружающая их среда — ваш контекст, ваша память, ваши инструменты, ваша личность. Другие хранят эту среду на своих серверах. Osaurus хранит ее на вашем компьютере.
Osaurus — это платформа для ИИ в macOS. Она находится между вами и любой моделью — локальной или облачной — и обеспечивает преемственность, которая делает ИИ индивидуальным: агенты запоминают данные, работают автономно, запускают реальный код и доступны из любого места. Модели взаимозаменяемы. Платформа — это то, что их объединяет.
Работает полностью в автономном режиме с локальными моделями. Подключайтесь к любому облачному провайдеру, когда вам понадобится больше возможностей. Данные не покидают ваш Mac без вашего согласия.
Osaurus позиционируется не просто как чат-клиент, а как полноценная нативная «упряжка» (harness) для ИИ-агентов на macOS. Он предоставляет агентам персистентную память и контроль над системой в фоновом режиме.

Если вам интересна тема локальных ИИ-агентов для бизнеса, то стоит изучить Osaurus очень внимательно.
Собственный Swift на Apple Silicon. Без Electron. Никаких компромиссов. Лицензия MIT. Скоро выйдет в Windows.

🔗 https://osaurus.ai
🔗 https://github.com/osaurus-ai/osaurus?ref=danmackinlay.name
Скачать: Osaurus-0.25.4.dmg (выпущен 18.09.26!)
📖 Подробнее в статье: Локальное использование больших языковых моделей на Mac
🎞 Их видео: https://www.youtube.com/@OsaurusAI
#Osaurus #AgentAi #AiAgent #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 macMLX запускает локальные языковые модели на Apple Silicon с первоклассным нативным интерфейсом macOS — без облака, без телеметрии, без Electron.

Отполированное приложение SwiftUI для новичков, полноценный интерфейс командной строки для разработчиков и постоянно работающий API, совместимый с OpenAI, для всего остального.
macMLX — Это один из самых интересных новых проектов именно для Mac. В отличие от большинства оболочек, inference написан нативно на Swift/MLX, без Python и Electron. Есть GUI, CLI, OpenAI-совместимый сервер, VLM, LoRA, prompt cache, пул моделей, embeddings, reranking, а с версии 0.9 — локальные STT и TTS. Текущий релиз v0.9.0 датирован 28 августа 2026 года.

🔗 https://macmlx.app
🔗 https://github.com/magicnight/mac-mlx
Скачать: macMLX-v0.9.0.dmg
#macMLX #STT #TTS #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 MLX Chat - Запускайте локальные модели на Apple Silicon с помощью MLX

Собственное приложение для чата в macOS, позволяющее запускать большие языковые модели прямо на устройстве. Локальные модели запускаются на Apple Silicon с помощью MLX; Apple Intelligence доступна в качестве встроенного движка в macOS 26+.
Интеллект в одном приложении.

Запускайте мощные языковые модели и модели на основе смеси экспертов полностью на своем Mac. Используйте MLX, потоковую передачу больших моделей на основе смеси экспертов с SSD или Apple Intelligence — и все это в одном собственном приложении для чата.

MLX Chat. Очень свежий нативный проект. Работает непосредственно с MLX, умеет импортировать MLX-репозитории Hugging Face, управлять моделями, освобождать RAM после простоя, показывать reasoning и даже использовать Apple Intelligence как отдельный движок. Есть интересный экспериментальный режим SSD-streaming для MoE. Требуется Apple Silicon и macOS 26+. По функциональности пока уступает LM Studio, но как чистый нативный MLX-клиент за ним стоит следить.

🔗 https://mlxchat.dev
🔗 https://github.com/abayomipopoola/mlx-chat
Скачать: MLX-Chat-1.2.3.dmg
#MLXChat #MLX #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Private LLM - Приватный, нецензурированный ИИ-чат для iPhone, iPad и Mac
Без облака, без отслеживания, без входа в систему.
Очень простое нативное решение для пользователя, которому не хочется знать, что такое GGUF, сервер, endpoint и порт 11434. Купили один раз, скачали модель — Mac/iPhone/iPad работают полностью offline.
LM Studio / macMLX дают гораздо больше контроля. Но для обычного пользователя Mac — отличная рекомендация.

🔗 https://privatellm.app/ru
⬇️ https://apps.apple.com/us/app/private-llm-local-ai-chat/id6448106860
#PrivateLLM #iOS #iPhone #iPad #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM