Local Ai
442 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
Media is too big
VIEW IN TELEGRAM
⚡️ Local Code - Публичная бета-версия от Draw Things

Создана на основе механизма логического вывода Draw Things, поэтому она обычно в 1,2–1,6 раза быстрее выполняет предварительное заполнение для поддерживаемых моделей (~980 токенов в секунду для Qwen 3.8 27B на M5 Max и ~900 токенов в секунду для DeepSeek 4 Flash 0731).
Но это еще не все: он разработан для работы в рамках своего автономного пакета, который изолирован от внешнего мира с помощью песочницы, предусмотренной Apple в соответствии с требованиями macOS AppStore (App Sandbox, Hardened Runtime), но при этом содержит множество готовых инструментов (Python, Node.js, Lean, Bash и т. д.).

На видео видно, что он выполняет несколько задач одновременно на одном и том же ноутбуке M5 Max. И вы можете воспроизвести то, что происходит в этом видео, просто скачав приложение из TestFlight, загрузив модель и приступив к работе без регистрации (в OpenCode это невозможно, так как, насколько я знаю, для использования инструмента веб-поиска требуется регистрация).

Модели:
В настоящее время компания Local Code рекомендует использовать DeepSeek 4 Flash 0731 с нашим 2/3-битным квантованным вариантом на устройствах с унифицированной памятью объемом 48 ГиБ и более.
Мы также поддерживаем Qwen 3.8 27B с нашими 2-битными и 4-битными квантованными вариантами. В наших внутренних оценках эти варианты показывают результаты, аналогичные полной модели.
Для Qwen 3.8 27B мы также предоставляем варианты, совместимые с llama.cpp, чтобы вы могли попробовать те же квантизации с вашим собственным предпочтительным механизмом вывода и инструментом: https://huggingface.co/drawthingsai/Qwen3.8-27B-GGUF .

Подробнее:
🔗 https://releases.drawthings.ai/p/public-beta-of-local-code-by-draw
Local Code для публичного бета-тестирования через TestFlight.
(Обсуждение)
#LocalCode #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Khoj - Ваш второй мозг — ИИ.

Desktop-клиент следит за выбранными папками и синкает их в локальный сервер. Чат по документам, PDF/MD/DOCX, локальные или облачные модели. Ближе к «второму мозгу», чем к мгновенному поиску по всему диску.
Самостоятельный хостинг. Получайте ответы из интернета или из документации. Создавайте собственных агентов, планируйте автоматизацию, проводите глубокие исследования. Превратите любую онлайн- или локальную языковую модель в свой персональный автономный ИИ (gpt, claude, gemini, llama, qwen, mistral). Начните работу бесплатно.

Khoj — это персональное приложение с искусственным интеллектом, которое расширяет ваши возможности. Оно легко масштабируется от персонального ИИ на устройстве до корпоративного ИИ в облаке.
Общайтесь с любой локальной или онлайн-моделью больших языковых систем (например, llama3, qwen, gemma, mistral, gpt, claude, gemini, deepseek).
Получайте ответы из интернета и своих документов (включая изображения, PDF, файлы в форматах Markdown, Org-Mode, Word, Notion).
Доступ к ним возможен из браузера, Obsidian, Emacs, на рабочем столе, с телефона или через WhatsApp.
Создавайте агентов с индивидуальными знаниями, образом, моделью общения и инструментами для выполнения любых задач.
Автоматизируйте повторяющиеся исследования. Получайте персональные рассылки и интеллектуальные уведомления на свой почтовый ящик.
Быстро и легко находите нужные документы с помощью нашего расширенного семантического поиска.
Создавайте изображения, озвучивайте сообщения, проигрывайте их.
Khoj — это платформа с открытым исходным кодом, которую можно разместить на собственном сервере. Всегда.
Запустите его в приватном режиме на своем компьютере или попробуйте наше облачное приложение.
Зайдите на https://app.khoj.dev, чтобы посмотреть Khoj в прямом эфире.

🔗 https://github.com/khoj-ai/khoj
#Khoj #RAG #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ Cline Desktop — open-source среда для AI-агентов.

Агент кодирования Cline в виде нативного настольного приложения. Не требуется редактор — откройте рабочее пространство, пообщайтесь со своим агентом и отправляйте код.
Внутри уже доступны бесплатные DeepSeek V4 Flash, GLM 5.3 Flash и Laguna S 2.1. Также можно подключать свои API-ключи и локальные модели.
🔗 Доступен на macOS и Windows.
🔗 https://github.com/cline/cline
#ClineDesktop #Cline #MacOS #Windows #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: K2-Horizon-7B для слабых GPU!

K2 Horizon 7B занимает место между Qwen 3.6 27B и Qwen 3.6 35BA3b в Индексе искусственного интеллекта.
🔗 https://huggingface.co/IFM/K2-Horizon-7B-GGUF
(Обсуждение) (Еще про K2 Horizon)
#K2Horizon7B #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель: Qwen3.8-27B-Humanlike -Чат: модель, которую настроили для имитации реалистичного общения человека с человеком

На основе huihui-ai/Huihui-Qwen3.8-27B-abliterated.
Цель состояла не в том, чтобы сделать Qwen умнее или улучшить его результаты в тестах, а изменить его манеру ведения диалога, чтобы он перестал превращать каждый ответ в объяснение, соглашаться со всем подряд и писать что-то просто для того, чтобы «разговор» продолжался.
🔗 https://huggingface.co/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat-GGUF
Демо: https://huggingface.co/spaces/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat
(Подробнее и Обсуждение)
#Qwen38 #Qwen3827B #БезЦензуры #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
2
This media is not supported in your browser
VIEW IN TELEGRAM
Модель: OUI-1 : модель, которая генерирует индивидуальные элементы пользовательского интерфейса!

openui.com выпустила OUI-1 — модель, дообученную на DiffusionGemma.
🔗 https://huggingface.co/thesysdev/OUI-1
⬇️ https://huggingface.co/dicksondickson/OUI-1-gguf
или https://huggingface.co/Abiray/OUI-1-GGUF
Использовать в https://unsloth.ai/docs/desktop
🎞 Смотреть https://www.youtube.com/watch?v=4ldVbgTpw_8
(Обсуждение)
#OUI1 #DiffusionGemma #AiModel #ModelAi #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Infercat - Пусть друзья пообщаются с вашим локальным ИИ!

Поделитесь моделью на своем компьютере с друзьями: один бинарный файл перед llama.cpp, vLLM, Ollama или LM Studio; один пригласительный код; они общаются в браузере. Собственный хостинг, сквозное шифрование, никаких аккаунтов.

🔗 https://github.com/infercat/infercat
Демо подробно: https://infercat.ai
(Подробнее и Обсуждение)
#Infercat #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 AgentiLoop Agent! - Автономный агент для Mac и эксклюзивных инструментов Apple.
Поддерживает автоматизацию, написание скриптов, программирование, сборку чего угодно и многое другое. Работает на 21 провайдере больших языковых моделей на локальных и облачных платформах.
Интерфейс в темном или светлом режиме.

Одно приложение. Любой ИИ. Полный контроль над вашим Mac.
Agent! это 100% нативное приложение Swift 6.2 / SwiftUI, которое подключает 23 провайдера LLM — Claude, Codex, OpenAI, Gemini, Grok, Mistral, Mistral Vibe, DeepSeek, Hugging Face, Z.ai , BigModel, Alibaba DashScope, Qwen, Qwen Code, MiniMax, OpenRouter, Requesty, A2Agent, OrcaRouter, Ollama (облачная и локальная), vLLM и LM Studio, а также Apple Intelligence на устройстве — в автономный цикл выполнения задач, который на самом деле выполняет все: читает вашу кодовую базу, исправляет ошибку, создает проект Xcode, фиксирует разницу, управляет любым приложением Mac через Accessibility API, запускает команды оболочки от вашего имени или от имени root, отправляет вам результаты через iMessage, и отвечает на произнесенное ""Агент!".

Agent! — нативный Swift-агент, который уже умеет управлять macOS через Accessibility/AppleScript, работать с Safari, Xcode, shell, файлами и subagents. Может использовать локальные Ollama/vLLM/LM Studio и Apple Intelligence.

🔗 https://agentiloop.ai
🔗 https://github.com/AgentiLoop/Agent
#AgentiLoopAgent #AgentiLoop #AiAgent #AgentAi #MacOS #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
💬 Dive — Локальный интерфейс чата и агента для LM Studio, Ollama, Pi, llama.cpp и облачных моделей

Dive — это безопасный локальный настольный клиент для LllamaCCP, LmStudio, Ollama, агентного ИИ Pi и Cloud.
Имеет ультракомпактный автономный RAG-движок для индексации огромных библиотек книг, интеграцию с инструментами MCP, изолированные пользовательские навыки, извлечение PDF и поддержку macOS daemon.

Dive стоит рассматривать именно как RAG. Он строит локальный SQLite/vector index по большим коллекциям EPUB/TXT/Markdown, подключает LM Studio/Ollama/llama.cpp и возвращает ответы с цитатами. Есть MCP и sandboxed skills.

🔗 https://github.com/DuckTapeKiller/dive
#Dive #RAG #MCP #PDF #MacOS #Windows #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔎 OpenResearch - Автоисследование на вашем компьютере

Запустите локальную панель управления, а затем назначьте каждому исследовательскому направлению своего агента. Они будут работать параллельно в изолированных рабочих средах, используя ваши существующие инструменты и вычислительные ресурсы.
Чтобы задействовать удаленные вычислительные ресурсы при использовании Autoresearch, воспользуйтесь вычислительным маркетплейсом OpenResearch, который объединяет предложения от нескольких поставщиков.

AlphaXiv выложили тулзу, которая превращает любого ИИ-агента в автономного исследователя — OpenResearch уже занял первое место в трендах GitHub.

Просто поставьте агенту цель, а он изучит всю литературу по теме и даже проведёт параллельные эксперименты — несколько агентов будут проверять множество гипотез одновременно.

Работает с Claude Code, Codex и Open Code. Всё обрабатывается локально и ставится на macOS, Windows и Linux.
Подключить локальную модель для использования LM Studio, oMLX, Ollama или пользовательской конечной точки с помощью OpenCode.

🔗 https://openresearch.sh
🔗 https://github.com/alphaXiv/OpenResearch
⬇️ Скачать: https://github.com/alphaXiv/OpenResearch/releases
#OpenResearch #Research#MacOS #Windows #Linux #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM