Local Ai
443 subscribers
895 photos
250 videos
4 files
811 links
Все про Локальные ИИ на ПК и Смартфонах - программы и модели, которые можно запустить на 96Gb VRAM. (Как сайт: https://t.me/s/ai2local )
ИИ для Здоровья: @Ai2Health
Download Telegram
DiffusionBee — это самый быстрый и простой набор инструментов для запуска ИИ-приложений локально с помощью Stable Diffusion!

Diffusion Bee — это самый простой способ запустить Stable Diffusion локально на вашем Mac с процессором Intel или M1 и старше.
Функции: Текст-в-Картинку, Картинка-в-Картинку, ИИ-Заполнение, Image Upscaler, Анимация и Видео!
После установки скачается Модель ИИ и все работает локально на самом Mac или Windows!
Если вам нравится Diffusion Bee, обратите внимание на https://Liner.ai — инструмент для обучения моделей машинного обучения в один клик!
Есть и для Mac Intel и для Apple Silicon!
🔗 https://diffusionbee.com
⬇️ MacOS Intel, MacOS - Apple Silicon, Windows
🔗 https://github.com/divamgupta/diffusionbee-stable-diffusion-ui
#AiLocal #LocalAi #MacOS #SoftAi #DiffusionBee #StableDiffusion #SD #Flux #Flux1 #Windows
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
chattyui.com - Множество ИИ (Gemma, Qwen, Mistral, LLama3, Phi, DeepSeek и т.д.) локально в браузере с использованием WebGPU. (Только представленные модели - свои любые не подключить!)
Никакой обработки на стороне сервера - ваши данные никогда не покидают ваш компьютер!
После завершения первоначальной загрузки модели вы сможете использовать ее без активного подключения к Интернету.
- Чат с файлами: Загружайте файлы (pdf и все небинарные файлы поддерживаются, даже файлы кода) и задавайте моделям вопросы о файлах - полностью локально!
- Поддержка пользовательской памяти: Добавьте пользовательские инструкции/память, чтобы ИИ мог предоставлять более качественные и персонализированные ответы.
- Поддержка голосового ввода!
#LocalAi #AiLocal #WebGPU #chattyui
1
This media is not supported in your browser
VIEW IN TELEGRAM
chat.webllm.ai ⚡️ WebLLM — браузерный движок для работы с LLM.
WebLLM позволяет осуществлять работу LLM непосредственно в браузере с WebGPU. Интернет нужен только в момент скачивания модели!
WebLLM имеет полную совместимость с API OpenAI: поддерживаются потоковая передача, JSON-режим и многое другое.
Модели автоматически загружаются и кэшируются у вас на ПК при первом запросе.

Поддерживаемые модели: (Их там большой список!)
- Llama: Llama 3, Llama 2, Hermes-2-Pro-Llama-3
- Phi: Phi 3, Phi 2, Phi 1.5
- Gemma: Gemma-2B, 9B.
- Mistral: Mistral-7B, Hermes-2-Pro-Mistral-7B, NeuralHermes-2.5-Mistral-7B, OpenHermes-2.5- Mistral-7B
- Qwen: Qwen3 4B, 8B

Всё работает оффлайн после загрузки модели, приватно и без API-ключей.
Основной чат-интерфейс: https://webllm.mlc.ai — просто откройте в Chrome, выберите модель, и она загрузится и запустится локально.
WebLLM поддерживает OpenAI-совместимый API (streaming, function calling, JSON-mode), так что его можно интегрировать в другие инструменты.
Вы можете установить сайт как PWA (Progressive Web App) в Chrome для удобства (как "приложение" в отдельном окне).
Сайт проекта: https://webllm.mlc.ai
🖥 GitHub 📖 Доки.
#WebLLM #LLM #WebGPU #LocalAi #AiLocal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 webui.ailoy.co - запуск ИИ LLM непосредственно в браузере.

Основные функции:
- Локальные модели (Qwen-3 4B) и онлайн модели на основе API (GPT, Gemini, Claude, Grok) Вы можете переключаться между моделями на основе API и локальными моделями с открытым исходным кодом, работающими через #WebAssembly ( #WASM ), так что всё будет работать прямо в браузере.
- Полностью локальное выполнение LLM.
- Вызов инструментов в свободной форме.
- Инструменты: Web-Поиск, Fetch WebPages + MCP
- Одна интерактивная веб-страница.
Для запуска локальных моделей требуется браузер ПК.
Из России может открываться через VPN.
(Reddit)
#WebGPU #LLM #LocalAi #AiLocal #WebAi
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
✂️ Удаление фона без загрузки файлов — NOBG Space

💥 NOBG Space — сервис для удаления фона, который работает полностью локально в браузере.
Изображения не загружаются на сервер — вся обработка происходит на вашем устройстве.
Главное — результат сохраняется в исходном качестве без сжатия.

Что умеет:
🎯 Мгновенно удаляет фон с любых изображений
💎 Сохраняет исходное качество картинки
⚡️ Работает автоматически — просто загружаете фото
📸 Поддерживает JPG, PNG, WEBP

🚀 Преимущества:
→ Обработка занимает секунды
→ Не требует регистрации и бесплатно!
→ Простой и понятный интерфейс
→ Качество на уровне платных аналогов
→ Без лимитов и водяных знаков.

Идеально для: всех, кто работает с визуалом.
https://www.nobg.space
#УдалениеФона #nobgspace #LocalAi #AiLocal
1
This media is not supported in your browser
VIEW IN TELEGRAM
🎙 Hyprnote - Блокнот с ИИ для закрытых совещаний!

Hyprnote записывает и обобщает информацию о ваших совещаниях без передачи звука на удалённые серверы!
- Приватно - Ваши заметки по умолчанию хранятся локально. Синхронизируются с облаком только если включите.
- Без усилий - Простой блокнот, который просто работает — быстро, минималистично и без отвлекающих факторов.
- Гибкая настройка - Используйте любой STT или LLM. Локальный или облачный. Никаких ограничений.
- Никаких ботов - К вашим встречам не будут подключаться навязчивые боты.
- Нет интернета - Hyprnote ориентирован на локальное использование. Делайте заметки где угодно.

После завершения встречи Hyprnote объединяет ваши заметки с расшифровками, чтобы создать идеальное Саммари.
Он просто прослушивает системный звук (включая вывод из Zoom), а также звук с вашего микрофона. Делает хорошие заметки. Вы можете использовать его с ключом API для OpenAI, OpenRouter или просто с локальными моделями, как внутренними для приложения, так и другими, например ollama/lmstudio/и т. д.

⬇️Скачать: https://hyprnote.com/download - тут для MacOS (Intel) и (Apple Silicon - Чип М - только тут будет полный Оффлайн!) и Linux, а вот Windows - в планах...
Версия для Mac (Apple Silicon) поддерживает преобразование речи в текст непосредственно на устройстве, гарантируя полную конфиденциальность ваших аудиозаписей.
Там на выбор модели: Parakeet v-3 (494 Mb.), Whisper: Large v-3, и меньшие - только En. (Parakeet v-3 хорошая и быстрая модель - лишь чуть хуже Whisper! Использую в MacWhisper)

В бесплатной версии:
- Локальная транскрипция
- Идентификация говорящего (Вскорe)
- API ключ (для программ STT и LLM) локально
- Базовые параметры доступа (копирование, PDF)
- Все данные локальные!
- Шаблоны и чат

Платно добавляются:
- Интеграции
- Облачные сервисы (STT и LLM)
- Облачная синхронизация
- Ссылки, которыми можно поделиться

#Hyprnote #Whisper #Parakeet #Транскрибация #AiLocal #LocalAi #SoftAi #MacOS
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
👨‍💻 Page Assist - Боковая панель в браузере для ваших локальных моделей ИИ

Page Assist — это расширение для браузера, которое предоставляет боковую панель и веб-интерфейс для вашей локальной модели ИИ. Оно позволяет вам взаимодействовать с вашей моделью с любой веб-страницы.
Page Assist поддерживает браузеры на базе Chromium, такие как Chrome, Яндекс, Brave и Edge, а также Firefox.

На этом видео показано, что можно быстро, локально, бесплатно резюмировать целые научные статьи 🙊
Примечательно, но расширение может само скачать модель Gemini Nano и работать без API!
Есть чат с сайтом, с Ютуб, ...

Текущие функции:
- Боковая панель для различных задач
- Поддержка визуальных моделей
- Минималистичный веб-интерфейс для локальных моделей ИИ
- Поиск в Интернете
- Чат с PDF на боковой панели
- Чат с документами (pdf, csv, txt, md, docx)

Поддерживаемые провайдеры:
- Ollama
- Chrome AI (Gemini Nano)
- Поддержка API, совместимого с OpenAI (LM Studio, Llamafile, vLLM и многие другие провайдеры, типа OpenRouter).

👉 Результаты и скорость вы можете увидеть на видео.
Очень много настроек у плагина! Есть русский язык!
Демо: https://www.youtube.com/watch?v=8VTjlLGXA4s
Проект: https://github.com/n4ze3m/page-assist
#PageAssist #GeminiNano #ChromeAI #AiLocal #LocalAi #WebAi #WebGPU #LLM
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 Vera — ваш личный ПК агент!

Работает полностью оффлайн! Ваши данные остаются вашими!
- Управляет компьютером:
Запустит Программу, свернет окна, сделает скриншот или выключит ПК по вашей команде.

- Умный поиск файлов:
Не помните, где сохранили отчет? Просто спросите Веру. Она найдет документы, фото и папки быстрее, чем вы вспомните их название.

- Интернет-агент:
Нужна свежая информация? Вера сама найдет ответ в Интернете, расскажет о погоде и курсе валют.

- Всегда на слуху:
Не нужно нажимать кнопки или переключаться на окно чата. Вера работает в фоне и слышит вас, пока вы в игре, работе или на кухне.

- Личный секретарь:
Засечь время, напомнить о встрече или просто поболтать. Вера берет на себя рутину, чтобы вы могли сосредоточиться на важном.

- Работает «из коробки»:
Мы упаковали всё сложное в один файл. Просто установите и наслаждайтесь.

- Быстрая и легкая:
Оптимизирована для работы на домашнем железе. Использует современные модели (Qwen), выдавая высокую скорость даже без топовых видеокарт.

- Только ваши данные:
Никакой слежки и логов на чужих серверах. Вера работает оффлайн. Даже если интернет пропадет — она останется с вами.

⚡️ Полностью локальный голосовой агент с оффлайн-распознаванием речи и локальной моделью LLM.

Несмотря на то, что по умолчанию стоит Qwen3-1.7B-Q4_K_M, вы не привязаны к этому выбору и можете поставить свою модель, а агент просто подхватит файл .gguf из папки и начнет работать с ним. Полная свобода!
Только для Windows 10/11 (x64)
Сайт: https://agentvera.ru
GitHub , Новости в ТГ.
Все подробности от автора: https://habr.com/ru/articles/972260/ - прочтите!
#Windows #LLM #АгентВера #AgentVera #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 AI-Powered Tools - Локальный Инструментарий ИИ

Запускайте инструменты ИИ локально. Мгновенно. В приватном режиме. Прямо в браузере!

Используйте прямо в браузере без серверов, загрузки данных и ожидания. Используйте молниеносно быстрые и конфиденциальные инструменты ИИ, при этом ваши данные никогда не покинут ваше устройство.

Инструменты:
- Удаления Фона Изображения
- Размытие лица
- Группировка лиц
- Устранение звуковой Тишины
- Удаление Звуковых Шумов
- Извлечение текста OCR
- Преобразование текста в речь
- Переводчик
- Преобразование речи в текст
https://localaitoolkit.com
#LocalAiToolKit #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
🌐 LocalAi.im - Использование ИИ LLM локально в браузере!

Работает в вашем браузере с помощью WebGPU. 100 % конфиденциальность — никакие данные не покидают ваше устройство.
18 моделей ИИ на выбор! Модели от в Расширении.
- Рекомендованные (3): Phi 3.5 Mini, Llama 3.2 3B, Qwen 2.5 3B.
- Средние (3): Gemma 2 2B, Qwen 3 4B, StableLM2 Zephyr.
- Маленькие (4) - не так интересны...
- Большие (5): Qwen 2.5 7B, Llama 3.1 8B, Mistral 7B v0.3, DeepSeek R1 7B, Gemma 2 9B.
- Крошечные (3) - не так интересны...
💡Оптимально стоит выбирать Qwen 3 4B!
В настройках модели Контекстное окно надо сдвигать вправо до максимума в 4096. И там есть настройка Температуры!

Системные требования: (Есть почти у всех!)
- Браузер Chrome 119+ или Edge 119+
- Windows, Mac, Linux, ChromeOS
- требуется поддержка WebGPU - она есть в новых браузерах!
- Минимум 2 ГБ видеопамяти, рекомендуется 4 ГБ и более!
- 500 МБ — 5 ГБ для хранения модели.

Скоро выйдет расширение: https://www.localai.im/extension - С ним запускайте модели с более чем 7 миллиардами параметров локально!
https://www.localai.im
#WebGPU #LocalAi #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❗️ ИИ-Гений на ваш ПК

Новая локальная модель VibeThinker разорвала рынок: она догоняет всех гигантов — Claude, Gemini, Qwen, DeepSeek, но весит всего ничего!
Мощнее всех, но в сотни раз легче
— Летает на домашних ПК
— Пишет тексты, рассуждает — идеальный рабочий инструмент
— Весит всего 3.5 Гб, можно запускать где угодно

Подробнее: Статья-1, Статья-2, Статья-3.
Проект: https://github.com/WeiboAI/VibeThinker - тут все графики сравнения с Лидерами!
Скачивать: huggingface.co - Q8_0 = 1.89 GB и F16 = 3.56 GB
💡Ее хорошо будет добавить в Вера или в Jan, MSTY, LM Studio, на iOS, на Android.
#ModelAi #huggingface #VibeThinker #WeiboAI #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
1
🎞 VideoSOS — браузерный видеоредактор на основе 100+ ИИ-моделей 🧠

VideoSOS — браузерный видеоредактор на основе ИИ, объединяющий более 100 моделей для генерации, монтажа и озвучивания видео и аудио.
Сервис работает прямо в браузере, без установки, и ориентирован на создателей контента.

Что интересного:
• Более 100 ИИ-моделей от fal.ai и Runware.ai — генерация изображений, видео, музыки и речи (Да, ИИ фишки онлайн по API)
• Полноценный таймлайн-редактор с ключевыми кадрами и предпросмотром в реальном времени
• Мультимодальные возможности: изображения, короткие видео, озвучка, музыка
• Поддержка форматов 16:9, 9:16 и 1:1 для YouTube, TikTok, Instagram
• API-интеграция для внешних разработчиков
• Обработка данных локально в браузере без передачи на серверы!

Важно:
• Объединяет все основные ИИ-функции для видео и аудио в одном инструменте
• Обеспечивает приватность и безопасность за счёт локальной обработки!
• Делает профессиональное видеоредактирование доступным без установки ПО!

Старт: Откройте проект в браузере: https://videosos.vercel.app/ru/app
Сайт: https://videosos.vercel.app/ru
VideoSOS на GitHub
(Еще есть Diffusion Studio Pro)
#LocalAi #AiLocal #WebAi #AiVideoEdit #VideoSOS
Please open Telegram to view this post
VIEW IN TELEGRAM
🌎 BrowserOS — открытый AI-браузер с фокусом на конфиденциальность

🧠 BrowserOS от Y Combinator — это новый AI-браузер с открытым исходным кодом, позиционируемый как децентрализованная альтернатива решениям вроде ChatGPT Atlas, Dia и Perplexity Comet. (В Brave тоже ИИ есть и можно добавить LM Studio)
Основной акцент сделан на конфиденциальности и возможности использования локальных моделей.

⚙️ Как работает:
В отличие от централизованных аналогов, BrowserOS не привязан к конкретному поставщику. Пользователи могут подключать любые локально запущенные LLM-агенты или ИИ-поисковые системы.
Проект не отслеживает рекламу, не собирает пользовательские данные, поскольку всё работает локально и без регистрации.

Возможности:
🔓 Открытый исходный код и независимость от поставщиков.
🔒 Приватность: нет отслеживания рекламы и сбора данных.
💻 Совместимость с локальными LLM-агентами.
🖥 Доступен для MacOS, Windows и Linux.

📰 BrowserOS предлагает пользователям полный контроль над их данными и ИИ-инструментами, что является важным шагом в сторону децентрализованных и приватных AI-систем.

В настройки LLM-Провайдеров попадать через адрес: chrome://browseros/settings
Это есть в документации:
Во вкладке: "LLM Chat & Hub" уже есть Perplexity, но можно добавить еще: Z.ai, DeepSeek, Kimi, Ernie, ... - все что захотите!
Gemini там работает и без VPN (удивило!) ChatGPT, Claude, Grok - хотят VPN! Т.к. это Хром, то можно поставить расширение с VPN!

Справа от адресной строки есть 3 кнопки:
- Чат (Chat) - там будет выбор из тех ИИ, что настроили в "LLM Chat & Hub"
- Hub - откроется окно с 3 окнами внутри, где в каждом можно выбрать свою модель ИИ - для сравнения ответов например...
- Assistant - самый интересный раздел - тут те модели, что настроены в "BrowserOS AI" - а это или их BrowserOS (по умолчанию) - модель Gemini 2.5 Flash (работает без VPN!!!)... или OpenRouter.ai или LM Studio или Ollama или ...! (Неудобство в том, что для любого добавляемого провайдера надо сразу указывать модель - нет их подгрузки по API и выбора при работе)
💡В этой вкладке "Assistant" есть снизу: "Чат", "Агент" и "Стопка" - выбор какие вкладки браузера включить в запрос!
В разделе настроек "BrowserOS MCP Server" - видно множество готовых решений!
Есть интеграция с n8n!

Как итог: Понравилось, что встроена и работает без VPN достаточно хорошая: Gemini 2.5 Flash! Интеграция OpenRouter.ai и LM Studio и много готовых MCP!
Более подробно смотрите на их сайте.
#BrowserOSAI #BrowserOS #LocalAi #AiLocal #App #Windows #MacOS #SoftAi
👍1
🧠 Second Brain — личная ИИ-база знаний прямо на вашем ПК

Second Brain — ищет по смыслу, а не по названию файлов — просто опишите, что ищете, и нейросеть найдёт нужный документ, изображение или заметку.

Ключевые возможности:
🔍 Поиск по смыслу и контексту, а не по ключевым словам;
Семантический поиск:
- Поиск на основе глубокого семантического значения (использует встраиваемые модели).
Лексический поиск:
- Найдите иголку в стоге сена, используя ключевые слова (использует алгоритм BM25).
🔍 Поиск изображений! (Используйте языковые модели ИИ с функцией распознавания изображений.)
📂 Поддержка множества форматов — txt, .pdf, .docx, .png, .jpg, .jpeg, .gif, .webp и других;
🔐 Полностью локальная работа — данные хранятся только у вас;
💸 Бесплатно и с открытым исходным кодом.

Second Brain подойдёт тем, кто тонет в тонне файлов — теперь нужный материал можно найти фразой вроде «где я писал про ...».

ℹ️ Дополнительный режим ИИ:
- Интеграция с Language Model: поддержка локальных моделей через LM Studio и облачных моделей, таких как GPT-5, через OpenAI.
- Генерация с дополненным поиском (Retrieval-Augmented Generation, RAG): использование результатов поиска для предоставления высококачественных ответов ИИ, основанных на базе знаний.
- Режим ИИ не является обязательным; поиск можно выполнять без ИИ.

Минимальные Требования к оборудованию:
- ОС: #Windows 10 (версия 19041.0 или выше) или Windows 11
- Память (ОЗУ): 8 ГБ (рекомендуется 16 ГБ)
- Процессор: Intel Core i5 (8-го поколения) или AMD Ryzen 5 (серии 2000)
- Хранилище: 2 ГБ свободного места

Сайт: https://www.henrydaum.site
Проект: https://github.com/henrydaum/second-brain
#SecondBrain #LocalAi #AiLocal #App #SoftAi
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
🆙 Upscayl — лучший бесплатный и открытый ИИ-редактор для масштабирования изображений в Linux, MacOS и Windows.

Upscayl позволяет увеличивать и улучшать изображения низкого разрешения с помощью передовых алгоритмов искусственного интеллекта. Увеличивайте изображения без потери качества. Это почти волшебство!

Увеличение изображений до 16 раз!
Локальная работа на всех ПК! MacOS, Windows, Linux.
Скачать - бесплатно! Платно - в их облаке!
https://upscayl.org
Проект: https://github.com/upscayl/upscayl
#upscayl #MacOS #Windows #Апскейл #Upscaler #SoftAi #LocalAi #AiLocal
🔥1
🌐 Sigma AI Browser — браузер со встроенным ИИ

Это не просто браузер, а полноценный рабочий инструмент с AI-ассистентом прямо внутри страниц.

Sigma помогает искать информацию, объяснять сложные тексты, писать и резюмировать контент — не переключаясь между вкладками и чатами.
Что умеет:
• Встроенный AI-ассистент прямо в браузере
• Резюмирование и анализ страниц
• Генерация и переписывание текста
• Помощь с поиском и исследованиями
• Фокус на приватность и безопасность
• Работает на Windows, macOS, Linux, iOS и Android

🔥 Бесплатный доступ:
• Браузер и AI-ассистент доступны бесплатно!
• Базовый AI-функционал включён
• Численные лимиты использования на сайте не указаны

Подходит для тех, кто хочет объединить браузер и ИИ в одном рабочем пространстве.

ℹ️ Вот что увидел:
У сервиса есть и свой чат и Браузер и к нему еще "локальный сервер": Eclipse
Sigma Eclipse LLM скачивает модель на 6.81 Гб. (granite-4_0-micro-f16) и там есть еще Uncensored Model - тоже на 6.81 Гб. (granite-4_0-micro-f16) Хотя на сайте, в разделе "Продукты" пишет: ИИ без цензуры (скоро)... может не успели сайт обновить?!

После запуска Sigma Eclipse LLM, в их браузере справа будет чат с этой локальной моделью... Она может Саммари страниц делать локально!
🔗 https://www.sigmabrowser.com
#sigmabrowser #Browser #AiBrowser #Sigma #SigmaEclipseLLM #SigmaEclipse #LLM #SigmaChat
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
ℹ️Локальный ИИ для состоятельных! 😊
Вышла Exo 1.0 https://exolabs.net - позволяет объединять 4 x Mac Studio M3 Ultra 512 RAM и запускать БОЛЬШИЕ модели!

Любопытный комментарий из обсуждения новости:
- 4 штуки Mac Studio M3 Ultra 512Гб. стоят ~ 40 тысяч долларов => производительность ~ 25 ток. в секунду (Deepseek)
- 8 x NVidia RTX PRO 6000 с 96 ГБ видеопамяти (без NVLink) = 768 ГБ видеопамяти стоят ~ 64 тысячи долларов => скорость передачи данных составляет ~27 токенов в секунду (*)
- 8 x NVidia B100 с 192 ГБ видеопамяти = 1,5 ТБ видеопамяти стоят ~ 300 тысяч долларов => выдает ~300 токенов в секунду (Deepseek)
Вывод: Похоже, вы платите 1000 долларов за каждый токен в секунду (300 тысяч долларов за 300 токенов в секунду).

Например: Kimi K2 Thinking со скоростью 28,3 т/с на кластере из 4 Mac Studio
Обсуждение. & Еще такая ветка про эту тему.
Можно ли объединять в кластеры MacBook? (Обсуждают тут)
#Exo #exolabs #MacStudio #AiLocal #LocalAi
Please open Telegram to view this post
VIEW IN TELEGRAM
😱1
🌐 MBZUAI представляет полностью открытую модель K2-V2 — 70B

K2-V2, выпущенная 6 декабря 2025, является новейшей моделью класса 70B в серии K2 LLM от IFM. Она не уступает ведущим моделям с открытым исходным кодом, при этом использует подход «360-open»: веса, данные, сведения об обучении, контрольные точки и рецепты тонкой настройки — всё это находится в открытом доступе.

Пост: https://mbzuai.ac.ae/news/k2v2-full-openness-finally-meets-real-performance/ - тут есть наглядная карта: производительность по горизонтальной оси, открытость по вертикальной, а размер пузырьков отражает масштаб модели...

Модель: https://huggingface.co/LLM360/K2-V2-Instruct
Кванты: https://huggingface.co/cturan/K2-V2-Instruct-GGUF - тут она как 73B!
Обсуждение на Reddit.
(Использовать в Jan, MSTY, LM Studio)
#MBZUAI #K2V2 #LLM #IFM #huggingface #GGUF #ModelAi
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
📱 Как запускать и использовать LLM на телефоне с iOS или Android

Руководство по тонкой настройке собственной LLM и ее развертыванию на Android или iPhone с помощью ExecuTorch.
https://docs.unsloth.ai/new/deploy-llms-phone
Вы можете обучить LLM, а затем развернуть их локально на телефонах Android и iPhone.

🎉 Поддержка моделей:
- Все модели Qwen 3 (Qwen3-0,6B, Qwen3-4B, Qwen3-32B и т. д.)
- Все модели Gemma 3 (Gemma3-270M, Gemma3-4B, Gemma3-27B и т. д.)
- Все модели Llama 3 (Llama 3.1 8B, Llama 3.3 70B Instruct и т. д.)
- Модели Qwen 2.5, Phi 4 Mini и многое другое!
#ExecuTorch #LLM #unsloth #deployllmsphone #iPhone #Android #LocalAi #AiLocal
👍2