👨‍💻 Подробный гайд по открытым ИИ-моделям.

За 17 минут Тина Хуанг наглядно объясняет все про:

✅ Локальный запуск ИИ на компьютере через Ollama и другие движки и развертку простых моделей на телефоне.
✅ Популярных API-провайдеров и хостинг-площадки с открытыми моделями и широкими лимитами — Grok, Cerebras, Arena AI, Hugging Face и другие.
✅ Как (и зачем) поднимать локальную ИИ-модель на своем сервере.

➡️ Весь туториал на YouTube, есть ИИ-дубляж на русский язык.
#Ollama #LocalAi #AiLocal

🎙 Meetily — офлайновый помощник для онлайн-встреч

Meetily — open-source ассистент для звонков, который работает локально на вашем компьютере. Никакие данные не уходят в облако: всё остаётся на вашем диске.
ИИ-помощник для проведения совещаний с 4-кратной ускоренной транскрипцией в реальном времени по Parakeet / Whisper, диаризацией докладчиков и суммированием Ollama, созданный на Rust. 100% локальная обработка. Облако не требуется. Meetily (Meetly Ai) — это лучший саморазмещаемый ИИ-помощник для ведения заметок на совещаниях для macOS и Windows.

Умеет расшифровывать речь в реальном времени, различать спикеров и создавать саммари встречи через локальную нейросеть. Поддерживает macOS, Windows, Linux и русский язык. Можно подключить Claude или Codex для более детальных резюме.

Подойдёт для обсуждения контрактов, финансовых отчётов или NDA-проектов — там, где утечка данных критична.
🔗 https://meetily.ai
🔗 https://github.com/Zackriya-Solutions/meetily
🎞 Демо: https://youtu.be/6FnhSC_eSz8
#Meetily #Parakeet #Whisper #Транскрибация #MacOS #Windows #Linux #Ollama #LocalAi #AiLocal

🤖 Dyad — генератор приложений на локальной машине

Открытый инструмент, который собирает приложения прямо в чате. Описываешь задачу («форма обратной связи», «мини-игра») — получаешь интерфейс, логику и код. Работает локально, без регистрации и блокировок.

Базовая версия бесплатная. Dyad Pro за $30/месяц дает 300 AI-кредитов, режимы Turbo Edits и Smart Context.
Скачал, запустил — разговариваешь с ИИ как с разработчиком.
🔗 https://www.dyad.sh
#Dyad #SoftAi #AiSoft #App #LocalAi #AiLocal

📸 Flaxeo Image - локальный desktop ui для stable diffusion cpp

Local. Fast. Beautiful. Настольная студия для stable-diffusion.cpp

Характеристики:
Текст2изображение, Редактирование (inpaint / multi-ref Kontext & Qwen Edit / img2img), Видео (T2V, I2V, FLF2V)
Очередь заданий — создание во время занятости; изменение порядка, приостановка, отмена
Рецепты — шаблоны с полными настройками (поверхности, рамки, объекты, настроения); импорт / экспорт .flaxeo-recipe.json
Справка — автономное руководство, включающее поверхности, рамки и рабочие процессы обработки пакетов / очередей
Галерея с возможностью повторного использования параметров PNG, повышенным масштабированием и историей создания
Model Hub стартовые пакеты (SDXL, FLUX, Z-Image, Wan, LTX, Qwen, ...)
Двойной сервер: sd-cli (по умолчанию) или sd-сервер
Аппаратные помощники: флэш-память, VAE-плитка, низкий профиль видеопамяти, предустановки кэша
Квантование / преобразование моделей в GGUF из пользовательского интерфейса

🔗 https://github.com/fabricio3g/FlaxeoUI
(Обсуждение)
#FlaxeoImage #FlaxeoUI #StableDiffusion #LocalAi #AiLocal

🦋 Какой-то гений выпустил Colibri, которая запускает гигантскую GLM-5.2 на 744 миллиарда (!) параметров на домашнем ПК — требуется всего 25 ГБ оперативной памяти даже без видеокарты.

Как работает:
• Это один файл на чистом C на 2400 строк — во время работы ему не нужны Python, библиотеки и GPU.
• Трюк: модель занимает 370 ГБ на диске и подгружает только 10-20 ГБ данных в оперативную память по мере необходимости.
• Вместо хранения всей модели в RAM, тулза загружает нужные блоки с SSD, использует их и освобождает место.
• Ложка дёгтя в бочке мёда: на среднем железе скорость составляет 0,1 токена в секунду, но при быстром диске это можно ускорить.
• После установки запускается всего за 30 секунд.

Идея:
Модель Mixture-of-Experts на 744B активирует всего ~40B параметров для каждого токена, и только ~11 ГБ из них меняются от токена к токену (маршрутизируемые эксперты).
Таким образом:
- плотная часть (внимание, общие эксперты, эмбеддинги — ~17 млрд параметров) остается в оперативной памяти на уровне int4 (~9,9 ГБ);
- 21 504 маршрутизируемых эксперта (75 слоев MoE × 256 экспертов + головка MTP, ~19 МБ каждый на уровне int4) хранятся на диске (~370 ГБ) и потребуются для потоковой передачи с использованием LRU-кэша для каждого слоя, опционального закрепленного горячего хранилища и страничного кэша ОС в качестве бесплатного уровня 2.
Движок представляет собой один файл на языке C (c/glm.c, ~2400 строк) плюс небольшие заголовочные файлы. Никаких BLAS, никакого Python во время выполнения, не требуется графический процессор!

🔗 https://github.com/JustVugg/colibri
(Обсуждение)
💡 А для запуска Hy3 на 10Гб. создали: https://github.com/ErikTromp/colibri-hy3
(Обсуждение)
#Colibri #GLM52 #Hy3 #LocalAi #AiLocal

🤌 Вайб-кодинг-агент локально на Mac

Прикольный сетап: LM Studio + Pi.
🪼 LM Studio - это приложение, где можно скачать и запустить локальную модель на своем компьютере: Qwen, Gemma, DeepSeek и другие.
🪼 Pi - это терминальный кодинг-агент, который можно подключить к этой локальной модели.

🪼 Схема такая:
Mac → LM Studio запускает модель → Pi подключается к ней → агент читает и правит файлы проекта

🪼 А что, вместо того, чтобы каждый раз жечь токены популярных Claude Code или Codex, можно часть простых задач гонять локально. Заметьте, не в облаке, а на своем железе 🤌

🪼 Но магии тут нет: Локальные модели пока не превращают ваш Mac в бесплатный Claude Code 🥲 Нужно нормальное железо, достаточно памяти, чуть повозиться с настройкой, а качество на сложных задачах будет слабее, чем у топовых облачных моделей.
Зато для простых правок, экспериментов, учебных проектов + поиграться без страха сжечь лимиты - очень даже интересная история.
В общем, не "убийца" Claude Code, а вариант для тех, кто хочет вайбкодить локально и экономить токены.

#LMStudio #Pi #AiAgent #AgentAi #LocalAi #AiLocal

ℹ Модель: Tess-4-27B от Migel Tissera
Рассуждения, которые масштабируются в зависимости от проблемы. Агентная, мыслящая модель, которая принимает решения более взвешенно именно тогда, когда это важно, и не мешает себе, когда это не так.

Tess-4-27B — первый выпуск Tess за два года и первый выпуск, в котором обосновывается. Модель, созданная на основе Qwen/Qwen3.6-27BМигелем Тиссерой, прошла постобработку на специально подобранной смеси: 64-килобайтных агентных трассировках с длинным контекстом — реальных инженерных решениях, созданных с помощью Fable-5, а не синтетических поколениях, — со стилем рассуждений, приближенным к Fable-5, с помощью ансамбля из трех моделей-учителей (Opus-4.8, GPT-5.5 и GLM-5.2), объединенных в один целостный голос.

В результате получилась модель 27B, которая мыслит как старший инженер: выдвигает гипотезу, действует, проверяет и рассуждает с должной тщательностью на тех этапах, которые действительно этого заслуживают. Это не та модель, которая рассказывает, как пришла к уже известному ответу.

🔗 https://huggingface.co/migtissera/Tess-4-27B
(Обсуждение)
#Tess4 #Tess427B #AiModel #ModelAi #LocalAi #AiLocal

ℹ Модель: Gemma-4-31B, доработанная специально для копирайтинга и творческих задач (набрала +290 Elo по сравнению с базовой версией на EqBench3)

Проблема: общие чат-модели могут писать маркетинговые тексты, но по умолчанию они используют одни и те же вводные фразы, такие как «В современном быстро меняющемся мире...», и расплывчатые формулировки вместо конкретных преимуществ. И доработали Gemma-4-31B-it, чтобы убрать эти вводные фразы и сделать текст более похожим на текст копирайтера, ориентированного на прямой отклик: начинать с проблемы, использовать конкретные, чёткие призывы к действию. В целом модель стала более эмоционально развитой.

Настройка оценки: на основе методологии EQ-Bench 3 (попарная оценка по шкале Эло + шкала оценки) был создан бенчмарк для копирайтинга, использующий 30 реальных брифов, связанных с рекламой в Facebook, холодным обзвоном, целевыми страницами, описаниями товаров, SMS, сценариями и т. д. Базовая модель и модель с тонкой настройкой ответили на все брифы, которые оценивались вслепую с помощью DeepSeek V4 Flash в обоих вариантах (A-vs-B и B-vs-A) для контроля позиционной предвзятости. Те же базовые веса, те же настройки декодирования, единственная переменная — тонкая настройка.
Самые значительные и стабильные улучшения были достигнуты в таких аспектах, как сила цепляния, конкретность и лаконичность — именно в этих областях и работает текст, побуждающий к прямому действию.

Сведения об обучении: QLoRA SFT на тщательно отобранном корпусе маркетинговых брифов в сочетании с вариантами их заполнения, включая реальные примеры рекламных объявлений. Окончательные веса объединены с полным bf16 (адаптера не будет). Контекст 256K, используется в vLLM или Transformers без изменений.

Для достижения наилучших результатов требуется enable_thinking=false . Включение режима логического вывода Gemma 4 на самом деле снижает качество вывода, так что имейте это в виду.

Описание модели + веса: https://huggingface.co/akwin123/copywriter-gemma4-31b
Квантования: https://huggingface.co/models?other=base_model:quantized:akwin123/copywriter-gemma4-31b (mradermacher)
(Обсуждение)
#Gemma4 #Gemma431B #copywriter #копирайтер #AiModel #ModelAi #LocalAi #AiLocal

🎙 GigaChat Audio и GigaAM Multilingual: новые Open Source модели с поддержкой длинного контекста и языков СНГ 🔥
https://telegram.me/gigadev_channel/72
#GigaChat #GigaChatAudio #AiAudio #GigaAM #AiModel #ModelAi #LocalAi #AiLocal