Для языков программирования:
GLM-5 performs best for:
C
R
PHP
Dart
HTML
Julia
Python
JavaScript

Kimi K2.5 performs best for:
Go
Java
Rust
Swift
Kotlin
TypeScript

Цель состоит не в том, чтобы создать тонкую обертку для API, а в том, чтобы создать полностью локальную, прозрачную среду RAG, в которой можно будет отслеживать пути получения данных.

Под капотом:
• Создано на языке Rust: ориентировано на скорость, безопасность и низкий расход памяти.
• Пользовательский бэкенд для поиска: используется пользовательский semantic-memory модуль, который я реализовал с помощью гибридной системы поиска (HNSW для плотного векторного поиска + TF-IDF/BM25 для точного соответствия ключевым словам).
• Используйте собственные модели: полная поддержка локального логического вывода (Mistral, Llama 3, Qwen и т. д.) через локальный сервер, а также интеграция с API, если вам это нужно.
• Прозрачная система управления репозиториями: никаких скрытых подсказок или теневых баз данных. Она строго соблюдает контекстные ограничения, заданные в рабочей области. Вы можете видеть, на какие именно источники ссылаются и почему.
• Многопанельный пользовательский интерфейс: четкое разделение на три панели (источники, чат, студия) для просмотра доказательств и генерации.

В этом видео показан процесс обучения и просят саму систему сравнить свою архитектуру с NotebookLM от Google. Она довольно честно рассказывает о компромиссах, на которые пришлось идти.

Wonder 2 Local — их топовая модель для апскейла и восстановления деталей теперь доступна локально. Расход видеопамяти сократили на 95% благодаря технологии NeuroStream. Работает без перешарпа, доступна в десктопном приложении.

💻 Starlight Fast 2 перенесли в облако — стала вдвое быстрее предыдущих версий Starlight Speed и Sharp. Доступна через облачный сервис Astra.

NeuroStream — технология, которая снижает требования к видеопамяти для больших моделей. Например, для видео нужно 2.8 ГБ вместо 56 ГБ.

В апдейте также появились Scene Controls для пошаговой обработки монтажных видео и Batch Rendering в Astra для пакетной обработки.
🔗 https://www.topazlabs.com/updates/local

Whisper, запущенный локально на Apple Silicon через MLX, работает достаточно быстро, чтобы его можно было использовать на практике. После того как вы закончите говорить, расшифровка занимает около 500 мс. Модель small отлично подходит для повседневного использования, а large-v3-turbo — для тех случаев, когда нужна практически идеальная точность.

Рабочий процесс: все очень просто: удерживайте fn, говорите и отпускайте. Текст будет расшифрован и вставлен прямо туда, куда вы его вводите. Это работает в Slack, VS Code, браузерах, электронной почте и любых других текстовых полях. Также добавили небольшой плавающий оверлей с надписью «Прослушивание...», чтобы во время записи вы могли видеть, что происходит.

Преимущество «Перевода»: автор не ожидал, что функция перевода в Whisper окажется настолько полезной. Говорите по-русски, а он переводит на английский. Для этого не нужна дополнительная модель или API для перевода — эта функция встроена в этап декодирования в Whisper. Нужно просто выбрать английский язык в качестве языка вывода, и система справится сама.

Конфиденциальность и настройка: Все работает на 100 % в автономном режиме. Никаких учетных записей, никаких токенов, и никакие данные не покидают ваш компьютер. При запуске приложение спрашивает, на каком языке вы будете говорить и на каком хотите получить результат, чтобы вы могли легко переключаться между чисто транскрипцией и переводом.

Для агентных систем искусственного интеллекта нужны модели, способные самостоятельно решать сложные технические задачи. Они должны отлично справляться с рассуждениями, кодированием и анализом долгосрочных контекстов, оставаясь при этом достаточно эффективными для непрерывной работы в больших масштабах.

Мультиагентные системы генерируют в 15 раз больше токенов, чем стандартные чаты, повторно отправляя историю переписки, результаты работы инструментов и этапы логического вывода на каждом этапе. При выполнении длительных задач этот «контекстный взрыв» приводит к дрейфу целей, когда агенты постепенно теряют связь с первоначальной задачей. А использование больших моделей логического вывода для каждой подзадачи — так называемый «налог на мышление» — делает мультиагентные приложения слишком дорогостоящими и медленными для практического применения.

Сегодня мы выпускаем Nemotron 3 Super, чтобы устранить эти ограничения. Новая модель Super — это 120B модель с 12B активным параметром, которая обеспечивает максимальную вычислительную эффективность и точность для сложных многоагентных приложений, таких как разработка программного обеспечения и выявление уязвимостей в сфере кибербезопасности. Эта модель появилась вслед за выпуском Nemotron 3 Nano в декабре.

Super решает проблему «налога на мышление» с помощью гибридной архитектуры «смесь экспертов» (MoE). Она обеспечивает более чем в 5 раз более высокую производительность по сравнению с предыдущей версией Nemotron Super. Эта модель решает проблему «контекстного взрыва» с помощью собственного контекстного окна на 1 млн токенов, которое обеспечивает агентам долговременную память для согласованных и высокоточных рассуждений. Модель полностью открыта: доступны веса, наборы данных и рецепты, поэтому разработчики могут легко настраивать, оптимизировать и развертывать ее в собственной инфраструктуре.
Чем Nemotron 3 Super отличается от других

Обучили модель на 9 образах, вдохновленных научно-фантастическими архетипами роботов. Каждый образ представлен в виде матрицы 3х3: законопослушный/нейтральный/хаотичный по одной оси, добрый/нейтральный/злой по другой. Они активируются с помощью системного сообщения. Измените системное сообщение — измените образ. Для каждого образа не требуется отдельная модель.

Почти месяц назад был представлен новый бенчмарк для встраиваемых аудио embeddings (audio embeddings) — MAEB. Согласно их статье, одна из моделей значительно превзошла остальные.
Вот несколько моментов: занять первое место в бенчмарке в первый же день — действительно впечатляющий результат, потому что невозможно целенаправленно оптимизировать модель для бенчмарка, которого еще не существует. И это неожиданно, что модель, работающая с аудио, текстом и ВИЗУАЛЬНЫМИ ДАННЫМИ, окажется лучшей.

Статья о встраивании LCO была принята к публикации в NeurIPS в прошлом году, но, судя по количеству загрузок и лайков в репозитории HF, она почти не привлекла внимания.
Модели основаны на Qwen2.5 omni, а также имеют варианты с размерами 3B и 7B.

APPLE INTELLIGENCE (iOS 26+ / macOS 26+).
- Встроенный ИИ: Используйте Apple Intelligence без загрузки
- Мгновенный доступ: Начните общаться немедленно, не дожидаясь загрузки модели
- Плавное переключение: Легко переключайтесь между Apple Intelligence и пользовательскими моделями MLX
- Поддержка контекста 4K для быстрых разговоров

КЛЮЧЕВЫЕ ОСОБЕННОСТИ:
- 100% Конфиденциально: Вся обработка ИИ происходит локально на вашем устройстве
- Несколько моделей ИИ: Выберите из кураторских современных языковых моделей, оптимизированных для Apple Silicon
- Понимание зрения (Mac): Анализ изображений с помощью Vision Language Models
- Генерация изображений (Mac): Создание изображений Использование моделей Stable Diffusion и FLUX!
- Smart Memory: AI запоминает важные детали разговора
- Smart RAM Management: Модели автоматически загружаются в режиме ожидания
- Работает в автономном режиме: Используйте где угодно без интернета после загрузки
- Включает Qwen3, Llama 3.2, Gemma 2, модели зрения и FLUX/Stable Diffusion.
Никаких подписок, учетных записей или облака не требуется.

В мире подписок и слежки LocalMind Al создан для того, чтобы быть независимым.
Ваши разговоры, идеи и работа никогда не попадут на сервер.
Все остается там, где и должно быть: на вашем устройстве.
По-настоящему персональный ИИ LocalMind Al — это не просто очередной чат-бот.
Это ваш доступ к экосистеме ИИ с открытым исходным кодом, который открывает вам доступ к широкому спектру продвинутых моделей, работающих локально.
Выберите своего эксперта: загружайте и переключайтесь между ведущими моделями ИИ, такими как Llama, Qwen, Gemma и другими.
Подстраивайте под свои нужды: используйте легковесные модели для выполнения повседневных задач или мощные модели логического вывода для написания кода, анализа и глубокого решения проблем.

Почему стоит выбрать LocalMind Al?
100 % конфиденциальность. Никаких облачных серверов.
История сообщений не хранится удаленно.
Никакого отслеживания.
Ваш ИИ работает исключительно на вашем устройстве.
Работает в автономном режиме. После загрузки модели вы можете общаться в любое время - даже без подключения к интернету.
Мгновенные ответы. Поскольку модель работает непосредственно на вашем устройстве, ответы приходят быстро и без задержек, связанных с сетью.
Что вы можете делать
• Проводить мозговые штурмы
• Писать и редактировать текст
• Получать помощь в написании кода
• Обобщать документы
• Обсуждать изображения
• Размышлять над проблемами
• Вести личный дневник
Все это без отправки данных куда бы то ни было.

Основные функции:
- Загрузка моделей в одно касание
- Просматривайте и загружайте тщательно отобранные и постоянно пополняющиеся коллекции моделей ИИ прямо в приложении.
- Простой и лаконичный интерфейс
- Разработан для удобства использования на iPhone, iPad и Мас.
LocalMind Al — для всех, кто хочет использовать возможности современного ИИ, не теряя контроля.

Единственное приложение Mac AI с собственным кэшированием префиксов, постраничным кэшированием KV, квантованием KV, непрерывным пакетным обучением, гибридной поддержкой SSM/Mamba и полной интеграцией с VLM, а также более чем 20 инструментами для агентного программирования, обработки речи, зрения и логического вывода. Работает на движке vMLX.

MLX Studio объединяет LLM, VLM, локальную генерацию и редактирование изображений, coding agent, OpenAI + Anthropic API, Hugging Face browser и собственный inference engine vMLX.

Но самое любопытное — JANG adaptive mixed-precision quantization. Разные части модели получают различную разрядность вместо тупого одинакового 2/3/4-bit для всей сети. Проект, например, публикует MiniMax M2.5 JANG 2-bit размером около 89 GB. Есть и режим Smelt, который позволяет держать backbone в памяти, а часть MoE-experts подгружать с SSD.

- Бесплатно навсегда
- Apple Silicon
- Не требует подключения к облаку
- Более 20 инструментов

Возможности:
Полноценное рабочее пространство для работы с искусственным интеллектом — чат, код, поиск и автоматизация. Все локально и бесплатно.
Единственное локальное приложение для работы с ИИ с полным стеком логического вывода!
Самое функциональное локальное приложение для работы с искусственным интеллектом на Mac!
— кэширование префиксов, постраничная система хранения данных, квантование кэша, непрерывная пакетная обработка, поддержка VLM, гибридная система управления состоянием и более 20 агентских инструментов. Ни в одном другом приложении нет даже двух таких инструментов.

👉 Пользовательский интерфейс потокового чата
Многопоточные диалоги с встроенными кнопками вызова инструментов, сворачиваемыми блоками с пояснениями, предварительным просмотром изображений и индикаторами состояния в реальном времени. Каждая деталь продумана для удобства использования.

👉 Голосовой чат
Встроенный преобразователь текста в речь в каждом ответе. Слушайте ответы ИИ без помощи рук, используя встроенный в Mac синтез речи.

👉 Vision & Мультимодальность
Перетаскивайте изображения в чат. Модели машинного зрения, такие как Qwen VL, анализируют визуальный контент локально с возможностью предварительного просмотра с функцией масштабирования.

👉 Блоки рассуждений
Сворачиваемые разделы для таких моделей, как DeepSeek R1, Qwen 3 и GLM. См. цепочку рассуждений модели.

👉 Удаленные конечные точки
Подключайтесь к OpenAI, Anthropic или любому другому совместимому API. Используйте агентские инструменты Studio и облачные модели.

👉 Браузер HuggingFace
Ищите, просматривайте и загружайте модели MLX прямо в приложении. Один клик — и вы можете начать общение с любой моделью.

👉 Более 20 встроенных инструментов. Не требует настройки.
Единственное локальное приложение с ИИ, поддерживающее вызов встроенных инструментов MCP. Модели могут читать, записывать, искать и выполнять команды — и все это локально.

В настоящее время Thoth работает на Windows.
🍎 Поддержка macOS на подходе.
Нативная версия для macOS находится в активной разработке — следите за новостями.

Thoth — это локальный ИИ-помощник, созданный для обеспечения независимости от внешних ИИ — ваши модели, ваши данные, ваши правила. Он работает исключительно на вашем устройстве, сочетая в себе мощный агент ReAct и 20 интегрированных инструментов — веб-поиск, электронную почту, календарь, управление файлами, распознавание изображений, долговременную память, отслеживание привычек и многое другое, а также каналы обмена сообщениями в Telegram и электронной почте. Все это работает на основе локальной большой языковой модели Ollama. Данные не покидают ваше устройство, если только вы не используете онлайн-инструмент.

❓ Чем Thoth отличается от OpenClaw?
- OpenClaw — фантастический проект с открытым исходным кодом, но он решает другую задачу. OpenClaw — это инфраструктурная платформа для обмена сообщениями: она перенаправляет вызовы облачных языковых моделей (OpenAI, Anthropic, Google) в более чем 25 чатов, таких как WhatsApp, Slack и Discord. Языковая модель работает в облаке, а шлюз — на вашем компьютере.

- Thoth — это локальный помощник для настольных компьютеров: языковая модель, голосовой конвейер и память работают на вашем оборудовании. Ничто не покидает ваш компьютер, пока вы не подключитесь к онлайн-инструменту.

- Выберите Thoth, если вам нужно, чтобы все — модель, голосовой помощник, память, данные — работало на вашем собственном компьютере без привязки к облаку и без регулярных платежей.
- Выберите OpenClaw, если вам нужен облачный помощник, который будет доступен на всех платформах для общения, которыми вы уже пользуетесь.