ℹ️ TranslateGemma 27b/12b/4b — это семейство легковесных современных открытых моделей перевода от Google, основанных на семействе моделей Gemma 3.

Модели TranslateGemma предназначены для решения задач перевода на 55 языках. Благодаря относительно небольшому размеру их можно использовать в средах с ограниченными ресурсами, например на ноутбуках, настольных компьютерах или в собственной облачной инфраструктуре, что упрощает доступ к современным моделям перевода и способствует развитию инноваций для всех.
📖 Все языки и метрики в документе: https://arxiv.org/pdf/2601.09012
🔥TranslateGemma на 12b превосходит в тех же заданиях базовую Gemma 3 24b

Даже такие пары есть:
English-Armenian, English-Hawaiian, English-Western Frisian, English-Corsican, English-Hmong, English-Maltese, English-Tajik, English-Samoan, English-Macedonian, English-Mongolian, EnglishGalician, English-Albanian, English-Uzbek, English-Uyghur, English-Belarusian, English-Sinhala, English-Basque, English-Haitian Creole, English-Bosnian, English-Kyrgyz, English-Kazakh, EnglishKhmer, English-Scottish Gaelic, English-Lao, English-Irish, English-Luxembourgish, English-Burmese, English-Sundanese, English-Javanese, English-Malay

Входные данные:
- Текстовая строка, представляющая переводимый текст
- Изображения, нормализованные до разрешения 896 x 896 и закодированные до 256 токенов каждое
- Общий входной контекст из 2000 токенов

Выход:
- Текст переведён на целевой язык

Модели:
27B https://huggingface.co/google/translategemma-27b-it
12B https://huggingface.co/google/translategemma-12b-it
4B https://huggingface.co/google/translategemma-4b-it

Чтобы переводить тексты с одного языка на другой с помощью этой модели в LM Studio, сначала исправьте проблему с шаблоном промта (prompt template). Перейдите в My Models > настройки модели > Prompt Template и переопределите шаблон на кастомный Jinja, чтобы обойти строгую структуру content. Вот пример простого шаблона (вставьте его в поле Jinja):

{{ bos_token }}
{% if messages[0]['role'] == 'system' %}
{{ messages[0]['content'] }}
{% endif %}
{% for message in messages %}
{% if message['role'] == 'user' %}
<start_of_turn>user
{{ message['content'] }}<end_of_turn>
{% elif message['role'] == 'assistant' %}
<start_of_turn>model
{{ message['content'] }}<end_of_turn>
{% endif %}
{% endfor %}
{% if add_generation_prompt %}
<start_of_turn>model
{% endif %}

Это позволит использовать модель без ошибки, обрабатывая content как обычный текст.
В системном промте (system prompt) пропишите инструкцию для перевода, чтобы модель понимала задачу. Пример:
"Ты профессиональный переводчик. Переводи предоставленный текст с указанного исходного языка на целевой язык. Формат входа: source: [код исходного языка, например en], target: [код целевого языка, например ru], text: [текст для перевода]. Выводи только перевод без дополнительных комментариев."
Затем в пользовательском промте (user prompt) указывайте:
"source: en, target: ru, text: Hello world!"
Модель выдаст перевод. Коды языков — стандартные ISO 639-1 (en — английский, ru — русский, de — немецкий и т.д.). Если хотите фиксированные языки (например, всегда с русского на английский), укажите это в системном промте без нужды в формате.

Что интересно: https://chatgpt.com/translate/ поддерживает 50 языков, а 🔥TranslateGemma - 55 языков!

🌎 TranslateGemma 4B есть и прямо в браузере с #WebGPU https://huggingface.co/spaces/webml-community/TranslateGemma-WebGPU

📊 Оценка качества TranslateGemma https://alconost.mt/mqm-tool/case-studies/translategemma/ (Обсуждение)

#TranslateGemma #LocalAi #AiLocal #ModelAi #AiModel #Gemma3 #AiTranslate #AiПеревод

ℹ️ STEP3-VL-10B — это облегчённая базовая модель с открытым исходным кодом, призванная изменить представление о компромиссе между компактностью и эффективностью и передовым мультимодальным интеллектом. Несмотря на компактные 10B параметров, STEP3-VL-10B отлично справляется с визуальным восприятием, сложными рассуждениями и ориентированностью на человека.
Она стабильно превосходит модели размером до 10 млрд параметров и конкурирует или превосходит значительно более крупные модели с открытыми весами (в 10–20 раз больше по размеру), такие как GLM-4.6V (106B-A12B), Qwen3-VL-Thinking (235B-A22B), а также флагманские проприетарные модели, такие как Gemini 2.5 Pro и Seed-1.5-VL.
Результаты показывают, что STEP3-VL-10B — это самая мощная модель с открытым исходным кодом в классе параметров 10B.
Модель: https://huggingface.co/stepfun-ai/Step3-VL-10B
Демо: https://huggingface.co/spaces/stepfun-ai/Step3-VL-10B - отлично отвечает на русском!
Обсуждение на Reddit.
#StepfunAi #Step3VL10B #LocalAi #AiLocal #ModelAi #AiModel

🔍 Решения для локальных глубоких исследований:

1) https://gptr.dev
https://github.com/assafelovic/gpt-researcher

2) https://deerflow.tech
https://github.com/bytedance/deer-flow

3) https://github.com/Alibaba-NLP/DeepResearch - Tongyi DeepResearch

4) https://github.com/stanford-oval/storm - STORM

5) https://github.com/ItzCrazyKns/Perplexica - Perplexica

6) https://github.com/MiroMindAI/MiroFlow

7) https://github.com/murtaza-nasir/maestro

8) https://github.com/sentient-agi/ROMA

9) https://blog.langchain.com/deep-agents /

10) https://github.com/miurla/morphic

11) https://github.com/edoigtrd/ubiquite

12) https://github.com/SalesforceAIResearch/enterprise-deep-research

13) https://github.com/ruc-datalab/DeepAnalyze

14) https://github.com/RUC-NLPIR/DeepAgent

15) https://github.com/vamplabAI/sgr-deep-research

16) https://github.com/AstroPilot-AI/Denario

17) https://github.com/CMBAgents/cmbagent

18) https://github.com/sagar-n/deepagents/tree/v3.0.0/deep-research-agents-v3

19) https://github.com/anilsharmay/full-stack-local-deep-research-agent

20) https://github.com/microsoft/autogen

21) https://github.com/huggingface/smolagents/tree/main/examples/open_deep_research

22) https://github.com/rupeshs/verity - Verity — это поисковая система на основе искусственного интеллекта в стиле Perplexity, которая работает полностью локально на компьютерах с ИИ. Она сочетает в себе поиск на основе SearXNG, извлечение данных и локальные рассуждения на основе больших языковых моделей для генерации обоснованных, проверяемых ответов без использования облачных сервисов.(Обсуждение)

Обсуждение на Reddit.
#DeepResearchAgent #DeepResearch #AiAgent #LocalAi #AiLocal

🔈 Модель: CosyVoice 3 от Alibaba— TTS-модель с клонированием голоса за 3 секунды!

⚡️ Модель вышла в опенсорс с коммерческой лицензией. При скромных 0,5 млрд параметров обходит по качеству более тяжёлых конкурентов.

Что умеет:

• Работает с 9 языками: русский, английский, китайский, японский, корейский, немецкий, испанский, французский и итальянский

• Клонирует голос по 3 секундам аудио — воспроизводит тембр, акцент, скорость речи, ударения и даже речевые особенности

• Поддержка инструкций: поддерживает различные инструкции, такие как языки, диалекты, эмоции, скорость, громкость и т. д.

• Распознаёт эмоции и дефекты речи: чавканье, шипение, картавость, всхлипы

• Генерирует в реальном времени с задержкой около 150 мс

• Позволяет вручную корректировать произношение отдельных слов — удобно для сложных терминов

• Доступна для коммерческого использования в любых проектах

🔗 Демо: https://funaudiollm.github.io/cosyvoice3/
https://huggingface.co/FunAudioLLM/Fun-CosyVoice3-0.5B-2512
Квант: BF16 занимает всего 1,29 ГБ!
Есть Форк CosyVoice_for_MacOs → https://github.com/v3ucn/CosyVoice_for_MacOs

Самый простой и удобный способ в 2026 году на macOS:

1) Установи Miniconda (или Anaconda), если ещё нет
https://docs.conda.io/en/latest/miniconda.html
2) Создай среду и установи зависимости:
conda create -n cosy3 python=3.10 -y
conda activate cosy3

# Важно: используй pip с зеркалом, если в РФ/Европе медленно без VPN
pip install -r https://raw.githubusercontent.com/FunAudioLLM/CosyVoice/main/requirements.txt -i https://mirrors.aliyuan.com/pypi/simple/

# Если sox не находится — ставим через brew
brew install sox

3) Скачай модель (самый быстрый способ через huggingface-cli)
# Установи hf-hub если ещё нет
pip install huggingface_hub[cli]

huggingface-cli download FunAudioLLM/Fun-CosyVoice3-0.5B-2512 --local-dir pretrained_models/Fun-CosyVoice3-0.5B
huggingface-cli download FunAudioLLM/CosyVoice-ttsfrd --local-dir pretrained_models/CosyVoice-ttsfrd

4) Запусти WebUI (самый удобный интерфейс)
git clone --recursive https://github.com/FunAudioLLM/CosyVoice.git
cd CosyVoice

# Если submodule не скачался — выполняй
git submodule update --init --recursive

# Сам запуск
python webui.py --port 8501 --model_dir pretrained_models/Fun-CosyVoice3-0.5B
Открой в браузере http://127.0.0.1:8501
Там будет интерфейс похожий на XTTS / Piper / StyleTTS — вводишь текст, выбираешь режим (zero-shot, instruct, cross-lingual), грузишь референсный аудио-файл (3–10 сек голоса) и генерируешь.

#TTS #CosyVoice3 #MacOS #LocalAi #AiLocal #ModelAi #AiModel #AiVoice

🔈 Bantr: локальное безлимитное преобразование текста в речь TTS для Apple Silicon

Bantr - Приложение для преобразования текста в речь с естественным звучанием, которое работает исключительно на вашем Mac.

🤖 Более 150 естественных, выразительных голосов
🔒 Работает исключительно на вашем Mac (без облачного хранилища)
🆓 Не требует входа в систему, не расходует квоту
💸 Не требует подписки (единовременная покупка, бесплатные обновления в будущем)
⚡️ Быстрое локальное создание с использованием платформы Apple MLX

Вот что будет дальше:
🧬 Клонируйте пользовательские голоса и эмоции, используя небольшой пример
📄 Загружайте документы (pdf, epub, docx и т.д.)
🎙 Генерируйте диалоги с несколькими дикторами.
✅ Поддержка дополнительных языков
✅ Улучшено управление проектами
✅ И многое другое из ваших отзывов

Полностью локальное, без облака, использует современные модели (включая XTTS-подобные). Пишут, что качество очень хорошее, работает на M-чипах мгновенно!
Демо: https://www.youtube.com/watch?v=HqcXhWqLrS0
Поддерживается: macOS 15 и выше с Apple Silicon (M1, M2, M3, M4, M5...).
Цена: 60$ единоразово!
https://getbantr.com
#TTS #Bantr #SoftAI #AiSoft #MacOS #LocalAi #AiLocal #AiVoice

⬇️ GPU Poor LLM Arena - Рейтинг "маленьких" моделей

Если у вас нет топового ПК, это не повод не использовать LLM

GPU-Poor LLM Gladiator Arena - это LMарена для маленьких моделей.

Проект вырос из простой идеи: стало много реально сильных tiny/compact моделей и захотелось сделать понятную площадку, где их можно сравнивать. Плюс это playground для их теста.

Чтобы быстро попробовать:
Зайдите в Space - вкладка Battle Arena - введите промпт - “Generate Responses” - проголосуйте. А потом загляните в лидерборды и сравните динамику...

🔗 https://huggingface.co/spaces/k-mktr/gpu-poor-llm-arena
#lmArena #poorllmArena #gpupoorllmarena #LocalAi #AiLocal #ModelAi #AiModel #huggingface

🔍 AI Model Tracker - Отслеживание моделей ИИ

Инструмент для отслеживания моделей ИИ, подходящих для локального использования (т. е. с объёмом видеопамяти менее 24 ГБ) в Hugging Space и Modelscope.

AI Model Tracker — это настольное приложение, которое запускается в один клик и автоматически находит и систематизирует модели ИИ в интернете. Оно решает проблему «разброса моделей», когда модели разбросаны повсюду, а вы не знаете, какие у вас есть, какие новые и какие будут работать на вашем оборудовании.

✨ Ключевые особенности:
- Автоматическое обнаружение - Scraps Hugging Face, ModelScope (китайские модели) и многое другое для новых моделей с искусственным интеллектом
- С учетом аппаратного обеспечения - Ориентирован на модели, работающие с видеопамятью объемом менее 24 ГБ (большинство потребительских графических процессоров).
- Красивая панель управления - веб-интерфейс для просмотра, фильтрации и поиска моделей
- Отслеживание китайских моделей - Особое внимание Qwen, DeepSeek и другим китайским моделям
- Оценки размера - Приблизительные оценки в ГБ, чтобы вы знали размеры загрузок
- Метаданные GGUF - извлекает подробную информацию о квантовании GGUF
- Автозапуск - автоматически открывает браузер при запуске
- Еженедельные обзоры - Автоматические отчеты о новых моделях.

https://github.com/nigelp/ai-model-tracker
Обсуждение.
#AIModelTracker #LocalAi #AiLocal #ModelAi #AiModel #huggingface