В коллекции Gemma обновление оказалось про functiongemma-270m-it — маленькую модель под function calling.
Она задумана так, чтобы её дообучали под свои функции и сценарии, включая multi-turn диалоги (когда вызовов несколько и они зависят друг от друга).
Удобная заготовка, если собираешь агента/бота и хочешь предсказуемые tool-вызовы без «тяжёлых» моделей.
#длякодеров #Gemma #КП
Please open Telegram to view this post
VIEW IN TELEGRAM
1 7👍3👀2❤1🤔1
Google выпустила FunctionGemma на базе Gemma 3 270M, заточенную под function calling прямо на смартфонах и edge-устройствах. Модель превращает естественный язык в API-вызовы, работает полностью офлайн и защищает приватность — всё выполняется локально без серверов.
Ключевые возможности:
➡️ Точность после fine-tuning: с 58% до 85% на задачах Mobile Actions➡️ Автономность: создаёт события в календаре, добавляет контакты, управляет системными настройками z всё без интернета➡️ Энергоэффективность: расходует 0,75% батареи на 25 разговоров (тест на Pixel 9 Pro)➡️ Универсальность: поддерживает Hugging Face, Keras, NVIDIA NeMo, Ollama, Vertex AI и другие фреймворки
Сценарии применения
Умный дом с локальным управлением, голосовые помощники без облака, автоматизация рутинных задач на мобильном устройстве, встроенные агенты для IoT
#длякодеров #Gemma #КП
Please open Telegram to view this post
VIEW IN TELEGRAM
1❤8 4👍3👀2
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3
Google DeepMind выкатила новые open-source модели под лицензией Apache 2.0.
— сразу 4 версии: от совсем легких для edge-устройств до мощных старших моделей;
— контекст до 256K токенов;
— умеет работать с видео, картинками, OCR и графиками;
— младшие версии понимают еще и аудио;
— поддерживает агентские сценарии, JSON и вызов функций;
— пишет код оффлайн и умеет в многошаговое рассуждение;
— знает 140+ языков.
Самое вкусное — младшие модели можно гонять прямо оффлайн на смартфонах, Raspberry Pi и Jetson.
Веса уже лежат на Hugging Face, Kaggle и Ollama.
Попробовать можно и без локальной установки.
Google снова занесла мощную open-source базу.
#новость #ИИ #AI #gemma #google #КП
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4🔥2🙏1
Google выпустила MTP-драфтеры для Gemma 4 - ускорение до 3x без потери качества вывода и логики рассуждений. Модель предсказывает сразу несколько токенов за шаг вместо одного.
Открытая модель, которая бежит быстрее, а думает так же хорошо.
#новости #google #gemma #opensource
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔6❤3👍2
Фишка тут жирная: визуал и аудио кидаются напрямую в LLM, без тяжёлых обвесов сбоку. Меньше задержек, меньше памяти. Первая средняя Gemma, которая нативно ест звук.
Что умеет:
– принимает сырой аудиосигнал в то же пространство, что и текстовые токены;
– картинки гоняет через лёгкий модуль (одно матричное умножение) вместо тяжёлого энкодера;
– в бенчмарках почти дотягивает до старшей 26B на MoE — при вдвое меньшем аппетите к памяти;
– крутится локально на 16 ГБ видео- или объединённой памяти;
– MTP-драфтеры жуют по несколько токенов разом — генерация шустрее;
– лицензия Apache 2.0, бери и коммерси.
Бенчи бенчами, а в реальных задачах расклад порой другой — но для локалки на ноуте это мощно.
Запустить можно в пару кликов через LM Studio, Ollama, llama.cpp или vLLM.
Hugging Face | Kaggle
Кто на ноуте без облака гонять мультимодалку мечтал — теперь и звук туда же
#новости #google #gemma #нейросети
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👀1
QAT сжимает модель не после обучения, а прямо в процессе, поэтому она требует меньше памяти и почти не теряет в качестве.
Gemma 4 E2B может занимать меньше 1 ГБ, если использовать только текст без аудио и изображений. Модель меньше нагружает мобильные чипы, экономит память в длинных чатах и поддерживает ускоренный вывод через MTP.
Веса уже на Hugging Face. Есть GGUF для llama.cpp, тензоры для vLLM и исходники для конвертации.
Работает в Ollama, LM Studio, Transformers.js и MLX.
#новость #ии #ai #gemma #КП
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👀1
Из новой модели от Google вырезали моральный кодекс. Разработчики сделали двухэтапную облитерацию, удалили механизмы отказа, но качество генерации не пострадало.
– весит 22 ГБ и запустится даже на GPU с 8 ГБ видеопамяти;
– работает в Ollama, LM Studio, llama.cpp, vLLM;
– выдаёт ответы на самые жёсткие вопросы без нянек и предупреждений.
Как запустить (самый простой путь через LM Studio):
– качаешь LM Studio с официального сайта;
– в поиске вбиваешь Gemma-4-12B-OBLITERATED;
– выбираешь квантование под своё железо (для 8 ГБ бери Q4);
– загружаешь и пользуешься.
Альтернатива — Ollama: ставишь с сайта, в терминале вбиваешь команду ollama run huihui_ai/gemma-4-abliterated:12b (смежная версия, тоже без отказов).
Модель на Hugging Face
Теперь нейросеть не будет играть в няньку.
Ставь лайк — автору приятно, тебе кармически.
#новости #gemma #нейросети #ии
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6❤1