Local Ai

💡Теперь вы можете самостоятельно дообучить Gemma 4 с 8 ГБ видеопамяти!

Теперь вы можете дорабатывать Gemma 4 E2B и E4B в бесплатных блокнотах Unsloth! Для локального обучения Gemma-4-E2B вам понадобится 8 ГБ видеопамяти. Unsloth обучает Gemma 4 примерно в 1,5 раза быстрее, используя на 60 % меньше видеопамяти, чем FA2: https://github.com/unslothai/unsloth

Также нашли и исправили ошибки в обучающем курсе Gemma 4:

Из-за накопления града потери больше не будут такими огромными — раньше они могли составлять от 300 до 400, а теперь — от 10 до 15. В Unsloth это исправлено.

Ошибка индекса для 26B и 31B при логическом выводе — при использовании трансформеров логический вывод для 26B и 31B будет невозможен — мы это исправили.

use_cache=False Для E2B и E4B была абракадабра — см. https://github.com/huggingface/transformers/issues/45242

Аудио в формате float16 — переполнение при -1e9

Вы также можете обучить модели 26B-A4B и 31B или провести обучение через пользовательский интерфейс с помощью Unsloth Studio. Studio и блокноты подходят для работы с Vision, Text, Audio и логическим выводом.

Подробнее об исправлении ошибок, а также полезные советы и рекомендации читайте в нашем блоге/руководстве:
https://unsloth.ai/docs/models/gemma-4/train
(Обсуждение)
🔥 Дообучение Gemma 4 и 500+ опенсорс-моделей прямо в Google Colab

Unsloth запустили бесплатный инструмент для файнтюнинга моделей через браузер. Работает просто: открываешь ноутбук в Colab, запускаешь ячейки для развёртывания Unsloth Studio, выбираешь модель и датасет, жмёшь «Start Training».

Всё опенсорс, доступно более 500 моделей, включая свежую Gemma 4. Есть пошаговый туториал по дообучению — для тех, кто хочет разобраться в деталях.

🔗 https://colab.research.google.com/github/unslothai/unsloth/blob/main/studio/Unsloth_Studio_Colab.ipynb
🔗 https://github.com/unslothai/unsloth
🔗 https://unsloth.ai/docs/models/gemma-4/train

=========
И еще есть: Мультимодальный Fine-Tuner Gemma
Точная настройка Gemma 4 и 3n с использованием аудио, изображений и текста на Apple Silicon с помощью PyTorch и шейдеров Metal Performance.

🔗

https://github.com/mattmireles/gemma-tuner-multimodal

#Gemma4 #Unsloth #finetune #train #AiModel #ModelAi #LocalAi #AiLocal

Please open Telegram to view this post