Сбер выложил в опенсорс экспериментальную языковую модель — GFusion

Она построена на базе GigaChat и генерирует сразу целые блоки текста, редактируя их в процессе, вместо последовательного вывода токенов. Весь код от первой гипотезы до релиза написал Даниил Тихонов. Он запускал проект на позиции стажёра, а после успешной защиты диплома, перешел в основной штат команды фундаментальных моделей Сбера.

→ до 70% быстрее GigaChat3-10B-A1.8B
→ на 39% быстрее версии с MTP
→ снижение качества составляет всего 2–4 п.п.
→ открыты код, обучение, оптимизированные attention-ядра и поддержка SGLang

GFusion-10B-A1.8B-base
GFusion-10B-A1.8B
GitVerse

@IT_Portal