Релиз открытой LLM-модели Zero-Mistral-Small-24B-Instruct-2501

Сегодня выпустили нашу open-source finetune версию Mistral-Small-24B-Instruct-2501 (она же Mistral Small 3).
Главная цель - адаптация на русский язык.
Модель натренирована на датасете GrandMaster-Pro-MAX и показывает 0.518 по MERA и 87.43 на LLM Arena: Arena-Hard-Auto(заняв там почетное 11 место).

Это был наш первый опыт тюнинга базовых моделей на русский язык. Мы обошлись только SFT стадией, но уже ясно, что результаты можно улучшить с помощью DPO и дополнительных датасетов. Как-нибудь займусь этим.

📚Модель доступна на huggingface:
- Merged 16-bit - оригинал в формате safetensors
- LoRa adapter for mistralai/Mistral-Small-24B-Instruct-2501
- F16 GGUF
- BF16 GGUF
- Q8_0 GGUF

Важным бонусом является то, что #LLM модель после тренировки всё ещё умеет делать Function calling.

Ставьте 🔥 и я расскажу, как из неё сделать карманную reasoning-модель по типу o1/r1.

Такие дела ^_^

🦹🏼‍♀️Разбавляем трудовые будни юмором, чтобы окончательно не увязнуть в рутине!

⚡️Ловите великолепные цитаты наших коллег, а как вы отвлекаетесь от лавины рабочих процессов? Заедаете тортиком или уходите с головой в юмор?

🦸Поздравляем наших супергероев с 23 февраля!
Пусть ваши сила, мужество и благородство вдохновляют всех вокруг, а каждый день приносит новые победы и свершения. С праздником!

🎁Ну, и куда мы без подарочков! Листай и выбирай то, что по душе!😀👆🏽

👐🏽Помогать — значит действовать.
Сострадать, поддерживать в моменты наибольших испытаний и — оставаться человеком.

✊🏽Zero Agency не осталось в стороне в эти трудные времена и оказало гуманитарную помощь 15 мотострелковой роте 4-го мотострелкового батальона. Как только помощь была доставлена, ребята записали видео-благодарность.

В этот яркий весенний день команда Zero Agency поздравляет всех любимых дам с 8 марта!🌷

Пусть в душе поют птицы! 🧡
В сердце горит огонь🔥
А глаза сияют ярче чем хайлайтер в космосе! ✨

И по традиции — открытки! Листайте, ставьте цветочки-огонечки! С праздником🌸