‏🚀 اجرای مدل هوش مصنوعی ۹ میلیاردی روی موبایل

‏خانواده جدید مدل‌های Ornith 1.5 با معرفی نسخه 9B، مرزهای اجرای مدل‌های زبانی روی سخت‌افزارهای محدود را جابجا کرده است. این مدل متن‌باز با قابلیت Self-Improving و پنجره متنی ۲۵۶ هزار توکنی، به طور اختصاصی برای استدلال، کدنویسی و کارهای Agentic بهینه شده است.

‏نکته تحسین‌برانگیز این مدل، عملکرد نزدیک به مدل‌های بسیار بزرگ‌تر در برخی بنچمارک‌های رسمی است. نسخه‌های Quantized این مدل امکان اجرا روی دستگاه‌های موبایل و سیستم‌های شخصی را فراهم کرده‌اند.

‏برای اجرای این مدل می‌توانید از ابزارهای زیر استفاده کنید:

‏• llama.cpp
‏• Ollama
‏• LM Studio

‏فایل‌های مورد نیاز و نسخه GGUF را می‌توانید از طریق مخزن رسمی Hugging Face دریافت و بر اساس قدرت سخت‌افزار خود، Quantization مناسب را انتخاب کنید.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#Ornith_1 #Quantization