متا قویترین مدل هوش مصنوعی زبانی متن باز رو عرضه کرده که دارای 405 میلیارد پارامتر هست!

این مدل جدیدترین و بزرگترین عضو خانواده مدلهای زبانی متا موسوم به Llama 3.1 هست که قدرت و دقت بالایی داره و در تستهای مختلف نه تنها در سطح قویترین مدلهای متن بسته از جمله GPT 4o و Claude 3.5 Sonnet ظاهر شده بلکه در برخی تستها از اونها پیشی هم گرفته! به لطف متا حالا همه کاربران و شرکتها به مدلی در سطح قویترین مدلهای زبانی جهان به صورت ازادانه و روی سخت افزار خودشون دسترسی دارن.

این مدل روی 16 هزار کارت گرافیک H100 تمرین داده شده، امکان پاسخدهی به مسائل و پرامپتهای پیچیده رو داره و Context Window اون 128 هزار توکن هست که امکان پردازش ورودی های متنی بزرگ مثل فایلهایی 50 صفحه ای رو فراهم میکنه.

مدل 405 میلیارد پارامتری از حالا به صورت متن باز قابل دانلود هست و شرکتهایی که سخت افزار لازم برای اجرای اون رو دارن حالا ازادانه میتونن از اون استفاده کنن. این شرکت همچنین مدلهای 70 و 8 میلیارد پارامتری Llama رو هم براساس مدل جدید بروز و بهینه کرده.

میزان سخت افزار لازم برای اجرای این مدل بزرگ با فرمت اصلی (FP16) نیاز به بیش از 810 گیگ VRAM/RAM داره، نسخه کوچک شده اون با فرمت FP8 نیاز به 405 گیگ، INT4 نیاز به 203 گیگ و INT2 نیاز به 100 گیگ VRAM/RAM برای اجرا داره.

متا این مدل رو به صورت رایگان در هوش مصنوعی Meta AI در اپهایی مثل واتساپ و اینستاگرام عرضه کرده. علاوه بر این میتونین به صورت رایگان اون رو در HuggingChat ازمایش کنید.

🔎 venturebeat

#هوش_مصنوعی #AI  #Artificial_Intelligence
┏━━━━━━━━┓
〓 @AIPyth0n
┗━━━━━━━━┛