🧩 چرا LLMها دست از توهم (Hallucination) برنمی‌دارن؟
مقاله جدید OpenAI توضیح می‌ده که توهم در مدل‌های زبانی «خطا غیرمنتظره» نیست، بلکه نتیجه طبیعی آموزش و ارزیابی اون‌هاست.
مدل‌ها مجبور می‌شن حتی وقتی مطمئن نیستن، جواب بدن و سیستم‌های فعلی هم «بلوف زدن» رو بیشتر از «نمی‌دونم» پاداش می‌دن.
✅ راه‌حل: تغییر سیستم امتیازدهی به‌جای معرفی تست‌های جدید.
اگر به جای جریمه کردن جواب‌های «نمی‌دونم»، اون‌ها رو خنثی حساب کنیم، مدل‌ها یاد می‌گیرن فقط وقتی جواب بدن که مطمئن هستن. این تغییر می‌تونه اعتماد به هوش مصنوعی رو افزایش بده.
اطلاعات بیشتر:
https://www.arxiv.org/pdf/2509.04664
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
مقاله جدید OpenAI توضیح می‌ده که توهم در مدل‌های زبانی «خطا غیرمنتظره» نیست، بلکه نتیجه طبیعی آموزش و ارزیابی اون‌هاست.
مدل‌ها مجبور می‌شن حتی وقتی مطمئن نیستن، جواب بدن و سیستم‌های فعلی هم «بلوف زدن» رو بیشتر از «نمی‌دونم» پاداش می‌دن.
✅ راه‌حل: تغییر سیستم امتیازدهی به‌جای معرفی تست‌های جدید.
اگر به جای جریمه کردن جواب‌های «نمی‌دونم»، اون‌ها رو خنثی حساب کنیم، مدل‌ها یاد می‌گیرن فقط وقتی جواب بدن که مطمئن هستن. این تغییر می‌تونه اعتماد به هوش مصنوعی رو افزایش بده.
اطلاعات بیشتر:
https://www.arxiv.org/pdf/2509.04664
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
👌6👍1
📚 دوره آموزش ساخت مدل زبانی از صفر
مدل‌های زبانی پایه اصلی بیشتر ابزارهای NLP مدرن هستن و نشون دادن که یه سیستم عمومی می‌تونه چندین کار مختلف رو انجام بده. پس درک عمیق این مدل‌ها برای پژوهشگرها و مهندس‌ها ضروریه.
توی این دوره قراره مثل درس‌هایی که سیستم‌عامل رو از صفر می‌سازن، کل مسیر ساخت یه Language Model رو با هم قدم‌به‌قدم یاد بگیریم:
🔹 جمع‌آوری و پاک‌سازی داده‌ها برای pre-training
🔹 ساختار ترنسفورمر و نحوه طراحی مدل
🔹 آموزش مدل و تکنیک‌های مهم یادگیری
🔹 ارزیابی و آماده‌سازی برای استقرار (Deployment)
https://www.youtube.com/playlist?list=PLoROMvodv4rOY23Y0BoGoBGgQ1zmU_MT_
برای بررسی کد ها و اسلاید ها و... :
https://github.com/stanford-cs336/spring2025-lectures
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
مدل‌های زبانی پایه اصلی بیشتر ابزارهای NLP مدرن هستن و نشون دادن که یه سیستم عمومی می‌تونه چندین کار مختلف رو انجام بده. پس درک عمیق این مدل‌ها برای پژوهشگرها و مهندس‌ها ضروریه.
توی این دوره قراره مثل درس‌هایی که سیستم‌عامل رو از صفر می‌سازن، کل مسیر ساخت یه Language Model رو با هم قدم‌به‌قدم یاد بگیریم:
🔹 جمع‌آوری و پاک‌سازی داده‌ها برای pre-training
🔹 ساختار ترنسفورمر و نحوه طراحی مدل
🔹 آموزش مدل و تکنیک‌های مهم یادگیری
🔹 ارزیابی و آماده‌سازی برای استقرار (Deployment)
https://www.youtube.com/playlist?list=PLoROMvodv4rOY23Y0BoGoBGgQ1zmU_MT_
برای بررسی کد ها و اسلاید ها و... :
https://github.com/stanford-cs336/spring2025-lectures
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
🙏2👌1
کمپانی OpenAI بالاخره منتشر گرد که مردم چطور از ChatGPT استفاده می‌کنند. فرصت برای درست کردن محصولاتی که مردم نیاز دارند.
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
🔥5
🚀 معرفی VaultGemma
یه مدل زبانی جدیده که از پایه ساخته شده و فرق اصلیش با بقیه اینه که با روش حفظ حریم خصوصی (Differential Privacy) آموزش داده شده. یعنی چی؟
یعنی وقتی این مدل آموزش می‌بینه، دیگه نمی‌تونه اطلاعات حساس کاربرا یا متن‌هایی که روش تمرین داده شده رو حفظ کنه و بعداً پس بده. عملاً مثل این می‌مونه که هر چیزی رو که می‌خونه، سریع فراموش می‌کنه.
برای اطلاع بیشتر از جمله مقاله و ... :
https://research.google/blog/vaultgemma-the-worlds-most-capable-differentially-private-llm/
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
یه مدل زبانی جدیده که از پایه ساخته شده و فرق اصلیش با بقیه اینه که با روش حفظ حریم خصوصی (Differential Privacy) آموزش داده شده. یعنی چی؟
یعنی وقتی این مدل آموزش می‌بینه، دیگه نمی‌تونه اطلاعات حساس کاربرا یا متن‌هایی که روش تمرین داده شده رو حفظ کنه و بعداً پس بده. عملاً مثل این می‌مونه که هر چیزی رو که می‌خونه، سریع فراموش می‌کنه.
برای اطلاع بیشتر از جمله مقاله و ... :
https://research.google/blog/vaultgemma-the-worlds-most-capable-differentially-private-llm/
#هوش_مصنوعی
📣👨💻 @AlgorithmDesign_DataStructuer
👍5💯1