🔔 نکات برجسته تحقیقات LLM در سال ۲۰۲۴

سال ۲۰۲۴ یکی از پرثمرترین سال‌ها در حوزه تحقیقات هوش مصنوعی و مدل‌های زبانی بزرگ (LLM) بود. برای شروع سال جدید، مقاله‌ای درباره دستاوردهای برتر تحقیقات LLM در این سال آماده شده است. 🌟

این مقاله، مجموعه‌ای از مهم‌ترین پیشرفت‌ها را در زمینه‌هایی چون مدل‌های Mixture-of-Experts و قوانین جدید مقیاس‌بندی LLM بررسی می‌کند. با تمرکز بر نیمه اول سال ۲۰۲۴ (ژانویه تا ژوئن)، در هر ماه یک مقاله برجسته معرفی شده است.


👀 مطالعه این مقاله برای افرادی که به دنبال درک جدیدترین روندها و ایده‌های نوآورانه در حوزه LLM هستند، یک منبع عالی خواهد بود.

🔗 لینک به مقاله:
https://magazine.sebastianraschka.com/p/ai-research-papers-2024-part-1

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

🔍 برترین مقالات هوش مصنوعی ۲۰۲۴

اگر دنبال مقالات برتر AI در سال ۲۰۲۴ هستید، تمامی مقالات هفته به هفته همراه با خلاصه و لینک در یک فایل MD جمع‌آوری شده‌اند.

💡 این فایل را به NotebookLM اضافه کنید تا:
- خلاصه صوتی یا متنی برای هر ماه بسازید.
- با جستجوهایی مثل «مقالات درباره استدلال» مقاله‌های مرتبط را پیدا کنید.

📌 لینک: https://github.com/dair-ai/ML-Papers-of-the-Week/tree/main#top-ml-papers-of-the-week-december-23---december-29---2024

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

اگر می‌خواهید کدهای مقاله‌ی Attention is All You Need را بهتر درک کنید، پیشنهاد می‌کنم از لینک زیر استفاده کنید. 🚀
https://nlp.seas.harvard.edu/annotated-transformer/

این منبع، توضیحات اصلی مقاله را به همراه کدهای پایتورچ ارائه کرده و به شما کمک می‌کند مفاهیم را سریع‌تر و دقیق‌تر یاد بگیرید. 🧑‍💻📚

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

ویدئوهای آموزشی شامل جلسات کامل کلاس دیپ‌لرنینگ دکتر ملک در دانشگاه شهید بهشتی، اکنون در دسترس شماست! این ویدئوها فرصت مناسبی برای یادگیری عمیق مفاهیم و تکنیک‌های پیشرفته در این حوزه را فراهم می‌کنند. 🎥📚💡
https://www.youtube.com/playlist?list=PLzKFqE-aHvMDyfo6wk4jBnAPszrL5XICg

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

دوره آموزشی LLM Agents MOOC شامل موضوعات زیر است:

- مبانی LLMs
- استدلال (Reasoning)
- برنامه‌ریزی، استفاده از ابزار
- زیرساخت LLM Agent
- Retrieval-Augmented Generation
- تولید کد، علم داده (Code Generation, Data Science)
- عوامل چندوجهی (Multimodal Agents)، رباتیک
- ارزیابی و بنچمارک‌گیری در کاربردهای عوامل (Evaluation and Benchmarking on Agent Applications)
- حریم خصوصی، ایمنی و اخلاق
- تعامل انسان و عامل، شخصی‌سازی، هم‌ترازی (Human-Agent Interaction, Personalization, Alignment)
- همکاری چندعامله (Multi-Agent Collaboration)

این دوره تمامی جنبه‌های کلیدی مرتبط با عوامل LLM را پوشش می‌دهد و می‌تواند برای علاقه‌مندان به این حوزه بسیار ارزشمند باشد.

https://www.youtube.com/playlist?list=PLS01nW3RtgopsNLeM936V4TNSsvvVglLc

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

TinyViM: Frequency Decoupling for Tiny Hybrid Vision Mamba

Topic: Image Classification

Paper: https://arxiv.org/pdf/2411.17473v1.pdf

GitHub: https://github.com/xwmaxwma/tinyvim

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

🎙 معرفی OuteTTS-0.2-500M

مدل OuteTTS-0.2-500M یکی از پیشرفته‌ترین ابزارهای تبدیل متن به گفتار (Text-to-Speech) است که با 500 میلیون پارامتر، صدایی طبیعی و شبیه به انسان تولید می‌کند. این مدل از زبان‌های انگلیسی، چینی، ژاپنی، و کره‌ای پشتیبانی می‌کند و قابلیت ایجاد پروفایل گوینده شخصی‌سازی‌شده را نیز دارد. 🌐
💡 نصب آسان:

pip install outetts

Demo
Github

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

🎥 دوره شبکه‌های عصبی از مبانی تا پیشرفته

این دوره شامل ویدئوهای یوتیوب است که در آن‌ها به کدنویسی و آموزش شبکه‌های عصبی می‌پردازیم. نوت‌بوک‌های Jupyter هر جلسه در پوشه lectures ذخیره می‌شوند و تمرین‌ها نیز در توضیحات ویدئو قرار دارند.
https://github.com/karpathy/nn-zero-to-hero/tree/master

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

💠 STORM: ابزار هوش مصنوعی دانشگاه استنفورد
🔍 بررسی صدها مقاله در چند ثانیه!
📚 خروجی: مقاله‌ای خلاصه و جامع.
✨ مناسب برای پژوهشگران حرفه‌ای و سریع! 🚀

https://storm.genie.stanford.edu/

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

مهم‌ترین معادلات ریاضی در علم داده!
🎓 10 دوره رایگان ریاضی:https://www.mltut.com/mathematics-for-data-science-free-courses/
1️⃣ Gradient Descent: Optimization algorithm minimizing the cost function.
2️⃣ Normal Distribution: Distribution characterized by mean μ\muμ and variance σ2\sigma^2σ2.
3️⃣ Sigmoid Function: Activation function mapping real values to 0-1 range.
4️⃣ Linear Regression: Predictive model of linear input-output relationships.
5️⃣ Cosine Similarity: Metric for vector similarity based on angle cosine.
6️⃣ Naive Bayes: Classifier using Bayes’ Theorem and feature independence.
....

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

مدل‌های زبانی بزرگ مثل ChatGPT می‌توانند در برنامه‌نویسی شما بسیار مفید باشند:

✅ ایجاد رابط‌های کاربری پویا
✅ مدیریت و پردازش حجم زیادی از داده‌های متنی
✅ و بسیاری موارد دیگر!

در این دوره، با مبانی مدل‌های زبانی بزرگ (LLMs) آشنا می‌شوید و یاد می‌گیرید چگونه از آن‌ها در پروژه‌های کدنویسی خود استفاده کنید. 🚀
https://www.freecodecamp.org/news/development-with-large-language-models/

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

NeuZip: Memory-Efficient Training and Inference with Dynamic Compression of Neural Networks
اگر به بهینه‌سازی مصرف حافظه در شبکه‌های عصبی و افزایش کارایی مدل‌های بزرگ علاقه دارید، پیشنهاد می‌کنیم مقاله بالا را مطالعه کنید. NeuZip روشی نوآورانه برای فشرده‌سازی وزن‌ها است که علاوه بر کاهش چشمگیر استفاده از حافظه در آموزش و استنتاج، عملکرد مدل را کاملاً حفظ می‌کند.
💡 کد این روش به‌صورت رایگان منتشر شده است!

Paper:https://arxiv.org/pdf/2410.20650
Github:https://github.com/BorealisAI/neuzip

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

📚 کنفرانس #NeurIPS2024 یکی از معتبرترین رویدادهای هوش مصنوعی و یادگیری ماشین در جهان برگزار شده است!
🔍 امسال، بیش از ۴,۵۰۰ مقاله پژوهشی ارزشمند ارائه شده که شما می‌توانید آن‌ها را به‌صورت تعاملی در یک بصری‌سازی جذاب بررسی کنید.

✨ اگر به حوزه‌های مختلف هوش مصنوعی علاقه دارید، این ابزار می‌تواند بهترین راه برای یافتن موضوعات مورد علاقه‌تان باشد، مثل:

شبکه‌های عصبی عمیق 🧠
مدل‌های زبانی بزرگ (LLMs) ✍️
بینایی کامپیوتر 👁
بهینه‌سازی و الگوریتم‌ها 📈
https://jalammar.github.io/assets/neurips_2024.html

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer

📃A Survey of Graph Neural Networks for Social Recommender Systems


📎 https://arxiv.org/abs/2212.04481

#هوش_مصنوعی
📣👨‍💻 @AlgorithmDesign_DataStructuer