⏰ چقدر زمان لازمه تا الگوریتمت اجرا بشه؟
📝 راهنمای جامع برای «پیچیدگی زمانی»
👨‍💻 وقتی داری روی یه مدل یادگیری ماشین کار میکنی، یکی از مهم‌ترین چیزایی که باید بدونی
اینه که الگوریتمت با افزایش حجم داده چقدر سریع یا کند عمل می‌کنه. این همون مفهوم پیچیدگی زمان هست، و بهت کمک می‌کنه بهترین الگوریتم رو برای داده‌هات انتخاب کنی!
✔️ بررسی چند تا از معروف‌ترین الگوریتم‌ها:
┌ Time Complexity
├ PDF (1)
└ PDF (2)

#الگوریتم #پیچیدگی_زمانی #یادگیری_ماشین
#DeepLearning #MachineLearning
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧‌ ▼꯭‌‌ ⃤

@Technical_coding 💻

هرچند بقیه خودروسازی‌ها اینو دارند اخیرا هم‌چینی ها اگر دست روی فرمون نباشه هشدار میده و صنعت خودروسازی جهان داره به سمت امنیت بیشتر سرنشینان سوق پیدا میکنه.
کسایی که در حیطه ماشین های خودران کار میکنید ی بخشی از اینده شما میتونه چنین پروژه هایی باشه.
#ماشین_خودران #بینایی_ماشین #مقاله #ایده_جذاب
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

ایشون اومدن با کمک مدلهای زبانی بزرگ یه برنامه نوشتن که کافیه بهش بگید چی میخواهید، براتون سرویسش رو درست می‌کنه و دیپلوی می‌کنه.
کد:
https://github.com/jina-ai/gptdeploy
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

دوتا اکستنشن کاربردی برای برنامه نویس ها
⚪️ این دوتا اکستنشن از معروف ترین و محبوب ترین اکستنشن هایی هستند که به شما کمک میکنند توی سایت های مختلف متوجه بشید برای ساختش از چه زبان ها و ابزاری استفاده شده.
⚪️ این اکستنشن ها ی کاربردی علاوه بر برنامه نویس ها به کمک افراد عادی هم میان چون فونت هایی که تو سایت ها استفاده شده رو هم میتونید پیدا کنید.
⚪️ علاوه بر قابلیت هایی گفته شد میتونید نوع پایگاه داده، ابزارهای سئو، Tag managers، Analytics، JavaScript frameworks، WordPress themes، Programming languages و …سایت رو هم مشاهده کنید.
✅ لینک نصب اکستنشن اول

✅ لینک نصب اکستنشن دوم
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

Understanding Multimodal LLMs
An introduction to the main techniques and latest models
https://magazine.sebastianraschka.com/p/understanding-multimodal-llms
#مقاله #ایده_جذاب
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

317 کتاب هوش‌مصنوعی، علم داده و یادگیری ماشین
از این وبسایت کتابهای مهندسی و علوم کامپیوتر را رایگان دانلود کنید.
https://link.springer.com/search?package=openaccess&facet-content-type=%22Book%22&facet-discipline=%22Computer+Science%22
#کتاب #منابع
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

زمستان Scaling برای هوش مصنوعی؟
یکی از اخبار داغ این روزهای هوش مصنوعی، پستی بود که رویترز منتشر کرد و در اون ادعا کرد که Ilya Sutskever، یکی از بنیانگذاران openai که بعد از کودتای سم آلتمن مجبور به ترک این شرکت شد، به رویترز گفته که پارادایم اسکیلینگ روی LLM‌ها گویا دچار مشکل شده و نهایتا داره انگار آروم می‌گیره و فلت می‌شه و رشدشون کم و کمتر میشه. توضیح این که scaling به زبان خیلی خلاصه، ایده‌ای هست که میگه هر چه قدر مدلها رو بزرگتر کنیم و داده آموزشی‌شون رو هم بیشتر کنیم، عملکردشون هم بهتر و بهتر می‌شه، تا حدی که بالاخره به AGI و هوش جامع مصنوعی برسیم. حالا ایلیا ادعا کرده که این ایده با مشکل مواجه شده، به این لفظ زیر ایلیا توجه کنید:

The 2010s were the age of scaling, now we're back in the age of wonder and discovery once again. Everyone is looking for the next thing. Scaling the right thing matters more now than ever.

در ادامه این پست رویترز هم راجع به تلاش شرکت‌های مختلف برای انتقال اسکیل‌کردن از سمت pretraining به سمت هنگام inference شده. ایده‌ای که در O1 هم گویا اجرایی شده.
در این خصوص اما، بلاگی هم به طرز جذابی اومده همین قضیه رو توضیح داده. راجع به این توضیح داده که openAI دچار وقفه در انتشار مدل بعدی نسبت به GPT4 شده و مدل پسا GPT4 ای هم که آموزش دادند گویا میزان جامپش به نسبت مدل‌های قبلی بسیار کمتره. در واقع این مدل که ازش به نام Orion نام برده در تسک‌های زبانی نسبت به مدل‌های قبلی بهتره ولی در تسک‌هایی مثل کدزنی نتونسته برتری خاصی رو ارائه کنه. این بلاگ در ادامه هم یک بحث جالبی راجع به اقتصاد هوش مصنوعی کرده. راجع به ایده اسکیل‌کردن O1 در test-time بحث کرده و گفته که اون نموداری که OpenAI ارائه داده محور افقیش از مرتبه لگاریتمی بوده، و حالا ممکنه که O1 با اسکیل‌کردن بتونه انسان رو شکست بده ولی به مدت زمان بسیار زیادی نیاز داره که در رقابت با انسان عملا بی‌معنیش می‌کنه. این بحث رو کرده که رسیدن به AGI با این روند فعلی بسیار هزینه‌بر به نظر می‌رسه، چه به لحاظ دلاری و چه به لحاظ واتی. در نهایت هم می‌گه که شرکت‌های AI ای با وعده رسیدن به AGI بودجه رو از سرمایه‌گذار‌ها می‌گیرن حالا اگر مشخص بشه که رسیدن به AGI ممکن نیست و واقعا دیگه اسکیلینگ جوابگو نیست، سرمایه‌گذاری‌ها روی AI سقوط می‌کنه و فیلد دوباره وارد یک زمستون دیگه ممکنه بشه.
پی‌نوشت ۱: مدل‌های مولد فعلی هنوز بسیاری قابلیت کشف‌ناشده دارند که در صنعت ازشون استفاده نشده و شاید چندین سال زمان لازم باشه تا کاربردهای جدید ازشون ببینیم. منتهی چیزی که اینجا مورد بحثه توانایی رسیدن یا نرسیدن به AGI با این پارادایم فعلیه.
لینک رویترز:
https://www.reuters.com/technology/artificial-intelligence/openai-rivals-seek-new-path-smarter-ai-current-methods-hit-limitations-2024-11-11/
لینک بلاگ:
https://garrisonlovely.substack.com/p/is-deep-learning-actually-hitting
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

خداحافظ Adam
با معرفی ADOPT بهتره Optimizer مدل‌های Deep Learning و LLM رو تغییر بدیم. مشکل اساسی Adam در واقع عدم تضمین convergence در فرآیند آپدیت وزن‌ها بود که در ADOPT حل شده. اما این برتری فقط در تئوری نیست و در عمل هم در اکثریت مسائل از جمله pretraining در GPT-2 بهتر بوده.
ایده اصلی و راه حل برای تضمین هم‌گرایی هم دو مورد هست:
۱_ حذف گرادیان کنونی از تخمین momentum دوم
۲_ نرمالایز کردن گرادیان قبل از آپدیت momentum
Paper
Github
کد:

from adopt import ADOPT
#optimizer = Adam(model.parameters(), lr=1e-3)
optimizer = ADOPT(model.parameters(), lr=1e-3)

➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧‌ ▼꯭‌‌ ⃤

@Technical_coding 💻

نقشه راه
Data Science ML Full Stack Roadmap
#منابع #یادگیری_ماشین #علم_داده #پایتون #کلاس_آموزشی #یادگیری_عمیق #نقشه_راه
#DeepLearning #DataAnalytics #MachineLearning #DataScience
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

📚 کتاب یادگیری ماشین با پایتورچ و scikit-learn
✔️ زبان: انگلیسی
🔗 book
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧‌ ▼꯭‌‌ ⃤

@Technical_coding 💻

معرفی کتابخانه gf4 برای استفاده رایگان از GPT3.5 torbo و GPT4
⚪️ با استفاده از این کتابخانه میتوانید از مدل های چت جی پی تی چهار و سه و نیم رایگان استفاده کنید (نیاز به کلید و اشتراک نداره)
✅ مدل رو اگر مساوی gpt-4 بزارید از نسخه چهار و اگر روی gpt-3.5-turbo بزارید میتونید از نسخه ۳.۵ استفاده کنید.
⚪️ نمونه کد ها:
✅ برای استفاده شخصی توی سیستم :

import g4f
def ask_question(question):
    response = g4f.ChatCompletion.create(model='gpt-4', messages=[{"role": "user", "content": question}])
    print("Response:", response)  
    return response  
question = input("Please enter your question: ")
answer = ask_question(question)
print("Answer:", answer)

➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

✅ ای پی ای با این کتابخانه:

from flask import Flask, request, jsonify
import g4f

app = Flask(__name__)

def ask_question(question):
    response = g4f.ChatCompletion.create(model='gpt-4', messages=[{"role": "user", "content": question}])
    return response

@app.route('/ask', methods=['GET'])
def ask():
    question = request.args.get('a')
    if not question:
        return jsonify({"error": "Parameter 'a' is required."}), 400
    
    try:
        answer = ask_question(question)
        return jsonify({"question": question, "answer": answer}), 200
    except Exception as e:
        return jsonify({"error": str(e)}), 500

if __name__ == '__main__':
    app.run(debug=True)

✅ برای استفاده از این کد ها کتابخانه و پیش نیاز های مورد نیاز رو با دستورات زیر نصب کنید
pkg install python3
pip install g4f
pip install flask
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧‌ ▼꯭‌‌ ⃤

@Technical_coding 💻

Exciting Research position:
Senior LLM Researcher at Sharif Center for Information Systems and Data Science
We are seeking a Senior LLM Engineer for a new, high-impact project focused on advancing research in large language models with direct industrial applications.
🔴 Key Responsibilities:
Contribute to State-of-the-Art Research: Design and fine-tune advanced LLMs, pushing the boundaries of language model research.
Publish and Innovate: Contribute to academic research through publications, establishing the Center's leadership in the field of LLMs and NLP.
🔴 Essential Qualifications:
Extensive experience in developing and fine-tuning large language models, with a focus on both research and real-world applications.
Strong record of research publications or contributions to the field of LLMs, NLP, or related areas.
Proficiency in Python, and deep learning frameworks like PyTorch or TensorFlow.
▪️ Ideal Qualifications:
Experience with state-of-the-art LLMs like GPT, BERT, T5, or similar models.
Knowledge of advanced NLP techniques, including transfer learning, reinforcement learning, and multi-modal models.
Please send your CV, with the subject line "Research Position in LLM"
to the email address:
data-icst@sharif.edu.

#ResearchOpportunity #LLM #AcademicResearch #IndustrialApplications #Hiring
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

SUM: Saliency Unification through Mamba for Visual Attention Modeling
▪️ Paper
▪️ Git
▪️ Project page
▪️ Google colab
In this paper, a novel approach called Saliency Unification through Mamba (SUM) is introduced, integrating Mamba's efficient long-range dependency modeling with U-Net architecture to develop a unified model for various image types. The introduction of the Conditional Visual State Space (C-VSS) block enables SUM to dynamically adapt to different visual characteristics across natural scenes, web pages, and commercial imagery. This adaptability allows SUM to outperform existing models in visual attention modeling, making it a universally applicable and robust solution for diverse image types.
#ایده_جذاب #مقاله
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

🚨 دوره آنلاین متخصص ماشین لرنینگ با مدرک دو زبانه
⁉️ چرا این دوره:
🟢 مدرک دو زبانه از سازمان پژوهش های علمی و صنعتی ایران
🟢 انجام، ۱۵ مینی پروژه و ۵ پروژه مستقل و یک پروژه جامع در طول دوره .
🟢 پشتیبانی علمی ۲۴ ساعته

⁉️ مخاطبین این دوره چه کسانی هستند؟
🔸 دانشجویان و فارغ التحصیلان رشته های فنی و مهندسی
🔹 افرادی که قصد مهاجرت تحصیلی یا کاری دارند
🔸 شاغلین در حوزه هوش مصنوعی 
🔹 مدیران ارشد و میانی سازمان ها
🔸 علاقمندان به حوزه هوش مصنوعی
📎 جهت دریافت مشاوره رایگان و اطلاعات تکمیلی؛
از طریق لینک زیر اقدام نمایید
🌐 httb.ir/B8bcX ⬅️
📞 02188905269
📞 02191096546
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

🔵 دسترسی به GitLab و Docker آزاد شد!
🔹 برنامه‌نویسان ایرانی که به دنبال تحریم سرویس‌های GitLab و Docker در چند روز اخیر با مشکلات جدی در حوزه کاری‌شان مواجه شده بودند، خبر از دسترسی به این سرویس‌ها بدون نیاز به ابزارهای تغییر IP می‌دهند.
🔹 ظاهرا این رفع تحریم‌ها در سطح کشور رخ داده و این تحریم شکنی سراسری تنها چند روز بعد از اعلام تحریم‌‌‌های اخیر مورد توجه کاربران بسیاری به ویژه در حوزه برنامه‌نویسی قرار گرفته است.
🔹 البته گزارش‌ها تنها مختص به کاربران این دو سرویس نیست و به نظر می‌رسد سرویس‌های تحریمی زیادی در حوزه سخت افزاری مثل Nvidia و AMD، پلتفرم‌های آموزشی و علمی مثل Coursera و Udemy نیز به طور سراسری رفع تحریم شده‌اند.
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻

جایگزین Llama3.1 فقط می‌تونه یک نسخه بهتر براساس همین معماری باشه:
arcee-ai/Llama-3.1-SuperNova-Lite
مدل ۸ میلیارد پارامتری هست، مدل ۷۰ میلیاردی فقط از طریق api در دسترس هست.
طبق ادعا از 405b, gpt4o, ... بهتر عمل می‌کنه؛ البته برای تسک‌های مربوط به
instruction-following
شخصاً هم همین رو احساس کردم توی تست‌ها.
➖➖➖➖➖➖➖➖➖➖➖
♡⠀        〇⠀         ⎙⠀      ⌲⁣
ʟɪᴋᴇ   ᴄᴏᴍᴍᴇɴᴛ   sᴀᴠᴇ   sʜᴀʀᴇ

▼‌⃫╁‌⃕ ⸦𝙹𝙾𝙸𝙽 𝙸𝙽 ⸧͜ ▼꯭‌̶ ⃤

@Technical_coding 💻