📎 این! خیلی جالب بود!
🔺 در مورد حفره های امنیتی روی مدل های زبانی RAG شده داره توضیح میده.

🤖 و داره میگه دیوار هم این سوتی رو توی دستیار چت جدیدش داده!

@charles_brainwave

دوستان، روی ریجن آمریکا و انگلیس بزنین.
اینطور که دوستان می‌گن بعضی از ریجن‌ها یک‌ماهه می‌ده...

اینجا هم می‌تونین ببینین که 12 ماهه‌ نوشته 😉

#yt@RyanHeida
#free@ryanheida
#llm@ryanheida

یه مقاله خوب از آنتروپیک در مورد تفسیر پذیری مدل زبانی داشتم می‌خوندم. این‌که دنبال این هستیم تا بدونیم این جعبه سیاه(مدل زبانی) واقعا داره چکار میکنه.
یه خلاصه‌ای ازش در پایین آوردم:

انتروپیک در تلاش است تا با ساخت «میکروسکوپ هوش مصنوعی»، فرآیندهای درونی مدل‌هایی مانند Claude را آشکار کند و بفهمد چرا و چگونه تصمیم می‌گیرند. هدف این تحقیقات، افزایش قابلیت اعتماد، ایمنی و شفافیت هوش مصنوعی است.

یکسری چیزهایی درموردش صحبت شد از جمله؛

برنامه‌ریزی و قافیه‌پردازی: کلود قبل از نوشتن جمله، طرح کلی و قافیه را از پیش برنامه‌ریزی می‌کند، نه کلمه‌به‌کلمه. یعنی مثلا وقتی شعر داره میسازه از همون اول به به قافیه داره فکر میکنه.

چندزبانگی: مدل از یک «زبان فکر جهانی» استفاده می‌کند که در زبان‌های مختلف، مفاهیم یکسان را فعال می‌سازد. مثلا وقتی میگیم مخالف کلمه در اسپانیایی چی میشه، خود کلمه رو بررسی میکنه و به مخالف میرسه و بعد کلمه پیدا شده رو در زبان دیگه تبدیل میکنه.

ریاضیات ذهنی: چند مسیر محاسباتی موازی دارد (برای تخمین و دقت عددی) اما خودش از این روش‌ها آگاه نیست.

وفاداری توضیحات: گاهی توضیحات مدل درباره استدلالش واقعی نیست و صرفاً برای ظاهر منطقی ساخته می‌شود.مثلا وقتی جمع دو عدد رو ازش میخوای ممکنه برای اثباتش خودش چندین راه رو رفته باشه اما وقتی ازش میپرسی چطوری حساب کردی چیز دیگه ای رو میگه.

استدلال چندمرحله‌ای: مدل از گام‌های میانی منطقی برای پاسخ استفاده می‌کند، نه صرفاً بازگویی داده‌ها. یعنی مثلا وقتی ازش یه سوال میپرسی پاییتخت ایالتی که دالاس در ان هست چیه؟ مدل مفاهیم میانی رو فعال می‌کنه که دالاس در تگزاس است و پاییتخت تگزاس آستین.

توهم‌زایی: خطاهای مدل زمانی رخ می‌دهد که مدار «امتناع از پاسخ» مهار شود و مدل پاسخ ساختگی بسازد. یعنی میدونه وقتی نمیدونه باید بگه نمیدونه ولی چون بازم یه چیزایی از اون سوال رو میدونه پس ادامه میده.

جیل‌بریک‌ها: گاهی فشار برای حفظ انسجام زبانی باعث می‌شود مدل موقتاً از محدودیت‌های ایمنی عبور کند. یعنی میدونه نباید محدودیت رو رد کنه ولی چون میخواد کامل کنه مجبور میشه بگه.


میتونید مقاله رو به‌صورت کامل از اینجا بخونید.
https://www.anthropic.com/news/tracing-thoughts-language-model

@ML_Topics

برای آموزش MCP مقدماتی و پیشرفته می‌تونید از سایت خود آنتروپیک بخش آکادمی استفاده کنید.
هم آموزش می‌بینید و هم در آخر تست کوچیکی می‌تونید بدید و خودتون رو آزمایش کنید.
همچنین دوست داشتید سرتیفیکیت هم داره.
کلا آموزش‌های رایگان خیلی خوبی داره که می‌تونید ازش استفاده کنید.

آدرس:https://anthropic.skilljar.com/

@ML_Topics

۵۰۰ دوره‌ تخصصی در مکتب‌خونه رایگان شد

مکتب‌خونه برای تولد ۱۴ سالگیش، ۵۰۰ تا دوره رو تا ۱۶ آبان رایگان کرده.

اگه به هوش مصنوعی، برنامه‌نویسی (به‌ویژه پایتون) و اوتومیشن کردن کارا علاقه دارید، حتما ازش استفاده کنید.

دوره‌ای رو که انتخاب کردید، اگر «دسترسی کامل» داشت،

تیک «دسترسی کامل» رو بردارید و با کد HBD رایگان ثبت‌نام کنید.

لینک دوره‌ها: https://mktb.me/51sp/

Dive into Deep Learning
یه کتاب فوق‌العاده خفن تعاملی.
دیپ لرنینگ رو اگر میخوای دیپ بشی بنظرم سورس خوبیه که افراد خوبی نوشتنش.
https://www.d2l.ai/

@ML_Topics

در یکی از گروه‌ها سوال پرسیده شده بود که:
دوستان کسی منبع مناسبی برای یادگیری ماشین لرنینگ اعم از آموزش ویدیویی فارسی یا انگلیسی سایت های مختلف یا حتی آموزش های حضوری می‌شناسید که واقعا خوب باشه معرفی کنید؟

دوره یادگیری ماشین و این موضوعات در یوتیوب خیلی زیاد هست و کلی آموزش هست حتی اگر تخصصی بخواید برید یه قسمتی رو یاد بگیرید. ولی برای شروع این دوتا سورس برا خودم خیلی جالب بودن

برای یادگیری ماشین
https://www.sharifml.ir/
ویدئوهای ضبط شده استاد شریفی زارچی بسیار کامل و جذاب هست.
برای یادگیری عمیق هم
https://www.d2l.ai/chapter_preface/index.html
این کتاب هست که داخلش دسترسی به کد و نوت بوک هارو داره و نویسندگانش هم اساتید بزرگی هستند

@ML_Topics

دوره Certified Machine Learning Professional Practice Exams توی سایت Udemy

🔹 این دوره شامل آزمون‌های تمرینی حرفه‌ای برای ارزیابی سطح مهارت‌ت توی مباحث مختلف یادگیری ماشین و هوش مصنوعی هست — از رگرسیون و شبکه‌های عصبی گرفته تا MLOps و یادگیری تقویتی.
🔹 مناسب کساییه که از قبل با ML کار کردن و می‌خوان خودشون رو برای گواهی‌نامه یا موقعیت‌های کاری بهتر آماده کنن.
🔹 زبان دوره انگلیسیه ولی سوال‌ها مفهومی و استاندارده.

📎 لینک دوره (فعلاً رایگانه):
https://www.udemy.com/course/certified-machine-learning-professional-practice-exams/?couponCode=NOV4FREE

⏰ معمولاً این تخفیف‌ها زود تموم می‌شن، پس اگه برات جالبه ثبت نام کن.
و اینکه سعی کن از ای پی ای ران وارد نشی

@ML_Topics

با شانزدهمین جلسه دورهمی Epoch Club بعد از مدت‌ها برگشتیم!

ارائه‌دهنده: رایان هیدا
موضوع: نگاهی بر مدل‌زبانی، ترنسفورمر و هاگینگ‌فیس

زمان: پنج‌شنبه ۲۲ آبان ماه از ساعت ۱۶ تا ۱۸

در این فصل از جلسات، قرار است مجموعه‌ای از نشست‌های مرتبط داشته باشیم تا در پایان این فصل، بتوانیم از دانش به‌دست‌آمده در این جلسات به‌صورت عملی استفاده کنیم.

💡 شرکت در جلسات رایگان است، اما حتماً برای حضور از طریق لینک زیر ثبت‌نام کنید:
🔗 لینک ثبت‌نام: https://evnd.co/HZqjz

📍 آدرس: کارخانه نوآوری، کهکشان اول، مریخ

⚙️ پیش‌نیاز: آشنایی با زبان پایتون و داشتن تجربه تحقیق در حوزه هوش مصنوعی

دوره Complete Generative AI Course With Langchain and Huggingface

Complete Guide to Building, Deploying, and Optimizing Generative AI with Langchain and Huggingface

تا ۱۴ ساعت دیگه از طریق لینک زیر رایگان هست.

https://www.udemy.com/course/complete-generative-ai-course-with-langchain-and-huggingface/?couponCode=FREECOUPONS


@ML_Topics

🚀 Google Opal در ۱۶۰ کشور در دسترس شد!
گوگل از گسترش ابزار جدید خودش به نام Opal خبر داده — پلتفرمی که به شما اجازه می‌ده بدون حتی یک خط کدنویسی، اپلیکیشن‌های هوش مصنوعی بسازید! 🤖

با Opal می‌تونید فقط با توضیح دادن به زبان طبیعی، اپ‌هایی برای تولید محتوا، خودکارسازی کارها، تحلیل داده یا حتی آموزش بسازید.
این ابزار در ابتدا به‌صورت محدود عرضه شده بود، اما حالا گوگل اعلام کرده که در بیش از ۱۶۰ کشور در دسترس قرار گرفته و کاربران بیشتری می‌تونن ازش استفاده کنن 🌍

💡 ویژگی‌ها:

ساخت اپ‌های هوش مصنوعی بدون نیاز به کدنویسی

استفاده از قالب‌های آماده یا ساخت اپ از صفر

به‌اشتراک‌گذاری اپ‌ها با دیگران از طریق حساب Google

امکان ساخت ورک‌فلوهای چندمرحله‌ای با هوش مصنوعی

پ.ن:
این ویدئو را با این ابزار ساختم!

@ML_Topics

از اونجایی که علاقه زیادی به خلاقیت دارم، شمارو دعوت می‌کنم به وبینار خلاقیت شغلی؛ از انجام وظیفه تا خلق ارزش
ارائه توسط یاشار مشیرفر که می‌تونید از لینکدین بیشتر با ایشان آشنا بشید.
https://www.linkedin.com/in/yashar-moshirfar/

لینک ثبت نام: https://daneshkar.net/webinar/65


زمان: سه‌شنبه ۲۰ آبان ساعت ۱۹

@ML_Topics

🚀 گیت‌هاب چطور با هوش مصنوعی بازخورد کاربران را به اقدام واقعی تبدیل می‌کند؟

گیت‌هاب به‌تازگی اعلام کرده که با ترکیب مدل‌های زبانی قدرتمند و روش‌های تحلیل متن توانسته فرآیند بررسی بازخورد کاربران را متحول کند.

گیت‌هاب روزانه هزاران پیام، ایمیل، تیکت و گزارش خطا از کاربران دریافت می‌کند؛ اما تحلیل دستی این حجم از داده بسیار زمان‌بر و دشوار بود. برای حل این مشکل، آن‌ها سیستمی ساختند که بازخوردها را با هوش مصنوعی دسته‌بندی و تبدیل به «بینش‌های قابل اقدام» می‌کند.

🔍 مراحل کار گیت‌هاب:

تبدیل متن‌ها به بردار معنایی (Embedding)
تا بتواند بازخوردهای مشابه را— حتی اگر با کلمات متفاوت نوشته شده باشند—پیدا کند.

خوشه‌بندی بازخوردهای مشابه
با استفاده از BERTopic، گروه‌هایی از متن‌های نزدیک به هم ساخته می‌شود (مثلاً همه شکایت‌ها درباره کند بودن بخش Explore).

استخراج کلمات کلیدی هر موضوع
خروجی اولیه این مرحله فقط «چند کلمه پرتکرار» است که موضوع هر خوشه را نشان می‌دهد.

تبدیل کلمات به خلاصه انسانی با کمک GPT
چون چند کلمه برای تیم محصول کافی نیست، گیت‌هاب از GPT کمک می‌گیرد تا هر خوشه را به یک جمله واضح تبدیل کند؛
مثل:
«کاربران گزارش داده‌اند که صفحه Explore هنگام بارگذاری پروژه‌های بزرگ بسیار کند است.»

ارسال خلاصه‌ها به تیم محصول برای تصمیم‌گیری
نتیجه این است که تیم‌ها خیلی سریع می‌توانند مشکلات واقعی و پرتکرار کاربران را شناسایی کرده و روی آن اقدام کنند.


خیلی جالبه یعنی میاد امبد میکنه. از روی امبد خوشه بندی میکنه.
از هر خوشه میاد کلمات پر تکرار رو حدودا پیدا میکنه.
از این کلمه ها چیزی پیدا نمیشه پس میده به جی پی تی تا معنی رو پیدا کنه.
این میشه عنوان مشکلات مهم در هرخوشه
حالا این خبر به چه دردی میخوره؟
اگر از این جنس مشکلات داشته باشیم می‌تونیم از این راه مشکلمون رو حل کنیم.

@ML_Topics

واقعاً مدل‌های زبانی بزرگ چجوری آموزش داده می‌شن؟

یه نکته خیلی جالب خوندم. معمولاً فکر می‌کنیم آموزش یک LLM یعنی چندتا GPU و یه عالمه دیتا و دیگه تموم. ولی داستان اصلاً این‌قدر ساده نیست.

تیم HuggingFace اومده پشت‌صحنه آموزش SmolLM3 رو نوشته؛ چیزی که تو مقاله‌های رسمی اصلاً نمی‌بینید.

ماجرا این‌طوریه که:

وسط آموزش loss یهویی بالا می‌پره و نمی‌فهمی چی شد

باگ‌های فضایی توی parallelism کل مدل رو داغون می‌کنه

بعضی چیزها تو تست کوچیک جواب می‌دن، ولی وقتی بزرگ می‌کنی کامل خراب می‌شن

حتی یه بار بعد از ۱ تریلیون توکن مجبور شدن کل آموزش رو از اول شروع کنن 🤦‍♂️

ولی نکته مهمش چیه؟
این نوع محتوای پشت‌پرده باعث می‌شه بفهمیم اگه ما هم با مشکلات عجیب‌غریب تو مدل‌سازی مواجه شدیم، تنها نیستیم و کلی تجربه ارزشمند ازش درمیاد.

اگر دوست داشتید بخونید:
https://huggingface.co/spaces/HuggingFaceTB/smol-training-playbook

@ML_Topics

چالش قشنگیه.
سوال بپرسید از جی پی تی جان و ببینید شخصیتتون شبیه کی هست؟ بفرستید باهم بخونیم :)
دوتا سریال آیندم که ببینم و با شخصیت خودم بیشتر آشنا بشم😂
بپرسید ازش و بفرستید با هم بخونیم

@ML_Topics

تون TOON یا Token-Oriented Object Notation یک فرمت فشرده، خوانا برای انسان و مخصوص سریال‌سازی داده‌هاست که با هدف ارسال داده‌های ساختاریافته به مدل‌های زبانی بزرگ (LLM) طراحی شده تا مصرف توکن را به‌طور قابل توجهی کاهش دهد.

این فرمت جایگزینی برای JSON است و همان داده‌ها را با ساختار مشابه، اما توکن‌های کمتر منتقل می‌کند.

pip install python-toon==0.1.3

Github-ToonFormat

Github-ToonPython

PyPi-Python Toon 0.1.3

با تشکر از علی بابت این پست، من با یک مثال از صفحه گیتهاب کارکرد این فرمت رو بیشتر توضیح میدم. جالبه...

ما معمولا از فرمت JSON برای ورودی دادن به LLM-ها استفاده می‌کنیم. مثلا:

{
  "users": [
    { "id": 1, "name": "Alice", "role": "admin" },
    { "id": 2, "name": "Bob", "role": "user" }
  ]
}

اما، TOON همون اطلاعات مشابه را با توکن‌های کمتری بهمون میده. فرمت TOON مثال بالا:

users[2]{id,name,role}:
  1,Alice,admin
  2,Bob,user

تعداد توکن‌ها با توکنایزر GPT-4o در Tiktokenizer در مثال بالا:
* فرمت JSON برابر با 51
* فرمت TOON برابر با 24

از سمینار امروز برای خودم یه سری نت برداشتم.
گفتم شاید کسی رو به فکر فرو ببره


آیا «خلاقیت بی‌جا» یا «خلاقیت با جا» وجود دارد؟ مگه متریکس داریم براش اصلا؟

هواپیما را زمانی مسخره می‌کردند؛ پس خلاقیت همیشه با درد، مقاومت یا تمسخر همراه است.

خلاقیت یه اتفاقیه مثل شاید فکر کردن. سر یک سه راهی. حماقت( شجاعت و جسارت) و ترس.

خلاقیت یعنی وقتی کسی ازت نمی‌خواهد، خودت کارت را بهتر می‌کنی

کارمند بانک سال‌ها فقط فرم پر کرده.
اما یک نفر راهی پیدا می‌کند برای سریع کردن روند مشتری‌ها.

کارمندی که از صف طویل اذیت می‌شود، شاید به فکر شمارنده نوبت بیفتد.

خلق کردن = پوشش دادن کار + اضافه کردن ارزش

مثال: حسابداری از خشک‌ترین حوزه‌هاست؛ ولی هلو، اکسل، ماشین‌حساب… همگی محصول خلاقیت‌اند.

Data (اطلاعات خام)

Information (داده پردازش‌شده)

Knowledge / Wisdom (دانش/خرد) → تحلیل

Decision-making (تصمیم‌گیری)

خلاقیت کجاست؟

در لایه ۴، تصمیم‌گیری.


نقش شغل:

بسیاری از کارمندها فقط دو لایه اول را انجام می‌دهند: جمع‌آوری داده و تولید اطلاعات.

تحلیل و خلق ارزش در لایه‌های بالاتر (۳ و ۴) اتفاق می‌افتد.
خلاقیت و تخیل

تخیل بخشی از خلاقیت است، ولی خلاقیت حتماً باید حسی را در تو بیدار کند یا مشکلی را حل کند.

خلاقیت از گوش دادن، دیدن و مواجهه با مشکل می‌آید.
روش‌ها و تمرین‌های تقویت خلاقیت

تمرین فکر کردن معکوس

«چی می‌شد اگر…؟»

بعد از وقوع خلاقیت، ایده باید کوچک و قابل تست باشد.

لازم نیست انقلاب باشد.
مثال بازاریابی

استارباکس به باریستاها گفت اسم مشتری را اشتباه بنویسید.

چرخه خلاقیت؛
با جسارت شروع می‌شود

با عمل زنده می‌ماند

با تکرار رشد می‌کند

تفاوت وظیفه و خلاقیت

وظیفه: کاری که هست

خلاقیت: کاری که باید باشد

خلاقیت از خودت شروع می‌شود نه از عنوان شغلت

مینیمالیسم

مینیمالیسم یعنی چیزی که نباید باشد، نباشد.

تصور رایج ما از مینیمالیسم اشتباه است؛ آنچه معمولاً به‌عنوان مینیمال می‌شناسیم سوپرماتیسم است.

یک فرش می‌تواند مینیمال باشد، حتی اگر طرح داشته باشد.


@ML_Topics

چندتا خبر:
- معرفی جی پی تی ۵.۱. به قول اپن ای آی، هوشمند تر و محاوره ای تر
https://openai.com/index/gpt-5-1/?utm_source=futuretools.io&utm_medium=newspage
- اگر خدا بخواد لینکدین برای سرچ میخواد جستجو بر پایه ای آی بیاره!
https://www.theverge.com/news/819908/linkedin-ai-people-search-launch?utm_source=futuretools.io&utm_medium=newspage

- حالا میشه دست نوشته ها رو هم بدیم به نت بو ال ام :)
اگر تا حالا استفاده نداشتید از ال ام حتما استفاده کنید.پشیمون نمیشید
https://x.com/NotebookLM/status/1989392074119020981

@ML_Topics