📺 دوره تخصصی پیاده سازی شبکه‌های عصبی در متلب

مدرس: محمد نوری زاده چرلو
فارغ التحصیل دانشگاه علم و صنعت تهران

5⃣ نحوه تعیین نرخ یادگیری در قانون یادگیری پس انتشار خطا (بخش اول)
#نرخ_یادگیری
#ثابت #متغیر_با_زمان
#search_then_converge
#پرسپترون_چندلایه ، #پس_انتشار_خطا #پروژه_عملی، #تشخیص_سرطان_سینه
 #پیش_بینی_میزان_آلودگی_هوا
#رگرسیون
#طبقه‌بندی
#کلاسبندی

🏢 آکادمی آنلاین مهندسی پزشکی و هوش مصنوعی
@onlinebme

🔥 دوره تخصصی پیاده سازی شبکه‌های عصبی در متلب🔥

مدرس: محمد نوری زاده چرلو
فارغ التحصیل دانشگاه علم و صنعت تهران

5⃣ جلسه پنجم: نحوه تعیین نرخ یادگیری در قانون یادگیری پس انتشار خطا (بخش اول)

✍ در جلسه چهارم #تئوری الگوریتم معروف #پس_انتشار_خطا را آموزش داده در متلب به صورت #مرحله_به_مرحله پیاده‌سازی کرده و چندین پروژه عملی از جلمه تشخیص سرطان سینه (پروژه عملی طبقه‌بندی) و پیش بینی میزان آلودگی هوا (پروژه عملی رگرسیون) با استفاده از شبکه عصبی پرسپترون چندلایه به صورت گام به گام در متلب پیاده‌سازی کردیم. الگوریتم پس انتشار خطا همانند LMS از گرادیان نزولی برای تنظیم وزنهای سیناپسی استفاده می‌کند. الگوریتم گرادیان نزولی در جهت شیب منفی خطا با یک گامی(نرخ یادگیری) حرکت می‌کند تا به مقدار بهینه برسد. مقدار بهینه جایی است که شیب خطا صفر شود. در حالت ایده آل با تعیین یک نرخ یادگیری مناسب می‌توان به خطای حداقل رسید. ولی در پروژه‌های عملی تعیین نرخ یادگیری بسیار سخت و چالش برانگیز است، زیرا که اگه نرخ یادگیری کم انتخاب شود، الگوریتم ممکن است در #مینیمم‌های_محلی گیر کند (زیرا که مینیمم محلی خواصی شبیه به مینیمم اصلی دارند و در این مناطق نیز شیب خطا صفر است و الگوریتم به اشتباه فکر می‌کند که به مقدار بهینه رسیده است) و در نتیجه شبکه به درستی آموزش نمی‌بیند و یا اگر نرخ یادگیری بزرگ انتخاب شود امکان دارد شبکه به حالت نوسانی و #ناپایدار برسد و در نتیجه همگرا نشده و آموزش نبیند. در این جلسه چالش‌های تعیین نرخ یادگیری را توضیح می‌دهیم و در ادامه چند روش ساده از قبیل ترم ممنتوم، search then converge و time variant  را برای حل این مسئله طبق مطالب کتاب ارائه می‌دهیم و در متلب پیاده‌سازی می‌کنیم و مزایا و معایب هر روش را توضیح می‌دهیم و در انتها توضیح می‌دهیم که روشهای ذکر شده با اینکه تا حدودی توانسته‌اند مشکل تعیین نرخ یادگیری را حل کنند ولی کافی نیستند و نیاز است که شرطهای دیگری نیز در تعیین #نرخ_یادگیری گنجانده شود.

برای درک بهتر مطالب ما در این جلسه نیز چندین مثال و #پروژه_عملی در متلب انجام داده‌ایم.

نکته: تمام مباحث‌این جلسه طبق مطالب فصل 6 کتاب Simon haykin است.
➖➖➖➖➖➖➖➖➖➖➖
💡 جهت خرید جلسه پنجم به لینک زیر مراجعه کنید👇👇👇
https://onlinebme.com/product/learning-rate-determination-in-mlp/

💡جهت تهیه کامل پکیج آموزشی شبکه عصبی به لینک زیر مراجعه کنید. 👇👇 👇👇
https://onlinebme.com/product/neural-networks-package/

🏢 آکادمی آنلاین مهندسی پزشکی و هوش مصنوعی
@onlinebme

📺 دوره تخصصی پیاده سازی شبکه‌های عصبی در متلب
مدرس: محمد نوری زاده چرلو
فارغ التحصیل دانشگاه علم و صنعت تهران
6⃣ جلسه ششم: پیاده‌سازی الگوریتم یادگیری #دلتا_دلتا برای تعیین نرخ یادگیری در قانون یادگیری پس انتشار خطا (بخش دوم)

#نرخ_یادگیری #دلتا_دلتا
#پرسپترون_چندلایه ، #پس_انتشار_خطا #پروژه_عملی،
#رگرسیون
#طبقه‌بندی
#کلاسبندی

🏢 آکادمی آنلاین مهندسی پزشکی و هوش مصنوعی
@onlinebme

📺 دوره تخصصی پیاده سازی شبکه‌های عصبی در متلب
مدرس: محمد نوری زاده چرلو
فارغ التحصیل دانشگاه علم و صنعت تهران
7⃣ جلسه هفتم: پیاده‌سازی الگوریتم یادگیری #دلتا_بار_دلتا برای تعیین نرخ یادگیری در قانون یادگیری پس انتشار خطا (بخش سوم)

#نرخ_یادگیری #دلتا_بار_دلتا
#پرسپترون_چندلایه ، #پس_انتشار_خطا #پروژه_عملی،
#رگرسیون
#طبقه‌بندی
#کلاسبندی

🏢 آکادمی آنلاین مهندسی پزشکی و هوش مصنوعی
@onlinebme

📺 دوره تخصصی پیاده سازی شبکه‌های عصبی در متلب
مدرس: محمد نوری زاده چرلو
فارغ التحصیل دانشگاه علم و صنعت تهران
7⃣ جلسه هفتم: پیاده‌سازی الگوریتم یادگیری دلتا بار دلتا برای تعیین نرخ یادگیری در قانون یادگیری پس انتشار خطا (بخش سوم)

✍ در جلسه ششم شروط مورد نیاز جهت تعیین #نرخ_یادگیری بهینه را  توضیح داده و سپس تئوری الگوریتم یادگیری #دلتا_دلتا را در متلب به صورت #گام_به_گام پیاده‌سازی کردیم. و ایرادات اساسی این الگوریتم را توضیح دادیم. در این الگوریتم با اینکه 4 شرط اساسی برای تعیین نرخ یادگیری گنجانده شده بود ولی مشکل اصلی این الگوریتم در نحوه #افزایش و #کاهش نرخ یادگیری است. برای اینکه نرخ یادگیری بهینه ای داشته باشیم لازم است که در جاهایی که #شیب_خطا در چند تکرار متوالی یکسان است نرخ یادگیری به صورت خطی و آهسته زیاد کنیم و از طرفی زمانی که علامت مشتق تابع هزینه در چندین تکرار متوالی متفاوت است لازم است که نرخ یادگیری سریع و به صورت #غیرخطی کم شود تا حالت نوسانی و ناپایدار پیش نیاید. الگوریتم دلتا دلتا همچنین قابلیتی ندارد و در نتیجه نرخ یادگیری بهینه که اساس یادگیری پس انتشار خطا است، را نمیتواند تعیین کند. الگوریتم دلتا بار دلتا برای حل این مسئله مطرح شده است که در این جلسه تئوری آن گفته شده و در متلب پیاده‌سازی می کنیم و در انتها برای اینکه با قابلیت این الگوریتم آشنا شوید و همچنین بتوانید از این الگوریتم در پروژه‎های عملی خودتان استفاده کنید چندین پروژه عملی از قبیل از جلمه #تشخیص_سرطان_سینه (پروژه عملی طبقه‌بندی) ، #پیش_بینی_میزان_آلودگی_هوا (پروژه عملی #رگرسیون) با استفاده از شبکه عصبی پرسپترون چندلایه  انجام شده است و همچنین یک پروژه کلاسبندی #سه_کلاسه iris (#گل_زنبق) انجام شده است تا شما در انجام پروژه های چندکلاسه نیز مشکلی نداشته باشید. داده iris یک داده سه کلاسه معروفی است که آقای #فیشر(Fisher) معرفی کرده اند و یک داده مناسب برای #ارزیابی مدلهای #یادگیری_ماشین است. ما در این جلسه هر سه پروژه را به صورت مرحله به مرحله در متلب پیاده سازی می‌کنیم.

نکته: تمام مباحث ‌این جلسه طبق مطالب فصل 6 کتاب Simon haykin است.
 ➖➖➖➖➖➖➖➖➖➖➖
💡جهت تهیه کامل پکیج آموزشی شبکه عصبی به لینک زیر مراجعه کنید. 👇👇 👇👇
https://onlinebme.com/product/neural-networks-package/
🏢 آکادمی آنلاین مهندسی پزشکی و هوش مصنوعی
@onlinebme