ابزاری برای تحلیل تصویری بازنمایی‌های یادگرفته شده برای مدل‌های زبانی مختلف

exBERT, the visual analysis tool to explore learned representations integrated on Hugging Face’s model pages for BERT, DistilBERT, RoBERTa, XLM and etc.

https://huggingface.co/models?filter=exbert

#exbert #huggingface

سه ویدیوی محبوب‌تر کانال آپارات در یک ماه اخیر


وبینار یادگیری عمیق، هوش مصنوعی و یادگیری ماشین
https://www.aparat.com/v/6cUGv

وبینار استفاده از tf.data به عنوان ورودی مدل، چگونگی افزایش سرعت + مثال عملی
https://www.aparat.com/v/HGvC2

دوره آموزشی یادگیری عمیق و Keras (سه ساعت نخست دوره)

https://www.aparat.com/v/0xgm5


کانال آپارات: aparat.com/cvision

‏Harrison Kinsley که با نام Sentdex در یوتیوب فعالیت دارد سری آموزشی جدیدی برای آموزش پیاده‌سازی طراحی یک شبکه عصبی مصنوعی از ابتدا و با استفاده از پایتون شروع کرده که مشاهده آن خالی از لطف نیست:


https://www.youtube.com/playlist?list=PLQVvvaa0QuDcjD5BAw2DxE6OF2tius3V3

مجموعه‌های آموزشی دیگری که sentdex تهیه کرده را نیز می‌توانید در لینک زیر مشاهده کنید:

https://www.youtube.com/user/sentdex/playlists

A tiny micro-framework for AutoGrad and Neural Networks by Andrej Karpathy.

https://github.com/karpathy/randomfun/blob/master/MicroGrad.ipynb

ثبت نام وبینار callbacks in keras از طریق فرم زیر انجام می شود.
لطفا دوستانی که ثبت نام غیر دانشجویی(غیر رایگان) در وبینار tf data کرده بودند، فعلا ثبت نام نکنند تا کد تخفیف برلی آنها ارسال گردد:

http://class.vision/using-callback-in-keras/

آیا می‌توانیم یک ماژول خاص پایتونی را با دستور pip مستقیم از یه پوشه یه مخزن github بگیریم و نصب کنیم؟

بله.

می‌تونیم توی فایل requirements.txt با این فرمت در یک خط اضافه کنیم
git+https://github.com/repo_name/repo.git#subdirectory=package_name
یا قاعدتا مستقیم تو کامند لاین یا ترمینالمون بزنیم:

pip install git+https://github.com/repo_name/repo.git#subdirectory=package_name

مثلا می‌تونید با یه خط کد از پروژه دیتاست coco برید و api مربوط به پایتونشو دانلود و نصب کنید:

pip install git+https://github.com/cocodataset/cocoapi.git#subdirectory=PythonAPI

داکیومنت‌های بیشتر:
https://pip.readthedocs.io/en/stable/reference/pip_install/#vcs-support

#خبر #آموزش
آیا میخواهید در فرایند آموزش استفاده از منابع سخت افزاری و همچنین اوضاع input pipeline تون را بررسی کنید و ببینید بهینه هستند یا نه!
ویژگی‌های جدید TensorFlow Profiler, هم اکنون در #TensorBoard فعال شده، در موردشون بیشتر بخوانید:

https://blog.tensorflow.org/2020/04/introducing-new-tensorflow-profiler.html

پانوشت: برخی از شکل های وبینار tf data که فاصله بین فعال بودن GPU را رسم میکرد با profiler بود...

#مقاله #سورس_کد #تبدیل_تصویر
Unsupervised Generative Attentional Networks with Adaptive Layer-Instance Normalization for Image-to-Image Translation (ICLR 2020)

با تنسرفلو خودتونو کارتونی کنید:
سورس کد:
https://github.com/taki0112/UGATIT
دموی آنلاین:
https://waifu.lofiu.com/index.html

#آموزش #سورس_کد
همان‌طور که می‌دانید ما در فریم‌ورک Keras و Tensorflow2 سه نوع سینتکس برای تعریف یک شبکه عصبی داریم. ساده ترین، و البته کم انعطاف ترین آن‌ها sequential api است، سطح متوسط functional api و سخت ترین سینتکس و انعطاف پذیرترین آنها model subclassing است که در این روش که همانند pytorch از استایل فریم ورک قدیمیتر chainer الگو برداری شده با ارث بری از کلاس پایه و تعریف متدهایی مدل را تعریف میکنیم. به دلیل همین سینتکس هست که اصلا قبول ندارم یه کد را با فریم ورک x میشه پیاده سازی کرد ولی در تنسرفلو نه!!
حالا François Chollet خالق و توسعه دهنده اصلی Keras امروز توئیتی زده و گفته این مدرن ترین روش تعریف یک شبکه GAN (با سینتکس سوم کراس) است.
The most modern way to implement a GAN in Keras is actually simply this.
https://twitter.com/fchollet/status/1250622989541838848?s=20

You can call compile() & fit() on this bad boy. It handles callbacks, it has built-in distribution support, etc. It does everything fit() usually does.

But with your own low-level training algorithm.

در ادامه
https://t.me/cvision/1835

توئیت بی اعصاب François Chollet خالق Keras😂

اگر شما در حال انجام هر نوع تحقیق جدی در زمینه یادگیری عمیق هستید و از tf.keras استفاده نمی کنید ، یا دچار مازوخیسم هستید، یا در سال 2017 زندگی می کنید!

If you're doing any kind of serious deep learning research and you aren't using tf.keras, you're either masochistic, or living in 2017

https://twitter.com/fchollet/status/1250624087547711488?s=20

حل بازی Sudoku با شبکه کانولوشنالی یا CNN با فریم‌ورک Keras

بلاگ‌پست:
https://towardsdatascience.com/solving-sudoku-with-convolution-neural-network-keras-655ba4be3b11

دیتاست در kaggle:
https://www.kaggle.com/bryanpark/sudoku

حل:
https://github.com/shivaverma/Sudoku-Solver/blob/master/sudoku.ipynb

تصویر 1 از 2
مرتبط با پست https://t.me/cvision/1841

تصویر 2 از 2
مرتبط با پست https://t.me/cvision/1841

#آموزش #TF2
از تنسرفلو 2.2 به بعد شما می‌توانید در روش model subclassing در کلاس تعریف مدلتون متد train_step را override کنید (تصویر1) و به این ترتیب عملگر فراخوانی تابع fit را مدیریت کنید(تصویر2)!
مثال عملی این کار را در اینجا مثال شبکه‌ی GANی که François Chollet تعریف کرده ببینید.

منبع از توئیت‌های شوله

#آموزش #سورس_کد #TF2
در گوگل کولب این آموزش و این مثال را خودتون تست کنید:

Customizing what happens in fit()
https://colab.research.google.com/drive/1ZshwEPDDCHKZHkpmbVPvGoDEt1O1kICw

اگر حتی هیچ آشنایی ندارید، بهترین فرصته که همین الان DeepLearning را شروع کنید و مهارت خود را بالا ببرید!

تیزر #فیلم_آموزشی یادگیری عمیق در Python و Keras

http://aparat.com/v/Cv2fR

مشاهده ی تیز با کیفیت بالاتر


اطلاعات بیشتر، مشاهده 2 ساعت و نیم نخست برای ارزیابی و خرید:
http://class.vision/deeplearning-keras/

🎥فیلم‌های آموزشی شبکه‌های بازگشتی عمیق و پیاده سازی در #Tesnorflow2 و #Keras که در #صندوق_نوآوری_و_شکوفایی برگزار گردید.

http://class.vision/deeplearning2/

پیش‌نمایش دوره در آپارات:

https://www.aparat.com/v/zqbc8

کد تخفیف ۱۰ درصد cvision مخصوص اعضای کانال

#آموزش #سورس_کد

در این نوت‌بوک با مدل عادی تنسرفلو با 38 مگ حجم به 97.5 درصد رسیده،
ولی با مدل تنسرفلو لایت (#TFLite) با فقط 3.4 مگ دقت فقط 1.5 درصد افت کرده و به 96 درصد رسیده.


https://colab.research.google.com/drive/1hXfJfa8Kx96jTdvS1o_2Apx0b9-soSZZ

#آموزش #سورس_کد
آیا می دانید از #tf2 و #kears و می‌توانید برای آموزش تقریبی #SVM استفاده کنید؟
قبلا رایج بود که ویژگی ها را از یکی از لایه‌های یک شبکه از قبل آموزش داده استخراج می‌کردیم و مثلا با SVM طبقه بندی میکردیم...
اما الان می توانید از این ویژگی keras برای افزودن یک "لایه SVM" در بالای یک طبقه بندی کننده عمیق استفاده کرده و کل شبکه را به صورت end2end آموزش دهید!

البته خود François Chollet راه قدیمی‌ترو توصیه کرده و نوشته:

In practice, I think this is a bad idea. But it's certainly something you *can* do.
ML pro tip: learning your features is better than leveraging random kernels.

به هر حال این نوت‌بوک که توسط شوله ایجاد شده را می‌تونید در کولب اجرا کرده و روی مجموعه داده mnist تست کنید:

https://colab.research.google.com/drive/1rObQto2bWMBPy8W555IYHtZKtniRUNDQ#scrollTo=_ZPU5WGO0FzQ