#سورس_کد
کلی مثال با تنسرفلو2 و کراس!

TensorFlow2.0-Examples
https://github.com/YunYang1994/TensorFlow2.0-Examples

فرارسیدن نیمه شعبان و ولادت امام زمان را تبریک عرض می‌کنم

در ادامه این وبینار با هدف استفاده بهتر از تنسرفلو 2 قصد دارم وبینار دوم را با موضوع " استفاده از callback ها در TF2/Keras"

با سرفصل های زیر برگزار کنم.

بیاموزیم که چگونه :
آموزش را به صورت خودکار متوقف کنیم
آموزش را از نقطه دلخواه آموزش ادامه دهیم
قبل از آموزش LR بهینه را پیدا کنیم
در حال آموزش مدل LR مدل را تغییر بدهم
از Tensorboard استفاده کنیم
مدل در حین آموزش را ذخیره کنیم
ویژگی‌های استخراج شده از هر لایه را باT-SNE در Tensorboard رسم کنیم
لایه های مدل Visualization کنیم و درک کنیم

اگر پیشنهادی مرتبط با این موضوعات پیشنهاد دارید در گروه بفرمایید.

https://t.me/tf2keras

اطلاع زمان وبینار و نحوه ثبت نام در روزهای آتی اعلام میشه

#خبر
عجیبه!
اما ظاهرا فعالیت های کمتر بشر به خاطر قرنطینه، منجر به کاهش حرکات زمین و زلزله های کمتر و خفیفتر شده

https://www.nature.com/articles/d41586-020-00965-x

نقد François Chollet به توجه بیش از حد به Deep learning برای دست یابی به هوش انسانی! میگه من درک نمیکنم کسایی که برای هوش در سطح انسان یا همون GI (یا هوش قوی) فکر میکنند تنها روش دست‌یابی شبکه های عمیق تره! ما فیلدهای دیگه هوش مصنوعی هم داریم...

https://twitter.com/fchollet/status/1248326821306761216?s=20

How Airbus Detects Anomalies in ISS Telemetry Data Using #Tensorflow TFX
https://blog.tensorflow.org/2020/04/how-airbus-detects-anomalies-iss-telemetry-data-tfx.html

در ادامه ئوئیت قبلی ، François Chollet یک داستان در نقد این افراد می‌سازه و روایت می‌کنه که جای تامل داره و آدم به خودش میاد:)

اخلاقی بودن این داستان اینه که اگر شما برای حل مشکلات بلندپروازانه تلاش کردید، آنچه شما به آن نیاز دارید تأمین بودجه میلیارد دلاری نیست!
شما به نگرش تردید و یادگیری دائمی نیاز دارید.
شما باید کتاب بخوانید.
شما نمی‌توانید به چیزهایی که فکر می کنید می دانید اطمینان مطلق داشته باشید.

نادان بودن و غلط بودن ، پایان کار نیست!
این می تواند آغاز باشد.
اما اگر بدون مطالعه الکی ژست روشنفکری بگیرید، سفر شما قبل از شروع کار تمام شده است.

(بابت پایبندی کمم به ترجمه شرمنده! اصلشو از انتهای این پست بخوانید :) )
Deep learning maximalism: a dialogue

A: So these guys are very confident that they will develop superhuman AI within a few years

B: Cute, I guess that neuropsychology degree is really paying off for them

A: No, no, they don't have any background in neuroscience or psychology

B: Oh ok. I guess they must be the mathematician or physicist type then. That would be *so* in character!

A: No, they don't really have any strong math background either

B: Oh. Well, it's not like you really need a PhD in any of these fields, you could just read a lot of books and papers, and catch up...

A: No, here's the thing: they don't read books. Not even AI/ML books. They only read ArXiv preprints

B: ...

A: ...are you getting it now?

The moral of this story is this: if you set out to solve ambitious problems, what you need most isn't "billions of dollars in funding", you need an attitude of doubt & perpetual learning. You need to read books. You can't be supremely confident in the things you think you know.

Especially if you happen to know nothing and to be horribly wrong in your key assumptions.

Being ignorant and wrong isn't the end! It could be the beginning. But if you don't read and if you display absolute intellectual arrogance, your journey is already over before it started.


https://twitter.com/fchollet/status/1248327775087259648?s=20

آخرین کار ما با همکاری Google Brain, Microsoft Research, Snapchat, Nanyang Technological University و البته دانشگاه تبریز:

🎯 Deep Learning Based Text Classification: A Comprehensive Review

🗣 Shervin Minaee, Nal Kalchbrenner, Erik Cambria, Narjes Nikzad, Meysam Chenaghlu, Jianfeng Gao
لینک:
https://arxiv.org/abs/2004.03705

❇️ @AI_Python

An Overview of Early Vision in InceptionV1
A guided tour of the first five layers of InceptionV1,
taxonomized into “neuron groups.”

مقاله OpenAI در distill

https://distill.pub/2020/circuits/early-vision/

The machine learning test is one of six standardized tests that were developed by a team of AI and assessment experts at Workera to evaluate the skills of people working as a Machine Learning Engineer (MLE), Data Scientist (DS), Machine Learning Researcher (MLR) or Software Engineer-Machine Learning (SE-ML). It is comprised of multiple choice questions selected from a large database, so that different test takers get different questions, and takes 17 minutes to complete.

https://www.workera.ai/resources/practicing-for-the-machine-learning-test/

#آموزش #مقاله
قبلا در اینجا مقاله و سورس کد(با تنسرفلو) SimpleCLR معرفی شد...

این روش یک رویکرد جدید برای یادگیری self-supervised وsemi-supervised است که بدون نیاز به داده های لیبل خورده بازنمایی‌های خوبی برای تصویر را می‌تواند بیاموزد!
همچنین با fine-tuned کردن آن روی فقط 1٪ از داده های label خورده‌ی imagenet، به دقت رقابتی خیلی بالا رسیده است.
در بلاگ پست گوگل بیشتر بخوانید:


Advancing Self-Supervised and Semi-Supervised Learning with SimCLR
https://ai.googleblog.com/2020/04/advancing-self-supervised-and-semi.html


#simclr #contrastive_learnig #representation_learning #self_supervised_learning #unsupervised_learning #computer_vision #metric_learning

#سوس_کد #مقاله

[CVPR 2020] 3D Photography using Context-aware Layered Depth Inpainting

🔗Project page:
https://shihmengli.github.io/3D-Photo-Inpainting/

🔗Paper:
https://drive.google.com/file/d/17ki_YAL1k5CaHHP3pIBFWvw-ztF4CCPP/view?usp=sharing

🔗Source code:
https://github.com/vt-vl-lab/3d-photo-inpainting.git

🔗Colab Demo:
https://colab.research.google.com/drive/1706ToQrkIZshRSJSHvZ1RuCiM__YX3Bz

#CVPR2020

ابزاری برای تحلیل تصویری بازنمایی‌های یادگرفته شده برای مدل‌های زبانی مختلف

exBERT, the visual analysis tool to explore learned representations integrated on Hugging Face’s model pages for BERT, DistilBERT, RoBERTa, XLM and etc.

https://huggingface.co/models?filter=exbert

#exbert #huggingface

سه ویدیوی محبوب‌تر کانال آپارات در یک ماه اخیر


وبینار یادگیری عمیق، هوش مصنوعی و یادگیری ماشین
https://www.aparat.com/v/6cUGv

وبینار استفاده از tf.data به عنوان ورودی مدل، چگونگی افزایش سرعت + مثال عملی
https://www.aparat.com/v/HGvC2

دوره آموزشی یادگیری عمیق و Keras (سه ساعت نخست دوره)

https://www.aparat.com/v/0xgm5


کانال آپارات: aparat.com/cvision

‏Harrison Kinsley که با نام Sentdex در یوتیوب فعالیت دارد سری آموزشی جدیدی برای آموزش پیاده‌سازی طراحی یک شبکه عصبی مصنوعی از ابتدا و با استفاده از پایتون شروع کرده که مشاهده آن خالی از لطف نیست:


https://www.youtube.com/playlist?list=PLQVvvaa0QuDcjD5BAw2DxE6OF2tius3V3

مجموعه‌های آموزشی دیگری که sentdex تهیه کرده را نیز می‌توانید در لینک زیر مشاهده کنید:

https://www.youtube.com/user/sentdex/playlists

A tiny micro-framework for AutoGrad and Neural Networks by Andrej Karpathy.

https://github.com/karpathy/randomfun/blob/master/MicroGrad.ipynb

ثبت نام وبینار callbacks in keras از طریق فرم زیر انجام می شود.
لطفا دوستانی که ثبت نام غیر دانشجویی(غیر رایگان) در وبینار tf data کرده بودند، فعلا ثبت نام نکنند تا کد تخفیف برلی آنها ارسال گردد:

http://class.vision/using-callback-in-keras/

آیا می‌توانیم یک ماژول خاص پایتونی را با دستور pip مستقیم از یه پوشه یه مخزن github بگیریم و نصب کنیم؟

بله.

می‌تونیم توی فایل requirements.txt با این فرمت در یک خط اضافه کنیم
git+https://github.com/repo_name/repo.git#subdirectory=package_name
یا قاعدتا مستقیم تو کامند لاین یا ترمینالمون بزنیم:

pip install git+https://github.com/repo_name/repo.git#subdirectory=package_name

مثلا می‌تونید با یه خط کد از پروژه دیتاست coco برید و api مربوط به پایتونشو دانلود و نصب کنید:

pip install git+https://github.com/cocodataset/cocoapi.git#subdirectory=PythonAPI

داکیومنت‌های بیشتر:
https://pip.readthedocs.io/en/stable/reference/pip_install/#vcs-support

#خبر #آموزش
آیا میخواهید در فرایند آموزش استفاده از منابع سخت افزاری و همچنین اوضاع input pipeline تون را بررسی کنید و ببینید بهینه هستند یا نه!
ویژگی‌های جدید TensorFlow Profiler, هم اکنون در #TensorBoard فعال شده، در موردشون بیشتر بخوانید:

https://blog.tensorflow.org/2020/04/introducing-new-tensorflow-profiler.html

پانوشت: برخی از شکل های وبینار tf data که فاصله بین فعال بودن GPU را رسم میکرد با profiler بود...

#مقاله #سورس_کد #تبدیل_تصویر
Unsupervised Generative Attentional Networks with Adaptive Layer-Instance Normalization for Image-to-Image Translation (ICLR 2020)

با تنسرفلو خودتونو کارتونی کنید:
سورس کد:
https://github.com/taki0112/UGATIT
دموی آنلاین:
https://waifu.lofiu.com/index.html

#آموزش #سورس_کد
همان‌طور که می‌دانید ما در فریم‌ورک Keras و Tensorflow2 سه نوع سینتکس برای تعریف یک شبکه عصبی داریم. ساده ترین، و البته کم انعطاف ترین آن‌ها sequential api است، سطح متوسط functional api و سخت ترین سینتکس و انعطاف پذیرترین آنها model subclassing است که در این روش که همانند pytorch از استایل فریم ورک قدیمیتر chainer الگو برداری شده با ارث بری از کلاس پایه و تعریف متدهایی مدل را تعریف میکنیم. به دلیل همین سینتکس هست که اصلا قبول ندارم یه کد را با فریم ورک x میشه پیاده سازی کرد ولی در تنسرفلو نه!!
حالا François Chollet خالق و توسعه دهنده اصلی Keras امروز توئیتی زده و گفته این مدرن ترین روش تعریف یک شبکه GAN (با سینتکس سوم کراس) است.
The most modern way to implement a GAN in Keras is actually simply this.
https://twitter.com/fchollet/status/1250622989541838848?s=20