#PyTorch_Lightning V1.2.0
2021-02-18
نگاهی به ویژگی‌های جدید لایتنینگ پایتورچ :

#autograd_profiler
هزینه عملیات را به راحتی محاسبه کنید!

#DeepSpeed
بهینه‌سازی‌های اضافی آموزش یادگیری عمیق CUDA، برای مدل‌های عظیم با میلیاردها پارامتر
#Pruning
بهینه‌سازی حافظه مدل و سخت‌افزار با حذف برخی از وزن‌های مدل، پس اندازه مدل کوچک با اجرای سریع روبرو میشیم.
#Quantization
یکی دیگر از تکنیک های بهینه‌سازی عملکرد که امکان سرعت بخشیدن به استنتاج و کاهش نیاز به حافظه را با انجام محاسبات و ذخیره‌سازی تانسورها در بیت‌ویدس‌های پایین تر مثل INT8 را فراهم کرده.
دلیل اینکار سریعتر بودن fixpoint ها نسبت به floating.point هاست و نه تنها اندازه مدل کاهش می‌یابد بلکه سرعت یادگیری هم افزایش می‌یابد.

#stochastic_weight_averaging
باعث تعمیم مدل بدون هیچگونه هزینه اضافی!
#Finetune
انتقال یادگیری فراهم است

و چندین چیز دیگه که می‌تونید خودتون مشاهده کنید ...

@silicon_brain

تشخیص سرفه با هوش مصنوعی
این روش در یک جمع چند نفره، فردی که در حال سرفه کردن است را با وجود پوشش ماسک تشخيص میدهد.
حتی زمانی که صدا های دیگر نویزی بر صدای سرفه باشد هم به درستی کار میکند.
@silicon_brain

#یادگیری_تقویتی #یادگیری_تقویتی_عمیق
#deep_reinforcement
@silicon_brain

کتابی بسیار مفید 2020 برای #یادگیری_تقویتی_عمیق
#deep_reinforcement
@silicon_brain

پینک فلوید رو با هوش مصنوعی گوش بدیم، اگه خواستید کدش و کتابخونه‌اش رو هم که با تنسورفلوv1 هست، هم نگاهی بیاندازید
Colab | Git

@silicon_brain

#cnn #rnn #multimodal
توصیف تصاویر با استفاده از هوش مصنوعی
برای پیاده سازی از مجموعه داده تصاویر و توضیحات متنی استفاده شده و مدل پیاده شده یک حالت Multimodal RNN دارد.
از شبکه های عصبی کانولوشن (CNN) برای تصاویر و شبکه های عصبی دو طرفه بازگشتی (Bidirectional RNN) برای جملات استفاده شده است.
لینک
@silicon_brain

مجمع جهانی اقتصاد در گزارش The Future of Jobs Report 2020، پرشتاب‌ترین تقاضاهای موقعیت‌های شغلی جهان را تا سال 2025 پیش بینی کرده است که رتبه‌های اول تا سوم متعلق به هوش مصنوعی و دیتاساینس است.
@silicon_brain

تشخیص بو با استفاده از دماغ مصنوعی
این دستگاه با استفاده از ماشین لرنینگ می‌تواند صدها بو را تشخیص دهد!

گیتهاب

@silicon_brain

توانمندی های مورد نیاز برای #دانشمند_داده با تقاضای آگهی های استخدامی.
@silicon_brian

مدل‌های زبانی پیشرفت ‌های بزرگی در انواع کاربردها در NLP داشته‌اند و همچنان درحال پیشرفت هستند
خطرات غیرمنتظره‌ای می‌تواند جامعه تحقیقاتی را تهدید کند، مثلا آیا احتمال لو رفتن بعضی اطلاعات محرمانه در داده آموزشی هست یا نه؟
این مسئله یک نگرانی بزرگی است و اینکه اگر مدل داده‌های خصوصی ما در دسترس عموم قرار بگیرد، نگرانی بیشتری خواهیم داشت.

بنظر شما اطلاعات محرمانه مثل شماره‌های تلفن، آدرس‌ها و اسامی و ... می‌تواند خطر جدی باشد؟
اصلا آیا مدل‌های زبانی کنونی این اطلاعات را در حافظه خودشان دارند یا نه؟ و قابل بازیابی هست؟
اگر بله چطور رفع می‌شوند؟

@silicon_brain

کلیپ جالب در مورد حرکت توسط هوش مصنوعی
این سیستم که توسط گوگل DeepMind توسعه یافته است که توانایی راه رفتن، دویدن و پریدن را در اختیار عامل قرار می‌دهد.
نکته جالب اینجاست که این هوش مصنوعی تا بحال راه رفتن یا دویدن انسان را ندیده است و درک او از انواع حرکت چیزیست که مشاهده میکنید.
@silicon_brain

#data_augmentation
آموزش مدل های عمیق معمولا به تعداد داده های زیادی نیاز دارند و از آنجایی که بصورت عادی نمیتوان داده های خیلی زیادی برای یک موضوع خاص جمع آوری کرد معمولا از تکنیک های data augmentation استفاده میشود. نمونه ای از تکنیک های data augmentation را در تصویر میتوانید مشاهده کنید.
به نظر شما جز تکنیک های گفته شده، چه تکنیک های دیگر برای افزایش داده میتوان استفاده کرد؟
@silicon_brain

گفتگوی دو بات سخنگو
#چت_بات
@silicon_brain

#rnn #image_captioning #sentiment_analysis
در بررسی انواع مختلف شبکه های عصبی بازگشتی (RNN) یک نوع مدل بردار به توالی (Vector-Sequence) وجود دارد برای مثال در توصیف تصاویر (Image Captioning) برداری از تصویر وارد مدل شده و یک متن در توصیف عکس تولید میشود.
یک نوع مدل دیگر بصورت توالی به بردار (Sequence-Vector) وجود دارد برای مثال در تحلیل احساسات (Sentiment Analysis) یک متن وارد مدل میشود و برداری از احساسات تولید میشود.
@silicon_brain

طبق درخواست اعضای کانال مبنی بر برگزاری وُیس چت در کانال سیلیکون برین، قصد داریم از تجربیات افرادی که در زمینه هوش مصنوعی فعال هستند استفاده کنیم و افرادی که علاقه مند به ورود به حوزه ی خاصی از هوش مصنوعی هستند از تجربیات متخصصین استفاده کنند.
دوستانی که قصد دارند تجربیات خود را با اعضای کانال در جلسه وُیس چت به اشتراک بگذارند به آیدی ادمین
@silicon_brain_adiin
پیام داده و زمینه کاری خود را بیان کنند.
برای تعیین زمان برگزاری جلسه لطفا به نظرسنجی های پایین پاسخ دهید.

https://t.me/joinchat/SM8Hyfo4IeuVUecT

چگونه می‌توان #دیپ_فیک را تشخیص داد؟
به انعکاس نور در چشم توجه کنید.
ابزاری جهت تشخیص دیپ فیک توسط دانشگاه Buffalo توسعه داده شده است که توانایی تشخیص تصاویر جعلی با استفاده از انعکاس نور در چشم را دارد.
@silicon_brain

#RNN
تصویری جالب از اثر کلمات در شبکه عصبی بازگشتی
همانطور که در تصویر مشخص شده رنگ کلمه ی وارد شده به شبکه تاثیر خود را در بلوک وارد شده نشان میدهد. تاثیر کلمات به مرور زمان کمتر شده ولی باقی میماند و این باعث میشود که شبکه تجربیات خود را از گذشته به زمان آینده با در نظر گرفتن اولویت ها انتقال دهد.
@silicon_brain

خداحافظی با آدام و دوستان؟
آپتیمایزر MADGRAD از sotaها که جدیدن به جمع بقیه آپتیمایزرا ملحق شدن، سرعت بهتری رو نسبت به آدام در تحقیقات ثبت کرده است.
@silicon_brain