دستاوردهای یادگیری عمیق(InTec)
9.53K subscribers
364 photos
40 videos
44 files
676 links
هوش مصنوعی، یادگیری ماشین و یادگیری عمیق
موضوع اصلی کانال

این یک بلاگ شخصی با طرز تفکر شخصی هست.

Core Python : @PyHints

تلاشی هم در یادگیری Rust دارم که درحال داکیومنت شدن هم هست؛ اگر شماهم به این زبان علاقمند هستید join یادتون نره

Rust: @PyRust
Download Telegram
http://opus.nlpl.eu/

دیتاست برای nlp، بیشتر برای تسک‌های مربوط به ترجمه مطرح هست
Reformer, Can process sequences as long as 500.000 tokens

پیاده‌سازی بهینه توسط hugging face (قبلتر معرفی شده) در گیت‌هاب موجود هست


Paper Link
خروجی فوق‌العاده از OpenAi برای تولید کد؛ مدل GPT2 رو اگر بخاطر داشته باشید اینبار OpenAi همون مدل رو روی سورس کدهای متن‌باز گیت‌هاب برای پایتون آموزش داده

نهایتاْ خروجی اینه که شما اسم تابع آرگومان‌ها و داک‌استرینگ رو تعریف می‌کنید و باقیش رو به مدل میسپارید:

ویدئو کامل (بنده روی تایم دمو مدل قرار دادم می‌تونید کامل ببینید اگر علاقمند بودید) :
https://www.pscp.tv/Microsoft/1OyKAYWPRrWKb?t=29m19s
تعجبم از اینکه در مقالات روی این دیتا دقت 99.5 هم گزارش شده

درصورتی که خطاهای بیشتری وجود داره، ستون وسط لیبل داده و ستون راست خروجی مدل هست (به حرف 'و' دقت کنید)
جایگزین فوق‌العاده سریع برای pandas,
البته به همون اندازه راحت

PyPi Link

تست شده روی ۱۲۰ میلیون سطر داده
Hugging Face (🤗)

رو قبلتر برای دوستان nlp کار معرفی کردم، حالا این تیم درحال کار روی Gpt-3 هست (احتمال میره سایز مدل کامل چیزی بین 350-750G باشه

نکته جالب اینه که تعداد پارامتر‌ها و سایز مدل‌ها تنها چیزیه که این روزها بهش اشاره می‌شه
توی پست‌ها تعداد خیلی کمی به بهبودهای این مدل و اینکه چه تسکهایی رو انجام میده اشاره کردند ( آیا واقعاً کار شما به همچین مدلی نیاز داره ؟!)

Github Link
تولید صدا از ویدئو لب زنی (صحبت بدون صدا)

کد و دمو در گیت‌هاب موجود هست

Paper Link
ParsBERT: Transformer-based Model for Persian Language Understanding



https://arxiv.org/abs/2005.12515
ابزاری برای نمایش ساختار شبکه (بسیار مناسب برای گذارش دهی)
فقط کافیه مدل ذخیره شده رو بهش بدید

Github Link
بالاخره من یه روزی میرم دفتر گوگل و بهشون ثابت میکنم‌ که ربات نیستم. (کولب gpu)
۵ روز تا شروع
دوره جدید deeplearning.ai که تخصصی به موضوعات پیرامون NLP خواهد پرداخت
Abstract text summarization (pretraind by google)

GitHub