#پردازش_زبان_طبیعی #NLP
#پایتون #python

برای افرادی که قصد دارن یک آشنایی مناسبی با مبحث پردازش زبان طبیعی پیدا کنن مطالعه این پست رو توصیه میکنم. زمان پیشنهادی برای مطالعه ۲۷ دقیقه 😜

پردازش زبان طبیعی (NLP) با پایتون - راهنمای جامع - مجله فرادرس
https://blog.faradars.org/practitioners-guide-to-natural-language-processing-part-i-processing-understanding-text/

@ml_nlp_cv

Python | Convert image to text and then to speech

https://www.geeksforgeeks.org/python-convert-image-to-text-and-then-to-speech/

با این چند خط کد ساده، شما میتونید متن موجود در تصویر رو استخراج کنید(OCR) بعدش میتونید متن بدست اومده رو به صدا تبدیل کنید. متن به زبانی که به عنوان پارامتر مشخص میکنید براتون در خروجی خونده میشه.👍

این کد میتونه خیلی کاربرد داشته باشه. برای اینکه این پست خیلی طولانی نشه فعلا خودتون به چند تا از کاربردهاش فکر کنید....😜
در ادامه مطالب کانال حتما براتون مثال هایی از این کاربردها خواهم آورد.

اگه فرصت کردید کد رو در محیط pycharm که در پست قبلی معرفی شد، یا #Google_Colab(لینک) اجرا بگیرید.

برای اینکه کد اجرا بشه ممکنه نیاز داشته باشید یکی دو جا گوگل کنید. اما نتیجه نهایی فوق العاده س.

این عملکرد جالب پایتون که مشاهده اش خواهید کرد همه و همه به لطف کتابخانه های قدرتمندی هست که میتونیم استفاده کنیم. مثلا در این مثال از کتابخانه googletrans(که api مترجم گوگل هست) و چند تا کتابخانه دیگه استفاده شده...
#OCR
#Text_to_Speech
#NLP
#Python
#Vision

@ml_nlp_cv

#پردازش_زبان_طبیعی

یک کورس خوب برای دوستانی که میخوان NLP رو به شکل کاملا کاربردی و حرفه ای یاد بگیرن:

new fast.ai course: A Code-First Introduction to Natural Language Processing · fast.ai
https://www.fast.ai/2019/07/08/fastai-nlp/

#fastai
#NLP

@ml_nlp_cv

آموزش متن فارسی در زمینه استفاده از مدل Bert در تسک sentiment analysis

https://sci2lab.github.io/ml_tutorial/bert_farsi_sentiment/

#پردازش_زبان_طبیعی #NLP

@ml_nlp_cv

OpenAI Unveils 175 Billion Parameter GPT-3 Language Model
https://medium.com/@Synced/openai-unveils-175-billion-parameter-gpt-3-language-model-3d3f453124cd

#NLP #GPT-3

@ml_nlp_cv

نکته دیگری در مورد مدل GPT3 OpenAI:

قدرت مدل در درک common sense از بهترین مدل های آموزش داده شده قبلی بسیار بهتر است. Common sense یکی از دشوار ترین مسایل در هوش مصنوعی (یا شاید دشوار ترین مساله هوش مصنوعی) باشد و فهم روزمره ما از جهان است به طور مثال اگر یک تخم مرغ روی زمین بیفتد میشکند یا اگر نان در آب خیس شود دیگر قابل خوردن نیست یا اینکه اگر به کسی سیلی بزنید درد احساس می کند و ممکن است گریه کند! چنین چیزهایی را ما به کودک آموزش نمی دهیم بلکه خود کودک در تعامل با جهان اطرافش درک میکند. پژوهشگران هوش مصنوعی از چندین دهه پیش و در اوایل متوجه شدند برای آنکه یک سیستم هوشمند داشته باشیم باید بتوانیم چنین نوع دانشی (که در کتاب ها و ویکی پدیا و غیره پیدا نمی شود) را به سیستم ها یاد بدهیم. اگرچه شاید سخت بنظر نرسد اما در عمل مشخص شد چنین دانشی بسیار بسیار بزرگتر از دانش های مکتوب معمول است! امروزه دیتاست هایی برای سنجش common sense ساخته شده اند که هر کدام به یک جنبه ان می پردازند. GPT3 توانسته به بالا ترین دقت یک سیستم در آن برسد (هرچند هنوز از انسان بسیار عقب است)

تنها علت موفقیت این مدل بزرگ بودن آن است! هیچ تغییر ساختاری یا معماری در آن انجام نشده است. همین باعث شده سوال های مهمی در مورد آینده هوش مصنوعی مطرح شود. آیا برای رسیدن به هوش انسانی صرفا کافی ست مدلها را بزرگتر و بزرگتر کنیم؟ یا اینکه نیاز داریم متدهای جدیدی را بررسی کنیم. اگر بزرگ کردن مدل تنها راه حل است چنین چیزی برای بسیاری از پژوهشگران غیر قابل دسترس است. یک تخمین نشان داده است هزینه آموزش GPT3 به اضافه هزینه حقوق افراد دخیل در پروژه حداقل ۱۸ میلیون دلار بوده است!! ( ۱۲ میلیون دلار آموزش بر روی سرور های مایکروسافت و ۶ میلیون دلار حقوق و بقیه هزینه ها) چنین عددی با بودجه یک فیلم هالیوودی متوسط برابری میکند!

#nlp #common_sense

@ml_nlp_cv

GitHub - facebookresearch/mmf: A modular framework for vision & language multimodal research from Facebook AI Research (FAIR)
https://github.com/facebookresearch/mmf

#VQA #NLP #mmf
#Computer_Vision
#Pythia

@ml_nlp_cv

GPT-3: The First Artificial General Intelligence?

https://towardsdatascience.com/gpt-3-the-first-artificial-general-intelligence-b8d9b38557a1

#NLP #GPT_3 #AI

@ml_nlp_cv

در سالهای اخیر شاهد پیشرفت های زیادی رو در حوزه Conversational AI بوده ایم. به عنوان مثال به رپلیکا، اشاره کنم. چت باتی که کاراکتر و ظاهرش رو مطابق علاقه خودتون انتخاب میکنید و اون هم با سوالات زیادی که از شما می پرسه با جزئیات زندگی تون آشنا میشه. بعد مثل یک دوست واقعی و دلسوز راهکارهایی برای حل مشکلات تون ارائه میده...

شما رو به دیدن گفتگویی در این زمینه و در مورد آینده Conversational AI دعوت می کنم. گفتگویی با bryan catanzaro محقق و مسئول یادگیری عمیق شرکت NVIDIA


#NLP #Computer_Vision #BERT_Model #NVIDIA #Conversational_AI #Chatbots

📝 در مورد کارایی ترسفورمرها و تحولاتی که ایجاد کردن میدونیم. مثلا اینکه منجر به ساخت مدل زبانی قدرتمند #GPT_3 (با اون کاربردهای وحشتناکش!) شدن. حتی کاربرد ترسفورمرها به حوزه پردازش تصویر هم کشیده شده...
اما مطمئنا براتون جالب خواهد بود که بدونید مکانیزم توجه استفاده شده در ترسفورمرها، چطور کار میکنه. سوالی که در مقاله زیر به زیبایی بهش پاسخ داده میشه: 👌

📘https://arxiv.org/abs/2008.02217

#transformers #attention_mechanism #BERT_models #NLP

@ml_nlp_cv

احتمالا بهترین و شناخته شده ترین کلاس NLP، متعلق به دانشگاه کارنگی ملون هست. آخرین کلاس cs11-737 هم که امسال برگزار شده و همین اواخر هم تکمیل شده اینجا تقدیم تون میشه:

CMU Multilingual NLP class demo

CMU Multilingual NLP video lectures playlist

#NLP #پردازش_زبان_طبیعی #Natural_Language_Processing

@ml_nlp_cv

📚 معرفی کتاب: Natural Language Processing with Python از Steven Bird

این کتاب برای اون‌هایی مناسبه که دوس دارن تو حوزه پردازش زبان طبیعی یا NLP فعالیت کنن و رو تسک‌های معروفی مثل فیلتر کردن ایمیل‌های اسپم یا تحلیل احساسات کاربر رو از روی متنی که نوشته و تسک‌هایی شبیه به این کار کنن. این حوزه در کنار بینایی ماشین یکی از حوزه‌های پرطرفدار محسوب می‌شه.

🔶 قبل از شروع کتاب، مطالعه مقاله معرفی پردازش زبان طبیعی هم ایده خوبیه:

👉🔗 http://ctdrs.ir/ds0010

#NLP

@DSLanders | دی‌اس‌لندرز

Mastering Transformers: Build state-of-the-art models from scratch with advanced natural language processing techniques
Author : Savaş Yıldırım, Meysam Asgari-Chenaghlu
Publisher : Packt Publishing
Year : 2021


#یادگیری_عمیق #NLP
🆔 @Programming4all_0to100

Mastering Transformers (2021)

▪️What you will learn

Explore state-of-the-art NLP solutions with the Transformers library

Train a language model in any language with any transformer architecture

Fine-tune a pre-trained language model to perform several downstream tasks

Select the right framework for the training, evaluation, and production of an end-to-end solution

Get hands-on experience in using TensorBoard and Weights & Biases

Visualize the internal representation of transformer models for interpretability

▪️Who this book is for

This book is for deep learning researchers, hands-on NLP practitioners, as well as ML/NLP educators and students who want to start their journey with Transformers. Beginner-level machine learning knowledge and a good command of Python will help you get the best out of this book.

#یادگیری_عمیق #NLP
🆔 @Programming4all_0to100

تولید نما(View Synthesis) زمینه‌ای تحقیقاتی است، در مورد تولید نماهایی تازه از یک منظره، با موجود داشتن تعدادی تصویر از آن.
در پستی از وبلاگ گوگل می‌خوانیم که چطور دو مدل مبتنی بر ترنسفورمر در این زمینه پیشرفت داشته‌اند.

#Transformer #NLP
#Synthesis #Computer_Vision

@ml_nlp_cv

در مورد کاربردهای #gpt_3 بسیار گفته‌ایم. یکی دیگر از موارد استفاده کاربردی و جالب‌اش را می‌توانید اینجا ملاحظه کنید.

#nlp #nlu

@ml_nlp_cv