📝 در مورد کارایی ترسفورمرها و تحولاتی که ایجاد کردن میدونیم. مثلا اینکه منجر به ساخت مدل زبانی قدرتمند #GPT_3 (با اون کاربردهای وحشتناکش!) شدن. حتی کاربرد ترسفورمرها به حوزه پردازش تصویر هم کشیده شده...
اما مطمئنا براتون جالب خواهد بود که بدونید مکانیزم توجه استفاده شده در ترسفورمرها، چطور کار میکنه. سوالی که در مقاله زیر به زیبایی بهش پاسخ داده میشه: 👌

📘https://arxiv.org/abs/2008.02217

#transformers #attention_mechanism #BERT_models #NLP

@ml_nlp_cv