❔در مورد jax چه میدانید؟

فریمورک jax ابزاری عالی برای حوزه یادگیری ماشین هست. این فریمورک بر پایه نامپای کار میکنه

دو تا ویژگی مهم jax :

1⃣ بصورت خودکار قابلیت مشتق‌گیری داره
2⃣ توانایی انجام محاسبات در GPU و TPU

نمونه کد مشتق‌گیری خودکار رو در تصویر ببینید. با دستور grad در #jax می‌تونید مشتق خودکار بگیرید.

@silicon_brian

مدل زبانی فارسی GPT2-Persian اپن سورس توسط #بلبل_زبان برای منتشر شد.


👌 تشکر ویژه از کسانی که علم رو رایگان به اشتراک می‌گذارند.


https://huggingface.co/Bolbol-zaban/gpt2-persian


@silicon_brain

همان‌گونه که می‌دانیم یادگیری ماشین نیاز به داده دارد و جمع‌آوری داده کاری حوصله‌بر و زمان‌بری است ولی کاری است ارزشمند و باقی الصالحات!
بنظرم یک فیلدی در کنار مهندسی هوش مصنوعی هم نیاز داریم😅 به اصطلاح بیاد مارو کاور کنه ! (Inclusive Engineering)



با این حال دادگان فارسی پابلیک به نسبت کم است ولی در ادامه چندین منبع برای دادگان فارسی آمده است که اگر کسی به این فیلد آشنا باشد در پوست خود نمی‌گنجد😁


چند منبع دادگان متنی برای زبان فارسی :

nlpdataset.ir
......
https://github.com/persiannlp/parsinlu
......
https://github.com/danyaljj/persian_raw_text

@silicon_brain

تولید دیتا یا Data Augmentation در متن


قبلا این مبحث برای تصویر رو گفتیم ولی یک روش جالب برای تولید اضافه داده در متن استفاده از back translation هست!

متن رو ترجمه میکنه و ترجمه رو دوباره میبره به زبان مبدأ

این مدل MarianMT هست و از ترنسفورمرها استفاده کرده👌

@silicon_brain

اگر می‌خواهید از متن انگلیسی سوال بسازید، کتابخانه QuestGen راه‌حل خوبی است که از ترنسفورمرها مدل T5 برای رمزنگاری رمزگشایی استفاده کرده است.

https://github.com/ramsrigouthamg/Questgen.ai

@silicon_brain