Forwarded from School of AI
گوگل نسخه‌ی اوپن-سورس از خانواده‌ی مدلهای زبانی Gemini را تحت نام Gemma معرفی و منتشر کرد.
بلاگ‌پست معرفی:
https://huggingface.co/blog/gemma
این مدل که رقیبی جدی برای Llama2 متا محسوب می‌شود، در دو نسخه‌ی Base و Instruction-tuned و در دو سایز ۲ و ۷ میلیارد پارامتری منتشر شده‌ست.
مدل Base مدل پایه‌ی Pretrained و همه‌منظوره‌ست و برای پردازش متون خام کاربرد دارد.
مدل Instruction-tuned یا it به‌کمک RLHF برای تسک‌های مبتنی بر دستورالعمل، فاین‌تیون شده و برای دنبال‌کردن دستورات و انجام تسک‌های مرحله‌به‌مرحله مناسب‌تر‌ست.
مدل ۲ میلیون پارامتری، همچون Llama2 برروی ۲ تریلیون توکن آموزش دیده و بسیار سبک و مناسب اجرا روی edge device ها و موبایل‌ها‌ست اما مدل ۷ میلیارد پارامتری، برروی ۶ تریلیون توکن آموزش دیده (۲۳ روز برروی ۱۶ پاد TPU) که دقتی به مراتب بالاتر از Llama2 ارائه می‌دهد.
طول متن در این مدل‌ها ۸۰۰۰ توکن است.
طی یک همکاری بین گوگل و NVIDIA این مدل‌ها به کمک NVIDIA TensorRT-LLM برای اجرا برروی GPUهای RTX بهینه‌سازی شده‌ند.
https://blogs.nvidia.com/blog/google-gemma-llm-rtx-ai-pc/
این مدل کاملا اوپن-سورس و استفاده از آن در اپلیکیشن‌های تجاری بلامانع‌ست. همه‌ی نسخه‌های آن روی HuggingFace قابل دسترس‌اند.
https://huggingface.co/models?other=gemma&sort=trending&search=google
تست کردن مدل در حالت چت‌بات به‌صورت آنلاین:
huggingface.co/chat/
این مدل به روش LoRA برروی دیتاست شما، فاین-تیون می‌شود. لینک زیر نوت‌بوکی برای آموزش فاین-تیون کردن این مدل به کمک Keras و TensorFlow ارائه می‌دهد:
https://ai.google.dev/gemma/docs/lora_tuning
فاین‌تیون کردن به روش LoRA به کمک HuggingFace:
https://huggingface.co/blog/gemma-peft
نقاط ضعف:
- این مدل تنها برای زبان انگلیسی آماده‌سازی شده
- مالتی‌مودال نیست و فقط ورودی/خروجی از نوع متن را پشتیبانی می‌کند.
- عمل‌کرد مدل ۲ میلیارد پارامتری، نسبت به مدل ۲/۷ میلیارد پارامتری مایکروسافت (PHI-2) به‌مراتب ضعیف‌ترست.
بلاگ‌پست معرفی:
https://huggingface.co/blog/gemma
این مدل که رقیبی جدی برای Llama2 متا محسوب می‌شود، در دو نسخه‌ی Base و Instruction-tuned و در دو سایز ۲ و ۷ میلیارد پارامتری منتشر شده‌ست.
مدل Base مدل پایه‌ی Pretrained و همه‌منظوره‌ست و برای پردازش متون خام کاربرد دارد.
مدل Instruction-tuned یا it به‌کمک RLHF برای تسک‌های مبتنی بر دستورالعمل، فاین‌تیون شده و برای دنبال‌کردن دستورات و انجام تسک‌های مرحله‌به‌مرحله مناسب‌تر‌ست.
مدل ۲ میلیون پارامتری، همچون Llama2 برروی ۲ تریلیون توکن آموزش دیده و بسیار سبک و مناسب اجرا روی edge device ها و موبایل‌ها‌ست اما مدل ۷ میلیارد پارامتری، برروی ۶ تریلیون توکن آموزش دیده (۲۳ روز برروی ۱۶ پاد TPU) که دقتی به مراتب بالاتر از Llama2 ارائه می‌دهد.
طول متن در این مدل‌ها ۸۰۰۰ توکن است.
طی یک همکاری بین گوگل و NVIDIA این مدل‌ها به کمک NVIDIA TensorRT-LLM برای اجرا برروی GPUهای RTX بهینه‌سازی شده‌ند.
https://blogs.nvidia.com/blog/google-gemma-llm-rtx-ai-pc/
این مدل کاملا اوپن-سورس و استفاده از آن در اپلیکیشن‌های تجاری بلامانع‌ست. همه‌ی نسخه‌های آن روی HuggingFace قابل دسترس‌اند.
https://huggingface.co/models?other=gemma&sort=trending&search=google
تست کردن مدل در حالت چت‌بات به‌صورت آنلاین:
huggingface.co/chat/
این مدل به روش LoRA برروی دیتاست شما، فاین-تیون می‌شود. لینک زیر نوت‌بوکی برای آموزش فاین-تیون کردن این مدل به کمک Keras و TensorFlow ارائه می‌دهد:
https://ai.google.dev/gemma/docs/lora_tuning
فاین‌تیون کردن به روش LoRA به کمک HuggingFace:
https://huggingface.co/blog/gemma-peft
نقاط ضعف:
- این مدل تنها برای زبان انگلیسی آماده‌سازی شده
- مالتی‌مودال نیست و فقط ورودی/خروجی از نوع متن را پشتیبانی می‌کند.
- عمل‌کرد مدل ۲ میلیارد پارامتری، نسبت به مدل ۲/۷ میلیارد پارامتری مایکروسافت (PHI-2) به‌مراتب ضعیف‌ترست.
March 2, 2024
Forwarded from School of AI
آموزش finetune کردن مدل جدید Gemma برروی دیتاست شخصی و سفارشی‌شده
https://huggingface.co/blog/gemma-peft
https://huggingface.co/blog/gemma-peft
huggingface.co
Fine-Tuning Gemma Models in Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
March 2, 2024
Forwarded from هوش مصنوعی |یادگیری ماشین| علم داده
معرفی یک سایت عالی برای گرفتن api و چت انلاین با مدل های اپدیت هوش مصنوعی ، همچنین این سایت مدل های تصویری و صوتی و نوشتاری ساپورت میکنه با کلی مدل اوپن سورس
https://deepinfra.com/
🆔 @Ai_Tv
https://deepinfra.com/
🆔 @Ai_Tv
March 2, 2024
Forwarded from tarfandoon
خوب خوب خوب !
مدل اوپن سورسی منتشر شده که ادعا میکنه میتونه SORA را شبیه سازی کنه !
این یعنی این که میتونید از این مدل اوپن سورس استفاده کنید و ویدیوهایی شبیه به SORA بسازید .
البته vram پیشنهادی هم A100 هست ! که البته اگر پروژتون رو توی Huggingface توسعه بدید و یک دلیل خوب براش داشته باشید ممکنه بهتون سخت افزار رایگان بدن که ران بکنید پروژه رو .
لینک ها :
https://pku-yuangroup.github.io/Open-Sora-Plan/
https://github.com/PKU-YuanGroup/Open-Sora-Plan
مدل اوپن سورسی منتشر شده که ادعا میکنه میتونه SORA را شبیه سازی کنه !
این یعنی این که میتونید از این مدل اوپن سورس استفاده کنید و ویدیوهایی شبیه به SORA بسازید .
البته vram پیشنهادی هم A100 هست ! که البته اگر پروژتون رو توی Huggingface توسعه بدید و یک دلیل خوب براش داشته باشید ممکنه بهتون سخت افزار رایگان بدن که ران بکنید پروژه رو .
لینک ها :
https://pku-yuangroup.github.io/Open-Sora-Plan/
https://github.com/PKU-YuanGroup/Open-Sora-Plan
👍1
March 2, 2024
Forwarded from Geek Alerts
مایکروسافت از نسخه مالی Copilot رونمایی کرد
این AI جدید اسمش Microsoft Copilot for Finance هست، کارش اینه که با دقت زیادی میتونه روی اعداد مالی و حسابداری کار کنه.
به صورت یکپارچه به Microsoft 365 اضافه میشه و بیشتر روی اکسل کار میکنه، مثلا برای تطابق دادن داده‌ها خوبه، یا اشتباهی جایی کرده باشیم بهمون میگه، میتونه از اکسل مالی که ساختیم گزارش‌های دلخواه برامون بسازه.
میگن تو خود مایکروسافت ازش استفاده کردن توی بخش‌های مالیشون و کارایی مثل چک کردن داده‌ها که مثلا تا ۲ ساعت وقت لازم داشته الان با این AI نیم ساعته انجام میشه.
پ.ن. هنوز به صورت عمومی منتشر نشده و مایکروسافت دسترسیشو به تعداد محدودی از شرکت‌ها داده. ولی یک فرم داره که میتونید داخل اون درخواست بدید لینکش در پایین هست.
https://www.microsoft.com/en-us/microsoft-copilot/microsoft-copilot-for-finance
https://rahdigital.ir/microsoft-copilot-ai-for-finance/
@geekalerts
این AI جدید اسمش Microsoft Copilot for Finance هست، کارش اینه که با دقت زیادی میتونه روی اعداد مالی و حسابداری کار کنه.
به صورت یکپارچه به Microsoft 365 اضافه میشه و بیشتر روی اکسل کار میکنه، مثلا برای تطابق دادن داده‌ها خوبه، یا اشتباهی جایی کرده باشیم بهمون میگه، میتونه از اکسل مالی که ساختیم گزارش‌های دلخواه برامون بسازه.
میگن تو خود مایکروسافت ازش استفاده کردن توی بخش‌های مالیشون و کارایی مثل چک کردن داده‌ها که مثلا تا ۲ ساعت وقت لازم داشته الان با این AI نیم ساعته انجام میشه.
پ.ن. هنوز به صورت عمومی منتشر نشده و مایکروسافت دسترسیشو به تعداد محدودی از شرکت‌ها داده. ولی یک فرم داره که میتونید داخل اون درخواست بدید لینکش در پایین هست.
https://www.microsoft.com/en-us/microsoft-copilot/microsoft-copilot-for-finance
https://rahdigital.ir/microsoft-copilot-ai-for-finance/
@geekalerts
👏1
March 2, 2024
Forwarded from DeepMind AI Expert (Farzad)
در این مدت از تاثیری مدلهای LLM در همه صنایع صنعتی و استفاده های گوناگون آشنا شده اید اکنون یک مقاله مروری در حیطه صنعت بازی سازی با این مدت منتشر شده از تاثیر این مدل در صنعت بازی سازی بیشتر آشنا بشید و تحقیقات بیشتریو اگه علاقمندید پیش ببرید.
▪️ Large Language Models and Games: A Survey and Roadmap
#مقاله #ایده_جذاب
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
▪️ Large Language Models and Games: A Survey and Roadmap
#مقاله #ایده_جذاب
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
March 2, 2024
March 3, 2024
Python Machine Learning.pdf
7.2 MB
📚 Title: Python Machine Learning (2024)
March 3, 2024
This media is not supported in your browser
VIEW IN TELEGRAM
💌 Multi-LoRA Composition 💌
👉Two novel training-free image composition: LoRA Switch and LoRA Composite for integrating any number of elements in an image through multi-LoRA composition. Source Code released 💙
👉Review https://t.ly/GFy3Z
👉Paper arxiv.org/pdf/2402.16843.pdf
👉Code github.com/maszhongming/Multi-LoRA-Composition
👉Two novel training-free image composition: LoRA Switch and LoRA Composite for integrating any number of elements in an image through multi-LoRA composition. Source Code released 💙
👉Review https://t.ly/GFy3Z
👉Paper arxiv.org/pdf/2402.16843.pdf
👉Code github.com/maszhongming/Multi-LoRA-Composition
March 3, 2024
March 3, 2024
کتاب های برنامه نویسی رایگان
فهرستی از کتاب های برنامه نویسی رایگان به زبان ها و ترجمه های متعدد (از جمله فارسی) یکی از محبوب ترین مخازن در GitHub است.
https://github.com/EbookFoundation/free-programming-books
سایت
https://ebookfoundation.github.io/free-programming-books/
بخش فارسی
ㅤ
کتابهای برنامه نویسی
https://ebookfoundation.github.io/free-programming-books/books/free-programming-books-fa_IR.html#linux
دوره آنلاین رایگان
https://ebookfoundation.github.io/free-programming-books/courses/free-courses-fa_IR.html
پادکست فارسی
https://ebookfoundation.github.io/free-programming-books/casts/free-podcasts-screencasts-fa_IR.html
فهرستی از کتاب های برنامه نویسی رایگان به زبان ها و ترجمه های متعدد (از جمله فارسی) یکی از محبوب ترین مخازن در GitHub است.
https://github.com/EbookFoundation/free-programming-books
سایت
https://ebookfoundation.github.io/free-programming-books/
بخش فارسی
ㅤ
کتابهای برنامه نویسی
https://ebookfoundation.github.io/free-programming-books/books/free-programming-books-fa_IR.html#linux
دوره آنلاین رایگان
https://ebookfoundation.github.io/free-programming-books/courses/free-courses-fa_IR.html
پادکست فارسی
https://ebookfoundation.github.io/free-programming-books/casts/free-podcasts-screencasts-fa_IR.html
👏1
March 7, 2024
Forwarded from DeepMind AI Expert (Farzad)
لیست ابزارهای دانلود رایگان مقاله و کتاب
1. Nexus search (telegram bot)
🟢 t.me/sks7777777nexusbot
🟢 t.me/nexusbooks_maxenswlfr_bot
🟢 t.me/rcbook_bot
🟢 t.me/subitoafk_bot
🟢 t.me/Nexus_books_moji_bot
🟢 t.me/nexus_bookss_bot
🟢 t.me/Crawl_for_books_bot
🟢 t.me/Fr_lib_pirate_bot
🟢 t.me/NexusbotBot
🟢 t.me/scihubot
🟢 t.me/sks7777777nexusbot
🟢 t.me/tkutuphanebot
🟢 t.me/Researchassist_free_article_bot
🟢 t.me/subitoafk_bot
🟢 t.me/ShingekiKyojin_bot
🟡 t.me/nexus_search_brian_bot
🟡 t.me/asschandmustdie_bot
🟡 t.me/science_nexus_bot
🟡 t.me/nexus_search_another_bot
2. Library Genesis (site):
🟢 libgen.is
🟢 libgen.st
🟢 libgen.rs
🟢 libgen.gs
🟢 libgen.rs
🟢 libgen.rs
🟡 libgen.io
🟡 libgen.be
🟡 libgen.nl
3. Sci-hub (site):
🟢 sci-hub.ee
🟢 sci-hub.ren
🟢 sci-hub.wf
🟢 sci-hub.se
🟢 sci-hub.wf
🟢 sci-hub.wf
4. Papers Download (telegram group):
🟢 t.me/+htsaeeM3ZwUwNTY8
🟢 t.me/freepapers_drkayvanfar
5. Z-library (site):
🟢 z-lib.is
🟢 z-lib.io
6. Pdfdrive (site):
🟢 pdfdrive.com
7. Wosonhj (site):
🟢 wosonhj.com
8. STC (site):
🟢 standard--template--construct-org.ipns.dweb.link
لیست به ترتیب سهولت و سرعت استفاده مرتب شده است
#منابع
پ.ن: چیزی میدونین کامنت کنید
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
1. Nexus search (telegram bot)
🟢 t.me/sks7777777nexusbot
🟢 t.me/nexusbooks_maxenswlfr_bot
🟢 t.me/rcbook_bot
🟢 t.me/subitoafk_bot
🟢 t.me/Nexus_books_moji_bot
🟢 t.me/nexus_bookss_bot
🟢 t.me/Crawl_for_books_bot
🟢 t.me/Fr_lib_pirate_bot
🟢 t.me/NexusbotBot
🟢 t.me/scihubot
🟢 t.me/sks7777777nexusbot
🟢 t.me/tkutuphanebot
🟢 t.me/Researchassist_free_article_bot
🟢 t.me/subitoafk_bot
🟢 t.me/ShingekiKyojin_bot
🟡 t.me/nexus_search_brian_bot
🟡 t.me/asschandmustdie_bot
🟡 t.me/science_nexus_bot
🟡 t.me/nexus_search_another_bot
2. Library Genesis (site):
🟢 libgen.is
🟢 libgen.st
🟢 libgen.rs
🟢 libgen.gs
🟢 libgen.rs
🟢 libgen.rs
🟡 libgen.io
🟡 libgen.be
🟡 libgen.nl
3. Sci-hub (site):
🟢 sci-hub.ee
🟢 sci-hub.ren
🟢 sci-hub.wf
🟢 sci-hub.se
🟢 sci-hub.wf
🟢 sci-hub.wf
4. Papers Download (telegram group):
🟢 t.me/+htsaeeM3ZwUwNTY8
🟢 t.me/freepapers_drkayvanfar
5. Z-library (site):
🟢 z-lib.is
🟢 z-lib.io
6. Pdfdrive (site):
🟢 pdfdrive.com
7. Wosonhj (site):
🟢 wosonhj.com
8. STC (site):
🟢 standard--template--construct-org.ipns.dweb.link
لیست به ترتیب سهولت و سرعت استفاده مرتب شده است
#منابع
پ.ن: چیزی میدونین کامنت کنید
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
❤2👍2
March 7, 2024
برای اولین باز در تاریخ یک هوش مصنوعی IQ بالاتر از انسان های نرمال گرفت !!
#هوش_مصنوعی claude3 با شکست GPT4 و با IQ ۱۰۱ و با حدس درست ۹۹.۹۹ درصد
استفاده رایگان و نامحدود از claude3
https://chat.lmsys.org/
#هوش_مصنوعی claude3 با شکست GPT4 و با IQ ۱۰۱ و با حدس درست ۹۹.۹۹ درصد
استفاده رایگان و نامحدود از claude3
https://chat.lmsys.org/
March 7, 2024
Forwarded from DevTwitter | توییت برنامه نویسی
به عنوان یک دیتا ساینس به چه میزان و سطحی از ریاضی نیاز داریم تا در این حوزه به مشکل برنخوریم.
https://towardsdatascience.com/how-to-learn-the-math-needed-for-data-science-86c6643b0c59
@DevTwitter | <amir atar/>
https://towardsdatascience.com/how-to-learn-the-math-needed-for-data-science-86c6643b0c59
@DevTwitter | <amir atar/>
March 7, 2024
March 7, 2024
📁Machine Learning Techniques Applied to the Study of Drug Transporters
📕 Journal: Molecules (I.F.= 4.6)
📅 Publish year: 2023
🧑💻 Authors: Xiaorui Kong, Kexin Lin,Gaolei Wu
🤖 University: Department of Pharmacy, Dalian Medical University, China
📎 Study the paper
📕 Journal: Molecules (I.F.= 4.6)
📅 Publish year: 2023
🧑💻 Authors: Xiaorui Kong, Kexin Lin,Gaolei Wu
🤖 University: Department of Pharmacy, Dalian Medical University, China
📎 Study the paper
March 7, 2024
💡 ResAdapter: Domain Consistent Resolution Adapter for Diffusion Models
New framework designed for diffusion models (eg SD) to create images at any resolution and aspect ratio.
Unlike other resolution generation methods that process images with post-processing, ResAdapter directly generates images at a given resolution.
💥 page : https://res-adapter.github.io
🫧 paper : https://arxiv.org/abs/2403.02084
⭐️ code : https://github.com/bytedance/res-adapter
New framework designed for diffusion models (eg SD) to create images at any resolution and aspect ratio.
Unlike other resolution generation methods that process images with post-processing, ResAdapter directly generates images at a given resolution.
💥 page : https://res-adapter.github.io
🫧 paper : https://arxiv.org/abs/2403.02084
⭐️ code : https://github.com/bytedance/res-adapter
March 7, 2024
🖼️ Differential Diffusion: Giving Each Pixel Its Strength 🔥
✅ code: github.com/exx8/differential-diffusion
✅ page: differential-diffusion.github.io
✅ paper: arxiv.org/abs/2306.00950
✅ code: github.com/exx8/differential-diffusion
✅ page: differential-diffusion.github.io
✅ paper: arxiv.org/abs/2306.00950
❤1
March 7, 2024
RENT (Dirichlet-based Per-Sample Weighting by Transition Matrix for Noisy Label Learning, ICLR 2024)
🖥 Github: https://github.com/BaeHeeSun/RENT
🔖 Paper: https://arxiv.org/pdf/2403.02690v1.pdf
🔥 Dataset: https://paperswithcode.com/dataset/cifar-10
✨ Tasks: https://paperswithcode.com/task/learning-with-noisy-labels
🖥 Github: https://github.com/BaeHeeSun/RENT
🔖 Paper: https://arxiv.org/pdf/2403.02690v1.pdf
🔥 Dataset: https://paperswithcode.com/dataset/cifar-10
✨ Tasks: https://paperswithcode.com/task/learning-with-noisy-labels
March 7, 2024