ObjectDrop: automagical objects removal

Google unveils ObjectDrop, the new SOTA in photorealistic object removal and insertion. Focus on shadows and reflections, impressive!

Review https://t.ly/ZJ6NN
Paper https://arxiv.org/pdf/2403.18818.pdf
Project https://objectdrop.github.io/

ميتونيد به صورت دياگرام مدل شبكه عصبى بسازيد


http://alexlenail.me/NN-SVG/

https://github.com/alexlenail/NN-SVG

All You Need is SAM (+Flow)

Oxford unveils the new SOTA for moving object segmentation via SAM + Optical Flow. Two novel models & Source Code announced


Paper https://lnkd.in/d4XqkEGF
Project https://lnkd.in/dHpmx3FF
Repo coming: https://github.com/Jyxarthur/

شامل اطلاعات فروش و مشخصات 2.4 میلیون محصول موجود در سایت باسلام
به همراه دیتاست 3.3 میلیونی کامنت های محصولات.

 هم اکنون دانلود کنید: 
این مجموعه داده در Kaggle و Hugging Face قابل دسترسی است.

 ⬇ لینک دانلود از Kaggle:

https://www.kaggle.com/datasets/radeai/basalam-comments-and-products

 ⬇ لینک دانلود از Hugging Face: 

https://huggingface.co/datasets/RadeAI/BaSalam_comments_products

جزوه ماشین لرنینگ و دیپ لرنینگ ( cheat sheets)

سلام بچه ها
اين كد من در كگل هستش تا جاى كه تلاش كردم درصد دقت رو رسوندم ٠.٨٩١
همچنان تلاشمو ميكنم
درهرصورت اين ديتا بسيار چالشى و پر حجم هستش
تجربه ى من كه بهتون ميگم يه سرى كتابخانه ها تست كردم همچنين هايپرپارامتر تنظيم كردم به لطف استاد
و تنها دوتا مدل رو تونستم خوب نتيجه بيارم يكى lbgm و xgboost
اين بار catboost رو تست كردم ولى به نظرم كافى نبود در هرصورت تلاشمو ميكنم از اين بهتر نتيجه بدست بيارم
تنها يه مشكلى كه هست sklearn هستش كه كودا نداره من چندين مدل كلاسيفيكشن رو تست كردم بسيار زمان برد پيشنهاد نميكنم اگه بخواييد ديتاى پرحجم رو ترين كنيد و بعد از اينكه ترين كردم درصد دقت اونقدر جالب نبود شايد با هايپرپارامتر نياز داشت كه تنظيم شه ولي اونقدر طول ميكشه كه ارزش نداره
اميدوارم اين مورد براتون مفيد باشه لينك كد من رو زير ميزارم براتون با تشكر 🙏

https://www.kaggle.com/code/mehdimiravareh/lgbm-xgb-acc-89

بهبود سرعت Pandas تا 20 برابر بیش‌تر!
با ابزار FireDucks
فقط با تغییر یک خط کد

اگه همیشه با محدودیت‌های Pandas مثل استفاده از تک هسته CPU یا عملکرد کند مواجه بودین، FireDucks مشکل رو حل کرده! این ابزار جایگزین بهینه‌شده Pandas هست که همون API رو استفاده می‌کنه، ولی تا 20 برابر سریع‌تر عمل می‌کنه. راه‌های استفاده از FireDucks خیلی ساده‌ است.

سه روش استفاده از FireDucks :

اول می‌تونین با دستور %load_ext fireducks.pandas به همراه import pandas as pd ،FireDucks رو به کدتون اضافه کنین.

کافیه به جای Pandas ،FireDucks رو مستقیم ایمپورت کنین: import fireducks.pandas as pd.

اگه اسکریپت پایتون دارین، می‌تونین با این دستور اجراش کنین:

python3 -m fireducks.pandas code.py.


این ابزار خیلی سریع‌تر از Pandas و حتی Polars عمل می‌کنه

┌ FireDucks
├ Documentation
├ Article
├ Google Colab
└ GitHub-Repos

معرفی سایت nn.labml.ai
در این سایت پیاده سازی #پایتورچ مدل ها و الگوریتم های مهم هوش مصنوعی به همراه توضیح خط به خط کد و فرمول های ریاضی به کار رفته در کد مقالات است.
و منبع عالی برای #کدخوانی #مقالات هست.
لیست موضوعات پیاده سازی شده در این سایت:
✨ Transformers
✨ Low-Rank Adaptation (LoRA)
✨Eleuther GPT-NeoX
✨Diffusion models
✨Generative Adversarial Networks
✨Recurrent Highway Networks
✨ LSTM
✨ HyperNetworks - HyperLSTM
✨ ResNet
✨ ConvMixer
✨ Capsule Networks
✨ U-Net
✨ Sketch RNN
✨ Graph Neural Networks
✨ Reinforcement Learning
✨ Counterfactual Regret Minimization (CFR)
✨ Optimizers
✨ Normalization Layers
✨ Distillation
✨ Adaptive Computation
✨ Uncertainty
✨ Activations
✨ Language Model Sampling
✨ Scalable Training/Inference
#منابع #هوش_مصنوعی
#مقاله_خوانی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

PyTorch 2.5 is here 🔥

We are excited to announce the release of PyTorch® 2.5 featuring:

🔥 a new CuDNN backend for SDPA, enabling speedups by default for users of SDPA on H100s or newer GPUs
🔥 regional compilation of torch.compile, offering a way to reduce the cold start up time for torch.compile by allowing users to compile a repeated nn.Module (e.g. a transformer layer in LLM) without recompilations
🔥 TorchInductor CPP backend offering solid performance speedup with numerous enhancements like FP16 support, CPP wrapper, AOT-Inductor mode, and max-autotune mode

Read more in our PyTorch 2.5 Release Blog: https://pytorch.org/blog/pytorch2-5/?utm_content=312749700&utm_medium=social&utm_source=linkedin&hss_channel=lcp-78618366

https://fleuret.org/public/lbdl.pdf


== Table of Content ==

I Foundations
1 Machine Learning
- 1.1 Learning from data
- 1.2 Basis function regression
- 1.3 Under and overfitting
- 1.4 Categories of models

2 Efficient Computation
- 2.1 GPUs, TPUs, and batches
- 2.2 Tensors

3 Training
- 3.1 Losses
- 3.2 Autoregressive models
- 3.3 Gradient descent
- 3.4 Backpropagation
- 3.5 The value of depth
- 3.6 Training protocols
- 3.7 The benefits of scale

II Deep Models
4 Model Components
- 4.1 The notion of layer
- 4.2 Linear layers
- 4.3 Activation functions
- 4.4 Pooling
- 4.5 Dropout
- 4.6 Normalizing layers
- 4.7 Skip connections
- 4.8 Attention layers
- 4.9 Token embedding
- 4.10 Positional encoding

5 Architectures
- 5.1 Multi-Layer Perceptrons
- 5.2 Convolutional networks
- 5.3 Attention models

III Applications
6 Prediction
- 6.1 Image denoising
- 6.2 Image classification
- 6.3 Object detection
- 6.4 Semantic segmentation
- 6.5 Speech recognition
- 6.6 Text-image representations
- 6.7 Reinforcement learning

7 Synthesis
- 7.1 Text generation
- 7.2 Image generation

8 The Compute Schism
- 8.1 Prompt Engineering
- 8.2 Quantization
- 8.3 Adapters
- 8.4 Model merging

#deeplearning

ویرایش دوم و فیلمهای کلاسی RL از Dimitri P. Bertsekas استاد دانشگاه MIT منتشر شد.

REINFORCEMENT LEARNING AND OPTIMAL CONTROL
BOOKS, VIDEOLECTURES, AND COURSE MATERIAL

https://web.mit.edu/dimitrib/www/RLbook.html

#یادگیری_تقویتی #منابع #کلاس_آموزشی #کتاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

🎁Recurrent Neural Network
#RNN
#ML

اینم برا کسایی که Image Segmentation سوالات زیادی رو براشون به وجود آورده.

Deep Learning based Image Segmentation

#یادگیری_عمیق #کتابچه #کد #منابع

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

Transformers can be slow for real-time applications like robotics. We study if modern recurrent architectures, like xLSTM and Mamba, can be faster alternatives. Experiments on 432 tasks show that they compare favourably in terms of performance and speed

◾️ A Large Recurrent Action Model: xLSTM enables Fast Inference for Robotics Tasks

#مقاله #ایده_جذاب #رباتیک

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

🎞️ لينك ويديو

🎛️📡يادگيري تقويتي يا همان Reinforcement Learning جز مباحثي هست كه خوب براي موضوع پايان نامه و جالب .

💾از جمله ديتاست هاي معروفش :

1. OpenAI Gym
2. DeepMind Control Suite
3. Atari Games
4. MuJoCo
5. Roboschool


📄از جمله مقالات براي اشنايي :

▪️ Deep Reinforcement Learning: An Overview” by Yuxi Li (2017)

▪️ A Survey on Reinforcement Learning Algorithms for Control and Decision-Making Problems

#کلاس_آموزشی #منابع #فیلم #یادگیری_تقویتی #پیشرفته #مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
💠 @Recomendersystem2023
🔸 @AI_Person

X-Portrait 2: SOTA(?) Portrait Animation

ByteDance unveils a preview of X-Portrait2, the new SOTA expression encoder model that implicitly encodes every minuscule expressions from the input by training it on large-scale datasets. Impressive results but no paper & code announced.

Paper ?
Project byteaigc.github.io/X-Portrait2/
Repo ?

خداحافظ Adam
با معرفی ADOPT بهتره Optimizer مدل‌های Deep Learning و LLM رو تغییر بدیم. مشکل اساسی Adam در واقع عدم تضمین convergence در فرآیند آپدیت وزن‌ها بود که در ADOPT حل شده. اما این برتری فقط در تئوری نیست و در عمل هم در اکثریت مسائل از جمله pretraining در GPT-2 بهتر بوده.

ایده اصلی و راه حل برای تضمین هم‌گرایی هم دو مورد هست:

۱_ حذف گرادیان کنونی از تخمین momentum دوم
۲_ نرمالایز کردن گرادیان قبل از آپدیت momentum

Paper
Github
کد:

from adopt import ADOPT
#optimizer = Adam(model.parameters(), lr=1e-3)
optimizer = ADOPT(model.parameters(), lr=1e-3)

Meta AI Researchers Introduce Mixture-of-Transformers (MoT): A Sparse Multi-Modal Transformer Architecture that Significantly Reduces Pretraining Computational Costs

FAIR at Meta and Stanford University researchers introduced a new architecture called Mixture-of-Transformers (MoT). The MoT, built as a sparse, multi-modal transformer, reduces computational demands by incorporating modality-specific parameters. Unlike traditional dense models that rely on uniform processing, MoT utilizes distinct components for each modality, text, image, and speech, allowing for modality-specific optimization without requiring additional model components. For example, MoT assigns unique feed-forward networks, attention matrices, and normalization layers to each modality while maintaining a unified attention mechanism across the entire input data sequence, enhancing processing efficiency and output accuracy.

The Mixture-of-Transformers framework leverages this sparse design by decoupling the model parameters according to modality, optimizing training and inference phases. For instance, MoT separates text, image, and speech parameters during a multi-modal task, applying customized processing layers for each. This process reduces the need for dense model layers to accommodate all modalities simultaneously. As a result, MoT achieves a balance of efficiency and effectiveness that traditional dense models lack. For instance, in tests involving text and image generation within the Chameleon 7B model, MoT delivered comparable results to dense baselines with only 55.8% of the FLOPs and even less 37.2% when integrating a third modality, such as speech. This efficiency gain translates to significant reductions in resource usage, which, in large-scale AI models, can lead to major cost savings...

Read the full article here: https://www.marktechpost.com/2024/11/13/meta-ai-researchers-introduce-mixture-of-transformers-mot-a-sparse-multi-modal-transformer-architecture-that-significantly-reduces-pretraining-computational-costs/

Paper: https://arxiv.org/abs/2411.04996