Linear SVM vs RBF
In Support Vector Machines (SVM), the choice between linear kernel and a Radial Basis Function (RBF) kernel depends on the data and the problem at hand. Here’s a brief comparison:
• Linear Kernel:
◦ It is a linear model.
◦ Works well when there are a lot of features, and the data is linearly separable.
◦ Faster to compute and may perform better when the number of features is very large1.
• RBF Kernel:
◦ It can handle non-linear data.
◦ Uses normal curves around the data points to define a decision boundary.
◦ Typically requires more computational resources but can capture more complex relationships2.
In Support Vector Machines (SVM), the choice between linear kernel and a Radial Basis Function (RBF) kernel depends on the data and the problem at hand. Here’s a brief comparison:
• Linear Kernel:
◦ It is a linear model.
◦ Works well when there are a lot of features, and the data is linearly separable.
◦ Faster to compute and may perform better when the number of features is very large1.
• RBF Kernel:
◦ It can handle non-linear data.
◦ Uses normal curves around the data points to define a decision boundary.
◦ Typically requires more computational resources but can capture more complex relationships2.
linear_svc = svm.SVC(kernel='linear')
linear_svc.kernel
rbf_svc = svm.SVC(kernel='rbf')
rbf_svc.kernel
Output:
'linear'
'rbf'
Machine Learning
AI_by_Hands_1711185084.pdf
Understanding the black-box calculations on Neural Networks
This media is not supported in your browser
VIEW IN TELEGRAM
ObjectDrop: automagical objects removal
Google unveils ObjectDrop, the new SOTA in photorealistic object removal and insertion. Focus on shadows and reflections, impressive!
Review https://t.ly/ZJ6NN
Paper https://arxiv.org/pdf/2403.18818.pdf
Project https://objectdrop.github.io/
Google unveils ObjectDrop, the new SOTA in photorealistic object removal and insertion. Focus on shadows and reflections, impressive!
Review https://t.ly/ZJ6NN
Paper https://arxiv.org/pdf/2403.18818.pdf
Project https://objectdrop.github.io/
This media is not supported in your browser
VIEW IN TELEGRAM
ميتونيد به صورت دياگرام مدل شبكه عصبى بسازيد
http://alexlenail.me/NN-SVG/
https://github.com/alexlenail/NN-SVG
http://alexlenail.me/NN-SVG/
https://github.com/alexlenail/NN-SVG
❤3🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
All You Need is SAM (+Flow)
Oxford unveils the new SOTA for moving object segmentation via SAM + Optical Flow. Two novel models & Source Code announced
Paper https://lnkd.in/d4XqkEGF
Project https://lnkd.in/dHpmx3FF
Repo coming: https://github.com/Jyxarthur/
Oxford unveils the new SOTA for moving object segmentation via SAM + Optical Flow. Two novel models & Source Code announced
Paper https://lnkd.in/d4XqkEGF
Project https://lnkd.in/dHpmx3FF
Repo coming: https://github.com/Jyxarthur/
👍1
شامل اطلاعات فروش و مشخصات 2.4 میلیون محصول موجود در سایت باسلام
به همراه دیتاست 3.3 میلیونی کامنت های محصولات.
هم اکنون دانلود کنید:
این مجموعه داده در Kaggle و Hugging Face قابل دسترسی است.
⬇ لینک دانلود از Kaggle:
https://www.kaggle.com/datasets/radeai/basalam-comments-and-products
⬇ لینک دانلود از Hugging Face:
https://huggingface.co/datasets/RadeAI/BaSalam_comments_products
به همراه دیتاست 3.3 میلیونی کامنت های محصولات.
هم اکنون دانلود کنید:
این مجموعه داده در Kaggle و Hugging Face قابل دسترسی است.
⬇ لینک دانلود از Kaggle:
https://www.kaggle.com/datasets/radeai/basalam-comments-and-products
⬇ لینک دانلود از Hugging Face:
https://huggingface.co/datasets/RadeAI/BaSalam_comments_products
😁1
Forwarded from M E H D I
سلام بچه ها
اين كد من در كگل هستش تا جاى كه تلاش كردم درصد دقت رو رسوندم ٠.٨٩١
همچنان تلاشمو ميكنم
درهرصورت اين ديتا بسيار چالشى و پر حجم هستش
تجربه ى من كه بهتون ميگم يه سرى كتابخانه ها تست كردم همچنين هايپرپارامتر تنظيم كردم به لطف استاد
و تنها دوتا مدل رو تونستم خوب نتيجه بيارم يكى lbgm و xgboost
اين بار catboost رو تست كردم ولى به نظرم كافى نبود در هرصورت تلاشمو ميكنم از اين بهتر نتيجه بدست بيارم
تنها يه مشكلى كه هست sklearn هستش كه كودا نداره من چندين مدل كلاسيفيكشن رو تست كردم بسيار زمان برد پيشنهاد نميكنم اگه بخواييد ديتاى پرحجم رو ترين كنيد و بعد از اينكه ترين كردم درصد دقت اونقدر جالب نبود شايد با هايپرپارامتر نياز داشت كه تنظيم شه ولي اونقدر طول ميكشه كه ارزش نداره
اميدوارم اين مورد براتون مفيد باشه لينك كد من رو زير ميزارم براتون با تشكر 🙏
https://www.kaggle.com/code/mehdimiravareh/lgbm-xgb-acc-89
اين كد من در كگل هستش تا جاى كه تلاش كردم درصد دقت رو رسوندم ٠.٨٩١
همچنان تلاشمو ميكنم
درهرصورت اين ديتا بسيار چالشى و پر حجم هستش
تجربه ى من كه بهتون ميگم يه سرى كتابخانه ها تست كردم همچنين هايپرپارامتر تنظيم كردم به لطف استاد
و تنها دوتا مدل رو تونستم خوب نتيجه بيارم يكى lbgm و xgboost
اين بار catboost رو تست كردم ولى به نظرم كافى نبود در هرصورت تلاشمو ميكنم از اين بهتر نتيجه بدست بيارم
تنها يه مشكلى كه هست sklearn هستش كه كودا نداره من چندين مدل كلاسيفيكشن رو تست كردم بسيار زمان برد پيشنهاد نميكنم اگه بخواييد ديتاى پرحجم رو ترين كنيد و بعد از اينكه ترين كردم درصد دقت اونقدر جالب نبود شايد با هايپرپارامتر نياز داشت كه تنظيم شه ولي اونقدر طول ميكشه كه ارزش نداره
اميدوارم اين مورد براتون مفيد باشه لينك كد من رو زير ميزارم براتون با تشكر 🙏
https://www.kaggle.com/code/mehdimiravareh/lgbm-xgb-acc-89
👏5💩2
This media is not supported in your browser
VIEW IN TELEGRAM
بهبود سرعت Pandas تا 20 برابر بیشتر!
با ابزار FireDucks
فقط با تغییر یک خط کد
اگه همیشه با محدودیتهای Pandas مثل استفاده از تک هسته CPU یا عملکرد کند مواجه بودین، FireDucks مشکل رو حل کرده! این ابزار جایگزین بهینهشده Pandas هست که همون API رو استفاده میکنه، ولی تا 20 برابر سریعتر عمل میکنه. راههای استفاده از FireDucks خیلی ساده است.
سه روش استفاده از FireDucks :
اول میتونین با دستور %load_ext fireducks.pandas به همراه import pandas as pd ،FireDucks رو به کدتون اضافه کنین.
کافیه به جای Pandas ،FireDucks رو مستقیم ایمپورت کنین: import fireducks.pandas as pd.
اگه اسکریپت پایتون دارین، میتونین با این دستور اجراش کنین:
python3 -m fireducks.pandas code.py.
این ابزار خیلی سریعتر از Pandas و حتی Polars عمل میکنه
┌ FireDucks
├ Documentation
├ Article
├ Google Colab
└ GitHub-Repos
با ابزار FireDucks
فقط با تغییر یک خط کد
اگه همیشه با محدودیتهای Pandas مثل استفاده از تک هسته CPU یا عملکرد کند مواجه بودین، FireDucks مشکل رو حل کرده! این ابزار جایگزین بهینهشده Pandas هست که همون API رو استفاده میکنه، ولی تا 20 برابر سریعتر عمل میکنه. راههای استفاده از FireDucks خیلی ساده است.
سه روش استفاده از FireDucks :
اول میتونین با دستور %load_ext fireducks.pandas به همراه import pandas as pd ،FireDucks رو به کدتون اضافه کنین.
کافیه به جای Pandas ،FireDucks رو مستقیم ایمپورت کنین: import fireducks.pandas as pd.
اگه اسکریپت پایتون دارین، میتونین با این دستور اجراش کنین:
python3 -m fireducks.pandas code.py.
این ابزار خیلی سریعتر از Pandas و حتی Polars عمل میکنه
┌ FireDucks
├ Documentation
├ Article
├ Google Colab
└ GitHub-Repos
🔥2💩1
آکادمی سلطنتی علوم سوئد جایزه نوبل فیزیک ۲۰۲۴ رو به جان جی. هاپفیلد و جفری هینتون اهدا کردن «به خاطر کشفیات و اختراعات بنیادی که یادگیری ماشین با شبکههای عصبی مصنوعی رو ممکن کردن.»
https://youtu.be/SBGG4WNweEc
کاملاً سزاوار بود برای کسانی که در عمل بکپراپگیشن، شبکههای پیشخور و «یادگیری عمیق» رو توسعه دادن.
این دو نفر در واقع نیوتون دنیای یادگیری ماشین هستن. نه تنها الگوریتمهایی رو پایهگذاری کردن که به سیستمهایی که امروزه استفاده میکنیم مقیاس دادن، بلکه برای اولین بار تئوریهایی رو فرموله کردن که میتونستن رفتار آینده مدلها رو پیشبینی کنن، که این کار، به جای اینکه فقط یه نقطه عطف مهندسی باشه، واقعا یه تحول در فیزیک محسوب میشه.
https://youtu.be/SBGG4WNweEc
کاملاً سزاوار بود برای کسانی که در عمل بکپراپگیشن، شبکههای پیشخور و «یادگیری عمیق» رو توسعه دادن.
این دو نفر در واقع نیوتون دنیای یادگیری ماشین هستن. نه تنها الگوریتمهایی رو پایهگذاری کردن که به سیستمهایی که امروزه استفاده میکنیم مقیاس دادن، بلکه برای اولین بار تئوریهایی رو فرموله کردن که میتونستن رفتار آینده مدلها رو پیشبینی کنن، که این کار، به جای اینکه فقط یه نقطه عطف مهندسی باشه، واقعا یه تحول در فیزیک محسوب میشه.
👍1
Forwarded from DeepMind AI Expert (Mehdi Dehghani)
معرفی سایت nn.labml.ai
در این سایت پیاده سازی #پایتورچ مدل ها و الگوریتم های مهم هوش مصنوعی به همراه توضیح خط به خط کد و فرمول های ریاضی به کار رفته در کد مقالات است.
و منبع عالی برای #کدخوانی #مقالات هست.
لیست موضوعات پیاده سازی شده در این سایت:
✨ Transformers
✨ Low-Rank Adaptation (LoRA)
✨Eleuther GPT-NeoX
✨Diffusion models
✨Generative Adversarial Networks
✨Recurrent Highway Networks
✨ LSTM
✨ HyperNetworks - HyperLSTM
✨ ResNet
✨ ConvMixer
✨ Capsule Networks
✨ U-Net
✨ Sketch RNN
✨ Graph Neural Networks
✨ Reinforcement Learning
✨ Counterfactual Regret Minimization (CFR)
✨ Optimizers
✨ Normalization Layers
✨ Distillation
✨ Adaptive Computation
✨ Uncertainty
✨ Activations
✨ Language Model Sampling
✨ Scalable Training/Inference
#منابع #هوش_مصنوعی
#مقاله_خوانی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
در این سایت پیاده سازی #پایتورچ مدل ها و الگوریتم های مهم هوش مصنوعی به همراه توضیح خط به خط کد و فرمول های ریاضی به کار رفته در کد مقالات است.
و منبع عالی برای #کدخوانی #مقالات هست.
لیست موضوعات پیاده سازی شده در این سایت:
✨ Transformers
✨ Low-Rank Adaptation (LoRA)
✨Eleuther GPT-NeoX
✨Diffusion models
✨Generative Adversarial Networks
✨Recurrent Highway Networks
✨ LSTM
✨ HyperNetworks - HyperLSTM
✨ ResNet
✨ ConvMixer
✨ Capsule Networks
✨ U-Net
✨ Sketch RNN
✨ Graph Neural Networks
✨ Reinforcement Learning
✨ Counterfactual Regret Minimization (CFR)
✨ Optimizers
✨ Normalization Layers
✨ Distillation
✨ Adaptive Computation
✨ Uncertainty
✨ Activations
✨ Language Model Sampling
✨ Scalable Training/Inference
#منابع #هوش_مصنوعی
#مقاله_خوانی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
👍1
PyTorch 2.5 is here 🔥
We are excited to announce the release of PyTorch® 2.5 featuring:
🔥 a new CuDNN backend for SDPA, enabling speedups by default for users of SDPA on H100s or newer GPUs
🔥 regional compilation of torch.compile, offering a way to reduce the cold start up time for torch.compile by allowing users to compile a repeated nn.Module (e.g. a transformer layer in LLM) without recompilations
🔥 TorchInductor CPP backend offering solid performance speedup with numerous enhancements like FP16 support, CPP wrapper, AOT-Inductor mode, and max-autotune mode
Read more in our PyTorch 2.5 Release Blog: https://pytorch.org/blog/pytorch2-5/?utm_content=312749700&utm_medium=social&utm_source=linkedin&hss_channel=lcp-78618366
We are excited to announce the release of PyTorch® 2.5 featuring:
🔥 a new CuDNN backend for SDPA, enabling speedups by default for users of SDPA on H100s or newer GPUs
🔥 regional compilation of torch.compile, offering a way to reduce the cold start up time for torch.compile by allowing users to compile a repeated nn.Module (e.g. a transformer layer in LLM) without recompilations
🔥 TorchInductor CPP backend offering solid performance speedup with numerous enhancements like FP16 support, CPP wrapper, AOT-Inductor mode, and max-autotune mode
Read more in our PyTorch 2.5 Release Blog: https://pytorch.org/blog/pytorch2-5/?utm_content=312749700&utm_medium=social&utm_source=linkedin&hss_channel=lcp-78618366
Forwarded from Recommender system (MehriMah Amiri)
https://fleuret.org/public/lbdl.pdf
== Table of Content ==
I Foundations
1 Machine Learning
- 1.1 Learning from data
- 1.2 Basis function regression
- 1.3 Under and overfitting
- 1.4 Categories of models
2 Efficient Computation
- 2.1 GPUs, TPUs, and batches
- 2.2 Tensors
3 Training
- 3.1 Losses
- 3.2 Autoregressive models
- 3.3 Gradient descent
- 3.4 Backpropagation
- 3.5 The value of depth
- 3.6 Training protocols
- 3.7 The benefits of scale
II Deep Models
4 Model Components
- 4.1 The notion of layer
- 4.2 Linear layers
- 4.3 Activation functions
- 4.4 Pooling
- 4.5 Dropout
- 4.6 Normalizing layers
- 4.7 Skip connections
- 4.8 Attention layers
- 4.9 Token embedding
- 4.10 Positional encoding
5 Architectures
- 5.1 Multi-Layer Perceptrons
- 5.2 Convolutional networks
- 5.3 Attention models
III Applications
6 Prediction
- 6.1 Image denoising
- 6.2 Image classification
- 6.3 Object detection
- 6.4 Semantic segmentation
- 6.5 Speech recognition
- 6.6 Text-image representations
- 6.7 Reinforcement learning
7 Synthesis
- 7.1 Text generation
- 7.2 Image generation
8 The Compute Schism
- 8.1 Prompt Engineering
- 8.2 Quantization
- 8.3 Adapters
- 8.4 Model merging
#deeplearning
== Table of Content ==
I Foundations
1 Machine Learning
- 1.1 Learning from data
- 1.2 Basis function regression
- 1.3 Under and overfitting
- 1.4 Categories of models
2 Efficient Computation
- 2.1 GPUs, TPUs, and batches
- 2.2 Tensors
3 Training
- 3.1 Losses
- 3.2 Autoregressive models
- 3.3 Gradient descent
- 3.4 Backpropagation
- 3.5 The value of depth
- 3.6 Training protocols
- 3.7 The benefits of scale
II Deep Models
4 Model Components
- 4.1 The notion of layer
- 4.2 Linear layers
- 4.3 Activation functions
- 4.4 Pooling
- 4.5 Dropout
- 4.6 Normalizing layers
- 4.7 Skip connections
- 4.8 Attention layers
- 4.9 Token embedding
- 4.10 Positional encoding
5 Architectures
- 5.1 Multi-Layer Perceptrons
- 5.2 Convolutional networks
- 5.3 Attention models
III Applications
6 Prediction
- 6.1 Image denoising
- 6.2 Image classification
- 6.3 Object detection
- 6.4 Semantic segmentation
- 6.5 Speech recognition
- 6.6 Text-image representations
- 6.7 Reinforcement learning
7 Synthesis
- 7.1 Text generation
- 7.2 Image generation
8 The Compute Schism
- 8.1 Prompt Engineering
- 8.2 Quantization
- 8.3 Adapters
- 8.4 Model merging
#deeplearning
Forwarded from DeepMind AI Expert (Farzad 🦅)
ویرایش دوم و فیلمهای کلاسی RL از Dimitri P. Bertsekas استاد دانشگاه MIT منتشر شد.
REINFORCEMENT LEARNING AND OPTIMAL CONTROL
BOOKS, VIDEOLECTURES, AND COURSE MATERIAL
https://web.mit.edu/dimitrib/www/RLbook.html
#یادگیری_تقویتی #منابع #کلاس_آموزشی #کتاب
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
REINFORCEMENT LEARNING AND OPTIMAL CONTROL
BOOKS, VIDEOLECTURES, AND COURSE MATERIAL
https://web.mit.edu/dimitrib/www/RLbook.html
#یادگیری_تقویتی #منابع #کلاس_آموزشی #کتاب
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
Forwarded from DeepMind AI Expert (Farzad 🦅)
Deep Learning based Image Segmentation.pdf
9.9 MB
اینم برا کسایی که Image Segmentation سوالات زیادی رو براشون به وجود آورده.
Deep Learning based Image Segmentation
#یادگیری_عمیق #کتابچه #کد #منابع
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
Deep Learning based Image Segmentation
#یادگیری_عمیق #کتابچه #کد #منابع
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
Forwarded from DeepMind AI Expert (Farzad 🦅)
Transformers can be slow for real-time applications like robotics. We study if modern recurrent architectures, like xLSTM and Mamba, can be faster alternatives. Experiments on 432 tasks show that they compare favourably in terms of performance and speed
◾️ A Large Recurrent Action Model: xLSTM enables Fast Inference for Robotics Tasks
#مقاله #ایده_جذاب #رباتیک
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
◾️ A Large Recurrent Action Model: xLSTM enables Fast Inference for Robotics Tasks
#مقاله #ایده_جذاب #رباتیک
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 @AI_Person
👍1