مقاله روی زبان فارسی فاین
PersianLLaMA: Towards Building First Persian Large Language Model

https://arxiv.org/abs/2312.15713

https://github.com/hooshvare/parsgpt

from transformers import pipeline
import hazm


normalizer = hazm.Normalizer(persian_numbers=False)

def normalize_input(text):
    text = normalizer.normalize(text)
    return text

def sents_as_output(text, num_sents=1):
    sents = hazm.sent_tokenize(text)
    if num_sents > 0:
        return " ".join(sents[:num_sents])
    return " ".join(sents[0])


generator = pipeline('text-generation', "HooshvareLab/gpt2-fa")
text = "در یک اتفاق شگفت انگیز، پژوهشگران"
text = normalize_input(text)

outputs = generator(text)
for output in outputs:
    generated = output["generated_text"]
    print(sents_as_output(generated))

خروجى:

در یک اتفاق شگفت انگیز، پژوهشگران قصد دارند با استفاده از داده‌های حاصل از چندین تلسکوپ، عکس‌هایی با وضوح مختلف از سیاره‌ی مشتری و زحل تهیه کنند

دوتا روش حل دارد

Linear SVM

RBF SVM

Linear SVM vs RBF

In Support Vector Machines (SVM), the choice between linear kernel and a Radial Basis Function (RBF) kernel depends on the data and the problem at hand. Here’s a brief comparison:
• Linear Kernel:
◦ It is a linear model.
◦ Works well when there are a lot of features, and the data is linearly separable.
◦ Faster to compute and may perform better when the number of features is very large1.
• RBF Kernel:
◦ It can handle non-linear data.
◦ Uses normal curves around the data points to define a decision boundary.
◦ Typically requires more computational resources but can capture more complex relationships2.

linear_svc = svm.SVC(kernel='linear')
linear_svc.kernel
rbf_svc = svm.SVC(kernel='rbf')
rbf_svc.kernel

Output:

'linear'
'rbf'

Understanding the black-box calculations on Neural Networks

ObjectDrop: automagical objects removal

Google unveils ObjectDrop, the new SOTA in photorealistic object removal and insertion. Focus on shadows and reflections, impressive!

Review https://t.ly/ZJ6NN
Paper https://arxiv.org/pdf/2403.18818.pdf
Project https://objectdrop.github.io/

ميتونيد به صورت دياگرام مدل شبكه عصبى بسازيد


http://alexlenail.me/NN-SVG/

https://github.com/alexlenail/NN-SVG

All You Need is SAM (+Flow)

Oxford unveils the new SOTA for moving object segmentation via SAM + Optical Flow. Two novel models & Source Code announced


Paper https://lnkd.in/d4XqkEGF
Project https://lnkd.in/dHpmx3FF
Repo coming: https://github.com/Jyxarthur/

شامل اطلاعات فروش و مشخصات 2.4 میلیون محصول موجود در سایت باسلام
به همراه دیتاست 3.3 میلیونی کامنت های محصولات.

 هم اکنون دانلود کنید: 
این مجموعه داده در Kaggle و Hugging Face قابل دسترسی است.

 ⬇ لینک دانلود از Kaggle:

https://www.kaggle.com/datasets/radeai/basalam-comments-and-products

 ⬇ لینک دانلود از Hugging Face: 

https://huggingface.co/datasets/RadeAI/BaSalam_comments_products

جزوه ماشین لرنینگ و دیپ لرنینگ ( cheat sheets)

سلام بچه ها
اين كد من در كگل هستش تا جاى كه تلاش كردم درصد دقت رو رسوندم ٠.٨٩١
همچنان تلاشمو ميكنم
درهرصورت اين ديتا بسيار چالشى و پر حجم هستش
تجربه ى من كه بهتون ميگم يه سرى كتابخانه ها تست كردم همچنين هايپرپارامتر تنظيم كردم به لطف استاد
و تنها دوتا مدل رو تونستم خوب نتيجه بيارم يكى lbgm و xgboost
اين بار catboost رو تست كردم ولى به نظرم كافى نبود در هرصورت تلاشمو ميكنم از اين بهتر نتيجه بدست بيارم
تنها يه مشكلى كه هست sklearn هستش كه كودا نداره من چندين مدل كلاسيفيكشن رو تست كردم بسيار زمان برد پيشنهاد نميكنم اگه بخواييد ديتاى پرحجم رو ترين كنيد و بعد از اينكه ترين كردم درصد دقت اونقدر جالب نبود شايد با هايپرپارامتر نياز داشت كه تنظيم شه ولي اونقدر طول ميكشه كه ارزش نداره
اميدوارم اين مورد براتون مفيد باشه لينك كد من رو زير ميزارم براتون با تشكر 🙏

https://www.kaggle.com/code/mehdimiravareh/lgbm-xgb-acc-89

بهبود سرعت Pandas تا 20 برابر بیش‌تر!
با ابزار FireDucks
فقط با تغییر یک خط کد

اگه همیشه با محدودیت‌های Pandas مثل استفاده از تک هسته CPU یا عملکرد کند مواجه بودین، FireDucks مشکل رو حل کرده! این ابزار جایگزین بهینه‌شده Pandas هست که همون API رو استفاده می‌کنه، ولی تا 20 برابر سریع‌تر عمل می‌کنه. راه‌های استفاده از FireDucks خیلی ساده‌ است.

سه روش استفاده از FireDucks :

اول می‌تونین با دستور %load_ext fireducks.pandas به همراه import pandas as pd ،FireDucks رو به کدتون اضافه کنین.

کافیه به جای Pandas ،FireDucks رو مستقیم ایمپورت کنین: import fireducks.pandas as pd.

اگه اسکریپت پایتون دارین، می‌تونین با این دستور اجراش کنین:

python3 -m fireducks.pandas code.py.


این ابزار خیلی سریع‌تر از Pandas و حتی Polars عمل می‌کنه

┌ FireDucks
├ Documentation
├ Article
├ Google Colab
└ GitHub-Repos

معرفی سایت nn.labml.ai
در این سایت پیاده سازی #پایتورچ مدل ها و الگوریتم های مهم هوش مصنوعی به همراه توضیح خط به خط کد و فرمول های ریاضی به کار رفته در کد مقالات است.
و منبع عالی برای #کدخوانی #مقالات هست.
لیست موضوعات پیاده سازی شده در این سایت:
✨ Transformers
✨ Low-Rank Adaptation (LoRA)
✨Eleuther GPT-NeoX
✨Diffusion models
✨Generative Adversarial Networks
✨Recurrent Highway Networks
✨ LSTM
✨ HyperNetworks - HyperLSTM
✨ ResNet
✨ ConvMixer
✨ Capsule Networks
✨ U-Net
✨ Sketch RNN
✨ Graph Neural Networks
✨ Reinforcement Learning
✨ Counterfactual Regret Minimization (CFR)
✨ Optimizers
✨ Normalization Layers
✨ Distillation
✨ Adaptive Computation
✨ Uncertainty
✨ Activations
✨ Language Model Sampling
✨ Scalable Training/Inference
#منابع #هوش_مصنوعی
#مقاله_خوانی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

PyTorch 2.5 is here 🔥

We are excited to announce the release of PyTorch® 2.5 featuring:

🔥 a new CuDNN backend for SDPA, enabling speedups by default for users of SDPA on H100s or newer GPUs
🔥 regional compilation of torch.compile, offering a way to reduce the cold start up time for torch.compile by allowing users to compile a repeated nn.Module (e.g. a transformer layer in LLM) without recompilations
🔥 TorchInductor CPP backend offering solid performance speedup with numerous enhancements like FP16 support, CPP wrapper, AOT-Inductor mode, and max-autotune mode

Read more in our PyTorch 2.5 Release Blog: https://pytorch.org/blog/pytorch2-5/?utm_content=312749700&utm_medium=social&utm_source=linkedin&hss_channel=lcp-78618366

https://fleuret.org/public/lbdl.pdf


== Table of Content ==

I Foundations
1 Machine Learning
- 1.1 Learning from data
- 1.2 Basis function regression
- 1.3 Under and overfitting
- 1.4 Categories of models

2 Efficient Computation
- 2.1 GPUs, TPUs, and batches
- 2.2 Tensors

3 Training
- 3.1 Losses
- 3.2 Autoregressive models
- 3.3 Gradient descent
- 3.4 Backpropagation
- 3.5 The value of depth
- 3.6 Training protocols
- 3.7 The benefits of scale

II Deep Models
4 Model Components
- 4.1 The notion of layer
- 4.2 Linear layers
- 4.3 Activation functions
- 4.4 Pooling
- 4.5 Dropout
- 4.6 Normalizing layers
- 4.7 Skip connections
- 4.8 Attention layers
- 4.9 Token embedding
- 4.10 Positional encoding

5 Architectures
- 5.1 Multi-Layer Perceptrons
- 5.2 Convolutional networks
- 5.3 Attention models

III Applications
6 Prediction
- 6.1 Image denoising
- 6.2 Image classification
- 6.3 Object detection
- 6.4 Semantic segmentation
- 6.5 Speech recognition
- 6.6 Text-image representations
- 6.7 Reinforcement learning

7 Synthesis
- 7.1 Text generation
- 7.2 Image generation

8 The Compute Schism
- 8.1 Prompt Engineering
- 8.2 Quantization
- 8.3 Adapters
- 8.4 Model merging

#deeplearning

ویرایش دوم و فیلمهای کلاسی RL از Dimitri P. Bertsekas استاد دانشگاه MIT منتشر شد.

REINFORCEMENT LEARNING AND OPTIMAL CONTROL
BOOKS, VIDEOLECTURES, AND COURSE MATERIAL

https://web.mit.edu/dimitrib/www/RLbook.html

#یادگیری_تقویتی #منابع #کلاس_آموزشی #کتاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

🎁Recurrent Neural Network
#RNN
#ML