doing something
710 subscribers
909 photos
36 videos
36 files
1.94K links
@smlkw doing something, just my notes to keep updates
Download Telegram
Let's cook, guys

#ai #speech
🔥1
Polars even helps to code

#ai #polars
❤2
👍1🔥1
Batch inference using vllm

#ai #vllm #speech
doing something
Batch inference using vllm #ai #vllm #speech
Added batch mode calculation to https://huggingface.co/spaces/Yehor/evaluate-asr-outputs

Btw, batched vllm inference gives better RTF for Whisper

#asr #ai #speech
GitHub Copilot already has new Sonnet models

#ai
vllm + A100 (40 GB in Google Colab) + https://huggingface.co/Yehor/whisper-large-v3-turbo-quantized-uk using batch_size=128

#ai #speech #whisper
🔥2
Forwarded from Yehor Smoliakov
Що ж, підготовка до інференсу великих датасетів готова.

Далі сам інференс та вирівнювання даних для створення якісного speech to text датасету.

Якщо бажаєте зробити донат на хмарні GPU, ось банка:

🔗Посилання на банку
https://send.monobank.ua/jar/3Saxixsdua

💳Номер картки банки
5375 4112 0249 3776

—

Результати будуть опубліковані під відкритими ліцензіями 😎
👍2