doing something
already testing it on squeezeformer train in fp8
Checkpoints: https://huggingface.co/speech-uk/squeezeformer-fp8-sm
Source code: https://github.com/BitingSnakes/squeezeformer-ukrainian
Params: 30M
Quality: 80% (greedy decoder)
Optimizer: mixed Muon + AdamW
Max input: ~3m20s audio in one pass
GPU: H100 in Google Colab
Time: around 3 hours
Dataset: Common Voice v22 (https://huggingface.co/datasets/speech-uk/cv22)
Dtype: FP8
PnC saved (SentencePiece for 128 size).
#asr #ml
Source code: https://github.com/BitingSnakes/squeezeformer-ukrainian
Params: 30M
Quality: 80% (greedy decoder)
Optimizer: mixed Muon + AdamW
Max input: ~3m20s audio in one pass
GPU: H100 in Google Colab
Time: around 3 hours
Dataset: Common Voice v22 (https://huggingface.co/datasets/speech-uk/cv22)
Dtype: FP8
PnC saved (SentencePiece for 128 size).
#asr #ml
In the absence of a library for creating HE AAC files ( https://github.com/ittiam-systems/libxaac ), I created a Rust code base and extensions for Python:
Repo: https://github.com/RustedBytes/xaac-rs
How to use in Python: https://colab.research.google.com/drive/1jsMNIVK33jGuTA_-PfGKbvVuIP1txu1k?usp=sharing
#c #rust #audio
Repo: https://github.com/RustedBytes/xaac-rs
How to use in Python: https://colab.research.google.com/drive/1jsMNIVK33jGuTA_-PfGKbvVuIP1txu1k?usp=sharing
#c #rust #audio
GitHub
GitHub - ittiam-systems/libxaac: Extended HE AAC Encoder and Decoder. Contact: mob-audio@ittiam.com
Extended HE AAC Encoder and Decoder. Contact: mob-audio@ittiam.com - ittiam-systems/libxaac
Forwarded from Lobste.rs
LLVM Discussion Forums
[RFC] JSIR: A High-Level IR for JavaScript
This RFC introduces JSIR, a high-level IR for JavaScript: JSIR preserves all information from the AST and supports high-fidelity round-trip between source ↔ AST ↔ JSIR; JSIR uses MLIR regions to represent control flow structures; JSIR supports dataflow…
https://github.com/dylan-sutton-chavez/edge-python
Discussion: https://discuss.python.org/t/building-a-python-compiler-in-rust-that-runs-faster-than-cpython-with-a-160kb-wasm-binary/106860
#rust #python
Discussion: https://discuss.python.org/t/building-a-python-compiler-in-rust-that-runs-faster-than-cpython-with-a-160kb-wasm-binary/106860
#rust #python
GitHub
GitHub - dylan-sutton-chavez/edge-python: Single-pass SSA bytecode compiler and threaded-code stack VM for a sandboxed Python subset:…
Single-pass SSA bytecode compiler and threaded-code stack VM for a sandboxed Python subset: NaN-boxed values, inline caching, super-instruction fusion, pure-function memoization, mark-sweep GC. Cov...
❤1👍1🔥1
This is result of today's work on optimizing training process for different ASR architectures
The bottleneck was older version of torchaudio where OPUS decoder was not able to load some corrupted files and feature extraction time was not OK
Dataset size: 1200 hours, around 35GB of data
I have solved this by rewriting this pipeline using Rust
Parallelism using rayon helped to utilize all the cores and features are here in 20 minutes (~140GB)
#asr #ml #rust
The bottleneck was older version of torchaudio where OPUS decoder was not able to load some corrupted files and feature extraction time was not OK
Dataset size: 1200 hours, around 35GB of data
I have solved this by rewriting this pipeline using Rust
Parallelism using rayon helped to utilize all the cores and features are here in 20 minutes (~140GB)
#asr #ml #rust
❤4
Forwarded from Yehor Smoliakov
Всім привіт!
Запрошую бажаючих долучитись до тестування https://github.com/RustedBytes/pyregistry
Що це: це легка альтернатива PyPI з вбудованими функціями по скануванню пайтонівських пакетів та коду в них на наявні CVE або інші неприємні штуки.
Всередині вбудований механізм дзеркалення інших пакетів, тому Pyregistry можна використати навіть для закритої мережі. Якщо з'являється якась CVE - проєкт відправить вебхук на вказану адресу.
Також є вбудований чекер на віруси в файлах.
Сам проєкт поширюється як бінарик (бо написаний на Rust), скачати під свою ОС можна тут: https://github.com/RustedBytes/pyregistry/releases/tag/v0.1.1
Цього буде достатньо для початку роботи:
Буду радий конструктивній критиці та зірочці на GitHub, якщо проєкт є корисним для Вас.
Запрошую бажаючих долучитись до тестування https://github.com/RustedBytes/pyregistry
Що це: це легка альтернатива PyPI з вбудованими функціями по скануванню пайтонівських пакетів та коду в них на наявні CVE або інші неприємні штуки.
Всередині вбудований механізм дзеркалення інших пакетів, тому Pyregistry можна використати навіть для закритої мережі. Якщо з'являється якась CVE - проєкт відправить вебхук на вказану адресу.
Також є вбудований чекер на віруси в файлах.
Сам проєкт поширюється як бінарик (бо написаний на Rust), скачати під свою ОС можна тут: https://github.com/RustedBytes/pyregistry/releases/tag/v0.1.1
Цього буде достатньо для початку роботи:
./pyregistry init-config
./pyregistry serve
Буду радий конструктивній критиці та зірочці на GitHub, якщо проєкт є корисним для Вас.
GitHub
GitHub - RustedBytes/pyregistry: PyPI alternative for local usage with package vulnerability scanning
PyPI alternative for local usage with package vulnerability scanning - RustedBytes/pyregistry
🔥7🌚1👨💻1
https://gitlab.com/esr/reposurgeon
really cool tool that ESR made, it gives (a) editing past comments and metadata,
(b) excising commits, (c) coalescing commits, and (d) removing files and
subtrees from repo history
#go
really cool tool that ESR made, it gives (a) editing past comments and metadata,
(b) excising commits, (c) coalescing commits, and (d) removing files and
subtrees from repo history
#go
GitLab
Eric S. Raymond / reposurgeon · GitLab
A tool for editing version-control repositories and translating among different vwersion-control systems. Supports git, bzr, Subversion, darcs, and fossil directly, also hg, SCCS, CVS, RCS, and src through...