Оновив демонстрацію для нової версії W2V-BERT моделі по розпізнаванню українських аудіо.

Це класична задача Automatic Speech Recognition або Speech to Text.

Що нового в третій версії:

• більше даних: 1200 годин
• новий токенізатор SentencePiece на 512 токенів
• виділення фіч відбувається через розширення на Rust

Факти:

• Трейн був початий з попередньої моделі щоб пришвидшити процес навчання.
• Тренування відбувається на двох відеокартах 3090 по 24 гб кожна.
• Гарно підійде для файн тюну, бо дані в навчанні дуже різноманітні та здебільшого шумні.

Спробувати можна тут:

https://huggingface.co/spaces/Yehor/w2v-bert-uk-v3

Скачати ваги тут:

https://huggingface.co/speech-uk/w2v-bert-v3

Якщо бажаєте підтримати донатом ініціативу speech-uk, ось посилання на монобанку:

https://send.monobank.ua/jar/3Saxixsdua

#asr #ml

Ось тут оптимізований онікс в FP16:

https://huggingface.co/speech-uk/w2v-bert-v3-onnx

Також, пізніше сьогодні буде реліз бібліотеки на Rust та Python для використання цієї моделі.

Доречі, код трейну та інференсу відкритий:

https://github.com/PositiveLoss/squeezeformer-ukrainian

Можете тюнити як завгодно.

Опубліковано:

https://github.com/RustedBytes/w2v-bert-uk

В релізах wheels для Linux, macOS, Windows систем які можна використати в Python проєктах: 3.10+.

• Доступні як біндінги на Rust, так і сам крейт для використання.
• Можна брати FP16 або FP32
• Доступний реранкер для слів на основі KenLM
• Beam Search за замовчуванням
• ONNX Runtime з CPU, CUDA, CoreML бекендами
• Аудіо не треба семплити до 16 kHz, фічарайзер сам зробить це

Якщо знайшли баг, створіть тікет на GitHub

• Колаб з прикладом використання: тиць
• Код із скриптами тренування для файн-тюну: тиць
• Банка для підтримки опен сорсу: тиць

Підписуйтесь на мій тг-блог @doing_something щоб отримувати оновлення. Планується додати ще кілька невеликих моделей для мобільних девайсів, бо цей реліз розрахований на сервери.

Також підписуйтесь на ініціативу на HF: speech-uk

#asr #ml

Додав код для генерації біндінгів для:

• NodeJS
• C#, C, C++
• Java, Kotlin, Scala
• Swift
• Ruby
• Go
• PHP

Інтеграція в інші застосунки стане тривіальною справою.

Повайбкодили...

переписав хату на Rust

В школах та університетах будуть писати про цих піонерів перших українських ЛЛМок:

https://youtu.be/gX5jg2yWRww

Рекомендую до перегляду, технічно та цікаво

Доречі, блог Ганни отут: https://t.me/potuzhno_llm

#llm #nlp

Кодекс побачив що треба перекласти 500 аттерансів на 4 мови і вирішив написати пайтон скрипт для цього.

Тобто автоматизація^2.

#vibe_coding

https://theconsensus.dev/p/2026/04/16/who-even-uses-jemalloc-anyway.html

#core #c

Щось швидко GPT 5.5 "видихся"

Навіяне після теми автоматичного наукового дослідження ака ко-саєнтистів та чату архітекторів @swarchua

Якщо AI так гарно захоплює контекст (exploiter) та вигадує нові підходи (researcher), то я трошки пошаманив над архітектурою ПЗ яку використовують самі агенти для його створення.

Вилилось в цей документ:

https://gist.github.com/egorsmkv/1008d028cb2e8d3a346c3231b446dcc1

#experiment

https://leanpub.com/metapatterns

#se #book

Зробив за кілька годин MVP для цієї ідеї на Rust.

Не думав, що створити агента буде просто :)

Але доволі цікаво. Багато проєктів вже існує для перевірки коду по типу rust-analyzer чи clippy які легко вбудовуються (бо код на Rust) в пайплайн як частина валідації після внесених змін.

Планую додати використання REM2.0 до цього проєкту про який я писав раніше та qualirs.

Ідея використовувати це як звичаний воркфлоу з GitHub Copilot: на issue в репозиторії назначається бот і він по вебхуку запускає агента для виконання задачі (як таска в Actions). Після завершення створюється пулл-реквест.

#experiment