Forwarded from Задуха
Я тут дізнався, що можу по секрету розповісти про новий НАЙБІЛЬШИЙ корпус української мови з існуючих!
На 60 BILLION tokens!
КОБЗА - https://huggingface.co/datasets/Goader/kobza
Це не просто корпус - це надія, родючий чорнозем, з якого дадуть паростки численні українські ШІ продукти.
Людина яка подарувала нам цей скарб - Mykola Haltiuk (@xgoader), ще і наш недавній підписник!
На 60 BILLION tokens!
КОБЗА - https://huggingface.co/datasets/Goader/kobza
Це не просто корпус - це надія, родючий чорнозем, з якого дадуть паростки численні українські ШІ продукти.
Людина яка подарувала нам цей скарб - Mykola Haltiuk (@xgoader), ще і наш недавній підписник!
huggingface.co
Goader/kobza · Datasets at Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
🔥5❤1
doing something
#monthly_pain
Remembered that we have this pearl https://github.com/mjun0812/flash-attention-prebuild-wheels
GitHub
GitHub - mjun0812/flash-attention-prebuild-wheels: Provide with pre-build flash-attention 2 and 3 package wheels on Linux and Windows…
Provide with pre-build flash-attention 2 and 3 package wheels on Linux and Windows using GitHub Actions - mjun0812/flash-attention-prebuild-wheels
Задуха
Я тут дізнався, що можу по секрету розповісти про новий НАЙБІЛЬШИЙ корпус української мови з існуючих! На 60 BILLION tokens! КОБЗА - https://huggingface.co/datasets/Goader/kobza Це не просто корпус - це надія, родючий чорнозем, з якого дадуть паростки численні…
Kobza now with Xet Storage, so we have fast downloading of the dataset
👍3
doing something
https://huggingface.co/spaces/Yehor/en-uk-translator Now you can play with the model I will update the checkpoint sometimes #nlp #llm
Updated to v5 (beta)
It was trained on the half of dataset, now translations are better than before
It was trained on the half of dataset, now translations are better than before
doing something
Updated to v4.5 (beta) Mother model also gives some multilingual capabilities #nlp
Also, an example of this behaviour
doing something
https://huggingface.co/spaces/Yehor/en-uk-translator Now you can play with the model I will update the checkpoint sometimes #nlp #llm
This model in quantized variants should be usable on mobile devices