🎙 Распознавание речи без видеокарты? Оказывается, реально
Как только разговор заходит про ИИ, рука сама тянется к GPU — мол, нейросети без видеокарты никуда. А вот и нет.
Архив на 100 000 часов записей один сервер перемалывает за 8 дней. Причём не «технически завелось», а работает бодро — без единого ускорителя.
А что с точностью? Просела ровно на сотую процента: с 2,00 до 2,01% ошибок. Разница, которой можно смело пренебречь.
Если ещё и софт оптимизировать, та же модель на том же железе ускоряется почти втрое. Ноль докупок.
Кому это нужно? Тем, у кого в ИТ-бюджете нет лишних миллионов на GPU: контакт-центрам, медиа с субтитрами, всем, кто гонял распознавание через облако. Расширения
#ИИ #Xeon #CPU
Как только разговор заходит про ИИ, рука сама тянется к GPU — мол, нейросети без видеокарты никуда. А вот и нет.
Архив на 100 000 часов записей один сервер перемалывает за 8 дней. Причём не «технически завелось», а работает бодро — без единого ускорителя.
А что с точностью? Просела ровно на сотую процента: с 2,00 до 2,01% ошибок. Разница, которой можно смело пренебречь.
Если ещё и софт оптимизировать, та же модель на том же железе ускоряется почти втрое. Ноль докупок.
Кому это нужно? Тем, у кого в ИТ-бюджете нет лишних миллионов на GPU: контакт-центрам, медиа с субтитрами, всем, кто гонял распознавание через облако. Расширения
AMX в процессорах Xeon тянут задачу сами — меньше серверов и никаких счетов за поминутную расшифровку в облаке.#ИИ #Xeon #CPU
❤4👍2👏2🥰1🎉1💯1