Делаем инференс на Nvidia Triton Inference Server
#Python #Машинноеобучение #Искусственныйинтеллект #triton #inference #python #neuralnetworks IV
https://habr.com/ru/post/717890/
#Python #Машинноеобучение #Искусственныйинтеллект #triton #inference #python #neuralnetworks IV
https://habr.com/ru/post/717890/
Хабр
Делаем инференс на Nvidia Triton Inference Server
Вокруг так много фреймворков для инференса нейронных сетей, что сложно понять, какой именно подойдет тебе лучше всего. Я решил, что реализую одну и ту же задачу на нескольких разных технологиях. Так...
Aqueduct: Как мы экономим железо для МЛ-вычислений
#DataEngineering #ml #datascience #gpu #python #inference
https://habr.com/ru/articles/825908/
#DataEngineering #ml #datascience #gpu #python #inference
https://habr.com/ru/articles/825908/
Хабр
Aqueduct: Как мы экономим железо для МЛ-вычислений
Это статья из цикла статей про Aqueduct Aqueduct: Как мы экономим железо для МЛ-вычислений Как мы используем разделяемую память в Aqueduct Привет! Меня зовут Олег Бугримов, я руковожу разработкой в...
Пишем сервис инференса ML-модели на go, на примере BERT-а
#python #golang #onnx #bert #huggingface #ml #inference
https://habr.com/ru/companies/X5Tech/articles/864438/
#python #golang #onnx #bert #huggingface #ml #inference
https://habr.com/ru/companies/X5Tech/articles/864438/
Хабр
Пишем сервис инференса ML-модели на go, на примере BERT-а
Привет, на связи команда аналитиков Х5 Tech. В статье пишем сервис инференса ML-NLP модели на go. Допустим, вам нужно внедрить ML-модель (разработанную/обученную на Рython-фреймворке) в сервис в вашей...
NVidia Triton Inference Server: строим production ML без разработчиков
#selectel #itкомпании #itинфраструктура #облачныесервисы #dataengineering #inference #платформы
https://habr.com/ru/companies/selectel/articles/866256/
#selectel #itкомпании #itинфраструктура #облачныесервисы #dataengineering #inference #платформы
https://habr.com/ru/companies/selectel/articles/866256/
Хабр
Nvidia Triton Inference Server: строим production ML без разработчиков
Привет, Хабр! Меня зовут Антон, я DevOps-инженер в команде Data/ML-продуктов Selectel. В этой статье расскажу про наш новый продукт — Inference-платформу Selectel , а также вызовы, с которыми мы...