На GTC 2023 корпорация NVIDIA анонсировала новые ускорители для инференс-систем — сверхмощный H100 NVL и компактный L4. Последний предлагает приличную производительность в форм-факторе HHHL. Google Cloud уже воспользовалась последней новинкой и объявила о доступности инстансов G2 с ускорителями NVIDIA L4.
#hardware #googlecloudplatform #nvidia #l4 #ии #инференс #облако
#servernews
https://servernews.ru/1083920/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA сообщила о том, что суперчип NVIDIA GH200 Grace Hopper и ускоритель H100 лидируют во всех тестах производительности ЦОД в бенчмарке MLPerf Inference v3.1 для генеративного ИИ, который включает инференс-задачи в области компьютерного зрения, распознавания речи, обработки медицинских изображений, а также работу с большими языковыми моделями (LLM).
#hardware #nvidia #grace #gh200 #h100 #ии #mlperf #llm #бенчмарк #l4 #nvidiajetson
#servernews @servernewsru

https://servernews.ru/1092799/?utm_source=nova&utm_medium=tg&utm_campaign=sn