Опубликован новый ИИ-бенчмарк MLPerf Tiny Inference от MLCommons, который позволяет оценить производительность устройств с низким энергопотреблением и малыми габаритами на задачах инференса. На данный момент выпущена версия 0.5.
#software #ии #бенчмарк #mlperf #встраиваемаясистема
#servernews
https://servernews.ru/1042275/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Открытый инженерный консорциум MLCommons опубликовал новые результаты MLPerf Training v1.0, набора тестов для оценки производительности машинного обучения. MLPerf Training измеряет время, необходимое для обучения ИИ-моделей до заданного уровня качества работы в различных задачах, включая классификацию изображений, обнаружение объектов, NLP, рекомендации и обучение с подкреплением.
#mlperf #бенчмарк #hardware #ии
#servernews
https://servernews.ru/1043255/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Опубликованы результаты MLPerf HPC 1.0, набора отраслевых тестов для оценки производительности машинного обучения, впервые вышедшего в мае 2018 года. Новые бенчмарки MLPerf касаются вычислений, которые ускоряют и дополняют моделирование на суперкомпьютерах с помощью ИИ. Системы на базе решений NVIDIA победили в четырёх из пяти тестов MLPerf HPC 1.0.
#nvidia #mlperf #hpc #software #бенчмарк #ии
#servernews
https://servernews.ru/1053925/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Платформа Jetson AGX Orin была представлена в конце марта. Как считает NVIDIA, это лучшее компактное, экономичное, но при этом весьма высокопроизводительное решение для робототехники и автономных транспортных средств, использующих современные ИИ-решения. На это у компании есть основания.
#nvidia #инференс #mlperf #ии #бенчмарк #software
#servernews
https://servernews.ru/1063490/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Сегодня вышла очередная версия бенчмарка MLPerf Training для оценки производительности ИИ-ускорителей в различных сценариях, максимально приближённых к реальным. Всего в состав версии 2.0 входит 8 различных тестах в четырёх категориях.
#software #mlperf #nvidia #a100 #бенчмарк #ии
#servernews
https://servernews.ru/1069131/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Бенчмарк MLPerf, а вернее, его набор тестов Training, в основном является вотчиной NVIDIA с небольшими вкраплениями результатов ускорителей иных архитектур вроде Google TPU. Но MLPperf Inference более демократичен. В частности, в последнем раунде v2.1 отметилось сразу несколько новых систем и архитектур.
#hardware #mlperf #инференс #бенчмарк #ускоритель #ии
#servernews
https://servernews.ru/1074011/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Консорциум MLCommons опубликовал результаты отраслевых бенчмарков MLPerf Training 2.1. Набор эталонных тестов MLPerf Training оценивает производительность обучения ML-моделей, которые используются в коммерческих приложениях. Нынешний раунд включает в себя около 200 результатов от 18 различных организаций различных размеров.
#mlperf #бенчмарк #hardware #ии
#servernews
https://servernews.ru/1077279/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Открытый инженерный консорциум MLCommons опубликовал последние результаты ИИ-бенчмарка MLPerf Inference (v3.0). В этот раз поступили заявки на тестирование от 25 компаний, в то время как прошлой осенью в тестировании приняли участие 21 компания и 19 — прошлой весной. Ресурс HPCWire выделили наиболее примечательные результаты и обновления последнего раунда.
#mlperf #бенчмарк #ии #инференс #nvidia #software
#servernews
https://servernews.ru/1084751/?utm_source=nova&utm_medium=tg&utm_campaign=sn

NVIDIA сообщила, что во всех восьми ИИ-бенчмарках MLPerf Training v3.0 её ускорители H100 установили новые рекорды, причём как по отдельности, так и в составе кластеров. В частности, коммерчески доступный кластер из 3584 ускорителей H100, созданным стартапом Inflection AI и облаком CoreWeave, смог завершить обучение ИИ-модели GPT-3 менее чем за 11 минут.
#nvidia #ии #hardware #mlperf #бенчмарк #coreweave #облако #h100 #рекорд #llm
#servernews
https://servernews.ru/1089042/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Группа MLCommons, разработчик набора тестов для ИИ-систем MLPerf, опубликовала результаты MLPerf Training v3.0. Среди протестированных устройств есть и ускорители Habana Gaudi2, и процессоры Intel Xeon Sapphire Rapids.
#hardware #habana #xeon #mlperf #sapphirerapids #intel #бенчмарк #ии
#servernews
https://servernews.ru/1089194/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA сообщила о том, что суперчип NVIDIA GH200 Grace Hopper и ускоритель H100 лидируют во всех тестах производительности ЦОД в бенчмарке MLPerf Inference v3.1 для генеративного ИИ, который включает инференс-задачи в области компьютерного зрения, распознавания речи, обработки медицинских изображений, а также работу с большими языковыми моделями (LLM).
#hardware #nvidia #grace #gh200 #h100 #ии #mlperf #llm #бенчмарк #l4 #nvidiajetson
#servernews @servernewsru

https://servernews.ru/1092799/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Аргоннская национальная лаборатория Министерства энергетики США сообщила о том, что вычислительный комплекс Polaris, предназначенный для решения ИИ-задач, устанавливает высокие стандарты производительности СХД в бенчмарке MLPerf Storage AI.
#hardware #hpc #суперкомпьютер #mlperf #бенчмарк #схд #ии #hpe
#servernews @servernewsru

https://servernews.ru/1092942/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Корпорация Intel обнародовала результаты тестирования ускорителя Habana Gaudi2 в бенчмарке GPT-J (входит в MLPerf Inference v3.1), основанном на большой языковой модели (LLM) с 6 млрд параметров. Полученные данные говорят о том, что это изделие может стать альтернативой решению NVIDIA H100 на ИИ-рынке.
#hardware #intel #habana #инференс #ии #mlperf #бенчмарк
#servernews @servernewsru

https://servernews.ru/1093009/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания DataDirect Networks (DDN), специализирующаяся на платформах хранения данных для НРС-систем, сообщила о том, что её массив AI400X2 NVMe показал высокие результаты в ИИ-бенчмарке MLPerf Storage v0.5 при выполнении задач сегментации изображений и обработки естественного языка.
#hardware #ddn #mlperf #схд #ии #бенчмарк
#servernews @servernewsru

https://servernews.ru/1093073/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Вместе с публикацией результатов MLPerf Traning 3.1 компания NVIDIA официально представила новый ИИ-суперкомпьютер EOS, анонсированный ещё весной прошлого года. Правда, с того момента машина подросла — теперь включает сразу 10 752 ускорителя H100, а её FP8-производительность составляет 42,6 Эфлопс. Более того, практически такая же система есть и в распоряжении Microsoft Azure, и её «кусочек» может арендовать каждый, у кого найдётся достаточная сумма денег.
#hardware #ии #суперкомпьютер #бенчмарк #рекорд #nvidia #h100 #hpc #mlperf
#servernews @servernewsru

https://servernews.ru/1095620/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Консорциум MLCommons обнародовал результаты тестирования различных аппаратных решений в бенчмарке MLPerf Training 3.1, который оценивает производительность на ИИ-операциях. Отмечается, что корпорация Intel смогла существенно увеличить быстродействие своего ускорителя Habana Gaudi2, но безоговорочным лидером остаётся NVIDIA H100.
#hardware #intel #habana #mlperf #ии #бенчмарк
#servernews @servernewsru

https://servernews.ru/1095829/?utm_source=nova&utm_medium=tg&utm_campaign=sn

В рамках SC23 корпорация Intel продемонстрировала ряд любопытных слайдов. На них присутствуют результаты тестирования ускорителя Max 1550 с архитектурой Xe, а также планы относительно следующего поколения ИИ-ускорителей Gaudi.
#hardware #sc23 #intel #intelmax #habana #бенчмарк #hpc #ускоритель #intelxe #falconshores #mlperf #ии
#servernews @servernewsru

https://servernews.ru/1095910/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA опубликовала новые, ещё более впечатляющие результаты в области работы с большими языковыми моделями (LLM) в бенчмарке MLPerf Inference 4.0. За прошедшие полгода и без того высокие результаты, демонстрируемые архитектурой Hopper в инференс-сценариях, удалось улучшить практически втрое. Столь внушительный результат достигнут благодаря как аппаратным улучшениям в ускорителях H200, так и программным оптимизациям.
#software #nvidia #mlperf #ии #инференс #h200 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1102371/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Корпорация Intel сообщила о том, что её ИИ-ускоритель Habana Gaudi2 остаётся единственной альтернативой NVIDIA H100, протестированной в бенчмарке MLPerf Inference 4.0. При этом, как утверждается, Gaudi2 обеспечивает высокое быстродействие в расчёте на доллар, хотя именно чипы NVIDIA являются безоговорочными лидерами.
#software #mlperf #intel #ии #бенчмарк #инференс #habana #xeon
#servernews @servernewsru

https://servernews.ru/1102394/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на этот раз в свежих тестах MLPerf Training v4.0. Так, суперкомпьютер NVIDIA EOS-DFW более чем утроил свою производительность в LLM-тесте на базе GPT-3 175B по сравнению с прошлогодним результатом.
#nvidia #ии #mlperf #software #h200 #h100 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1106360/?utm_source=nova&utm_medium=tg&utm_campaign=sn