Компания Hyperion Research, по сообщению ресурса HPC Wire, сделала прогноз по мировому рынку облачных HPC-решений. По мнению аналитиков, спрос на такие услуги в ближайшие годы будет быстро расти, что объясняется стремительным внедрением ИИ, генеративных сервисов и других современных решений.
#software #hpc #hyperion #облако #ии #прогноз #llm #инференс
#servernews @servernewsru

https://servernews.ru/1102958/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания M**a поделилась подробностями о следующем собственных ИИ-ускорителей M**a Training and Inference Accelerator. Новый чип отличается более высокой производительностью по сравнению со чипом MTIA v1, представленным в мае прошлого года, и будет играть решающую роль в обеспечении работы ИИ-моделей M**a.
#hardware #ии #ускоритель #ff #инференс
#servernews @servernewsru

https://servernews.ru/1103091/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Kalray объявила о коммерческой доступности новых ускорителей Turbocard4 (TC4). Новинка позиционируется в качестве решения для ускорения работы систем машинного зрения, либо как акселератор «умной» индексации данных.
#hardware #kalray #ускоритель #ии #dpu #инференс #франция
#servernews @servernewsru

https://servernews.ru/1103129/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Стартап в области ИИ Blaize объявил о проведении раунда финансирования, в ходе которого привлечено $106 млн. Деньги предоставили существующие и новые инвесторы, включая Bess Ventures, Franklin Templeton, DENSO, Mercedes Benz, Temasek, Rizvi Traverse, Ava Investors и BurTech LP LLC.
#hardware #ии #финансы #периферийныевычисления #blaize #инференс #ускоритель
#servernews @servernewsru

https://servernews.ru/1104044/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Mozilla анонсировала обновлённую версию инструмента llamafile с индексом 0.8.1. В данном релизе устранены ошибки, из-за которых происходило некорректное распознавание ускорителей AMD на базе GPU. Кроме того, реализованы некоторые другие изменения.
#software #llm #mozilla #opensource #amd #ии #инференс
#servernews @servernewsru

https://servernews.ru/1104042/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Apple занимается разработкой собственных ИИ-полупроводников для дата-центров, передаёт The Wall Street Journal. В перспективе это поможет ей в «гонке вооружений», развернувшейся на рынке ИИ-решений. И у Apple есть ресурсы для создания передовых ИИ-чипов.
#apple #hardware #ии #ускоритель #слухи #инференс #разработка #llm
#servernews @servernewsru

https://servernews.ru/1104418/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания SiPearl уточнила спецификации разрабатываемых ею серверных Arm-процессоров Rhea1, которые будут использоваться, в частности, в составе первого европейского экзафлопсного суперкомпьютера JUPITER, хотя основными чипами в этой системе будут всё же гибридные ускорители NVIDIA GH200. Заодно SiPearl снова сдвинула сроки выхода Rhea1 — изначально первые образцы планировалось представить ещё в 2022 году, а теперь компания говорит уже о 2025-м.
#arm #cpu #hardware #hbm #epi #sipearl #ии #инференс
#servernews @servernewsru

https://servernews.ru/1104880/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Весной прошлого года компания Ampere Computing анонсировала наследников серии процессоров Altra и Altra Max — чипы AmpereOne с более высокими показателями производительности, энергоэффективности и масштабируемости. На момент анонса AmpereOne получили до 192 ядер, восемь каналов DDR5 и 128 линий PCIe 5.0.
#hardware #ampere #ampereone #arm #ии #cpu #инференс
#servernews @servernewsru

https://servernews.ru/1105029/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания EdgeCortix, по сообщению CNX Software, анонсировала ускоритель SAKURA-II Edge AI, предназначенный для выполнения ИИ-задач на периферии. Новинка, как утверждается, способна справляться с обработкой больших языковых моделей (LLM), больших визуальных моделей (LVM) и пр.
#hardware #ии #ускоритель #периферийныевычисления #инференс #edgecortix
#servernews @servernewsru

https://servernews.ru/1105399/?utm_source=nova&utm_medium=tg&utm_campaign=sn

NVIDIA объявила о доступности NVIDIA NIM, микросервисов инференса, которые предоставляют готовые модели в виде заранее оптимизированных контейнеров, доступных для развёртывания в облаках, ЦОД или на рабочих станциях. Это, по словам компании, позволяет разработчикам возможность без труда создавать приложения генеративного ИИ за считанные минуты, хотя ранее на это уходили недели.
#nvidia #ии #software #контейнеризация #инференс #llm #разработка
#servernews @servernewsru

https://servernews.ru/1105815/?utm_source=nova&utm_medium=tg&utm_campaign=sn