GPU Intel Gaudi 2 тренерует ИИ Stability AI на 55 % быстрее чем NVIDIA H100.

Компания Stability AI показала результаты GPU Intel Gaudi 2 в сравнении с NVIDIA H100. Intel оказалась победителем.

В сравнительном анализе были использованы две собственные модели и Stable Diffusion 3 на самых продвинутых GPU NVIDIA и Intel.

Даже в базовом исполнении Gaudi 2 выдал 927 единиц производительности, тогда как популярные H100 и A100 работали на уровне 595 единиц и 381 единиц соответственно. Максимальная версия адаптера Intel работает еще быстрее — в этой же задаче он выдает 1254 единиц производительности и оказывается на 56 % быстрее, чем NVIDIA H100.

С масштабированием задачи разница только увеличивается. При 32 запущенных задачах Intel Gaudi 2 выдает почти 50 единиц производительности, тогда как прямой конкурент оказывается 3,16 раза медленнее.

В реальном использовании NVIDIA будет быстрее, так как для вычислений фирменные адаптеры используют ядра Tensor.

Однако, не смотря на инновации Intel и AMD, ФРС США всё равно в невероятном темпе печатает деньги напрямую в Nvidia, что выливается в памп Битка в 70к и Кефира в 4к за. Кто-то в правительстве США пилит деньги быстрее чем их успевают печатать ...

#intel #Nvidia #ИИ

🔥 AMD нацелилась на рынок искусственного интеллекта, представив серию Versal AI Edge Gen 2

AMD представила новое поколение адаптивных чипов Versal AI Edge Series Gen 2 и Versal Prime Series Gen 2, специально разработанных для удовлетворения растущих потребностей в искусственном интеллекте. Эти чипы обещают в три раза большую производительность по сравнению с предыдущим поколением и оснащены «высокопроизводительными» процессорами ARM, обеспечивая в 10 раз более высокую скалярную вычислительную мощность.

Чипы Versal AI Gen 2 имеют разнообразные конфигурации CPU с восемью процессорами Cortex A78AE и десятью ядрами Cortex R52, а также графический процессор ARM Mali-G78AE для работы с дисплеями. Хотя компания не раскрыла многих подробностей о новой серии Versal, ожидается, что платформа предложит ряд обновлений для подключения и поддержку контроллеров памяти DDR5/LPDDR5X для более широкого внедрения.

#AMD #Процессор #ИИ

⚡️NVIDIA стала самой дорогой компанией в мире, её капитализация – более 3.2 триллиона долларов. На втором месте – Microsoft, третьем – Apple.

+50$ к цене каждой видеокарты в честь праздника

#Nvidia #Куртка #ИИ

💎 Samsung решила начать производство собственных видеокарт — IT Home.

💥 Samsung может бросить силы на производство собственных видеокарт.19 марта этого совет директоров компании принял решение инвестировать в графические процессоры. Об этом сообщили корейская СМИ под названием Bloter.

🎫 Существует два сценария развития событий:

☝️Первый — производитель уже имеет опыт работы с GPU и недавно сотрудничал с AMD в рамках разработки графики для мобильного чипсета Exynos. Дополнительные инвестиции в эту область могут повысить прибыльность предприятий.

👉🏻Второй — покупка графических процессоров сторонних производителей и углубление в тему высокоскоростных вычислений. Например, компания может выделить большие суммы на развитие нового центра вычислений в Хвасоне, который был достроен в апреле.

💭 Какой вектор развития событий выберет Samsung - игорькам пока непонятно, но было бы здорово увидеть десктопные видеокарты от Южнокорейского гиганта.

#Samsung #ИИ #Видеокарта

💎 TSMC планирует повысить цены на передовые техпроцессы.

💥 TSMC «снимает сливки» со своих передовых техпроцессов благодаря буму ИИ Куртки. Из-за высокой загрузки мощностей и небывалого спроса тайваньский производитель полупроводников готовится увеличить цены на свои услуги.

🎫 China Times сообщает, что загрузка мощностей TSMC N5/N4/N3 сейчас практически достигла 100 %. Возможно загруженность превысит 100 % во второй половине года. Жёсткий спрос на контрактное производство передовых чипов сохранится и в 2025-м, считают аналитики отрасли. В силу этих обстоятельств, TSMC планирует повысить стоимость производства чипов на 3-нанометровом техпроцессе минимум на 5 %. Стоимость упаковки вырастет на 10–20 % в следующем году.

💭 Техпроцесс N3 и его подтипы полностью зарезервированы Apple и NVIDIA до 2025 года включительно. Корпорация intel также стала пользоваться производственными мощностями TSMC, так и будет вплоть до полного перехода на собственные производственные мощности intel Foundry.

#TSMC #Цены #ИИ

💥 AMD смещает фокус с аппаратных решений на программное обеспечение.

👉🏻 Руководство AMD объявило о масштабных изменениях в своей бизнес-модели.

🎫 AMD раскрыло свои будущие планы. Вице-президент Фил Гвидо и коммерческий директор Джек Хюнь заявили, что бизнес компании подвергнется мощной трансформации — техногигант планирует сместить фокус с создания аппаратных решений на разработку программного обеспечения и искусственного интеллекта.

💭 Раньше компания пыталась угнаться за скоростью вычислений и чистой производительностью компонентов, но этот подход оказался малоэффективным. Сейчас AMD занимает всего четверть рынка серверных CPU и только шестую часть сегмента игровых ускорителей. Теперь AMD будет сначала создавать программные технологии, а уже потом процессоры и видеокарты, оптимизированные для работы с ними. Компания уже увеличила количество специалистов для работы с ПО.

🔻 AMD хочет догнать NVIDIA в плане оптимизации, а также вернуть себе лидирующие позиции на рынке.

#AMD #Nvidia #ИИ

🌐 AMD рвётся в ИИ - компания приобрела европейскую компанию Silo AI.

💰 За европейскую лабораторию ИИ решений AMD отдала 665 млн $ США. В Silo AI работает много ученых и инженеров с опытом разработки инновационных решении ИИ. Компания занималась разработками облачных ИИ решений. Теперь будучи частью красной команды, Silo-AI получит доступ к широкому инструментарию AMD, а также дополнительное финансирование.

«Команда Silo AI, состоящая из экспертов в области ИИ с подтвержденным опытом разработки моделей и решений в области ИИ, включая современные LLM на платформах AMD, станет частью нашей стратегии в области ИИ и поспособствует разработке и быстрому внедрению решений в области ИИ для наших клиентов по всему миру» — заявил Вамси Боппана, вице-президент подразделения ИИ в AMD.

🔻 За последний год AMD инвестировала более 125 миллионов долларов в ИИ-стартапы по всему миру.

💭 Надеемся что данный аттракцион неслыханной щедрости госпожи Лизы Су не превратится в очередную монополию.

#AMD #ИИ #Нейросети

🏆 Илон Маск закупил 100 тысяч NVIDIA H100 для обучения самого мощного ИИ в мире.

💎 Илон Маск сообщил, что самый мощный кластер из карточек Куртки уже запустил новейшую и мощнейшую модель ИИ. Memphis Supercluster, принадлежащий компании xAI, использует 100 тысяч графических процессоров NVIDIA H100 с жидкостным охлаждением на единой RDMA-шине.

💰 Видать Илону Маску было не в терпёжь, и он решил не дожидаться следующего поколения ИИ-ускорителей и остановил выбор на NVIDIA H100. Илон Маск также заявил что его новый ИИ должен завершить обучение к декабрю этого года. Название новой модели ИИ он не озвучил, но скорее всего, речь идет о Grok 3.

🔧 Вычислительные мощности Memphis Supercluster потрясают. Он превосходит самый мощный суперкомпьютер Frontier с 37 888 видеокартами Mi 100 от AMD, а также Аврору со 60 000 карточками Intel, и даже Microsoft Eagle с 14 400 карточками NVIDIA H100.

#Илон #ИИ #Nvidia

🏆 NVIDIA может "инвестировать" в OpenAI порядка 100 млрд $ США

💰 NVIDIA обсуждает участие в новом раунде попила бабла ФРС инвестиций в OpenAI, в результате которого стоимость OpenAI составит более 100 млрд $ США.

🎫 На данный момент самым крупным инвестором OpenAI является Microsoft с долей в 13 млрд $ США. Возможность поучаствовать в "развитии" компании рассматривают Apple и NVIDIA. Куртка готов ворваться с двух ног в прыжке с инвестициями порядка 100 млрд $ США.

💭 NVIDIA также предоставляет критически важную инфраструктуру для разработки и использования инструментов ИИ. В настоящее время это крупнейший производитель ускорителей ИИ, так что от партнерства с этой компанией OpenAI, возможно, выиграет не только в финансовом плане.

💵 OpenAI с декабря обсуждает вопрос привлечения капитала на сумму как минимум 100 млрд $ США.

#Nvidia #ИИ #Openai

🏆 Лиза Су заявила, что впредь AMD это серверная ИИ компания

⚡️ Недавно основными направлениями бизнеса AMD было создание клиентских процессоров для рабочих и игровых ПК. Однако теперь компания получает куда больше прибыли от продаж серверных процессоров EPYC, предназначенных для центров обработки данных.

💭 Об этом инвесторы Goldman Sachs при созвоне с директором компании Лизой Су - двоюродной племянницы Куртки. Лиза сообщила, что теперь серверные решения приносят AMD более половины от всех доходов.

«В последнем квартале сегмент решений для центров обработки данных принес нам более 50 % от всего нашего дохода. Так что теперь мы действительно являемся компанией, ориентированной в первую очередь на центры обработки данных» — Лиза Су.

💰 Общая выручка серверного подразделения AMD за прошлый квартал составила $2,834 млрд. Это почти в два раза больше показателей всего клиентского подразделения AMD ($1,492 млрд) и более чем в четыре раза выше доходов игрового бизнеса компании ($648 млн).

#AMD #ИИ #Нейросети

#ии #цод

Через 5 – 7 лет Россия станет главным вычислительным центром в мире

Из-за взрывного роста проектов на основе искусственного интеллекта во всем мире сейчас наблюдается дефицит высокотехнологичных дата-центров

Главный ресурс для их работы - это энергия

Так, по данным Международного энергетического агентства, к 2026 году энергопотребление в дата-центрах по всему миру вырастет более чем вдвое — почти до тысячи тераватт-часов

А согласно прогнозам международной консалтинговой компании McKinsey, к 2050 г. на ЦОД будет приходиться от 2500 до 4500 тераватт-часов (ТВт·ч), или 5–9% мирового спроса на электроэнергию по сравнению с 1,5% в 2023 г.

Россия сейчас самая богатая энергоресурсами страна

Это даёт возможность строить центры обработки данных

А с развитием отрасли промышленного майнинга процесс пойдет в два раза быстрее. Майнинговые ЦОДы – легко переоборудовать под мощности для ИИ

А возводить их криподобытчики могут где угодно, хоть в самой труднодоступной местности. Например, в районе месторождений нефти. Там еще и электричество на попутном нефтяном газе – дешево, экологично, ПНГ у России много

Много будет и мощностей для ИИ. Хватит не только для внутреннего потребления, но и для международного рынка

Такое сотрудничество промышленных майнеров с энергетиками активно обсуждали на полях Российской энергетической недели

@imaxairu Подписаться