Aspiring Data Science
370 subscribers
425 photos
11 videos
10 files
1.88K links
Заметки экономиста о программировании, прогнозировании и принятии решений, научном методе познания.
Контакт: @fingoldo

I call myself a data scientist because I know just enough math, economics & programming to be dangerous.
Download Telegram
#huang #nvidia

Удивительно, насколько Дженсен в теме про ИИ, графику и железо. Также интересен его подход к управлению компанией.
А ещё он считает, что развитие ИИ вовсе не приведёт к безработице - напротив, с увеличением производительности компании станут больше нанимать для более глубоких исследований.

"Дженсен Хуанг родился на Тайване 60 лет назад; когда он был ребёнком, его семья перебралась сначала в Таиланд, а затем в США. Решение о создании NVIDIA было принято в 1993 году на встрече с двумя другими учредителями в ресторане Denny’s в калифорнийском Сан-Хосе. До этого Хуанг успел поработать в AMD и LSI Logic; сейчас же он уверяет, что не стал бы создавать собственную компанию, будь ему снова 30 лет.

В недавнем интервью подкасту Acquired лидер NVIDIA заявил, что главная «сверхспособность» предпринимателя — способность обмануть самого себя и заставить себя поверить, что «не так уж это и сложно». А самый большой его страх — неспособность поддержать сотрудников на пути к успеху, и этот вопрос терзает его с самого основания компании: приходящие в компанию новые сотрудники в итоге начинают верить в её видение и принимают устремления NVIDIA как свои собственные. Налаженная в компании «сеть поддержки» помогла подчиненным ни разу не разочароваться в нём за все 30 лет, говорит Хуанг, и это позволило NVIDIA стать такой, какой она является сегодня."

https://youtu.be/y6NfxiemvHg
#nvidia

"Акции NVIDIA дорожают десятую биржевую сессию подряд, что является самым продолжительным периодом роста с момента рекордного скачка в декабре 2016 года. В ходе этих сессий ценные бумаги выросли на 20 %, увеличив рыночную стоимость компании примерно на $200 млрд. Вчерашний анонса обновлённого ИИ-ускорителя NVIDIA H200 лишь подстегнул рост — за день акции выросли на 7 %. С начала года акции NVIDIA выросли на 230 %, что сделало их самыми эффективными как в Nasdaq 100, так и в S&P 500."

https://3dnews.ru/1095958/s-nachala-goda-aktsii-nvidia-podorogali-na-230-a-kapitalizatsiya-na-poslednih-torgah-virosla-na-200-milliardov-dollarov
#nvidia #cuda

В AMD продолжают рвать волосы под мышками от зависти, видимо. Как же так, карл, наши видеокарточки ведь ничем не хуже по железу, а поди-ка ты, никому и нахрен не нужны, кроме геймеров...

"Аналитики полагают, что продажи ускорителей NVIDIA H100 и A100 превысят полмиллиона единиц в четвертом квартале 2023 года. Между тем, спрос на H100 и A100 настолько велик, что срок поставки серверов на базе этих GPU достигает 52 недель. В то же время Omdia сообщает, что в целом объём поставок серверов в 2023 году сократится на 17–20 % по сравнению с прошлым годом, но при этом выручка в этом направлении вырастет на 6–8 % в годовом исчислении.

Следует также отметить, что многие из крупнейших покупателей специализированных ускорителей NVIDIA H100 и A100 сами разрабатывают собственные специализированные GPU для задач ИИ, высокопроизводительных вычислений и графики. Поэтому в перспективе объёмы закупок оборудования у NVIDIA этими компаниями снизятся по мере перехода на собственные решения.

Эксперты Omdia считают, что крупнейшими покупателями графических ускорителей NVIDIA H100 являются компании Meta и Microsoft. По мнению аналитиков, каждая из них закупила по 150 тыс. указанных ускорителей. В свою очередь Google, Amazon, Oracle и Tencent купили по 50 тыс. указанных специализированных ускорителей. Примечательно, что основная часть серверных ускорителей поставляется операторам гипермасштабируемых облачных услуг. В свою очередь, OEM-производители серверов (Dell, Lenovo, HPE) пока не могут забронировать достаточное количество графических процессоров для ИИ и высокопроизводительных вычислений, чтобы выполнить свои заказы на поставки серверов, утверждают специалисты Omdia."

https://3dnews.ru/1096589/nvidia-prodala-pochti-polmilliona-spetsializirovannih-iiuskoriteley-v-tretem-kvartale-utvergdayut-analitiki-omdia
👍1
#amd #nvidia #benchmarks

Неужели Нвидия смухлевала в тестах?

"По словам AMD, свои данные NVIDIA приводит:
на основе тестов H100 с библиотеками TensorRT-LLM вместо библиотек vLLM, которые использовались для тестов ускорителей AMD;
сравнивает производительность ускорителей AMD Instinct MI300X в вычислениях на числах FP16, а для тестов своих H100 использует данные типа FP8;
в графиках инвертировала данные AMD об относительной задержке в показатель абсолютной пропускной способности.

Согласно новым тестам AMD, её ускорители MI300X, работающие с библиотеками vLLM, на 30 % производительнее ускорителей NVIDIA H100, даже если последние работают с библиотеками TensorRT-LLM. "

https://3dnews.ru/1097567/amd-otvetila-na-zayavleniya-nvidia-uskoriteli-mi300x-bistree-h100-na-30-dage-v-optimizirovannih-sredah-ispolzovaniya
#nvidia

"Акции NVIDIA подорожали до $705,43 за штуку, так что движение вверх продолжилось после небольшой коррекции, наблюдавшейся днём ранее. На этом уровне NVIDIA по капитализации уже близка к Amazon с его $1,767 трлн, да и до Google остаётся не так много, не более 6 %. Напомним, что по состоянию на конец января NVIDIA являлась шестой по величине капитализацией компанией в мире среди представителей всех отраслей экономики. Если ей удастся в ближайшей перспективе обойти Amazon и Alphabet (Google), то она окажется на четвёртом месте. Кстати, истории уже известны случаи, когда NVIDIA обходила Amazon по капитализации. Например, в 2002 году обе компании стоили примерно по $6 млрд от силы."

https://3dnews.ru/1099985/nvidia-pochti-dognala-po-kapitalizatsii-amazon-preodolev-otmetku-v-17-trln
#nvidia

"Новую неделю акции NVIDIA продолжили дальнейшим ростом от отметки в $2 трлн капитализации, которая была достигнута в конце прошлой недели. Укрепившись в цене на 3,61 % до $852,52 за штуку, акции компании сделали её третьей в мире по величине капитализации, позволив обойти в мировом рейтинге Saudi Aramco, чья капитализация опустилась до $2,01 трлн."

https://3dnews.ru/1101210/pri-kapitalizatsii-213-trln-kompaniya-nvidia-stala-tretey-v-mire-po-velichine
#nvidia

Охренеть.

"Компания NVIDIA близка к тому, чтобы опередить по рыночной стоимости Apple и занять второе место в рейтинге самых крупных по рыночной капитализации компаний в мире, уступая лишь Microsoft. В настоящее время стоимость активов NVIDIA находится в районе $2,38 трлн, отставая от Apple примерно на $230 млрд и от занимающей первую позицию Microsoft примерно на $645 млрд.

Благодаря буму на рынке ИИ рыночная стоимость NVIDIA всего за 9 месяцев выросла с $1 трлн до более чем $2 трлн, обогнав на пути к вершинам рейтинга Amazon, Alphabet и Saudi Aramco. Неустанный рост акций NVIDIA, занимающей 80 % рынка высокопроизводительных ИИ-чипов, обеспечил ей более 5 % удельного веса в фондовом индексе S&P 500. В последние недели NVIDIA также заместила Tesla в качестве обладателя наиболее торгуемых акций Уолл-стрит."

https://3dnews.ru/1101458/nvidia-gotova-operedit-po-rinochnoy-stoimosti-apple-stolknuvsheysya-s-zamedleniem-prodag-iphone
#nvidia #salaries

"Из-за высокого спроса на ИИ-ускорители её акции в минувшем году подорожали втрое — Nvidia стала третьей по величине компанией в мире после Microsoft и Apple. Рост цен на акции Nvidia также увеличил личное состояние Хуанга — сейчас он занимает 18 место в списке богатейших людей в мире по версии Bloomberg Billionaires Index с $80,5 млрд, потому что ему принадлежат 3,8 % акций компании.

Гендиректор — не единственный руководитель Nvidia, чья зарплата значительно выросла за год. Компенсационный пакет финансового директора компании Колетт Кресс (Colette Kress) увеличился на 22 % до $13,3 млн. Поднялась зарплата и рядовых сотрудников: в 2024 финансовом году средний работник компании получил $266 939, что на 17 % больше, чем годом ранее. За последние 12 месяцев акции компании подорожали более чем на 200 %, а с начала этого года они поднялись в цене на 85 %."

https://3dnews.ru/1104857/nvidia-podnyala-zarplatu-gendirektoru-dgensenu-huangu-na-60-do-34-millionov-za-god
#nvidia

"Стоимость Nvidia достигла астрономической отметки в $2,59 триллиона. Это ставит компанию на третье место среди публичных акционерных компаний после Microsoft и Apple.

Более того, капитализация Nvidia уже превзошла совокупную стоимость всех компаний, торгующихся на Франкфуртской фондовой бирже в Германии. А $2,59 триллиона — это больше, чем весь валовый внутренний продукт таких крупных стран, как Канада, Бразилия и Россия.

Как отмечает «Коммерсант», резкому росту акций предшествовала публикация накануне, в понедельник, впечатляющих финансовых показателей. Квартальная выручка взлетела на 262 % по сравнению с аналогичным периодом прошлого года и составила $26 млрд, а чистая прибыль выросла еще более внушительно на 628 %, достигнув $14,9 млрд.

Аналитики объясняют стремительный взлет прибыли и капитализации Nvidia высочайшим спросом на оборудование для искусственного интеллекта и машинного обучения."

https://3dnews.ru/1105413/nvidia-prevzoshla-po-rinochnoy-kapitalizatsii-vvp-rossii-dostignuv-259-trln
#nvidia

"В 2026 году Nvidia планирует сделать сразу несколько крупных анонсов. Во-первых, будет представлен новый графический чип Rubin с памятью HBM4. Во-вторых, появится центральный процессор Vera, который придёт на смену нынешнему Grace. Таким образом, флагманское решение 2026 года получит название Vera Rubin — это будет суперчип, связка GPU+CPU, аналогично актуальному Grace Hopper. Кроме того, пропускная способность запатентованной Nvidia технологии интерконнекта NVLink будет удвоена до 3,6 Тбит/с (NVLink 6 против NVLink 5).

На 2027 год запланирован выход улучшенной версии Rubin Ultra с HBM4 с 12 кристаллами в стеке вместо 8. Как подчёркивает Хуанг, Nvidia намерена выжимать максимум из доступных на данный момент производственных техпроцессов, чтобы каждый год выводить на рынок новые флагманские решения, работающие на пределе возможного. По словам Дженсена Хуанга, именно такая стратегия непрерывного совершенствования позволит компании сохранять лидерство в сфере решений для дата-центров."

https://3dnews.ru/1105827/nvidia-predstavila-dorognuyu-kartu-i-poobeshchala-vigat-iz-tehprotsessov-maksimum
#nvidia

"Обогнав по капитализации Apple, Nvidia заняла второе место в списке крупнейших публичных компаний мира, уступая по этому показателю лишь Microsoft. Достижение Nvidia очередной раз демонстрирует впечатляющую динамику роста стоимости её акций. За последние пять лет они выросли более чем на 3224 %. В ближайшие дни компания также планирует провести дробление акций в соотношении 10 к 1.

Ранее первой американской компанией, достигшей уровня капитализации в 3 триллиона долларов, стал Apple. Эта веха была достигнута в январе 2022 года в ходе торговой сессии. В январе 2024 года к ним присоединилась Microsoft. А Nvidia, основанная в 1993 году, преодолела рубеж в 2 триллиона долларов в феврале текущего года. Потребовалось чуть меньше трёх месяцев, чтобы добавить к этой сумме ещё один триллион, сообщает CNBC.

В мае компания опубликовала финансовые результаты за первый квартал, которые продемонстрировали сохраняющийся бум спроса на дорогостоящие и мощные графические процессоры компании (GPU). При этом выручка Nvidia по итогам квартала составила 26 миллиардов долларов, что более чем в три раза превышает показатель годичной давности. Кроме того, компания превзошла ожидания Уолл-стрит по продажам и прибыли. В текущем квартале прогнозируется выручка на уровне 28 миллиардов долларов."

https://3dnews.ru/1106040/nvidia-obognala-apple-po-kapitalizatsii-i-dostigla-3-trln-na-fone-buma-ii
#nvidia #routing #tsp #vrp #cuopt

Привлекло внимание, что в рамках NVIDIA NIM Agent Blueprint Нвидия предлагет решение по оптимизации маршрутов. Сольвер cuOpt теперь развёрнут в облаке (видимо, по подписке).

"One of the biggest challenges in the commercial fleet industry is routing optimization. This is prevalent in many industries, where determining the most cost-effective route can contribute significant cost savings for meal delivery where a single restaurant franchise can deliver millions of meals a day, or a telecommunications company that dispatches millions of jobs per year. In these types of large scale scenarios, inefficient routes can cost billions of dollars in operational costs as well as reduce our environmental carbon footprint. A computational solver can minimize these inefficiencies by finding the most optimal routes across a list of locations. Computational CPU based solvers are available today but using the massive throughput of GPU acceleration, more ambitious algorithms will help fuel our future.

Route optimization problems such as those described above are commonly known as the Traveling Salesperson (TSP) problem. To reduce the time to develop a GPU accelerated TSP solution, NVIDIA has developed the route optimization AI workflow to streamline development of Vehicle Routing Problem (VRP) solutions."

https://docs.nvidia.com/ai-enterprise/workflows-route-optimization/0.1.0/technical-brief.html
#nvidia #jobs

"Вассер, последние четверть века проработавший в Cisco, в 2019 году был назван в блоге компании «главным изобретателем» — на его счету 483 патента, связанных с ключевыми технологиями, от машинного обучения и ИИ в сфере безопасности на предприятиях до Интернета вещей. В должности вице-президента он, по его словам, руководил разработкой LLM и спецификаций вариантов использования генеративного ИИ, тюнингом моделей и RAG и др. Ранее Вассер занимал руководящие посты, связанные с работой над прогностическими сетями, IoT и распознаванием киберугроз. Кроме того, он возглавлял рабочие группы в IEEE и IETF и приложил руку к созданию сетевых стандартов.

Уходя из Cisco пару недель назад, Вассер напомнил о том, что именно он содействовал рождению и бурному росту интернета, в развитие которого именно Cisco в своё время внесла значительный вклад. Теперь талантливый изобретатель заявляет, что его «невероятно вдохновляют» перспективы NVIDIA и он рад присоединиться к талантливой команде."

https://servernews.ru/1111959
1
#jobs #nvidia

"Генеральный директор Nvidia Дженсен Хуанг (Jensen Huang) смог в одиночку сколотить состояние больше, чем стоит вся компания Intel целиком. Личное состояние Хуанга оценивается сейчас в $109,2 млрд, а рыночная капитализация Intel составляет на данный момент порядка $96 млрд, сообщает Tom's Hardware.

Скачок стоимости Nvidia принёс огромную прибыль Хуангу, который напрямую владеет более чем 75 миллионами акций компании, а также ещё 786 миллионами акций через различные трасты и партнёрства. Несмотря на то, что в этом году он продал их на сумму более $700 млн, это лишь капля в море по сравнению с общей оценочной стоимостью его доли в Nvidia, превышающей $100 млрд. Благодаря этому Хуанг поднялся на 11-е место в списке богатейших людей мира по версии Forbes, не дотягивая до попадания в топ-10 менее чем $20 млрд.

Что касается Intel, то эта компания не смогла воспользоваться ИИ-бумом в свою пользу, а её рыночная капитализация значительно снизилась на фоне финансового кризиса, о котором стало известно в августе. В результате акционеры Intel потеряли $39 млрд буквально за одну ночь, а акции компании упали до $22,59 за штуку (менее половины от пиковой стоимости в конце 2023 года). Слухи о возможном исключении Intel из индекса Dow Jones Industrial Average только усугубляют ситуацию."

https://3dnews.ru/1112072/sostoyanie-lyubitelya-koganih-kurtok-dgensena-huanga-iz-nvidia-previsilo-rinochnuyu-kapitalizatsiyu-intel
#stocks #nvidia

Шо, опять вставать в лонг по ним?!

"За последний месяц акции Nvidia выросли на 25 % и приблизились к рекордным значениям. Это произошло на фоне ожиданий инвесторами отчётности крупнейших технологических компаний, таких как Meta, Microsoft и Alphabet, которые вскоре расскажут о своём развитии в области ИИ. Эти данные могут оказать значительное влияние на позиции Nvidia, учитывая её ключевую роль на рынке графических процессоров (GPU), применяемых для обучения и работы ИИ."

https://3dnews.ru/1112255/aktsii-nvidia-vzleteli-na-25-pered-otchyotnostyu-krupnih-tehnologicheskih-gigantov
#intel #nvidia

"В 2005 году тогдашний глава Intel Пол Отеллини (Paul Otellini) обратился к совету директоров компании с неожиданным предложением — поглотить Nvidia за $20 млрд. Об этом недавно узнала газета New York Times. Сегодня стоимость Nvidia составляет более $3 трлн, а Intel — менее $100 млрд.

Некоторые члены руководства Intel допускали, что разработки Nvidia в перспективе могут сыграть важную роль в центрах обработки данных, и с современным бумом технологий искусственного интеллекта это свершившийся факт, но совет директоров выступил против идеи о поглощении «зелёных». Оно стало бы самым дорогим приобретением Intel, и в компании опасались по поводу интеграции нового приобретения.

Вместо этого совет директоров Intel поддержал проект собственной графической архитектуры Larabee, которым руководил Пэт Гелсингер (Pat Gelsinger), нынешний гендиректор компании. В архитектуре использовались технологии Intel x86, то есть графический процессор имел черты центрального. В итоге Intel закрыла проект, хотя позже и вернулась к графическому направлению с актуальными сегодня проектами Xe и Arc. В области ИИ Intel всё-таки провела несколько поглощений: в 2016 году это были Nervana Systems и Movidius, а в 2019 году — Habana Labs. Но ни одна из них не сравнится с тем, где сегодня оказалась Nvidia с её капитализацией на $3 трлн. Как недорогая альтернатива её ускорителям сегодня позиционируются Intel Gaudi 3, но есть мнение, что свой шанс в области ИИ компания упустила. На массовом рынке уделом Intel остаются компоненты NPU для собственных центральных процессоров.

У компании был и другой шанс заранее занять место в области ИИ — в 2017 и 2018 годах она могла купить долю в OpenAI, когда это был маленький некоммерческий стартап. Но тогдашний гендиректор Боб Свон (Bob Swan) отверг сделку, заявив, что модели ИИ выйдут на широкий рынок ещё нескоро."

https://3dnews.ru/1113046/bivshiy-gendirektor-intel-hotel-kupit-nvidia-za-20-milliardov-segodnya-ona-stoit-bolee-3-trillionov
#llms #ai #deepseek #nvidia

"Всё дело в китайском стартапе DeepSeek, который нашёл способ обучать продвинутые ИИ-модели на малом количестве ускорителей вычислений. Например, при обучении одной из своих моделей на внушительных 685 млрд параметров DeepSeek использовала всего 2048 ИИ-ускорителей Nvidia H800 и потратила $5,6 млн. Это мизерная часть расходов OpenAI и Google на обучение моделей сопоставимого размера.

Кроме того, на прошлой неделе DeepSeek выпустила «рассуждающую» модель ИИ R1, которая превзошла мыслящую OpenAI o1 в важных тестах. Более того, компания опубликовала инструкции, как с минимальными затратами построить большую языковую модель, способную самостоятельно обучаться и совершенствоваться без контроля со стороны человека. Добавим, что многие свои разработки DeepSeek распространяет совершенно бесплатно. Да и платный доступ к наиболее продвинутым её системам оказывается намного дешевле, чем у конкурентов — например, R1 доступна через API компании по цене, которая на 90–95 % ниже, чем у OpenAI o1.

В итоге инвесторы поняли, что нейросети можно обучать не только по схеме «купи и установи как можно больше ускорителей вычислений», но и куда более эффективно на меньшем числе GPU. Это грозит резким падением спроса на продукцию Nvidia, выручка которой более чем на 80 % зависит как раз от ускорителей вычислений.

Ряд аналитиков предрекает Nvidia мрачное будущее и не рекомендуют пока покупать акции компании, хотя цены на них стали заманчивыми. Другие же наоборот уверены, что компания сможет быстро восстановиться, а нынешний спад как раз следует использовать для покупки акций."

https://3dnews.ru/1117353/iipuzir-lopnul-stoimost-nvidia-obvalilas-na-600-mlrd
#stocks #nvidia

"За четыре года рыночная стоимость компании выросла почти в восемь раз — с $500 млрд в 2021 году до почти четырёх триллионов сейчас.

По данным ведущего мирового поставщика инфраструктуры и данных для финансовых рынков LSEG, сейчас Nvidia стоит больше, чем фондовые рынки Канады и Мексики вместе взятые, а также превосходит совокупную капитализацию всех публичных компаний Великобритании. Акции Nvidia торговались с коэффициентом P/E (цена/прибыль) на уровне 32, что ниже среднего показателя в 41 за последние пять лет. Это говорит о том, что рост прибыли компании опережает даже существенное повышение курса её акций."

https://3dnews.ru/1125381/nvidia-segodnya-moget-otobrat-u-apple-zvanie-samoy-dorogoy-kompanii-v-istorii
#nvidia #stocks

Офигеть.

"Nvidia была основана в 1993 году. Первоначально она занималась разработкой видеокарт для игровых компьютеров, но впоследствии стала специализироваться и на создании ИИ-ускорителей — на этом рынке она является ведущим производителем в мире. Отметку в $2 трлн она впервые преодолела в феврале 2024 года и достигла показателя в $3 трлн в июне того же года. До этого ближе всех к отметке $4 трлн удалось подобраться Apple, рыночная капитализация которой в декабре 2024 года составила $3,915 трлн.

На текущий момент рыночную капитализацию более $1 трлн имеют следующие технологические компании: Microsoft ($3,756 трлн), Apple ($3,137 трлн), Amazon ($2,369 трлн), Alphabet ($2,151 трлн), Meta ($1,842 трлн), Broadcom ($1,304 трлн) и TSMC ($1,199 трлн). Рыночная капитализация Tesla, которую традиционно причисляют к «клубу триллионеров», сейчас составляет $961,89 млрд."

https://3dnews.ru/1125697/nvidia-pervoy-kompaniey-v-istorii-s-kapitalizatsiey-4-trilliona