#엔비디아 #AI반도체

https://biz.sbs.co.kr/article/20000147393?division=NAVER

#엔비디아 #중국전용제품

미국 엔비디아가 중국에 고급 게이밍 GPU(그래픽처리장치)의 수정된 버전을 출시했다.

로이터통신에 따르면 엔비디아는 중국에 '지포스(GeForce) RTX 4090D'를 판매한다. 이 칩은 전 세계에서 판매되고 있는 '지포스 RTX 4090' 모델 보다 처리 코어가 10% 정도 낮고, 중국을 대상으로 하는 미국의 수출 통제를 준수하도록 설계됐다.

엔비디아 대변인은 "지포스 RTX 4090D는 미국 정부의 수출 통제를 완전히 준수하도록 설계됐고, 이 제품을 개발하면서 우리는 미국 정부와 폭넓게 협력했다"라며 "1월부터 중국 고객에게 출시될 것"이라고 말했다.

지포스 RTX 4090D는 지난 10월 바이든 행정부가 발표한 수출 규정 이후 엔비디아가 공식적으로 출시한 최초의 중국 중심 칩이다.

앞서 엔비디아가 이전 수출 규정을 준수하며 중국 시장을 위해 개발한 인공지능(AI) 칩인 A800, H800과 최고급 게임 칩인 RTX 4090을 판매했지만 차단됐다. 이에 따라 엔비디아는 신규 수출 규정에 대응해 성능을 한단계 낮춘 버전을 개발 중인 것으로 알려져 있다.

엔비디아는 70억 달러 규모의 중국 AI 칩 시장에서 90% 이상의 점유율을 차지하고 있다. 반도체 분석가들은 미국의 규제가 화웨이 등의 중국 현지 기업에 기회를 창출할 가능성이 있다고 전망한다.

https://zdnet.co.kr/view/?no=20231231085932

#엔비디아 #CES

1) 게임 및 생성 AI 성능 향상된 GeForce RTX 40 SUPER GPU 공개
2) NVIDIA Omniverse를 통해 정교한 차량 랜더링 설계 시뮬레이션
3) 중국 전기 자동차 제조업체인 Li Auto는 차량에 전력 공급을 위해 Nvidia DRIVE Thor 중앙 집중식 자동차 컴퓨터 선택
4) 중국의 EV 제조 업체인 GWM, ZEEKR, Xiaomi는 지능형 자동 운전 시스템 구동을 위해 DRIVE Orin 플랫폼 채택
5) 엔비디아와 자동차에 특화된 대규모 언어 모델 공동 개발하는 Cerence, 폭스바겐과 함께 차량 내 보조장치에 ChatGPT를 통합하기 위해 Cerence Chat Pro를 배포
6) 엔비디아의 CES 특별 연설에서 생성 AI를 로봇 공학에 도입하면서 로봇 구현 능력을 가속화하는 방법을 공유

https://www.fierceelectronics.com/sensors/nvidia-spotlights-ai-impact-gaming-automotive-robotics

#엔비디아 #온디바이스AI

엔비디아는 향후 1년 간 자사 PC용 GPU 이점을 활용할 수 있는 새로운 AI 애플리케이션들이 등장할 것으로 기대하고 있다. 마이크로소프트의 경우 올해말 AI 칩을 보다 잘 활용할 수 있는 차세대 윈도OS 윈도12를 공개할 것으로 보인다.

엔비디이가 PC용 GPU에서도 생성형 AI 지원을 본격화하면서 로컬 AI 시장을 둘러싼 인텔, AMD, 퀄컴 등과의 로컬 AI 경쟁도 고조될 전망이다.

인텔, AMD, 퀄컴도 앞서 머신러닝용 특화 부품을 탑재해 AI PC를 지원할 수 있는 신형 칩들을 공개했다.

오픈AI 챗GPT로 대표되는 클라우드 기반 생성형 AI 서비스들은 엄청난 컴퓨팅 파워를 요구하다 보니 그만큼 비용도 많이 들어가는 구조다. 이런 상황에서 내부에 AI 칩을 탑재한 기기들에서 LLM을 돌리는 있는, 이른바 온디바이스 AI를 향한 관련 업계 움직임도 활발하다.

마이크로소프트, 엔비디아, 인텔, AMD, 퀄컴 등은 이를, AI PC 또는 엣지 컴퓨트(edge compute)로 불리는 해법을 프로모션하고 있다고 CNBC는 전했다.

CNBC에 따르면 엔비디아는 어려운 문제들에는 클라우드 모델을, 빠르게 처리해야 하는 작업에는 로컬 AI 모델을 사용할 것을 제안하고 있다.

https://www.digitaltoday.co.kr/news/articleView.html?idxno=501119

#엔비디아 #인도 #데이터센터

* 인도의 데이터 센터 회사인 Yotta의 Nvidia AI 칩 주문이 10억 달러에 도달

- 인도 데이터 센터 운영업체인 Yotta가 Nvidia로부터 추가 Ai 칩을 구매하려는 계획은 5억 달러 규모. Yotta가 AI 클라우드 서비스를 강화함에 따라 미국 기업과의 총 주문량이 10억 달러로 증가할 전망.

- Yotta의 CEO, 이번 주문은 엔비디아의 인공 지능 칩 H100과 GH200 중 약 16,000개로 구성되며 2025년 3월까지 완료될 것이라 언급

- Yotta는 작년에 엔비다아에 약 16,000개의 H100 칩을 주문, 올해 7월까지 배송될 예정

https://www.reuters.com/technology/india-data-centre-firm-yottas-nvidia-ai-chip-orders-reach-1-bln-ceo-2024-01-11/

#엔비디아 #중국 #규제

* 지난 1년 동안 중국 군대, 국영 인공지능 연구 기관 및 대학은 미국이 중국으로 수출을 금지한 엔비디아 반도체를 소량 구매했다고 로이터가 보도.

- 미국 칩에 대한 중국의 접근을 완전히 차단하는 데 직면한 어려움을 강조
- 공개적으로 이용 가능한 입찰 문서에 따르면 규제가 된 후 수십 개의 중국 기업이 엔비디아 반도체를 구매하고 수령한 것으로 나타남
- A100과 더욱 강력한 H100(2022년 9월 중국과 홍콩으로 수출 금지), 엔비디아가 중국 시장용으로 개발했지만 2023년 10월 금지된 A800 및 H800 칩이 포함됨

https://www.reuters.com/technology/chinas-military-government-acquire-nvidia-chips-despite-us-ban-2024-01-14/

#엔비디아 #GPU #중국

16일 미국 반도체 컨설팅 업체 세미애널리틱스에 따르면, 곧 출시 예정인 엔비디아의 중국용 AI 반도체(H20·L20·L2)는 게임용 그래픽 카드보다 성능이 떨어지는 것으로 조사됐다. 세 가지 중국용 AI 반도체 중 가장 고성능인 H20의 연산 능력은 296TFlops(테라플롭스·1초당 1조번의 연산 처리가 가능한 컴퓨터 성능 단위)로, RTX 4090 게이밍 그래픽 카드(661TFlops)보다 낮다. 엔비디아의 AI 칩 H100(1979TFlops)과 비교하면 H20의 연산 능력은 5분의 1 수준이다.

상황이 이렇자 알리바바와 텐센트 등 중국 빅테크 기업들은 현지에서 AI 칩을 조달하는 대안을 찾아 나섰다. 미국 월스트리트저널(WSJ)은 중국 IT 기업들이 일부 첨단 반도체 주문을 화웨이로 옮겨, 화웨이의 AI 칩 ‘어센드 910B’ 수요가 급증했다고 전했다. 이 칩은 엔비디아 첨단 반도체 A100의 대체재로 개발됐다. 화웨이가 자국 기업들로부터 수주한 어센드 AI 칩은 5000개 이상인 것으로 알려졌다.

그러나 현실적으로 중국산 칩이 엔비디아 AI 칩을 대체하기는 쉽지 않을 것이란 의견이 우세하다. 화웨이가 현재 생산하는 AI 칩의 수율은 20% 수준이라고 대만 디지타임스는 전했다. 화웨이는 올 하반기 새로운 AI 칩을 내놓을 계획이지만, 극자외선(EUV) 장비를 확보하지 못한 채 수율을 끌어올리기는 쉽지 않을 것이란 게 업계 중론이다.

https://biz.chosun.com/it-science/ict/2024/01/16/SKLJ2EM55FGW5F3TFFQ26YOHYY/?utm_source=naver&utm_medium=original&utm_campaign=biz

#중국 #전기차 #니오 #카메라 #자율주행 #엔비디아 #Orin

중국 전기차 기업 니오가 라이다(LiDAR) 없이 카메라로만 주변 물체를 파악하는 비전 기술로 테슬라에 대항한다.

17일 중국 하이브이(HiEV) 다쑤안리(大蒜粒)차연구소는 관계자를 인용해 니오의 서브 브랜드 '알프스(내부 코드명)'가 테슬라와 유사한 순수 비전 솔루션을 채택할 것이라고 보도했다. 스마트 주행 솔루션이 엔비디아의 '오린(Orin) X' 칩만을 기반으로 하며, 라이다도 사용하지 않게 된다.

이같은 내용은 자율주행 기술 방면에서 중요한 변화로 지적되고 있다.

과거 라이다는 자율주행 분야의 핵심 기술로 여겨져왔다. 360도 레이저를 쏴서 주변 물체들과의 고정밀 거리 및 속도 정보를 제공해 차량의 자율주행과 장애물 회피를 지원했다.

https://zdnet.co.kr/view/?no=20240118021659

#엔비디아 #중화권

20일 대만 야시장에서 포착
TSMC 컨퍼런스, 대만 지사 방문할 것으로 알려져
지난 주중에는 중국 내 엔비디아 지사 방문
지난 달 아시아 4개국 방문

https://www.ajunews.com/view/20240121110727467

#SK하이닉스 #북미 #엔비디아 #HBM #루머

- SK하이닉스가 GPU 고객들에게 HBM를 제공하기 위해 미국 인디애나주에 첨단 시설을 계획하고 있는 것으로 알려짐

https://www.digitimes.com/news/a20240202PD204.html

#엔비디아 #인텔 #CPU

* 엔비디아의 자체 CPU Grace Superchip와 인텔의 Sapphire Rapids 벤치마크 비교 분석 기사

- 성능 면에서는 Sapphire Rapids 가 우세하나 전력 소비 등 효율성 측면에서는 Grace Superchip이 우세하다는 결과

- Grace는 Arm 아키텍처를 기반으로 구축된 Nvidia의 최초의 자체 제작 서버 CPU. 72개의 코어와 480GB LPDDR5X 메모리가 함께 제공됨. 단일 Grace GPU를 자체적으로 구매할 수 없지만 Grace-Hopper 프로세서의 Hopper GPU와 함께 기능, 2개의 Grace CPU가 결합된 Grace Superchip을 제공함

https://www.tomshardware.com/pc-components/cpus/nvidia-grace-superchip-loses-to-intel-sapphire-rapids-in-hpc-performance-benchmarks-but-promises-greater-efficiency

#엔비디아 #AI반도체

* Nvidia, 첨단 AI 반도체를 초함해 클라우드 컴퓨팅 기업과 기타 기업을 위한 맞춤형 칩 설계에 초점을 맞춘 새로운 사업부를 구축하고 있다고 전해짐

https://www.reuters.com/technology/nvidia-chases-30-billion-custom-chip-market-with-new-unit-sources-2024-02-09/

#엔비디아 #온디바이스AI #PC

엔비디아, PC에서 쓸 수 있는 맞춤형 챗봇 '챗 위드 RTX' 발표

엔비디아는 사용자만의 콘텐츠로 챗봇을 개인화 할 수 있는 챗 위드 RTX(Chat With RXT)를 제공한다고 14일 밝혔다. 이 ‘챗 위드 RTX’는 최소 8GB의 비디오 메모리를 갖춘 엔비디아 지포스 RTX 30 시리즈 이상의 그래픽처리장치(GPU)가 탑재된 윈도 기반 PC에서 사용할 수 있으며, 무료로 다운로드 가능하다.

사용자들은 메모나 저장해둔 콘텐츠를 검색하는 대신 ‘챗 위드 RTX’를 이용, 간단한 검색어를 입력해 챗봇을 이용할 수 있다. 예를 들어 "라스베가스에 있을 때 내 친구가 추천한 레스토랑이 어디야?"라고 질문하면, 챗 위드 RTX가 사용자가 지정한 로컬 파일을 스캔해 상황에 맞는 답변을 제공한다.

‘챗 위드 RTX’는 일반 텍스트 파일(.txt), PDF, MS워드 문서(doc/docx), xml 등 다양한 파일 형식을 지원하며, 애플리케이션에서 해당 형식의 파일들을 포함한 폴더를 지정하면 빠르게 라이브러리에 로드된다. 또한 유튜브(YouTube) 동영상 혹은 재생 목록의 정보도 포함할 수 있다.

챗 위드 RTX는 PC에서 로컬로 실행되므로 결과가 빠르게 제공되고, 사용자의 데이터는 디바이스에 그대로 유지된다. 또한, 클라우드 기반 LLM 서비스 대신 챗 위드 RTX를 사용하면 민감한 데이터를 제3자와 공유하거나 인터넷에 연결하지 않고도 처리할 수 있다.

한편, 챗 위드 RTX는 깃허브(GitHub)에서 이용할 수 있는 텐서RT-LLM RAG 개발자 레퍼런스 프로젝트를 기반으로 제작됐다. 개발자들은 이 레퍼런스 프로젝트를 통해 텐서RT-LLM으로 가속화된 RTX용 RAG 기반 애플리케이션을 직접 개발하고 배포할 수 있다.

https://it.chosun.com/news/articleView.html?idxno=2023092110203

#엔비디아 #리드타임 #축소 #H100

* UBS에 따르면 Nvidia의 인기 제품인 H100 80GB GPU의 리드타임이 기존 8~11개월에서 3~4개월로 단축되었다고 밝힘

- 엔비디아의 생산 파트너인 TSMC가 CoWoS 패키지 생산 능력을 확장하고 있음을 나타냄

- 리드타임이 짧아짐에 따라 엔비디아는 기존 백로그 + 신규주문에서 신규주문만 대응하게 됨에 따라 매출 감소로 이어질 가능성이 있음

- TSMC는 2024년 말까지 2023년 중반 수준 대비 용량을 두 배로 늘릴 것이라고 밝힘. 혹은 OSAT 파트너들의 CoWoS 용량 확장이 예상보다 빠르게 진행, H100 리드 타임이 단축될 수 있음

- 미국 규제로 인해 H100을 중국에 배송할 수 없어 중국 내 수요가 감소하는 것으로 알려짐에 따라 여분의 H100 물량이 발생할 수 있음.

https://www.tomshardware.com/tech-industry/artificial-intelligence/wait-times-for-nvidias-ai-gpus-eases-to-three-to-four-months-suggesting-peak-in-near-term-growth-the-wait-list-for-an-h100-was-previously-eleven-months-ubs

#엔비디아 #TSMC

* 연례 AI 행사인 엔비디아 GTC(GPU 기술 컨퍼런스), 3월 17일 예정, H200과 차세대 B100 발표 전망

- 엔비디아의 주문이 강력하여 TSMC의 3nm, 4nm 생산능력은 거의 최대 수준으로 가동, 전통적 비수기였던 1분기에 바쁜 상황으로 알려짐

https://www.trendforce.com/news/2024/03/04/news-nvidia-reportedly-overwhelms-tsmc-with-3-and-4-nanometer-orders/

#엔비디아 #GTC2024

30만 AI 개발자 모인다...엔비디아 'GTC 2024' 임박

세계 최대 AI 개발자 콘퍼런스 GTC는 오는 18일부터 21일까지 미국 캘리포니아주 새너제이에서 개최된다. 팬데믹 이후 5년만에 대면 행사로 돌아온 GTC는 온라인으로도 참석 가능한 하이브리드 형태로 진행된다.

900개의 세션, 250개 이상의 전시, 수십 개의 기술 워크샵 등으로 구성됐으며 30만 명 이상의 전세계 개발자 커뮤니티 회원들이 참석할 것으로 기대된다.

엔비디아는 이번 GTC가 지난 해에 비해 2배 이상의 규모로 진행되는 만큼 행사를 위해 준비를 했으며 성공적인 행사가 될 것이라고 전했다. 특히 젠슨 황 엔비디아 창립자 겸 CEO의 기조연설은 1만명 이상 수용 가능한 SAP 센터에서 진행된다.

https://zdnet.co.kr/view/?no=20240308131344

#엔비디아 #인간형로봇 #산업용로봇

젠슨 황 "인간형 로봇이 산업용로봇 조종하게 될 것"

20일 (현지 시각) 짐 크레이머와의 인터뷰에서 젠슨 황 CEO는 "휴머노이드 로봇을 훈련하는 데 사용되는 데이터의 상당 부분이 인간 형태 자체에서 나온다"고 설명했다.

그는 엔비디아가 인간 움직임에 대한 가장 많은 데이터 예시를 가지고 있다고 자신했다.

황 CEO는 사람의 데이터를 활용하면 로봇을 가장 생산적으로 할 수 있다고 말했다. 그는 "예를 들어 자동차 제조 로봇을 다른 로봇이 조정하는 모습을 보게 될 수 있다"며 미래를 전망했다.

황 CEO는 또한 엔비디아의 빅테크 기업들과 협력을 언급하며 우리는 회사가 많은 일자리를 창출할 것이라고 강조했다. 그는 "일자리를 만들고 기업들이 더 생산적이게 되면 수익이 증가해 더 많은 사람들을 고용할 수 있다"고 덧붙였다.

https://www.hankyung.com/article/2024032161505

#엔비디아 #휴머노이드 #GR00T

엔비디아, 휴머노이드 로봇 위한 ‘프로젝트 GR00T’ 파운데이션 모델 공개

프로젝트 GR00T는 로보틱스와 임바디드 AI의 혁신을 주도하기 위한 엔비디아의 노력을 더욱 진전시키기 위해 설계됐다.

엔비디아는 이런 노력의 일환으로 엔비디아 토르 시스템 온 칩(SoC) 기반의 휴머노이드 로봇용 컴퓨터인 젯슨 토르(Jetson Thor)를 새롭게 공개했다. 생성형 AI 파운데이션 모델과 시뮬레이션, AI 워크플로우 인프라를 위한 툴을 포함한 엔비디아 아이작(Isaac) 로봇 플랫폼의 대대적인 업그레이드도 함께 발표했다.

엔비디아의 젠슨 황(Jensen Huang) 창립자 겸 CEO는 “범용 휴머노이드 로봇을 위한 파운데이션 모델을 구축하는 것은 오늘날 AI 분야에서 해결해야 할 가장 흥미로운 문제 중 하나다”며 “전 세계의 선도적인 로봇 공학자들이 인공 범용 로봇을 향한 큰 도약을 할 수 있도록 지원하는 기술들이 하나로 모이고 있다”고 말했다.

~

젯슨 토르는 복잡한 작업을 수행하고 사람 또는 기계와 안전하고 자연스럽게 상호 작용할 수 있는 새로운 컴퓨팅 플랫폼이다. 이는 성능, 전력, 크기에 최적화된 모듈식 아키텍처를 갖추고 있다.

이 SoC에는 GR00T와 같은 멀티모달 생성형 AI 모델을 실행하기 위해 800테라플롭스의 8비트 부동 소수점 AI 성능을 제공하는 트랜스포머 엔진과 함께 엔비디아 블랙웰 아키텍처 기반의 차세대 GPU가 포함된다. 통합 기능 안전 프로세서, 고성능 CPU 클러스터, 100GB의 이더넷 대역폭을 통해 설계와 통합 작업을 크게 간소화한다.

엔비디아는 1X 테크놀로지스, 어질리티 로보틱스, 앱트로닉, 보스턴 다이내믹스, 피규어 AI, 푸리에인텔리전스, 생츄어리 AI, 유니트리 로보틱스, 샤오펑 로보틱스 등 선도적인 휴머노이드 로봇 회사들을 위한 포괄적인 AI 플랫폼을 구축하고 있다.

https://www.epnc.co.kr/news/articleView.html?idxno=241467

(WCCFTECH)

NVIDIA의 GB200 Blackwell AI 서버는 지연에 대한 소문이 사라지면서 9월 중순에서 10월까지 시장에 출시될 예정

NVIDIA는 2025년에 총 500만 개의 Blackwell 칩을 생산할 것으로 예상되며, 그 중 80%가 GB200 AI 서버에서 사용될 것으로 예상

기업들은 개별 가속기를 구매하는 것에서 거대한 AI 클러스터를 구매하는 것으로 전환했는데, 이는 컴퓨팅 수요가 엄청나게 증가하여 기업이 우수한 옵션으로 전환해야 할 필요성이 생겼기 때문

we won't be surprised if the firm manages to report shocking finances in the upcoming quarters.(엔비디아는 이번 분기에 블랙웰 시리즈 덕분에 놀라운 재무성과를 기록할 것)

#엔비디아
#블랙웰출하시작


https://wccftech.com/nvidia-blackwell-gb200-ai-servers-ship-out-q4-2024/