앤트로픽, LLM 내 블랙박스 연구성과발표 (자료: Anthropic)

- 구글이 '모델 익스플로러(Model Explorer)'를 발표한지 얼마 안돼서 앤트로픽도 Claude Sonnet에 대한 LLM 시각화 연구성과발표

- Claude 3.0은 Opus > Sonnet > Haiku 순으로 규모가 큰데, 이번에 연구한 건 Sonnet을 바탕으로 함. LLM은 기본적으로 어떻게 학습했는가, 왜 이런 출력물이 나오는가를 이해하기 어려웠는데 이에 대한 연구가 진행되는 중

- 대형모델의 내부를 살펴보는 최초의 사례, 특징값을 인위적으로 조절(증폭/억제)하여 Claude가 어떻게 변하는지도 확인할 수 있음. 인과관계를 이해하기 위한 작업

캘리포니아 전력망(CAISO) 내 신규신청 태양광 발전용량 98% 이상이 하이브리드 (태양광+ESS) (자료: UtilityDive)

- 현재 설치된 발전용량으로 볼 때 기존 PV+ESS 비율은 25% 수준. Duck Curve를 줄이고 전력망 안정성을 높이는 것으로 PV+ESS가 제1발전요인일 것

- 텍사스 ERCOT에서 제안했던 건 전체 태양광 용량 중 50%가 ESS과 결합된 상태여야 한다는 점이었는데, 5년 내 도달할 수 있을 듯. 신규는 대부분 PV+ESS

GPT-5는 GPT-3를 훈련시킨 시스템보다 30배 클 것

- MS Build 2024 기조연설 중 일부 힌트 공개. 훈련하는 시스템의 스케일로 GPT를 비교한 것이 화제

- GPT-3 (상어) : 2,000 lbs
- GPT-4 (범고래) : 7,500 lbs (3.75배)
- 'Next' (고래) : 60,000 lbs (30배) <

- xAI는 Grok-2에 H100 2만개 → Grok-3에는 10만개의 H100개의 H100이 필요할 것이라고 언급했던 바 있음

- Anthropic CEO는 현재 모델제작비는 $100M이나 → 24년 말에는 $1B이 들 것이며 → 26~27년에는 $5~10B가 들 것이라고 언급했음

마이크론, HBM 투자증가로 올해 CAPEX 상향 (자료: SA)

- JP Morgan 컨퍼런스에서 마이크론은 HBM 성장기회에 따른 CAPEX $7.5B → $8.0B로 상향. FY24는 HBM에서 수억 달러 매출 → FY25는 HBM에서 수십억 달러 매출로 상향

- CAPEX → No update on guidance for the May quarter or on the indications we provided for the August quarter, including gross margin in the low 30s-plus percent area. We now see FY '24 CapEx, up some to about $8 billion. That's versus prior view was $7.5 billion to $8 billion. And that's as we intersect the HBM opportunities ahead of us.

- FY25 HBM Revenue → And we expect them to continue to do so as we grow the business. First, we mentioned several hundred million dollar expected in fiscal '24. And in fiscal '25, we expect HBM to be a multibillion-dollar business for us.

1Q $26.044B
2Q(G) $28.0B

10대 1 주식분할 발표

엔비디아 👨‍💻
- 1Q24 및 2Q24(G) 실적 자체는 낮은편(-)
- 10대 1 주식분할 (6월 7일 적용) (+)
- 컨콜에서 좀 더 듣고 움직일 듯 (H20, Hopper) (?)

엔비디아 CFO Colette Kress

- H100 공급수준은 개선됐으나 H200은 여전히 제약받는 중. Blackwell은 본격적인 생산에 들어감(full production). 올해 말에 전 세계에 공급할 수 있도록 시스템-클라우드와 협력. H200 및 Blackwell 수요가 공급을 훨씬 앞서고 있으며 내년(CY'25)에도 수요가 공급을 초과할 것으로 예상

While supply for H100 improved, we are still constrained on H200. At the same time, Blackwell is in full production. We are working to bring up our system and cloud partners for global availability later this year. Demand for H200 & Blackwell is well ahead of supply, and we expect demand may exceed supply well into next year

*해당발언 이후 상승폭 확대

*황사장님 발언시작*

엔비디아 Q&A 세션

번스타인 애널리스트
- "그래서 블랙웰 언제 배달되나요"

엔비디아 CEO 젠슨황
- 현재 약간의 생산, 대량생산은 2Q24 → 램프업은 3Q24 → 데이터센터에 들어가는 건 4Q24 *컨센대비 빠르게 생산*

We've been in production for a little bit of time, but our production shipments will start in Q2 and ramp in Q3. Customers should have data centers stood up in Q4...Sounds like we will see a lot of Blackwell revenue this year

*해당발언 이후 상승폭 확대2

엔비디아 Q&A 세션

모건스탠리 애널리스트
- "Hopper 에어포켓 어떤가?"

엔비디아 CEO 젠슨황
- "Hopper 수요는 이번 분기 내내 증가, H200 및 Blackwell로 전환하는 사이 수요가 공급을 넘는 상황이 유지될 것으로 예상"

*제일 중요한 '수요초과' 상황은 유지*

엔비디아 CEO 젠슨황

- "블랙웰 다음 새로운 칩은 전력효율에 초점을 맞출 것. 모든 것을 바닥에서부터 설계할 수 있는 만큼 우려사항은 조절 가능"

- "새로운 네트워킹 기술도 발표할 것. 우리는 이더넷(Ethernet)에 올인, 새로운 모멘텀은 네트워킹에서 나올 것"

*Arista Networks 하락전환*

*어닝콜 종료. 수고하셨습니다*

엔비디아 1Q24 실적발표 (시간외 +6%, $1,000 돌파)

- Adj EPS : $6.12 vs 컨센 $5.65 (Beat)
- 매출 : $26.04B vs $24.69B (Beat) (YoY +262%)
- Adj GPM : 78.9% vs 77% (Beat)
- Net Income : $14.88B (Beat) (YoY +628%)
- FCF : $14.94B vs $12.29B (Beat) (YoY +465%)

*10-for-1 주식분할⭐️, 6/7 시행, 6/10부터 거래 시작*
*분기별 배당금 150% 인상, $0.10 (분할 후 $0.01), 6/28 지급*

사업부별 매출구분
- 데이터센터 : $22.6B vs 컨센 $21.13B (Beat) (YoY +427%)
- 게이밍 : $2.6B vs $2.62B (Miss)
- Pro Viz : $427M vs $479M (Miss)
- 자동차 : $329M vs $292M (Beat)

2Q 가이던스
- 매출 : $28.0B ± 2% vs 컨센 $26.88B (Beat)
- 실질 컨센은 $29B정도였기에 사실은 소폭 Miss에 가까움

Full-Year CY24 가이던스
- GPM : 70% 중반으로 (전과 같음)
- OPEX : 40% 초반대로 (전과 같음)

경영진 주요 발언모음 🗣
- H100 공급수준은 개선됐으나 H200은 여전히 제약받는 중. Blackwell은 본격적인 생산에 들어감(full production). 올해 말에 전 세계에 공급할 수 있도록 시스템-클라우드와 협력. H200 및 Blackwell 수요가 공급을 훨씬 앞서고 있으며 내년(CY'25)에도 수요가 공급을 초과할 것으로 예상 (수요우려 X #1) ⭐️
- 블랙웰은 현재 약간의 생산, 양산은 2Q24 → 램프업/대량생산 3Q24 → 데이터센터에 들어가는 건 4Q24 (컨센보다 더 빠름) ⭐️
- 우리는 현재 생산을 늘리기 위한 걱정을 하고 있을 뿐, 수요가 줄어들 것에 대해서 걱정하고 있지 않다. (수요우려 X #2)
- Hopper 수요는 이번 분기 내내 증가했음. H200 및 Blackwell로 전환하는 사이 Hopper 수요가 공급을 넘는 상황이 유지될 것으로 예상 (수요우려X #3) ⭐️
- 블랙웰 다음 새로운 칩은 전력효율에 초점을 맞출 것. 모든 것을 바닥에서부터 설계할 수 있는 만큼 우려사항은 조절 가능 (로드맵)
- 새로운 네트워킹 기술도 발표할 것. 우리는 이더넷(Ethernet)에 올인, 새로운 모멘텀은 네트워킹에서 나올 것 (로드맵)
- 올해 매출 중 소버린AI 관련 매출은 High Single-Digit Billions($7~9B)에 달할 것, AI의 중요성은 모든 국가에서 퍼지고 있다

🇺🇸 엔비디아 애널리스트 목표주가 변경

🔸 Cantor Fitzgerald : $1,200 → $1,400
🔸 Jefferies : $1,200 → $1,350
🔸 BofA Securities : $1,100 → $1,350
🔸 Evercore ISI : $1,160 → $1,310
🔸 Bernstein : $1,000 → $1,300
🔸 KeyBanc: $1,200 → $1,300
🔸 Citigroup : $1,030 → $1,260
🔸 Wells Fargo : $1,150 → $1,250
🔸 Wolfe Research : $1,200 → $1,250
🔸 TD Cowen : $1,100 → $1,200
🔸 Barclays : $1,100 → $1,200
🔸 UBS : $1,150 → $1,200
🔸 Goldman Sachs : $1,100 → $1,200
🔸 Morgan Stanley : $1,000 → $1,160
🔸 JP Morgan : $850 → $1,150
🔸 Deutsche Bank : $850 → $1,000
🔸 DA Davidson : $620 → $900