마이크로소프트 & 무디스, Moody's 데이터 기반 차세대 솔루션 개발
https://news.microsoft.com/2023/06/29/moodys-and-microsoft-develop-enhanced-risk-data-analytics-research-and-collaboration-solutions-powered-by-generative-ai/

주요 내용
- Azure OpenAI 서비스 기반으로 향상된 데이터 분석, 연구, 리스크 관리 솔루션 개발을 위한 새로운 제품과 서비스를 공동 구축
- 내부 Copilot 도구(Moody's CoPilot)는 이제 무디스 내 14,000명의 직원에게 배포되었으며 무디스 데이터를 마이크로소프트의 LLM & 생성 AI 기술과 결합하여 생산성 높일 계획
- 고객을 위한 새로운 Copilot 도구(Moody's Research Assistant) 출시하여 기업 통계, 신용리스크, 경제 예측, 평판분석, 리스크분석 등의 맞춤형 분석을 빠르게 제공할 예정

Inflection AI, $1.3B 자금 조달 (MSFT, NVDA 참여)
https://www.ft.com/content/15eca6de-d4be-489d-baa6-765f25cdecf8

- 딥마인드 창업자 중 한 명이 설립한 1년 된 AI 스타트업
- 직원 수는 35명 (출신: 딥마인드, 오픈AI, 구글, 마이크로소프트)
- 자금 중 일부 NVIDIA H100 22,000개 구축하는데 쓸 것 (약 $0.9~1B 가깝게 쓸 것)

📌 주요 General Intelligence/model makers
- OpenAI (마이크로소프트)
- Inflection AI (마이크로소프트, 엔비디아)
- Anthropic (구글, 세일즈포스)
- Cohere (오라클, 엔비디아, 세일즈포스)

📌 코멘트
→ 오늘 나온 Inflection AI의 $1.3B 자금조달 소식도 굉장한 내용인데, 지난 6월 14일, 4주 된 프랑스 스타트업 Mistral AI가 1억 500만 유로를 모금했다는 뉴스(링크)가 화제였습니다. 前 메타, 구글 AI 연구원 3명이 설립한 기업인데 내년 초 자체 LLM을 출시하겠다는 계획만으로 펀딩을 완료했습니다.

6/30 엔비디아 GPU 가격 체크 : 상승

- H100 80GB : $45,569 (▲)
- A100 80GB : $14,067 (▲)
- A100 40GB : $5,249 (▲)

현재의 미디어 그룹 Big 6
- Comcast, Disney, AT&T, Paramount, Sony, Fox

분기 말이 끝나고 3분기 JHEQX의 SPX Collar가 공개됐습니다.

- Bullish Call : $4670
- Protective Put : $4215
- Bearish Put : $3560

*JHEQX는 종종 마켓메이커로 불리곤 하는데, 매 분기 말마다 본계좌(주식)에 대한 대규모 헤징 거래를 옵션으로 하기 때문에 시장에서 매번 많은 관심을 받고 있습니다. 펀드차원에서 가장 많은 수익을 내는 가격대는 Bullish Call을 매도한 가격 근처($4670)입니다.

📌 코멘트
→ 이번 3분기도 좋을 것 같다는 내용입니다.

공개된 엔비디아 하이엔드 AI 서버 판매
- 최근 Inflection AI는 H100 22,000개 구매

📌 코멘트
→ 현재 AWS, Google, Oracle이 우선 공개적으로 알려온 크기만 각각 H100 2만개 정도 규모입니다. 가장 큰 바이어인 MSFT는 구축은 했으나 규모가 공개되지 않았습니다. 생성 AI 기술이 더 큰 매출로 연결되는 시점을 찾고 있습니다. 후보는 OpenAI ChatGPT의 신기능 출시, MSFT Office365, MSFT Windows Copilot, ADBE Firefly, GOOGL Bard, BloombergGPT, Character.ai 등이 있습니다.

애플 3조 달러의 시대

- 애플은 2018년에 시총 $1T를 도달한 최초의 미국 상장 기업이 됐고, 이제 2023년 시총 $3T에 도달한 최초가 됐습니다.

- 애플은 작년 연간 $394B를 벌었고, 영업이익 $119B (OPM 30.3%)에 순이익은 $100B (NPM 25.3%)를 기록했습니다.

- 2012년부터 2022년 말까지 $572B 이상을 자사주 매입에 사용하였으며, 올해에도 자사주 매입에 $90B를 할당했습니다. 그럼에도 Cash & ST는 $56B를 가지고 있습니다.

- 2022년 연간 영업현금흐름은 $122B인데 해자를 유지하기 위해 CAPEX로 쓰이는 돈은 $11~12B입니다.

📌 코멘트
→ 기업은 미래가 중요한 만큼, 내년의 비전프로에서 한 번 더 증명되어야 하겠지만 애플은 관리능력과 브랜드의 힘이 대단합니다.

'내가 제일 잘 나가' 엔비디아의 독주 (자료: 세읽남)
https://youtu.be/pTFIRHx5gAM

- 엔비디아의 GPU 시장 점유율은 70%, 그런데 AI 개발에 이용되는 GPU 점유율은 92~95%. 엔비디아가 AI에 미치는 영향력이 과거 인텔 전성기 PC에 미쳤던 파급력과 유사한 상황

- 개발자를 위한 생태계 구축 CUDA의 힘이 잘 알려져있는데, 컴퓨팅 아키텍처 통합의 약자임. 2006년 나오던 당시 서버에서 실행되던 거의 모든 코드가 인텔 CPU용으로 작성됐다는 걸 간파하고 소프트웨어의 필요성을 느낀 것

- 엔비디아는 CUDA를 그래픽 전문가 뿐만 아니라 모든 프로그래머들이 사용할 수 있도록 무료 공개. 해당 소프트웨어는 엔비디아 GPU에서만 사용 가능하며 메타가 만든 파이토치(PyTorch), 구글이 만든 텐서플로우(TensorFlow)와 연동됨. 품질이 균질하고 CUDA 안에서 다 되니 다른 것으로 굳이 옮길 이유가 없음

- CUDA 프로그래머들을 사용하기 위해서라도 엔비디아의 칩을 쓸 수밖에 없음. CPU 시장에서 Intel, AMD간 경쟁은 치열하지만 GPU에서만은 CUDA의 시장 종속 효과때문에 엔비디아의 독주 구도가 가능

- 경쟁사들은 이에 맞서 2009년에 OpenCL을 내놓았고 인텔, AMD, ARM 등에서는 OpenCL을 밀고 있지만 CUDA의 성능, 호환성, 범용성이 좋으니 OpenCL로서는 어렵다 느끼는 중. 그래서 AMD는 자체 ROCm을 만듦. 그러나 이것도 한계가 있음. MI300X를 보더라도 하드웨어 자체는 경쟁력이 있어도 실 사용 시 개발자 도구에서 엔비디아 것보다 경쟁력이 있다고 확신하기가 어려운 것

이제는 히든싱어가 아닌 AI 클론싱어의 시대
https://youtu.be/e7rz45NmOT8

- 조코딩님이 올리신 영상인데, AI 가수들 사이 진짜 가수를 찾는 AI 클론싱어입니다. 신선하면서 미래의 콘텐츠를 보여주는 것 같아 소개드립니다.

📌 코멘트
→ 재밌는 건 이미지 생성AI로 많이 접하셨을 Diffusion Model(Diff-SVC)에 기반하고 있다는 겁니다. 이미지로 시작해서 음성으로 발전된 겁니다. 음성도 파형을 놓으면 이미지로 분석할 수 있기 때문입니다. (2021년 NLP에서 사용하던 Transformer를 ViT로 옮겼던 게 떠오릅니다) 노래 생성AI 모델에서 이전엔 GAN 모델을 사용했으나 지금은 훨씬 더 좋은 AI 노래가 나오고 있습니다. 목소리 녹음을 더 많이, 더 여러 번 학습할 수록 품질은 좋아집니다.

7/2 엔비디아 GPU 가격체크 : 유의미한 상승
: https://t.me/allbareun

- H100 80GB : $45,569 → $46,084 (▲)
- A100 80GB : $14,067 → $14,226 (▲)
- A100 40GB : $5,429 → $5,309 (▲)

📌 코멘트
→ H100는 45,000달러 시대에서 46,000달러 시대로 접어든 듯 합니다. 9일 동안 893달러가 오른 것이므로, 일평균 가격 상승분은 99달러입니다.