LLaMa2 등 오픈소스 LLM은 기업이 쓰기엔 성능 부족 (자료: golbin)
- 골빈해커님(golbin)님의 의견 : 오픈소스 LLM이 크게 발전한다고 해도 대부분의 경우 Cloud, SaaS형 LLM을 사용하는 것이 이득. 온프레미스 대신 클라우드를 쓰는 것과 유사
- 각 모델들의 성능을 비교한 자료 : 오픈소스(VICUNA, ALPACA, LLaMa2) vs 소유(GPT-3.5, Bard, Claude) vs 최신(GPT-4)
- LLaMa2는 통찰력(Insightfulness), 메타인지(Metacognition)는 한 세대 떨어진 소유권 있는 모델과 비슷하지만 실제로 기업들의 서비스에 필요한 정보 가공능력, 논리적인 사고, 완결성, 상식 등은 떨어짐
- LLM은 주로 파인튜닝해서 쓸 수 있도록 다목적 작업 능력이 중요한데, 오픈소스를 자랑할 때는 한 두가지 잘 나온 것만 주로 발표. 따라서 오픈소스 LLM 파인튜닝 모델 도입 생각할 경우 목적에 부합하는지 체크할 필요 있음
- 골빈해커님(golbin)님의 의견 : 오픈소스 LLM이 크게 발전한다고 해도 대부분의 경우 Cloud, SaaS형 LLM을 사용하는 것이 이득. 온프레미스 대신 클라우드를 쓰는 것과 유사
- 각 모델들의 성능을 비교한 자료 : 오픈소스(VICUNA, ALPACA, LLaMa2) vs 소유(GPT-3.5, Bard, Claude) vs 최신(GPT-4)
- LLaMa2는 통찰력(Insightfulness), 메타인지(Metacognition)는 한 세대 떨어진 소유권 있는 모델과 비슷하지만 실제로 기업들의 서비스에 필요한 정보 가공능력, 논리적인 사고, 완결성, 상식 등은 떨어짐
- LLM은 주로 파인튜닝해서 쓸 수 있도록 다목적 작업 능력이 중요한데, 오픈소스를 자랑할 때는 한 두가지 잘 나온 것만 주로 발표. 따라서 오픈소스 LLM 파인튜닝 모델 도입 생각할 경우 목적에 부합하는지 체크할 필요 있음
❤3👏3
막대한 규모의 GPU 컴퓨팅이 본격적으로 시작됨 (자료: Suhail)
- There's a full blown run on GPU compute on a level I think people do not fully comprehend right now. Holy cow
* 글쓴이 Suhail은 이미지 생성AI 스타트업 Playground.ai 대표
📌 스레드
- 지난 7일간 많은 벤더사들과 이야기를 나눴음. 모두들 미친 듯. 엔비디아는 올해 공급량을 모두 매진했고 내년 1월까지 매진. 현재 엔비디아는 대기열을 처리하면서 누구한테 얼마나 줄지를 장기적인 고객(관계)가치를 따져가며 선택 중
- 따라서 현재 AI GPU를 구하고 싶다면 최소 $10M~ (128억원~) 이상이 필요할 것으로 예상. LLM을 만들고 싶다면 훨씬 더 많이 필요하거나 최적화를 극도로 잘해야 할 것
- 약 2개월 이내를 본다면, 최소 6개월을 기다리지 않고서는 128개의 상호 연결된 H100/A100 GPU를 확보할 수 없음. 즉, SOTA(State-of-the-art = 현 수준 최고의) 파운데이션 모델을 학습시킬 수 없음
- There's a full blown run on GPU compute on a level I think people do not fully comprehend right now. Holy cow
* 글쓴이 Suhail은 이미지 생성AI 스타트업 Playground.ai 대표
📌 스레드
- 지난 7일간 많은 벤더사들과 이야기를 나눴음. 모두들 미친 듯. 엔비디아는 올해 공급량을 모두 매진했고 내년 1월까지 매진. 현재 엔비디아는 대기열을 처리하면서 누구한테 얼마나 줄지를 장기적인 고객(관계)가치를 따져가며 선택 중
- 따라서 현재 AI GPU를 구하고 싶다면 최소 $10M~ (128억원~) 이상이 필요할 것으로 예상. LLM을 만들고 싶다면 훨씬 더 많이 필요하거나 최적화를 극도로 잘해야 할 것
- 약 2개월 이내를 본다면, 최소 6개월을 기다리지 않고서는 128개의 상호 연결된 H100/A100 GPU를 확보할 수 없음. 즉, SOTA(State-of-the-art = 현 수준 최고의) 파운데이션 모델을 학습시킬 수 없음
❤5👏2
올바른
막대한 규모의 GPU 컴퓨팅이 본격적으로 시작됨 (자료: Suhail) - There's a full blown run on GPU compute on a level I think people do not fully comprehend right now. Holy cow * 글쓴이 Suhail은 이미지 생성AI 스타트업 Playground.ai 대표 📌 스레드 - 지난 7일간 많은 벤더사들과 이야기를 나눴음. 모두들 미친 듯. 엔비디아는 올해 공급량을…
엔비디아와 관련해서 오늘 미국장엔 12시간 전에 올라온 요 글이 많이 도는 중 GN 🫡
❤3
마이크로소프트(MSFT) 2Q23 실적발표 (시간외 -1%)
EPS : $2.69 vs 컨센 $2.55 (Beat)
매출 : $56.2B vs 컨센 $55.5B (Beat) (YoY +8%)
사업부별
1. Productivity and Business Processes : 매출 $18.29B vs 컨센 $18.06B (Beat) (YoY +10%)
2. Intelligent Cloud : 매출 $23.99B vs 컨센 $23.79B (Beat) (YoY +15%)
- Azure Cloud : YoY +26% vs 컨센 +25% (1Q23 YoY +27%)
3. More Personal Computing : 매출 $13.91B vs 컨센 $13.58 (Beat) (YoY -4%)
*CEO "올해 급여를 인상하지 않을 것"
*어닝콜은 한국시간 오전 6:30에 있을 예정
EPS : $2.69 vs 컨센 $2.55 (Beat)
매출 : $56.2B vs 컨센 $55.5B (Beat) (YoY +8%)
사업부별
1. Productivity and Business Processes : 매출 $18.29B vs 컨센 $18.06B (Beat) (YoY +10%)
2. Intelligent Cloud : 매출 $23.99B vs 컨센 $23.79B (Beat) (YoY +15%)
- Azure Cloud : YoY +26% vs 컨센 +25% (1Q23 YoY +27%)
3. More Personal Computing : 매출 $13.91B vs 컨센 $13.58 (Beat) (YoY -4%)
*CEO "올해 급여를 인상하지 않을 것"
*어닝콜은 한국시간 오전 6:30에 있을 예정
❤4
구글(GOOGL) 2Q23 실적발표 (시간외 +7%)
EPS : $1.44 vs 컨센 $1.34 (Beat)
매출 : $74.6B vs 컨센 $72.8B (Beat) (YoY +7%)
사업부별
1. Google ads : $58.1B vs 컨센 $57.5B (Beat) (YoY +3.3%)
2. YouTube ads : $7.7B vs 컨센 $7.4B (Beat)
3. Google Cloud : $8.0B vs 컨센 $7.9B (Beat) (YoY +28%)
* Traffic acquisition costs : $12.5B vs 컨센 $12.4B
*마찬가지로 아직 컨콜은 나오지 않음
EPS : $1.44 vs 컨센 $1.34 (Beat)
매출 : $74.6B vs 컨센 $72.8B (Beat) (YoY +7%)
사업부별
1. Google ads : $58.1B vs 컨센 $57.5B (Beat) (YoY +3.3%)
2. YouTube ads : $7.7B vs 컨센 $7.4B (Beat)
3. Google Cloud : $8.0B vs 컨센 $7.9B (Beat) (YoY +28%)
* Traffic acquisition costs : $12.5B vs 컨센 $12.4B
*마찬가지로 아직 컨콜은 나오지 않음
❤4
🇺🇸 7/26 미국시장리뷰
주요 지수 : 나스닥 > S&P > 다우=러셀
- 상승종목비율 : 낮음 (104%, 83%)
섹터 → 최근 로테이션에도 불구 주도주는 테크임을 다시 확인
- 📈강세 : 원자재, 테크, 에너지
- 📉약세 : 금융, 임의소비, 산업재
종목 → AI 반도체, 중국경기부양 관련
- 📈강세 : AI반도체, 원자력, 중국관련주, 반도체전반
- 📉약세 : 위성전화, 전기차, 항공, 방산
📌 실적발표
- 마이크로소프트 - MSFT(시간외 -4%) : AI CAPEX 계속 늘릴 것 (Capex To Rise Sequentially Each Quarter Of FY24)
- 구글 - GOOGL(시간외 +6%) : 매출성장 턴어라운드 확인, 2Q23 클라우드 OPM 5% (직전분기 사상 첫 흑전)
- GM - GM(-5%) : 자동화장비 공급업체의 배송 문제로 램프업에 예상치 못한 지연 발생. 물류혼잡이 계속되고 있어 철도차량 캐파 부족 겪는 중. 2025년 EV 수익성은 mid single digit%. 재고수준과 마진 유지하려고 일부 공장 캐파가동률을 낮췄음
📩 메이저 뉴스
- 엔비디아 - NVDA(+2.4%) : UBS 2027년 AI 가속기/GPU TAM $300B 콜, Mizuho의 2027 TAM $400B콜에 이어서 이전 컨센이었던 AMD의 27년 TAM $150B보다 계속 상향되는 모습. 그리고 내년 1월까지 매진된 것으로 벤더사 확인 콜 트윗이 많이 돌음
- 테슬라 - TSLA(-1.4%) : 업그레이드를 위한 Fremont 생산중단, 생각보다 부진한 중국 내수판매량 (이전 코멘트 확인)
- 자동차 - GM(-4%), F(-3%) : 상반기 5만대 생산완료, 하반기 10만대 생산 목표. 내년 중반에는 40만대 목표. EV 예약주문자 이탈율 낮음. 여기저기 문제는 O (실적발표 코멘트)
주요 지수 : 나스닥 > S&P > 다우=러셀
- 상승종목비율 : 낮음 (104%, 83%)
섹터 → 최근 로테이션에도 불구 주도주는 테크임을 다시 확인
- 📈강세 : 원자재, 테크, 에너지
- 📉약세 : 금융, 임의소비, 산업재
종목 → AI 반도체, 중국경기부양 관련
- 📈강세 : AI반도체, 원자력, 중국관련주, 반도체전반
- 📉약세 : 위성전화, 전기차, 항공, 방산
📌 실적발표
- 마이크로소프트 - MSFT(시간외 -4%) : AI CAPEX 계속 늘릴 것 (Capex To Rise Sequentially Each Quarter Of FY24)
- 구글 - GOOGL(시간외 +6%) : 매출성장 턴어라운드 확인, 2Q23 클라우드 OPM 5% (직전분기 사상 첫 흑전)
- GM - GM(-5%) : 자동화장비 공급업체의 배송 문제로 램프업에 예상치 못한 지연 발생. 물류혼잡이 계속되고 있어 철도차량 캐파 부족 겪는 중. 2025년 EV 수익성은 mid single digit%. 재고수준과 마진 유지하려고 일부 공장 캐파가동률을 낮췄음
📩 메이저 뉴스
- 엔비디아 - NVDA(+2.4%) : UBS 2027년 AI 가속기/GPU TAM $300B 콜, Mizuho의 2027 TAM $400B콜에 이어서 이전 컨센이었던 AMD의 27년 TAM $150B보다 계속 상향되는 모습. 그리고 내년 1월까지 매진된 것으로 벤더사 확인 콜 트윗이 많이 돌음
- 테슬라 - TSLA(-1.4%) : 업그레이드를 위한 Fremont 생산중단, 생각보다 부진한 중국 내수판매량 (이전 코멘트 확인)
- 자동차 - GM(-4%), F(-3%) : 상반기 5만대 생산완료, 하반기 10만대 생산 목표. 내년 중반에는 40만대 목표. EV 예약주문자 이탈율 낮음. 여기저기 문제는 O (실적발표 코멘트)
❤3
Forwarded from DB증권 Tech 서승연, 조현지
[DB금융투자 반도체 서승연]
금일 새벽 실적 발표한 Microsoft, Alphabet의 Capex 관련 코멘트 업데이트 드립니다.
업무에 도움이 되시길 바랍니다. 감사합니다.
■ Microsoft
- FY4Q23 Capex $107억으로 전분기 $78억 대비 증가. AI 인프라 투자를 포함한 클라우드 수요에 기인함. MSFT 클라우드 성장과 AI 플랫폼 수요를 위해 당사는 클라우드 인프라 투자를 가속화할 것임. 차분기 역시 Capex 증가할 것
■ Alphabet
- FY2Q23 Capex의 대부분은 서버에 투자. 특히 AI 컴퓨팅에서 유의미한 투자를 집행함. FY2Q23 Capex 증가가 예상 대비 낮은 이유는 2가지. 1) 인력 증가 속도 둔화에 따른 오피스 시설 투자 영향, 2) 특정 데이터센터 건설 지연 때문. 2023년 하반기 인프라 투자 확대할 계획이며 이러한 흐름은 2024년에도 이어질 것. 데이터센터 캐파 뿐만 아니라 GPU 투자를 포함한 AI 투자 집행할 것
--------------
*실적 컨콜 원문 발췌
[Microsoft]
- Total expenditures, including finance leases, were $10.7 billion to support cloud demand, including investments in AI infrastructure.
- To support our Microsoft Cloud growth and demand for AI platform, we will accelerate investment in our cloud infrastructure. We expect capital expenditures to increase sequentially each quarter through the year, as we scale to meet demand signals.
[Alphabet]
- Finally, as it relates to CapEx in Q2, the largest component was for servers, which included a meaningful increase in our investments in AI compute. The sequential step-up in the second-quarter was lower-than-anticipated for two reasons, first, with respect to office facilities. We continue to moderate the pace of fit-outs and ground-up construction to reflect the slower expected pace of headcount growth. Second, there were delays in certain data center construction projects. We expect elevated levels of investment in our technical infrastructure increasing through the back-half of 2023 and continuing to grow in 2024. The primary driver is to support the opportunities we see in AI across Alphabet, including investments in GPUs and proprietary GPUs as well as datacenter capacity.
금일 새벽 실적 발표한 Microsoft, Alphabet의 Capex 관련 코멘트 업데이트 드립니다.
업무에 도움이 되시길 바랍니다. 감사합니다.
■ Microsoft
- FY4Q23 Capex $107억으로 전분기 $78억 대비 증가. AI 인프라 투자를 포함한 클라우드 수요에 기인함. MSFT 클라우드 성장과 AI 플랫폼 수요를 위해 당사는 클라우드 인프라 투자를 가속화할 것임. 차분기 역시 Capex 증가할 것
■ Alphabet
- FY2Q23 Capex의 대부분은 서버에 투자. 특히 AI 컴퓨팅에서 유의미한 투자를 집행함. FY2Q23 Capex 증가가 예상 대비 낮은 이유는 2가지. 1) 인력 증가 속도 둔화에 따른 오피스 시설 투자 영향, 2) 특정 데이터센터 건설 지연 때문. 2023년 하반기 인프라 투자 확대할 계획이며 이러한 흐름은 2024년에도 이어질 것. 데이터센터 캐파 뿐만 아니라 GPU 투자를 포함한 AI 투자 집행할 것
--------------
*실적 컨콜 원문 발췌
[Microsoft]
- Total expenditures, including finance leases, were $10.7 billion to support cloud demand, including investments in AI infrastructure.
- To support our Microsoft Cloud growth and demand for AI platform, we will accelerate investment in our cloud infrastructure. We expect capital expenditures to increase sequentially each quarter through the year, as we scale to meet demand signals.
[Alphabet]
- Finally, as it relates to CapEx in Q2, the largest component was for servers, which included a meaningful increase in our investments in AI compute. The sequential step-up in the second-quarter was lower-than-anticipated for two reasons, first, with respect to office facilities. We continue to moderate the pace of fit-outs and ground-up construction to reflect the slower expected pace of headcount growth. Second, there were delays in certain data center construction projects. We expect elevated levels of investment in our technical infrastructure increasing through the back-half of 2023 and continuing to grow in 2024. The primary driver is to support the opportunities we see in AI across Alphabet, including investments in GPUs and proprietary GPUs as well as datacenter capacity.
Forwarded from 미래에셋증권 반도체 김영건
*Microsoft 설비투자 코멘트
We expect capital expenditures to increase sequentially each quarter through the year, as we scale to meet demand signals.
We expect capital expenditure to increase sequentially as noted earlier, driven by investment in our AI infra.
→ MSFT capex의 역사적 패턴은 Fiscal quarter 기준 4분기에 peak를 형성하는 경우가 다수입니다. MSFT 기준 4Q는 한국기준 2Q 입니다.
그런데, 연중 잔여 분기에도 sequentially increase 한다는 것은 향후 분기단위 유의미한 Capex 증액을 암시한다고 판단합니다.
We expect capital expenditures to increase sequentially each quarter through the year, as we scale to meet demand signals.
We expect capital expenditure to increase sequentially as noted earlier, driven by investment in our AI infra.
→ MSFT capex의 역사적 패턴은 Fiscal quarter 기준 4분기에 peak를 형성하는 경우가 다수입니다. MSFT 기준 4Q는 한국기준 2Q 입니다.
그런데, 연중 잔여 분기에도 sequentially increase 한다는 것은 향후 분기단위 유의미한 Capex 증액을 암시한다고 판단합니다.
📌 엔비디아(NVDA) 코멘트
1. MSFT, GOOGL 둘 다 QoQ 기준으로도 2024년까지 계속 AI CAPEX 상당한 규모로 늘린다는 코멘트 (“네가 하면 나도 한다”)
2. 기존 2027년 AI 가속기 TAM은 AMD가 말한 $150B였는데, 며칠사이 Mizuho $400B 콜에 이어 UBS도 $300B를 말하기 시작했다
3. AI 관계자 발언에 따르면 엔비디아는 이제 주문이 내년 1월까지 꽉차서 더 많이 주문하면 더 빨리 보내주는 정책을 하고 있다
1. MSFT, GOOGL 둘 다 QoQ 기준으로도 2024년까지 계속 AI CAPEX 상당한 규모로 늘린다는 코멘트 (“네가 하면 나도 한다”)
2. 기존 2027년 AI 가속기 TAM은 AMD가 말한 $150B였는데, 며칠사이 Mizuho $400B 콜에 이어 UBS도 $300B를 말하기 시작했다
3. AI 관계자 발언에 따르면 엔비디아는 이제 주문이 내년 1월까지 꽉차서 더 많이 주문하면 더 빨리 보내주는 정책을 하고 있다
Telegram
올바른
막대한 규모의 GPU 컴퓨팅이 본격적으로 시작됨 (자료: Suhail)
- There's a full blown run on GPU compute on a level I think people do not fully comprehend right now. Holy cow
* 글쓴이 Suhail은 이미지 생성AI 스타트업 Playground.ai 대표
📌 스레드
- 지난 7일간 많은 벤더사들과 이야기를 나눴음. 모두들 미친 듯. 엔비디아는 올해 공급량을…
- There's a full blown run on GPU compute on a level I think people do not fully comprehend right now. Holy cow
* 글쓴이 Suhail은 이미지 생성AI 스타트업 Playground.ai 대표
📌 스레드
- 지난 7일간 많은 벤더사들과 이야기를 나눴음. 모두들 미친 듯. 엔비디아는 올해 공급량을…
❤3
안녕하세요 올바른입니다 :)
🏆 오늘 네이버 프리미엄 채널의 새 글입니다.
✅ 마이크로소프트 2Q23 실적발표 : 엄청난 AI 수요, 그러나 실적은 기다려주세요
: https://naver.me/xsYpJZjs
- MSFT의 이번 실적에서 가장 중요한 것은 무엇이었는지 압도적인 AI 수요에 대한 자신감의 배경 그리고 향후 AI가 매출에 영향을 미칠 시점에 대해서 알아봅니다.
🗒 아래는 이전 글입니다
- 엔비디아, 애널리스트 코멘트로 확인한 밝은 미래 (Citi, BofA, Barclays)
: https://naver.me/FpMd3Wwg
- 테슬라, 2Q23 실적발표 : 지금은 쓴맛이 난다
: https://naver.me/58FxXLdr
🏆 오늘 네이버 프리미엄 채널의 새 글입니다.
: https://naver.me/xsYpJZjs
- MSFT의 이번 실적에서 가장 중요한 것은 무엇이었는지 압도적인 AI 수요에 대한 자신감의 배경 그리고 향후 AI가 매출에 영향을 미칠 시점에 대해서 알아봅니다.
🗒 아래는 이전 글입니다
- 엔비디아, 애널리스트 코멘트로 확인한 밝은 미래 (Citi, BofA, Barclays)
: https://naver.me/FpMd3Wwg
- 테슬라, 2Q23 실적발표 : 지금은 쓴맛이 난다
: https://naver.me/58FxXLdr
Please open Telegram to view this post
VIEW IN TELEGRAM
Naver
마이크로소프트 2Q23 실적발표 : 엄청난 AI 수요, 그러나 조금 더 기다려주세요
안녕하세요. 올바른입니다 :) 지금 주간은 AI CAPEX에 앞장서고 있는 Magnificent 7 중 순위권이 높은 기업들이 실적발표를 한다는 점에서 이번 실적발표 시즌에서 가장 중요한 주간인데요. 특히 마이크로소프트(MSFT)의 경우 클라우드 지출을 통해 기업들의
❤3
Jefferies, 엔비디아 코멘트
- CAPEX 및 AI 지출에 대한 MSFT과 GOOGL의 언급을 보면 NVDA 실적 추정치가 보수적일 수 있어보임. MSFT의 발언은 컨센서스보다 25% 높은 향후 12개월 $40B~의 CAPEX를 의미
- MSFT and GOOGL comments regarding CapEx and AI spending on their earnings calls lead us to believe that our above-consensus NVDA estimates may prove conservative. MSFT comments imply $40bn in CapEx over NTM, 25% above consensus.
- CAPEX 및 AI 지출에 대한 MSFT과 GOOGL의 언급을 보면 NVDA 실적 추정치가 보수적일 수 있어보임. MSFT의 발언은 컨센서스보다 25% 높은 향후 12개월 $40B~의 CAPEX를 의미
- MSFT and GOOGL comments regarding CapEx and AI spending on their earnings calls lead us to believe that our above-consensus NVDA estimates may prove conservative. MSFT comments imply $40bn in CapEx over NTM, 25% above consensus.
❤4
메타(META) 2Q23 실적발표 (시간외 +8%)
EPS : $2.98 vs 컨센 $2.91 (Beat)
매출 : $32B vs 컨센 $31.12 (Beat) (YoY +11%)
DAU : 20.6억명 vs 컨센 20.4억명 (Beat)
MAU : 30.3억명 vs 컨센 30억명 (Beat)
ARPU : $10.63 vs $10.22 (Beat)
Reality Labs 영업이익 : 분기 -$3.7B (매년 의미있게 증가예상)
임직원 수 : 71,469명 (YoY -14%)
릴스(Reels) : 연간 매출실행률 $10B 도달 (작년 가을 $3B)
3분기 가이던스
- 매출 : $32~34.5B vs 컨센 $31.3B (Beat) (YoY +15%)
CAPEX 가이던스
- 이전 $30~33B → 변경 $27~30B
- 비 AI 서버에서 비용절감 + 프로젝트 및 장비 인도 지연으로 인한 CAPEX 2024년 이동에 의한 것
- 데이터센터와 AI 지출로 인해 2024년 비용 증가할 것
EPS : $2.98 vs 컨센 $2.91 (Beat)
매출 : $32B vs 컨센 $31.12 (Beat) (YoY +11%)
DAU : 20.6억명 vs 컨센 20.4억명 (Beat)
MAU : 30.3억명 vs 컨센 30억명 (Beat)
ARPU : $10.63 vs $10.22 (Beat)
Reality Labs 영업이익 : 분기 -$3.7B (매년 의미있게 증가예상)
임직원 수 : 71,469명 (YoY -14%)
릴스(Reels) : 연간 매출실행률 $10B 도달 (작년 가을 $3B)
3분기 가이던스
- 매출 : $32~34.5B vs 컨센 $31.3B (Beat) (YoY +15%)
CAPEX 가이던스
- 이전 $30~33B → 변경 $27~30B
- 비 AI 서버에서 비용절감 + 프로젝트 및 장비 인도 지연으로 인한 CAPEX 2024년 이동에 의한 것
- 데이터센터와 AI 지출로 인해 2024년 비용 증가할 것
❤6