차트1. Joby Aviation (+40.22%) : 감항성 인증은 eVTOL 업계에서 가장 중요한 이슈, 중국 EHang의 경우 CAAC 최종 인증 앞두고 있음
차트2. Generac (+3.89%) : 바닥 찍고 상승. 2021년 사례처럼 전력난 수혜로 원래 3Q21 당시 올해 하반기부터 정상 턴어라운드 할 것으로 예상했으나 그 시점과 각도가 빨라질 가능성
차트3. Ford (+2.64%) : 최근 박스뚫고 상승 시작, Ford, GM 등 북미 자동차 수요가 계속 생각보다 좋은 모습. Weekly 중국수요도 회복되며 우려에 비해 계속 판매는 좋은 모습
차트2. Generac (+3.89%) : 바닥 찍고 상승. 2021년 사례처럼 전력난 수혜로 원래 3Q21 당시 올해 하반기부터 정상 턴어라운드 할 것으로 예상했으나 그 시점과 각도가 빨라질 가능성
차트3. Ford (+2.64%) : 최근 박스뚫고 상승 시작, Ford, GM 등 북미 자동차 수요가 계속 생각보다 좋은 모습. Weekly 중국수요도 회복되며 우려에 비해 계속 판매는 좋은 모습
❤2
6/29 Micron 실적발표 어닝콜 (AH +3%)
- 마이크론의 중국 매출 25%. 절반 영향으로 전사의 low double digit%만큼 영향 받을 것. 이로 인해 회복 늦춰지는 중
- 이제 PC/스마트폰 고객재고 정상 수준, 데이터센터 고객 재고도 개선되고 있으며 올해 말이나 그 후 정상화. 스마트폰 2H23 제품 출시에 따라 QoQ 성장할 것으로 예상
- 생성AI 채택으로 인해 AI 서버용 메모리/ 스토리지 수요 증가. 기하급수적으로 커지는 파라미터가 더 많은 메모리 콘텐츠 수요 주도
- NVIDIA DGX GH200는 메모리 144TB 탑재로 거대모델 지원, 마이크론은 HBM3 제품 샘플링하기 시작. 2024년 초부터 대량생산 시작할 예정. DRAM D5 비율 QoQ 2배 증가
- DRAM, NAND Wafer start 기존 25% 감소 → 30% 감소로 늘림
- 마이크론의 중국 매출 25%. 절반 영향으로 전사의 low double digit%만큼 영향 받을 것. 이로 인해 회복 늦춰지는 중
- 이제 PC/스마트폰 고객재고 정상 수준, 데이터센터 고객 재고도 개선되고 있으며 올해 말이나 그 후 정상화. 스마트폰 2H23 제품 출시에 따라 QoQ 성장할 것으로 예상
- 생성AI 채택으로 인해 AI 서버용 메모리/ 스토리지 수요 증가. 기하급수적으로 커지는 파라미터가 더 많은 메모리 콘텐츠 수요 주도
- NVIDIA DGX GH200는 메모리 144TB 탑재로 거대모델 지원, 마이크론은 HBM3 제품 샘플링하기 시작. 2024년 초부터 대량생산 시작할 예정. DRAM D5 비율 QoQ 2배 증가
- DRAM, NAND Wafer start 기존 25% 감소 → 30% 감소로 늘림
AI서버들 성능비교
- 테슬라의 D1 성능은 A100보다 살짝 더 높은 수준. 자체 비용절감 & 자체 데이터에 맞는 수직계열화 효과가 강함. A100, H100의 수급으로부터 독립 목적
배경
- 성능표에 쓰인 숫자는 FP8로 갈 수록 AI 작업에 특화
- FP64가 보통의 경우 기존 서버(HPC) 작업 (수학적 계산이 빠른 것)
- 1,000,000 테라플롭스 = 1,000페타플롭스 = 1엑사플롭스
- 같은 아키텍처일 때만 비교가 가능함, AMD MI250X, 300X와의 성능비교는 불가. 그래서 이것은 보통 MLPerf로 비교
Dojo 관련
- 앞으로 AI 서버 많이 깔아야 하는 테슬라(w/ X.AI) 입장에서는 ⓐ비용 줄이기, ⓑ자체 공급으로 계획 차질 없도록 하기, ⓒ특화된 AI 반도체로 엔비디아 칩으로 학습시키는 것보다 더 빠르게 학습 가능 효과 기대
- 테슬라의 D1 성능은 A100보다 살짝 더 높은 수준. 자체 비용절감 & 자체 데이터에 맞는 수직계열화 효과가 강함. A100, H100의 수급으로부터 독립 목적
배경
- 성능표에 쓰인 숫자는 FP8로 갈 수록 AI 작업에 특화
- FP64가 보통의 경우 기존 서버(HPC) 작업 (수학적 계산이 빠른 것)
- 1,000,000 테라플롭스 = 1,000페타플롭스 = 1엑사플롭스
- 같은 아키텍처일 때만 비교가 가능함, AMD MI250X, 300X와의 성능비교는 불가. 그래서 이것은 보통 MLPerf로 비교
Dojo 관련
- 앞으로 AI 서버 많이 깔아야 하는 테슬라(w/ X.AI) 입장에서는 ⓐ비용 줄이기, ⓑ자체 공급으로 계획 차질 없도록 하기, ⓒ특화된 AI 반도체로 엔비디아 칩으로 학습시키는 것보다 더 빠르게 학습 가능 효과 기대
❤3🐳1
Micron FY3Q23 실적의 숨은 의미 (자료: Timesight)
2025년 공급부족 예상
- 24년까지의 CAPEX 투자 적고, DDR5는 면적 크고, HBM은 웨이퍼당 다이 수 작아 공급축소 가속화. 2025년 공급부족이 강하게 올 것 암시
- Wafer Start도 -30%로 확대 (FY2Q23 -25%, FY1Q23 -20%에서 점점 확대)
DRAM B/G 비교
- 하이닉스(E) : +40%
- 삼성전자(E) : +20%
- 마이크론(A) : +10% (→ ⓐ중국압박영향 ⓑHBM 부재)
HBM 현황
- 하이닉스 : HBM 선두주자
- 삼성전자 : 2H23 HBM 램프업으로 Nvidia, AMD향 공급
- 마이크론 : 2024부터 양산 매출 시작
후공정 투자
- TSV 등 후공정 역할이 고용량/고대역 DRAM 생산에 중요하므로 후공정 투자는 향후 수년간 지속
- CAPEX는 줄여도 Commodity DRAM을 벗어나 Specialty DRAM 공급을 위해서는 후공정 투자 지속할 수밖에
https://blog.naver.com/timesight/223141831267
https://t.me/timesight
2025년 공급부족 예상
- 24년까지의 CAPEX 투자 적고, DDR5는 면적 크고, HBM은 웨이퍼당 다이 수 작아 공급축소 가속화. 2025년 공급부족이 강하게 올 것 암시
- Wafer Start도 -30%로 확대 (FY2Q23 -25%, FY1Q23 -20%에서 점점 확대)
DRAM B/G 비교
- 하이닉스(E) : +40%
- 삼성전자(E) : +20%
- 마이크론(A) : +10% (→ ⓐ중국압박영향 ⓑHBM 부재)
HBM 현황
- 하이닉스 : HBM 선두주자
- 삼성전자 : 2H23 HBM 램프업으로 Nvidia, AMD향 공급
- 마이크론 : 2024부터 양산 매출 시작
후공정 투자
- TSV 등 후공정 역할이 고용량/고대역 DRAM 생산에 중요하므로 후공정 투자는 향후 수년간 지속
- CAPEX는 줄여도 Commodity DRAM을 벗어나 Specialty DRAM 공급을 위해서는 후공정 투자 지속할 수밖에
https://blog.naver.com/timesight/223141831267
https://t.me/timesight
NAVER
MICRON FY3Q23 실적의 숨은 의미
음악 듣는 사람 뇌 신호 학습한 AI, 히트곡 97% 맞췄다
https://biz.chosun.com/science-chosun/technology/2023/06/20/BU66I2OM4FBG7CBF7YVSPLADKQ/
- 실험참가자 33명으로 유행 정도가 다른 24곡의 음악을 듣게했고, 뇌 활동이 어떻게 바뀌는지 측정. AI에게 학습시켜 선호도를 예측
- 97% 정확도로 24곡 중 유행곡을 구분, 기존 유행곡 예측 AI 모델 정확도 69%에 비해 훨씬 뛰어나며, 음악의 첫 1분을 듣고 측정해도 82%의 정확도
- 자크 교수는 “단 33명의 뇌 활동만으로도 수십만명 이상이 선호하는 음악을 찾았다는 점에서 유행을 예측하는 강력한 도구라는 것을 보여준다”며 “이번에 개발한 AI를 음악 스트리밍 서비스에 적용하면 보다 쉽게 사람들이 좋아할 노래를 제안할 수 있을 것”이라고 말했다.
https://biz.chosun.com/science-chosun/technology/2023/06/20/BU66I2OM4FBG7CBF7YVSPLADKQ/
- 실험참가자 33명으로 유행 정도가 다른 24곡의 음악을 듣게했고, 뇌 활동이 어떻게 바뀌는지 측정. AI에게 학습시켜 선호도를 예측
- 97% 정확도로 24곡 중 유행곡을 구분, 기존 유행곡 예측 AI 모델 정확도 69%에 비해 훨씬 뛰어나며, 음악의 첫 1분을 듣고 측정해도 82%의 정확도
- 자크 교수는 “단 33명의 뇌 활동만으로도 수십만명 이상이 선호하는 음악을 찾았다는 점에서 유행을 예측하는 강력한 도구라는 것을 보여준다”며 “이번에 개발한 AI를 음악 스트리밍 서비스에 적용하면 보다 쉽게 사람들이 좋아할 노래를 제안할 수 있을 것”이라고 말했다.
Chosun Biz
음악 듣는 사람 뇌 신호 공부한 AI, 히트곡 97% 맞췄다
음악 듣는 사람 뇌 신호 공부한 AI, 히트곡 97% 맞췄다 미국 클레어몬트대 연구진 음악 듣는 사람의 뇌 활동 학습 유행곡 예측 정확도 97% 달성 식품, 패션 산업에서도 트렌드 예측 AI 주목
❤1
디즈니는 오래 전부터 콘텐츠 시장성 평가하기 위한 AI 개발 중
https://emerj.com/ai-sector-overviews/artificial-intelligence-at-disney/
- 영화를 보고 있는 관객들의 얼굴 표정, 신체 움직임, 시선 등의 데이터를 얻은 뒤 머신러닝을 사용하여 콘텐츠에 대한 반응을 수치화하는 기술
- 400석 규모의 극장에서 4대의 적외선 카메라를 사용하여 얼굴을 관찰했고, 그 결과 3,000명 이상의 사람에게 1,600만개의 얼굴 표정 데이터 수집하여 딥러닝
- 콘텐츠에 대한 특정 감정을 어떻게, 얼마나 불러일으킬 수 있는지에 대한 의사결정에 쓰기 위함이 목표
디즈니의 Audience-understanding 프로젝트 (링크)
- 2016년, Predicting Movie Ratings from Audience Behaviors (링크)
- 2019년, Factorized Variational Autoencoders for Modeling Audience Reactions to Movies (링크)
https://emerj.com/ai-sector-overviews/artificial-intelligence-at-disney/
- 영화를 보고 있는 관객들의 얼굴 표정, 신체 움직임, 시선 등의 데이터를 얻은 뒤 머신러닝을 사용하여 콘텐츠에 대한 반응을 수치화하는 기술
- 400석 규모의 극장에서 4대의 적외선 카메라를 사용하여 얼굴을 관찰했고, 그 결과 3,000명 이상의 사람에게 1,600만개의 얼굴 표정 데이터 수집하여 딥러닝
- 콘텐츠에 대한 특정 감정을 어떻게, 얼마나 불러일으킬 수 있는지에 대한 의사결정에 쓰기 위함이 목표
디즈니의 Audience-understanding 프로젝트 (링크)
- 2016년, Predicting Movie Ratings from Audience Behaviors (링크)
- 2019년, Factorized Variational Autoencoders for Modeling Audience Reactions to Movies (링크)
Emerj
Artificial Intelligence at Disney
The Walt Disney Company began in 1923 as the Disney Brothers Cartoon Studio. By 1940, Walt Disney Productions issued its first stock. Today, the
👏2❤1🐳1
오라클, "올해 엔비디아 칩에 수십억 달러 지출하고 있다"
https://finance.yahoo.com/news/oracle-spending-billions-nvidia-chips-224222975.html
- AWS, Microsoft와 경쟁하기 위해 오라클은 ChatGPT 등의 AI 시스템에 필요한 방대한 데이터를 다룰 수 있는 빠른 네트워크 구축에 집중 (Oracle Gen 2 Cloud). 때문에 엄청난 수의 GPU 구입(buying huge numbers of graphics processing units)하고 있음
- 엔비디아 GPU 구입에 수십억 달러를 쓰지만 기존서버에는 그 3배를 쓸 것. 여전히 기존 컴퓨팅에 더 많은 돈을 씀
오라클, 올해 3개 기업에서 GPU/CPU 구입
- GPU : Nvidia
- CPU : Ampere, AMD
*Ampere는 오라클이 투자한 칩 스타트업 / CPU에 인텔 없음
https://finance.yahoo.com/news/oracle-spending-billions-nvidia-chips-224222975.html
- AWS, Microsoft와 경쟁하기 위해 오라클은 ChatGPT 등의 AI 시스템에 필요한 방대한 데이터를 다룰 수 있는 빠른 네트워크 구축에 집중 (Oracle Gen 2 Cloud). 때문에 엄청난 수의 GPU 구입(buying huge numbers of graphics processing units)하고 있음
- 엔비디아 GPU 구입에 수십억 달러를 쓰지만 기존서버에는 그 3배를 쓸 것. 여전히 기존 컴퓨팅에 더 많은 돈을 씀
오라클, 올해 3개 기업에서 GPU/CPU 구입
- GPU : Nvidia
- CPU : Ampere, AMD
*Ampere는 오라클이 투자한 칩 스타트업 / CPU에 인텔 없음
Yahoo Finance
Oracle spending 'billions' on Nvidia chips this year - Ellison
Oracle Corp is spending "billions" of dollars on chips from Nvidia Corp as it expands a cloud computing service targeting a new wave of artificial intelligence (AI) companies, Oracle founder and Chairman Larry Ellison said on Wednesday. Oracle's cloud division…
❤4
오라클, HR 프로세스 간소화를 위해 생성AI 도입
https://www.prnewswire.com/news-releases/oracle-introduces-generative-ai-capabilities-to-help-hr-boost-productivity-301865682.html
- Oracle Fusion Cloud HCM(Human Capital Management) 내에 생성AI 기능 추가 발표. 생성AI는 콘텐츠 요약, 작성, 추천 기능을 통해 직원의 수작업 업무 줄일 것
- 현재 오라클 HR에서 생성AI에 대한 100개 이상의 고부가가치 시나리오를 찾았으며, 이제 시작에 불과하다고 언급
📌 코멘트
→ 이는 오라클 클라우드 인프라(OCI)에서 내놓는 것으로, 클라우드 기업들은 지속해서 고객들의 자사 클라우드 사용량을 늘리기 위해 생성AI 기능을 내놓을 것으로 예상
https://www.prnewswire.com/news-releases/oracle-introduces-generative-ai-capabilities-to-help-hr-boost-productivity-301865682.html
- Oracle Fusion Cloud HCM(Human Capital Management) 내에 생성AI 기능 추가 발표. 생성AI는 콘텐츠 요약, 작성, 추천 기능을 통해 직원의 수작업 업무 줄일 것
- 현재 오라클 HR에서 생성AI에 대한 100개 이상의 고부가가치 시나리오를 찾았으며, 이제 시작에 불과하다고 언급
📌 코멘트
→ 이는 오라클 클라우드 인프라(OCI)에서 내놓는 것으로, 클라우드 기업들은 지속해서 고객들의 자사 클라우드 사용량을 늘리기 위해 생성AI 기능을 내놓을 것으로 예상
PR Newswire
Oracle Introduces Generative AI Capabilities to Help HR Boost Productivity
/PRNewswire/ -- Oracle today announced the addition of generative AI-powered capabilities within Oracle Fusion Cloud Human Capital Management (HCM). Supported...
Insilico Medicine, 최초로 생성AI로 만든 약물 2상 진입
https://blogs.nvidia.com/blog/2023/06/27/insilico-medicine-uses-generative-ai-to-accelerate-drug-discovery/
- Insilico Medicine(비상장), 특발성 폐 섬유증 치료용 INS018_055 최초의 완전히 AI가 발견하고 AI가 설계한 약물이 2상 임상 시험을 시작
- 창업자는 인터뷰에서 "Insilico에게는 진실의 순간이며, AI에 대한 진정한 테스트이자 전체 산업이 지켜봐야 하는 내용이다.", AI를 통해 전임상에서 2~4년을 절약할 수 있었으며, 치료에 반응할 가능성이 더 높은 환자를 모집했다"고 말함
- Insilico Medicine에는 Sanofi, Fosun, Johnson&Johnson이 파트너십 계약 체결하고 있음
📌 코멘트
→ Insilico Medicine은 엔비디아의 AI 스타트업 무료 프로그램인 NVIDIA Inception의 프리미어 회원입니다. 엔비디아의 큰 그림...
https://blogs.nvidia.com/blog/2023/06/27/insilico-medicine-uses-generative-ai-to-accelerate-drug-discovery/
- Insilico Medicine(비상장), 특발성 폐 섬유증 치료용 INS018_055 최초의 완전히 AI가 발견하고 AI가 설계한 약물이 2상 임상 시험을 시작
- 창업자는 인터뷰에서 "Insilico에게는 진실의 순간이며, AI에 대한 진정한 테스트이자 전체 산업이 지켜봐야 하는 내용이다.", AI를 통해 전임상에서 2~4년을 절약할 수 있었으며, 치료에 반응할 가능성이 더 높은 환자를 모집했다"고 말함
- Insilico Medicine에는 Sanofi, Fosun, Johnson&Johnson이 파트너십 계약 체결하고 있음
📌 코멘트
→ Insilico Medicine은 엔비디아의 AI 스타트업 무료 프로그램인 NVIDIA Inception의 프리미어 회원입니다. 엔비디아의 큰 그림...
NVIDIA Blog
Quicker Cures: How Insilico Medicine Uses Generative AI to Accelerate Drug Discovery
The startup, a premier member of NVIDIA Inception, is entering Phase 2 clinical trials with a drug candidate discovered using its AI platform.
중국 빅테크, 미국 빅테크와 경쟁하기 위해 적극 AI 도입
https://www.bloomberg.com/news/articles/2023-06-27/ai-is-next-tech-battle-for-us-and-china-on-chatgpt-frenzy?sref=AzVeVIhb
- 텐센트의 Wang Xiaochuan, "크던 작던 테크기업은 모두 같은 출발선에 섰습니다. 중국은 여전히 미국보다 3년 뒤쳐져 있지만 (AI를 적극 도입하면) 우리가 따라잡는 데 3년이 필요하지 않을 수도 있습니다."
- 중국 내 올해 AI 벤처 딜의 숫자는 미국 447건의 3분의 2만큼 따라잡음
- 시진핑 시대에서 2년 동안 인터넷 사업을 단속 당하다가, 국가적으로 밀어주기 시작하니 Tencent, ByteDance, Alibaba 등이 빠르게 투자를 늘리고 있음
- 바이트댄스의 비전 기술 책임자인 Wang Changhu, "10년에 한 번 있는 기회이며, 신생기업이 빅테크에 필적하는 회사를 만들 수 있는 기회", "중국 전역에 대규모언어모델(LLM)을 연구하는 회사가 50개 정도 된다"
- 텐센트 경영진은 성능저하를 보완하기 위해 더 많은 칩셋을 사용할 수 있다고 발언
https://www.bloomberg.com/news/articles/2023-06-27/ai-is-next-tech-battle-for-us-and-china-on-chatgpt-frenzy?sref=AzVeVIhb
- 텐센트의 Wang Xiaochuan, "크던 작던 테크기업은 모두 같은 출발선에 섰습니다. 중국은 여전히 미국보다 3년 뒤쳐져 있지만 (AI를 적극 도입하면) 우리가 따라잡는 데 3년이 필요하지 않을 수도 있습니다."
- 중국 내 올해 AI 벤처 딜의 숫자는 미국 447건의 3분의 2만큼 따라잡음
- 시진핑 시대에서 2년 동안 인터넷 사업을 단속 당하다가, 국가적으로 밀어주기 시작하니 Tencent, ByteDance, Alibaba 등이 빠르게 투자를 늘리고 있음
- 바이트댄스의 비전 기술 책임자인 Wang Changhu, "10년에 한 번 있는 기회이며, 신생기업이 빅테크에 필적하는 회사를 만들 수 있는 기회", "중국 전역에 대규모언어모델(LLM)을 연구하는 회사가 50개 정도 된다"
- 텐센트 경영진은 성능저하를 보완하기 위해 더 많은 칩셋을 사용할 수 있다고 발언
Bloomberg.com
Billionaires and Bureaucrats Mobilize China for AI Race With US
A ChatGPT-inspired global wave of AI activity is only just beginning in the next battle for supremacy in technology.
빅테크들의 사내 서버칩에 대한 근황
- 구글 : 현재 TPU v4 사용 중이며, 2015년부터 데이터센터에 TPU 사용했고 2018년부터 GCP를 통해 고객에게 서비스
- 아마존 : 현재 Graviton3 (CPU) 사용 중. 그래비톤3의 성능은 2에 비해 컴퓨팅에서 25%, 머신러닝에서 3배 우수. 그래비톤 시리즈는 2018년에 처음 고객에게 서비스 시작
- 애플 : 자체 M1 실리콘은 2020년에 처음 출시, M1 울트라는 M1 Max를 하나의 칩에서 하나의 시스템처럼 작동하도록 상호 연결하여 만들어졌으며 인텔의 i9-12900K보다 90% 더 높은 멀티스레드 성능과 전력 소비는 최대 100와트 더 적음
- 구글 : 현재 TPU v4 사용 중이며, 2015년부터 데이터센터에 TPU 사용했고 2018년부터 GCP를 통해 고객에게 서비스
- 아마존 : 현재 Graviton3 (CPU) 사용 중. 그래비톤3의 성능은 2에 비해 컴퓨팅에서 25%, 머신러닝에서 3배 우수. 그래비톤 시리즈는 2018년에 처음 고객에게 서비스 시작
- 애플 : 자체 M1 실리콘은 2020년에 처음 출시, M1 울트라는 M1 Max를 하나의 칩에서 하나의 시스템처럼 작동하도록 상호 연결하여 만들어졌으며 인텔의 i9-12900K보다 90% 더 높은 멀티스레드 성능과 전력 소비는 최대 100와트 더 적음
테슬라, 스페인 기가팩토리 건설 계획 취소 (사유: 협상내용 유출)
https://www.teslarati.com/tesla-abandoned-spain-gigafactory-as-ev-maker-grew-furious-with-leak/
- 6월 초 얘기 나오면서 CincoDias(링크)에서 발렌시아에 $4.5B 이상 투자할 것 같다고 언급했는데 해당 유출에 대해서 불만을 품은 테슬라가 협상 결렬
- 2023년 말까지 차기 기가팩토리 위치를 발표할 것(링크)이라 했었기에, 현재로서 남은 유력 후보지는 인도, 캐나다, 한국, 인도네시아, 프랑스 등이 있는 상황
https://www.teslarati.com/tesla-abandoned-spain-gigafactory-as-ev-maker-grew-furious-with-leak/
- 6월 초 얘기 나오면서 CincoDias(링크)에서 발렌시아에 $4.5B 이상 투자할 것 같다고 언급했는데 해당 유출에 대해서 불만을 품은 테슬라가 협상 결렬
- 2023년 말까지 차기 기가팩토리 위치를 발표할 것(링크)이라 했었기에, 현재로서 남은 유력 후보지는 인도, 캐나다, 한국, 인도네시아, 프랑스 등이 있는 상황
Teslarati
Tesla abandoned Spain Gigafactory as EV maker grew furious with leak
Tesla reportedly abandoned its plans to build a Gigafactory in Valencia, Spain after the plans and negotiations were leaked in a report earlier this month. Earlier in June, we reported that Tesla was in “very advanced negotiations” with the Spanish government…
소프트뱅크, 기업용 생성AI 만든다
https://asia.nikkei.com/Business/SoftBank2/SoftBank-Group-subsidiary-to-make-generative-AI-for-companies
- NVIDIA GPU 장착된 컴퓨팅 인프라에 200억엔 ($138M) 투자할 예정. 일본 기업 중에서는 가장 큰 것 중 하나가 될 것. 올해 말까지 자체 LLM 및 생성 AI 개발을 시작
- 기업에게 서비스로 제공하기를 희망. 콜센터 시장을 타깃으로 시작하여 금융, 헬스케어 등 다양한 기술 분야에 특화된 AI 개발을 목표로 함
- 현재 자체 소프트뱅크 LLM의 파라미터는 약 10억개, 회사는 가능한 한 빠르게 그 숫자를 600억개 수준으로 늘리기를 희망 (GPT-3는 1750억개였음)
- 현재 Nippon Telegraph and Telephone 등 기타 일본 기업도 자체 LLM과 생성 AI 개발중
📌 코멘트
→ 먼저 선점하지 않으면 잡아먹히는 시장의 성격을 갖고 있기 때문에 각 국가별, 대기업별로는 자체 데이터를 넣은 LLM과 생성 AI를 개발할 수밖에 없다고 생각합니다. 또한 오늘 올려드린 Oracle의 OCI 사례처럼 클라우드 기업들은 자체 모델을 강화하고 사용량을 늘리기 위해서라도 생성 AI 신기능을 출시하는 방향으로 뻗어나가고 있습니다.
https://asia.nikkei.com/Business/SoftBank2/SoftBank-Group-subsidiary-to-make-generative-AI-for-companies
- NVIDIA GPU 장착된 컴퓨팅 인프라에 200억엔 ($138M) 투자할 예정. 일본 기업 중에서는 가장 큰 것 중 하나가 될 것. 올해 말까지 자체 LLM 및 생성 AI 개발을 시작
- 기업에게 서비스로 제공하기를 희망. 콜센터 시장을 타깃으로 시작하여 금융, 헬스케어 등 다양한 기술 분야에 특화된 AI 개발을 목표로 함
- 현재 자체 소프트뱅크 LLM의 파라미터는 약 10억개, 회사는 가능한 한 빠르게 그 숫자를 600억개 수준으로 늘리기를 희망 (GPT-3는 1750억개였음)
- 현재 Nippon Telegraph and Telephone 등 기타 일본 기업도 자체 LLM과 생성 AI 개발중
📌 코멘트
→ 먼저 선점하지 않으면 잡아먹히는 시장의 성격을 갖고 있기 때문에 각 국가별, 대기업별로는 자체 데이터를 넣은 LLM과 생성 AI를 개발할 수밖에 없다고 생각합니다. 또한 오늘 올려드린 Oracle의 OCI 사례처럼 클라우드 기업들은 자체 모델을 강화하고 사용량을 늘리기 위해서라도 생성 AI 신기능을 출시하는 방향으로 뻗어나가고 있습니다.
Nikkei Asia
SoftBank Group subsidiary to make generative AI for companies
Telecommunications arm to invest $138m in supercomputer-like equipment
Skyscanner의 생성 AI와 여행산업에 대한 생각
https://www.phocuswire.com/ai-insights-skyscanner-personalization
- 스카이스캐너는 2020년에 생성 AI 작업을 시작. AI는 여행자에게 테마별 목적지를 제안 및 추천하고, 검색 혹은 리디렉션 시 개인별 선호도에 따라 리스트를 정렬하는 데에 쓰이고 있음
- 여행 산업 전반에서 생성 AI는 독특하고 흥미로운 여행 계획이나 목적지의 대안을 추천해줄 수 있는 면에서 가장 큰 잠재력을 보고 있음.
- 1년 후에는 AI는 스카이스캐너의 핵심이 되어 여행자에게 결과를 보여주거나 추천하는 방법, 여행자에게 제안하는 방법, 내부적으로 제품을 만드는 방법 등을 담당할 것
https://www.phocuswire.com/ai-insights-skyscanner-personalization
- 스카이스캐너는 2020년에 생성 AI 작업을 시작. AI는 여행자에게 테마별 목적지를 제안 및 추천하고, 검색 혹은 리디렉션 시 개인별 선호도에 따라 리스트를 정렬하는 데에 쓰이고 있음
- 여행 산업 전반에서 생성 AI는 독특하고 흥미로운 여행 계획이나 목적지의 대안을 추천해줄 수 있는 면에서 가장 큰 잠재력을 보고 있음.
- 1년 후에는 AI는 스카이스캐너의 핵심이 되어 여행자에게 결과를 보여주거나 추천하는 방법, 여행자에게 제안하는 방법, 내부적으로 제품을 만드는 방법 등을 담당할 것
Phocuswire
AI Insights: Generative AI and personalization
Skyscanner CTO Andrew Phillips answers our questions about how the company is working with generative artificial intelligence technology.
생성 AI로 개발자의 코딩 속도 2배 빠르게 만들 수 있다.
https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/unleashing-developer-productivity-with-generative-ai
- 맥킨지 연구에 따르면 소프트웨어 개발자는 생성 AI를 사용하여 획기적 시간 절약 가능. 앞으로 숙련도를 늘리고 엔터프라이즈급 B2B 도구들을 통해 생산성 증가로 이어질 수 있음
- 다만, 작업의 복잡성이나 개발자의 경험수준에 따라 수혜 수준은 크게 다를 수 있음. 복잡도가 높은 경우 시간절약 수준이 10% 미만으로 줄었고, 1년 미만의 저숙련자에서도 비슷했음. 오히려 주니어 개발자는 도구를 사용할 때 7~10% 시간을 더 씀
- 궁극적으로 코드의 품질을 유지하기 위해서는 개발자가 직접 속성을 이해하고 올바른 output을 위한 도구를 프롬프트 해야 함
- 특히 4가지 영역에서 엄청난 생산성 향상 기대 : ⓐ수작업과 반복작업 ⓑ새 코드의 첫 초안 시작할 때 ⓒ기존 코드 업데이트 ⓓ익숙치 않은 코드, 언어, 프레임워크로 작업할 때
- 개발자가 생산성을 최대화할 수 있도록 한다면, 개발자 경험이 올라가므로 기업이 최고의 인재를 유치하는 데 도움이 될 것
- 결국 도구는 도구를 사용하는 엔지니어의 기술력만큼만 우수해짐. 버그나 오류에 대한 검사, 개별 기업/조직이 갖고 있는 컨텍스트 읽기 등에 주로 신경 써야 함
- 따라서 생성 AI에 맞는 개발자 교육 및 코칭을 하고, 지속적으로 더 많은 프롬프트를 생성하여 프롬프트의 품질을 높이는 것이 필요
📌 생각
→ 양질의 개발자를 대규모로 필요로 하는 기업들 입장에서는 생산성을 최대화 해줄 수 있는 AI 인프라가 중요해지겠다는 점, 기업별로 LLM 및 생성 AI를 만든 후 이것에 대한 교육시장 또한 중요하겠네요.
https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/unleashing-developer-productivity-with-generative-ai
- 맥킨지 연구에 따르면 소프트웨어 개발자는 생성 AI를 사용하여 획기적 시간 절약 가능. 앞으로 숙련도를 늘리고 엔터프라이즈급 B2B 도구들을 통해 생산성 증가로 이어질 수 있음
- 다만, 작업의 복잡성이나 개발자의 경험수준에 따라 수혜 수준은 크게 다를 수 있음. 복잡도가 높은 경우 시간절약 수준이 10% 미만으로 줄었고, 1년 미만의 저숙련자에서도 비슷했음. 오히려 주니어 개발자는 도구를 사용할 때 7~10% 시간을 더 씀
- 궁극적으로 코드의 품질을 유지하기 위해서는 개발자가 직접 속성을 이해하고 올바른 output을 위한 도구를 프롬프트 해야 함
- 특히 4가지 영역에서 엄청난 생산성 향상 기대 : ⓐ수작업과 반복작업 ⓑ새 코드의 첫 초안 시작할 때 ⓒ기존 코드 업데이트 ⓓ익숙치 않은 코드, 언어, 프레임워크로 작업할 때
- 개발자가 생산성을 최대화할 수 있도록 한다면, 개발자 경험이 올라가므로 기업이 최고의 인재를 유치하는 데 도움이 될 것
- 결국 도구는 도구를 사용하는 엔지니어의 기술력만큼만 우수해짐. 버그나 오류에 대한 검사, 개별 기업/조직이 갖고 있는 컨텍스트 읽기 등에 주로 신경 써야 함
- 따라서 생성 AI에 맞는 개발자 교육 및 코칭을 하고, 지속적으로 더 많은 프롬프트를 생성하여 프롬프트의 품질을 높이는 것이 필요
📌 생각
→ 양질의 개발자를 대규모로 필요로 하는 기업들 입장에서는 생산성을 최대화 해줄 수 있는 AI 인프라가 중요해지겠다는 점, 기업별로 LLM 및 생성 AI를 만든 후 이것에 대한 교육시장 또한 중요하겠네요.
❤1