BofA) 메모리 강세론, 그리고 "오픈소스"가 TAM을 확장하는 이유
(2026.7.20, Vivek Arya 외)

[핵심 요지]
7월 16일 출시된 Kimi K3 등 중국 오픈소스 모델의 최신 릴리스는 메모리/마이크론(MU) 강세론을 오히려 강화한다는 판단입니다. 서구 모델 대비 최대 5~350배 저렴한 중국 오픈모델의 공격적 API 가격은 비즈니스 모델상의 선택이지 하드웨어 비용을 반영한 것이 아닙니다. 이들 모델은 효율화 기법으로 컴퓨트/GPU 부담은 줄였지만, 모델 가중치와 활성 파라미터가 커지면서 메모리는 동일하거나 더 많이 필요합니다. 또한 오픈웨이트가 다운로드될 때마다 폐쇄형 모델 환경에서는 존재하지 않았을 고객측 메모리 소켓이 새로 생겨납니다.

[싸게 팔아도 메모리는 그대로 필요]
Tencent Hunyuan은 입력 100만 토큰당 0.06달러로 Claude Opus 4.8의 15달러 대비 극히 저렴하고, Kimi K3도 유사한 성능에 3달러만 받습니다. 그러나 K3는 서빙 인스턴스당 약 1.4TB의 HBM(64개 이상 가속기 슈퍼노드)이 필요합니다. 같은 MXFP4 정밀도의 OpenAI gpt-oss-120b는 파라미터가 23배 작고 가중치 메모리도 63GB로 22배 작아, API 가격이 사실상 총 가중치 메모리에 비례함을 보여줍니다. "오픈"은 가중치 배포를 의미할 뿐이며, 고객은 자체 하드웨어 구동을 위해 HBM, DRAM, NAND를 직접 구매해야 합니다.

[가격 우위의 원천은 하드웨어가 아님]
중국 모델의 비용 우위는 MoE 희소성(K3는 2.8T 중 토큰당 약 1.8%만 활성화), MLA/하이브리드 어텐션의 KV 캐시 10~90배 압축, 네이티브 FP8/MXFP4 양자화 등 아키텍처 효율에서 2~3배, 낮은 전기·인건비·토지 비용 등 물리 인프라에서 1.5~2배로 추정됩니다. 나머지 격차는 국가 연계 보조금과 중국 CSP(알리바바, 텐센트, 바이두)의 클라우드 현금흐름에서 나오는 것으로 보입니다. 실제로 Moonshot은 K3 출시 48시간 만에 신규 구독을 중단했고(GPU 용량 소진 또는 손실 축소 목적 추정), 샤오미는 2026년 5월 MiMo 가격을 99% 인하하는 등 점유율 확보를 위한 보조 성격이 짙습니다.

[오픈모델 대형화 = 메모리 수요 직결]
오픈웨이트 모델 크기는 DeepSeek-V3 671B(2024.12) → Kimi K2 1T(2025 중반) → DeepSeek-V4-Pro 1.6T(2026.4) → Kimi K3 2.8T(2026.7, 역대 최대)로 급증 중입니다. FP8→MXFP4 압축으로 2배를 아껴도 파라미터가 약 4배 커져 효율 개선을 상쇄하고도 남습니다. 핵심은 가중치 메모리가 활성 파라미터가 아닌 총 파라미터에 비례한다는 점입니다. MoE 라우터가 토큰마다 전문가를 동적으로 선택하므로 전체 전문가 풀이 고속 메모리에 상주해야 하며, 이 때문에 V3는 8개 가속기면 충분했지만 K3는 64개 이상이 필요합니다. 대형 가중치는 핫 전문가는 HBM, 비활성 전문가는 CPU LPDDR5X/DDR5, 콜드 KV 캐시는 엔터프라이즈 NAND로 이어지는 다층 메모리 계층을 유도해 모든 티어의 탑재량을 늘립니다.

[오픈모델은 메모리 엔드포인트를 곱셈으로 확장]
폐쇄형 모델은 소수 데이터센터의 공유 HBM 풀 하나로 전 세계 수요를 상각하지만, 오픈모델은 다운로드 수만큼 풋프린트가 생깁니다. 1만 개 기업이 같은 오픈모델을 자체 호스팅하면 1만 개의 별도 HBM 풀에 가중치 사본이 각각 올라가고, 각 배포는 자체 KV 캐시도 필요합니다(128K~1M 컨텍스트가 일반화된 2026년 기준 활성 세션당 40GB 초과 가능). 저렴한 중국 API 가격은 추론 워크로드 증가, 기업 셀프호스팅 확대, 글로벌 메모리 소켓 증가로 이어집니다. 결론적으로 폐쇄형은 메모리 수요를 집중시키고, 오픈형은 곱셈으로 늘립니다.

[수요 스케일링이 효율 개선을 압도]
OpenRouter 기준 글로벌 토큰 사용량은 2025년 이후 주당 평균 6%, 2026년 이후 9% 증가했으며 2026년 7월 중국 모델이 전체 토큰의 약 70%를 차지합니다. 워크로드 측면에서도 기존 비추론 챗은 쿼리당 약 200토큰이지만 멀티에이전트 스웜은 약 20만 토큰에 달해, 제본스 역설에 따른 수요 확대가 MoE·양자화·KV 캐시 압축의 효율 개선을 훨씬 상회합니다. 7월 4일 기준 AI 지수 랭킹에서는 Anthropic의 Claude Fable 5가 1위 등 미국 프론티어가 선두를 유지하는 가운데 중국 모델이 상위 16개 중 8개를 차지했고(최고는 5위 GLM 5.2), 중국은 최신 칩 접근 제한에도 미국과의 격차가 수년이 아닌 수개월에 불과한 것으로 평가됩니다.

[CXMT는 위협 아님, MU 매수 재확인 / PO 1,550달러]
중국 CXMT가 글로벌 웨이퍼 캐파의 10% 초반까지 공격적으로 증설 중이나, 주력은 소비자/범용 DRAM이며 HBM3E/HBM4가 아니어서 AI 메모리 경쟁은 제한적입니다. 미국 OEM의 CXMT 조달에 대한 정부 승인 여부도 불확실합니다. 결정적으로 MU의 CHIPS Act 자사주 매입 제한이 2026년 12월경 만료되며(2024년 12월 첫 자금 수령 후 2년), 향후 수년간 연 1,200억~1,300억달러 이상의 FCF 전망에서 40% 환원 정책 시 연 500억~600억달러, 시총 약 1조달러의 5~6%에 달하는 바이백이 가능해집니다. PO 1,550달러는 전통 메모리 사업 CY28E P/B 3배(주당 1,040달러)와 AI HBM 사업 CY28E PER 31배의 SOTP 기준입니다. 하방 리스크로는 메모리 ASP 하락, 중국 신규 업체 경쟁 심화, 대형 경쟁사 대비 점유율 상실, 데이터센터·스마트폰·PC 수요 둔화가 제시됐습니다.
*클로드로 요약함.