Nihil's view of data & information
13.5K subscribers
1.99K photos
63 files
1K links
Download Telegram
※ 화웨이, 중국 건설은행 공동 발간 2026년 AI 데이터센터 백서 (Watt-Centric AI Facility, Part. 1)

데이터센터의 핵심 목표는 ‘자원 제공 능력’에서 ‘전력 1W 당 더 많은 유효 토큰을 산출 하는 것’으로 바뀌고 있음.

AI Facility의 핵심 과제는 확정적인 물리 인프라로 에너지 공급, 하드웨어 진화, AI 부하 변화가 가져오는 불확실성을 어떻게 감당하느냐임.


앞으로 AI Facility 계획은 세 가지 핵심 질문을 살펴봐야 함.
1) 에너지를 어떻게 효율적으로 공급할 것인가?
2) 공간을 어떻게 유연하게 진화시킬 것인가?
3) 어떻게 건설을 빠르게 할 것인가?

해법은 탄력적 아키텍처로 전환하는 것임.
AI 부하(전력)의 장기 진화 추세를 보면,
1) 공간을 미리 남겨 두어 세대 간 호환성을 확보하고,
2) 모듈화 설계로 민첩한 확장을 뒷받침하고,
3) 시스템 협동으로 에너지, 공간, 컴퓨팅의 최적 매칭을 실현해야 함.



● Watt-Centric AI Facility : 왜 와트 중심의 AI 데이터센터 시설인가?

1. 기존 전제의 붕괴

기존 데이터센터 시설은 3가지 전제 위에 계획되고 건설되었음.

1) 전력을 예측할 수 있다.
2) 냉각을 표준화할 수 있다.
3) 부하가 비교적 안정적이다.

하지만 AI 시대에는 이런 ‘확정성 기반 설계 패러다임’이 더 이상 통하지 않음.


2. 원인 : 칩에서 랙, 데이터센터 단지에 이르기까지 소비전력이 계속 빠르게 늘고 있음.

1) 칩 1개의 소비전력이 kW급으로 증가하고 있음.
2) 랙 1개의 전력은 수백 kW에 이르고 있음.
3) 컴퓨팅 클러스터는 수십 MW에서 GW급으로 커지고 있음.
4) GW급 AI데이터센터 단지 하나의 전력 부하는 인구 100만 명 도시와 맞먹음.


이 정도의 전력은 기존 데이터센터의 한계를 넘어서고 있으며, 따라서 전력 공급은 이제 사업 승인과 건설 계획을 결정하는 필수 선행 요건이 되었음.


3. AI 데이터센터의 3 가지 변화 특징

1) AI 데이터센터 규모가 10배 증가 : 100MW → GW급
2) 전력 밀도 10배 증가 : 40kW → 100kW → 300kW+
3) 칩 세대교체 가속 : 1년에 1세대 이상


데이터센터 시설 설계는 에너지, 공간, 시간의 3 차원에서 다시 생각해야 함.

1) 에너지 : 입지는 전력 공급을 최우선으로 정함.
발전, 전력망, 부하, 저장을 일체화해 신뢰성과 비용의 균형을 맞춤.


2) 공간 : 전산실 배치와 건축 구조가 처음부터 고전력 클러스터에 맞도록 설계

3) 시간 : 모듈화와 사전제작으로 건설 기간을 단축.
대형 및 소형 기계/전기 설비를 분리해 탄력적으로 배치하고, 여러 세대 컴퓨팅 장비가 진화해도 수용할 수 있게 함.


○ AI Facility의 시스템적 과제

1. 전력 공급과 품질 : 부대시설에서 입지 결정의 기준점으로

1) 입지 논리의 근본적 재편


AI 데이터센터 단지 규모가 기하급수적으로 커지고 있음.
입지 논리는 과거의 ‘사용자 커버리지와 네트워크 지연 중심’에서 ‘전력 용량, 전원 구성, 계통 연계기간, 장기 공급 안정성 중심’으로 완전히 바뀌었음.



2) 발전, 전력망, 부하, 저장의 양방향 결합 과제

재생에너지의 비중이 높아지면서 전원의 변동성과 불확실성이 AI 클러스터의 안정적 운영을 저해할 수 있음.

반대로 GW급 AI 클러스터는 고밀도, 고전력, 강한 동기화라는 특성을 지니고 있어서, 동적 부하 변화가 역으로 전력망 안정성을 흔들기도 함.


2. 전력 배전 : 대전류 송전의 공간 비용과 신뢰성 비용


AI 슈퍼노드 하나의 전력이 100kW를 넘고, 슈퍼노드 클러스터 규모는 MW급까지 올라갔음.

기존 데이터센터에서 흔히 사용되는 63A 3상 배전회로(3상 교류, 정격 전류 63암페어)로는 감당하기 어려움.

기존 방식에서 대전류를 보내기 위해 케이블 수와 배전 회로 수를 늘리는 수 밖에 없고, 이것이 연쇄적인 문제로 이어짐.
1) 랙과 케이블 트레이 공간이 크게 잠식됨
2) 선로의 구리 손실과 전압 강하가 함께 커짐
3) 배전 노드가 많아질수록 고장 확률도 누적되어 커짐



3. 냉각 시스템 : 액체냉각 배관망 구성 계획의 딜레마

AI 컴퓨팅 시대에는 공랭으로 랙당 전력을 감당할 수 없어 액체냉각이 필수가 되었음.


액체냉각 배관망 계획은 두 가지 딜레마에 부딪히고 있음.
1) 초기에 배관망, CDU(냉각수 분배 장치), 말단 인터페이스를 한 번에 고정해 버리면, 나중에 증설할 때 대규모 공사가 필요함.

2) 반대로 먼 미래의 최대 유량을 기준으로 처음부터 설계하면, 평소에는 ‘큰 관경, 작은 유량’ 상태가 되어 제어가 어렵고 에너지가 추가로 소모됨.

때문에 업계에는 분할할 수 있고 동적으로 조절할 수 있는 배관 구조가 필요함.
컴퓨팅 수요에 맞춰 배관 용량을 단계적으로 늘릴 수 있어야 하며, 이는 액체냉각에 완전히 새로운 모듈화/탄력성 설계 요구를 제기함.

(액체냉각의 운영 리스크)
수력(수압) 균형, 냉각수 유지보수, 누수 등의 위험이 있음.
액체냉각 배관 길이는 수십 km에 이를 수 있어, 국부적인 막힘, 부식, 제어 불균형이 생기면 어디서든 문제가 될 수 있음.
따라서 유량, 압력차, 온도, 냉각수의 전기전도도와 ph를 계속 감시해야 함.
누수 감지와 냉각수 안정성 예측 체계도 구축해야 함.


4. 건축 구조 : 층고와 하중이 핵심 과제

액체냉각 시스템에는 더 굵은 공급/회수 배관이 들어가고, 전력 케이블 단면적도 계속 커지며, 클러스터 상호연결 광섬유 규모도 빠르게 늘고 있음.
그 결과 기존 데이터센터의 층고, 바닥 하부 공간, 서버실 배치로는 미래 수요를 감당하기 어려움.

초고전력 AI랙은 무게도 늘어나 건물의 하중 지지 능력에 대한 요구가 높아짐.


5. 건설 기간 : 공사 납기가 컴퓨팅 세대교체를 따라가지 못함.

AI 하드웨어 세대교체 주기는 1년에 1세대로 짧아졌음.
칩 전력, 랙 규격, 클러스터 상호연결 방식이 계속 바뀌고 있음.
때문에 한번에 고정된 서버실 구조로는 빠른 하드웨어 교체에 대응하기 어려움.


기존 토목 위주 건설 기간 : 12 - 18개월
업계가 요구하는 AI 컴퓨팅 시설 납기 : 6 - 8개월


Agent 추론 부하는 돌발성이 강해, 짧은 시간 안에 전력 피크가 몇 배씩 출렁일 수 있음.
이 때문에 인프라는 빠르게 탄력적으로 확장할 수 있어야 함.
※ 화웨이, 중국 건설은행 공동 발간 2026년 AI 데이터센터 백서 (Watt-Centric AI Facility, Part. 2)
 
● Watt-Centric AI Facility : 왜 와트 중심의 AI 데이터센터 시설인가?

○ AI Facility 계획 및 건설 방향
 
1. 전력 우선의 단지 입지 논리와 발전, 전력망, 부하, 저장 협동 아키텍처

 
전력 공급 능력과 장기 안정성이 AI DC 입지의 첫 번째 결정 요인임.
때문에 재생에너지가 풍부한 지역이 대형 AI 데이터센터 단지의 1순위 후보가 됨.
전력이 넉넉할 뿐 아니라 보통 토지 여유라는 장점이 겹치기 때문.
 
(AI 업무 유형별 차별화된 입지 전략)
 
1) 대형 모델 훈련 : 부하가 안정적이고 대규모 → 저렴하고 풍부한 전력 우선
2) 오프라인 추론 : 비용에 민감 → 전기 요금과 처리량(throughput)의 균형 중시
3) 에이전트 대화형 추론 : 전기요금과 접속 지연 간 절충
4) 엣지 시나리오 : 사용자와의 거리 및 데이터 규정 준수 우선

 
 
(재생에너지 밀집 지역의 핵심 문제는 재생에너지의 출력 변동성)
 
공급 용량과 전력 품질을 모두 챙기려면, 대형 AI 컴퓨팅 단지는 발전, 전력망, 부하, 저장 일체화 아키텍처를 갖춰야 함.
1) 계통 형성형(Grid-Forming) ESS를 설치해야 함.
2) 인근 발전원과 연계해 재생에너지를 현지에서 생산하고 소비함. (지산지소)
 

 
(계통형성형 ESS의 4가지 핵심 기능)
 
1) 밀리초(ms)급 응답으로 재생에너지 출력 변동을 평탄화
2) 마이크로그리드의 전압 및 주파수 안정 지원
3) AI 부하의 순간 전력 피크를 흡수해 전력망에 가하는 역충격을 줄임
4) 짧은 정전 시 끊김 없이 독립(오프그리드) 운전해 컴퓨팅 중단을 막음

 
 
(발전, 전력망, 부하, 저장이 만능은 아님)
 
ESS 투자비가 높고, 재생에너지의 출력을 예측하기는 쉽지 않음.
 
돌파구는 에너지 관리(EMS)와 컴퓨팅 스케줄링의 깊은 연동임.
탄력적 작업은 전원 상황에 맞춰 피크와 비피크 시간대를 나눠 운영함.
경직적(Rigid) 부하에는 안정적인 전력 공급을 우선 보장함.
 
결국 AI 데이터센터 단지의 입지와 건설은 ‘전력 우선’ 논리 아래 공급 신뢰성과 장기 전력 비용 사이의 최적 균형을 찾는 일임.

 
 
2. 전원 아키텍처 : AC 중심에서 ‘AC와 HVDC 병존’으로
 
전력 공급 규모와 안정성을 보장하는 전제에서, 전원 아키텍처도 고밀도 컴퓨팅의 고도화에 맞춰 함께 진화해야 함.
 
중저밀도 및 기존 시설에서는 AC 공급의 장점이 여전히 존재함.
산업 생태계가 성숙하고 표준이 갖춰져 있으며 운영 경험도 풍부해, 앞으로도 오랫동안 주류로 남아 있을 것임.
 
300kW 이상 초고밀도 랙에서는 기존 교류 방식의 전류, 케이블 수량, 배전 공간 부담이 급격히 커짐.
800V HVDC는 변환 단계를 줄이고 선로 전류를 낮출 수 있어 중요한 진화 방향이 되었음.

 
300kW는 계획상 참고 임계 값이며, 최종 노선은 서버 인터페이스, 신뢰성, 투자비, 표준, 산업 성숙도 등을 종합해 결정될 것임.
 
 
(800V DC의 3가지 아키텍처 방향성)
 
1) 집중식 DC

 
기본 구조 : 변압기와 집중식 직류 UPS를 한 곳에 일괄 배치하고, 800V 직류 버스로 여러 POD나 랙에 전력을 공급
 
주요 장점 : 설비가 집중되어 시스템 비용이 상대적으로 낮음.
전원 시스템과 IT 전력 밀도가 분리되어 용량 풀링과 탄력적 진화가 쉬움.
 
적용 시 고려사항 : 직류 버스 보호, 고장 격리, 운영 체계를 갖춰야 함.
규모가 크고 계획이 비교적 통일된 신규 단지에 적합
 
 
2) 분산식 DC
 
기본 구조 : AC를 먼저 서버룸이나 POD까지 보낸 뒤, 부하 가까이 있는 직류 UPS가 800V로 변환해 공급
 
주요 장점 : 고장 영향 범위가 작고, 확장이 유연함.
서로 다른 세대와 전력의 랙에 쉽게 대응할 수 있음.
 
적용 시 고려 사항 : 설비 수와 제어 노드가 늘어남.
통일된 인터페이스, 협동 제어, 전 생애주기 운영이 필요.
 
 
3) SideCar 방식
 
기본 구조 : 슈퍼노드나 고밀도 랙 옆에 독립 전원 유닛을 두고, 짧은 직류 링크로 IT 장비에 연결
 
주요 장점 : 슈퍼노드와 밀착 결합되고 배치가 유연함.
말단 공급 거리를 줄일 수 있음.
 
적용 시 고려 사항 : 랙 측면 공간, 냉각, 유지보수, 여러 제조사 인터페이스를 함께 조율해야 함.
기계/전력기기-IT 협업 요구가 더 높음.
 
 
어떤 기술 경로를 택하든 800V는 전체 체인을 아우리는 시스템 엔지니어링임.
하드웨어 측면에서, 직류 UPS, 고압 리튬배터리, 고압 버스, 커넥터, 차단기, 서버 전원이 함께 맞물려야 함.
 
산업 측면에서, 표준 제정, 인증, 운영/유지보수 체계가 함께 성숙해야 함.
 
 
3. 공랭, 액랭 동일 냉원, 탄력적 배관망, 전 구간 신뢰성을 갖춘 냉각 시스템
 
(공랭, 액랭 동일 냉원 아키텍처)

 
1) 전단부 : 냉원과 1차 측 배관망을 통합. 액랭과 공랭이 냉원 인프라에 공존함.
 
2) 말단부 : 랙 전력과 장비 유형에 따라 공랭, 액랭, 혼합 방식을 유연하게 고름.
 
3) 랙 위치마다 액랭 퀴커넥터와 공랭 송풍 조건을 미리 함께 확보함. 그러면 전산실에 서로 다른 세대의 장비를 탄력적으로 배치할 수 있음.
 
 
(액랭 측 설계)
 
주 배관은 장기 용량 기준으로 계획.
CDU와 2차 분기 배관은 모듈화, 구역 분할, 가변 유량 설계를 써서 POD 단위로 단계적 증설을 지원
 
시스템은 유량, 압력차, 냉각수 전기전도도, ph 같은 핵심 지표를 계속 모니터링함.
누수, 유량 단절, 기포 막힘 같은 이상을 빠르게 식별하고 자동으로 격리.
냉각수 안정성 추이를 바탕으로 예측 정비를 해 AI 장비의 안정적 운영을 보장.
 
 
(공랭 측 설계)
 
랙당 20kW 안팎의 고밀도 방열 수요에 대한 두 가지 방안
 
방안 1) 양측 실(Room) 단위 공조
서버룸 양쪽에 대형 fan wall을 설치하고, 냉각 말단 수를 늘려 방열 능력을 높임.
한쪽만 쓰는 Roon 단위 공조보다 양측 송풍이 냉, 열 통로 폭과 천장 회수풍 높이를 줄여 서버룸 공간 활용률을 높임.
 
방안 2) 근접 열간(列間) 공조
마이크로모듈 바로 옆에 소형 fan wall을 AI 장비와 같은 열에 붙여 배치.
열 통로를 밀폐하고 냉량을 풀링하며, 천장 회수풍이 필요 없음.
서버룸 층고 요구가 더 낮음.
다만 방열 장비와 컴퓨팅 장비가 섞여 배치되어 운영 공간이 많이 겹치므로, 운영 관리 요구가 더 높음.
 
 
4. 건축 구조 설계는 업그레이드를 위한 여유 공간을 남겨야 함.
 
(전산실 하중 설계)

신축 액랭 컴퓨팅 서버룸은 바닥 하중을 20 kN/m² 이상 기준으로 시공하도록 권고.
 
 
일체형 랙 반입, 장비 교체, 점검/수리를 위한 공간을 확보해야 함.
주 간선 전력 경로와 액랭 경로는 최대한 서로 독립적이고 확장 가능하게 설계해, 랙 상부와 바닥 아래에서 공종끼리 공간을 다투지 않게 함.
 
 
5. 프리패브화, 모듈화, 제품화로 납기 단축
 
프리패브화와 제품화가 건설 기간을 줄이는 핵심 수단임.

 
AI 데이터센터는 POD를 기본 건설 단위로 삼아 전원, ESS, 냉각, IT 시스템을 표준화해야 함.
기전 모듈은 공장에서 사전 제작, 통합, 시험을 마침. 현장에서는 주로 인양/설치, 연결, 시운전만 함.
서버는 가능한 한 일체형 랙 단위로 납품해 현장 설치와 디버깅을 줄임.
 
건설 방식으로 보면 AI 데이터센터는 본질적으로 ‘규모화 된 컴퓨팅 생산 시스템’임.
핵심 제품, 설계 시뮬레이션, 표준 인터페이스, 시스템 검증, 디지털 제조를 하나로 연결해야 함.
토목과 기전을 병행하고, 프레임 구매와 롤링 재고를 활용하며, 공장 사전 제작과 현장 모듈 조립에 기반해 표준화된 복제형 건설을 실현해야 함.
 
이렇게 하면 기존 토목 공사의 12 - 18개월 공기를 6 - 8개월로 단축해 컴퓨팅 자원의 가동 시점을 앞당길 수 있음.
 
 
○ AI Facility의 신축 및 기존 시설 시나리오
 
1. 신축 시나리오 배치 원칙

 
컴퓨팅 수요의 변동이 크고 하드웨어 세대교체가 빠른 업계 특성을 고려해, 인프라 건설은 장기, 중기, 단기로 원칙을 만들어야, 인프라 공급과 업그레이드를 동적으로 맞출 수 있음.
 
 
2. 기존 시설 개조 시나리오
 
현재 기존 데이터센터는 대부분 저밀도 공랭 방식임.
공랭에서 액랭으로 업그레이드할 조건이 제한적이고, 배전 용량이 부족하며, 바닥 하중과 실내 순높이가 기준에 못 미치는 등 여러 제약이 겹쳐 있음.
 
기존 시설 개조의 핵심은 ‘높은 것으로 낮은 것을 대체’하는 것임.
랙당 컴퓨팅 밀도를 높여 소수의 고밀도 랙으로 다수의 저밀도 랙을 대체하고, 한정된 서버룸 공간을 다시 활용함.

 
 
(세부 개조)
 
1) 액랭 개조 : 프로젝트 규모에 맞춰 유연하게 적용
소규모 개조 : 분산식 ECU, 공랭식 CDU 같은 분산형 방안
중규모 개조 : 표준화 액랭 POD 모듈로 배치
냉원 시스템 : 기존 시설 상황을 충분히 감안해 기존 설비 개조와 완전 신규 증설 중 현장에 맞게 고름.
 
2) 전력 배전 개조 : 기존 시스템을 바탕으로 단계적으로 진행.
랙 말단 배전 회로는 별도로 업그레이드 함.
새로 넣는 전원 시스템에는 프리패브 모듈화 제품을 사용
말단 배전에는 스마트 버스덕트나 스마트 캐비닛을 우선 사용하여, 전력이 서로 다른 컴퓨팅 랙에 대응
※ 화웨이, 중국 건설은행 공동 발간 2026년 AI 데이터센터 백서 (Token-Centric AI Infra, Part. 1)

Token 생산 효율 향상은 본질적으로 ‘데이터 이동 효율’을 둘러싼 시스템 최적화임.

Prefill(사전 채움)과 Decode 분리부터 무효 이동 감소, 노드 공급력 향상, 노드 간 통신 병목 극복까지, AI 인프라는 전통적 연산 인프라에서 지능 생산형 컴퓨팅 체계로 전환 중에 있음.

미래 경쟁의 관건은 ‘누가 더 많은 연산력을 가졌나’가 아니라 ‘누가 연산, 스토리지, 통신을 더 효율적인 데이터 이동 시스템으로 만들어 Token을 지속적, 안정적, 효율적으로 생산하냐’임.


● Token-Centric AI Infra : Token은 연산력, 모델, 사용자 경험을 잇는 가치의 매개체이며, AI Infra의 핵심은 고품질 Token을 지속적/효율적/안정적으로 생산하는 것임.

○ Cloud Infra에서 AI Infra로 변화


부하(Workload) : ‘클라우드, 빅데이터, DB” → “AKDM(Agent 애플리케이션, 기업 Knowledge base, Data lake, Model 추론/학습)

클라우드 인프라 : 클라우드 컴퓨팅, 빅데이터, 데이터베이스 부하 중심.
CPU 중심이며, 다양한 소스의 모든 데이터 유형과 범용 업무를 수용.

AI 인프라 : Agent 애플리케이션, 기업 Knowledge base, Data lake, Model 추론/학습(AKDM) 등 신규 부하 중심.
NPU 중심이며, 연산 집약, 대역폭 집약, 장시간 구동, 고전력이 특징.


1. Token 생산 효율의 핵심 포인트

기업의 실제 목표는 ‘Token을 더 많이 생성’하는 게 아니라, “사용자 경험 제약을 지키면서 유효 Token을 지속적으로 더 많이 생산”하는 것임.

동시 처리량은 단일 TPS(초당 Token 처리량)가 아니라 업무 부하와 결합해 평가해야 함.
AI 고객센터 등 짧은 Q&A는 요청 빈도가 높고 출력이 짧음. → 초당 처리 요청수(QPS), 동시 수용력 향상이 핵심.
장문 및 코드 생성은 요청 수는 적지만 요청당 대량 Token 출력 → 요청당 생성 효율 향상이 핵심.

속도와 규모는 생산 능력을 나타낼 뿐, 신뢰할 수 있고 쓸 수 있는 Token이 비즈니스 가치의 진짜 매개체임.


○ Token 생성 효율의 핵심 제약과 핵심 기술

1. ‘데이터 이동 효율’이 추론의 핵심 병목


모델 규모 확대, 컨텍스트 길이 증가, 실시간 상호작용 요구로 인해 추론 병목이 ‘연산능력에서 데이터 이동 효율’로 이동 중.

칩 마이크로아키텍처부터 시스템 수준의 연산, 스토리지, 고속 인터커넥트 공동 설계까지, 기술 스택 전체가 데이터 접근 및 이동 효율 향상(연산 유닛 활용률, 스토리지 대역폭, 통신 효율, KV Cache 관리)을 중심으로 진화하고 있음.


1) Prefill과 Decode 비교

(Prefill : 사전 채움)

처리 과정 : 프롬프트 입력 후 전체 Token을 한 번에 병렬 처리, Attention 연산 후 KV Cache 생성
연산 특징 : Token 간 고도 병렬, 행렬 연산 집약
성능 병목 : 대규모 행렬 연산 (Compute-Bound)
최적화 방향 : 연산력 최적화로 AI 칩 연산 성능 향상, Tensor Parallel 등 병렬 전략 최적화, MFU(모델 FLOPs 활용률) 향상, PD 분리 후 고연산 자원 매칭

(Decode : 디코딩)
처리 과정 : 자기회귀 방식으로 다음 Token을 하나씩 예측
연산 특징 : Token을 하나씩 직렬 생성
성능 병목 : 데이터 공급, 메모리 대역폭 제한 (Memory-Bound)
최적화 방향 : 데이터 이동 최적화로 KV Cache 압축, 공유, 계층 관리, 메모리 용량, 대역폭 향상, 칩 간 고속 인터커넥트 최적화, PD 분리 후 고대역폭 자원 매칭


2) 긴 컨텍스트가 데이터 이동 압력을 가중

예) DeepSeek V4 Flash(총 284B 파라미터)로 128K 장문 처리 시, 요청 1건당 약 288GB의 모델 가중치 + KV Cache가 상주해야 함.

Decode 단계에서 Token 1개를 생성할 때마다 수백 GB 규모의 상주데이터에 접근해야 하며, 칩의 연산 유닛은 0.01ms 미만이면 계산을 끝내고 나머지 99.9% 이상의 시간은 ‘데이터 공급 대기’임.

Decode의 핵심 모순은 ‘빨리 계산하기’에서 ‘빨리 옮기기’로 완전히 이동.


3) 연산-메모리 격차가 병목을 확대 (메모리 장벽)

AI 칩 연산력 증가 속도가 메모리 대역폭 증가 속도를 크게 앞지름.
예) NVIDIA H100 → B200에서 저정밀 추론 연산력은 4.5배 성장했지만, 메모리 대역폭은 약 2배만 성장


연산력 향상은 Prefill을 크게 단축하지만, Decode는 대역폭 제약으로 같은 효과를 얻기 어려움.

2018년 1을 기준으로, 2026년 연산력(TFLOPS) 약 25배 증가하였지만, 메모리 대역폭(TB/s)는 약 7배 증가에 그침.
격차가 1배에서 약 4배로 확대되었으며, 이는 메모리 대역폭이 새로운 병목이라는 의미임.



2. AI 추론 칩의 핵심 지표 = Token 생산 효율의 강한 제약

1) Token 생산 효율을 결정하는 4대 지표


(1) AI 연산력(FLOPS) : 초당 부동소수점 연산, Prefill 속도와 TTFT(Time to First Token, 첫 토큰 응답 지연시간, Prefill 속도 반영) 결정.


(2) 메모리 용량(GB) : 칩이 동시에 담을 수 있는 데이터량.
모델 크기, 동시 사용자 수 결정.
부족하면 카드 간 분산 배치가 강제되고 긴 컨텍스트 처리가 어려움.


(3) 메모리 대역폭(GB/s) : 온칩 메모리에서 데이터를 읽는 속도.
Decode 단계 Token 생성 속도 결정. (Decode는 메모리 집약형이라 대역폭이 실제 병목)


(4) 인터커넥트 대역폭(GB/s) : 칩 간 데이터 교환 속도.
다중 카드 협업 효율 결정 (중간 결과동기화, MoE의 카드 간 Token 교환)


추론 성능은 취약 부분에 좌우되므로 지표 간 비율이 칩의 추론 균형성을 더 잘 보여줌.

연산력/대역폭 비 = AI 연산력(TFLOPS) ÷ 메모리 대역폭(TB/s)
→ 높으면 학습, Prefill에 적합. 낮으면 Decode, 온라인 추론에 적합

메모리/연산력 비 = 메모리 용량(GB) ÷ AI 연산력(TFLOPS)
→ 단일 카드가 담을 수 있는 모델 크기와 KV Cache 길이를 결정.
높을수록 긴 컨텍스트, 고동시성 추론에 유리.
Agent 확산으로 초장문 컨텍스트가 일상화되면서 메모리/연산력 비를 체계적으로 높이는 것이 칩 설계 추세

연산력이 아무리 강해도 메모리 대역폭이 부족하면 Decode가 제한되고, 메모리가 커도 인터커넥트 대역폭이 부족하면 대규모 MoE 협업을 지원할 수 없음.



3. Token 생산 병목을 돌파하는 핵심 기술

AI 칩 혁신 외에, AI 인프라의 핵심 진화 방향도 데이터 이동 효율로, 단계별로 다른 자원을 매칭하고, 데이터는 덜 옮기고, 연산 유닛엔 더 빨리 도달시키는 것임.

1) 아키텍처 재구성 : Prefill – Decode(PD) 분리

기존 방식은 Prefill과 Decode를 같은 클러스터에 혼합 배치하여, 자원 미스매치와 성능간섭(Head-of-Line Blocking)이 발생.

자원 요구 충돌 : Prefill은 고연산 소모형, Decode는 고대역폭 소모형

혼합 배치의 상호 저해 : 긴 프롬프트의 Prefill이 연산 자원을 대량 점유해 Decode 실시간 응답을 저해.
반대로 Decode의 저지연/SLA 보장을 위해 메모리, 연산을 예약해야 해 Prefill 연산 활용률 저하.

PD 분리는 두 단계를 서로 다른 자원 풀로 나눠 서로 다른 부하(workload)를 최적 매칭
Prefill 클러스터 : 고처리량/연산 활용률 중시, 고연산 밀도 칩 사용으로 TTFT 단축
Decode 클러스터 : 메모리 대역폭/통신 인터커넥트 중시, 단위 시간당 Token 산출(TPOT) 향상



2) 데이터 흐름 효율 중심의 3대 최적화

(1) 데이터 이동 줄이기 : 무효 접근 감소


컨텍스트 길이와 대화 턴이 급증하면서 KV Cache의 저장, 전송 비용이 배로 확대 → 연산 결과를 최대한 재사용

KV Cache 최적화 : 압축/양자화/가지치기(Eviction), 효율적 관리 전력으로 규모와 접근 압력 축소 (예 : vLLM의 PagedAttention – 페이지 방식 관리로 활용 효율 향상

Prefix Cache : 공통 접두 컨텍스트의 계산결과를 재사용해 중복 Prefill 계산 회피.
다중 턴 대화, 고정 System Prompt, Agent 툴체인 호출 등에 활용

다층 KV Cache 아키텍처 : 온칩 메모리, DRAM, SSD 등 계층을 활용해 접근 빈도에 따라 핫/웜 KV Cache를 계층 관리, 동적 스케줄링

(온칩 메모리) 용량 : 수십 – 백 GB급, 지연 : 나노초급, 담당 : 활성 KV
(DRAM) 용량 : TB급, 지연 : 백 나노초급, 담당 : 핫 KV
(SSD) 용량 : PB급, 지연 : 마이크로초급, 담당 : 웜 KV


Agent 작업 복잡도 증가에 따라 다층 분산 KV Cache는 추론 비용 절감, 자원 활용 향상의 핵심 역량이 됨.


(2) 데이터 공급 능력 향상 : 단일 노드 Token 생산 효율 강화

무효 이동을 줄여도 모델, 컨텍스트가 커지면 단일 노드 공급 압력은 여전함.
특히 Decode에서 파라미터, KV Cache를 끊임없이 공급해야 함.
노드 전체의 공급 능력을 높여 “데이터 대기” 공회전을 줄여야 함.

고유효 대역폭 스토리지 체계 : 고사양 저장 매체 + 첨단 패키징 + 데이터 압축/양자화로 연산 유닛에 들어가는 단위 시간당 유효 데이터량 극대화

연산/스토리지/네트워크 공동 설계 : CPU, NPU, SSD 간 데이터 경로 최적화. (예 : 화웨이 NDS, NPU Direct Storage)
데이터 직통으로 접근 경로 단축

슈퍼노드 아키텍처 : 고속 peer-to-peer 인터커넥트 버스로 다수 AI 칩을 하나의 연산 단위로 구성.
단일 칩, 단일 서버 자원 한계 돌파 (예, 화웨이 Ascend Atlas 슈퍼노드)


(3) 칩 간 데이터 흐름 최적화 : 대규모 모델 확장 병목 돌파

MoE 아키텍처 확산으로 파라미터, 연산이 여러 칩, 노드에 분산 → 병목은 칩 내부 접근이 아니라 자원 간 데이터 교환 효율

고속 칩 인터커넥트 (예 : 화웨이 링취 UBLink)

효율적 병렬 연산 아키텍처 : 모델 분할, 작업 스케줄링 최적화 (예 : 텐서, 파이프라인, 전문가 병렬을 지원하는 Megatron-LM DeepSpeed)

통신-연산 융합 최적화 : 통신 대기 감소 (예 : HCCL 집합 통신 최적화, MoE의 All-to-All 통신 최적화)
※ 화웨이, 중국 건설은행 공동 발간 2026년 AI 데이터센터 백서 (Token-Centric AI Infra, Part. 2)
 
● Token-Centric AI Infra
 
○ Token-Centric AI Infra 목표 아키텍처
 

클라우드 인프라는 IaaS 중심(연산, 스토리지, 네트워크의 풀링과 스케줄링)이었으나, Token이 AI 생산 효율의 핵심 단위가 되면 자원 계층 최적화만으로는 최종 Token 산출 효율이 결정되지 않음.
 
따라서 AI 인프라의 경계는 위로 확장되어 모델 실행, 데이터/지식 관리, Agent 실행 환경 등 AI 서비스 역량을 포함해야 함.
 
1. 3계층 아키텍처 : ‘자원 공급’에서 ‘지능형 생산 체계’로
 
1) 연산 기반층

 
(해결 과제) 단위 연산력당 Token 생산효율

(주요 내용) AI Computing 자원(NPU/GPU) : 슈퍼노드, 슈퍼노드 클러스터 중심. 고속 인터커넥트, 메모리 풀링, 대규모 병렬 작업당 Token 생산 효율 향상.

General-purpose Computing 자원(CPU) : 데이터 처리, 지식 서비스, Agent 작업 오케스트레이션, 툴 실행 지원
AI 스토리지/고속 네트워크 : 모델 이미지, KV Cache, 컨텍스트 상태, 학습 데이터 저장, 고대역폭, 저지연 데이터 경로 제공
→ 목표는 고립된 연산력이 아니라 단위 자원당 더 많은 유효 Token
 
 
2) 연산 스케줄링층
 
(해결과제) 효율적 자원 활용
 
(주요 내용) 자원 통합관리 : 칩 종류, 세대 차이를 감추고 통합 AI 자원 풀 형성
동적 자원 매칭 : 모델 규모, 추론 단계, 업무 우선순위에 맞춰 최적 자원 할당
자원 탄력 재사용 : 학습/추론 혼합 배치, 조석(tidal) 스케줄링, 우선순위 관리
고신뢰 운영 : 장애 탐지 및 작업이전, 자원 복구
→ 연산 기반이 ‘얼마나 생산 할 수 있나’를 정한다면, 스케줄링은 ‘그 능력이 충분히 발휘되나’를 결정
 
 
3) AI 서비스 플랫폼
 
(해결 과제) 지속적 AI 역량 공급
 
(주요 내용) 모델 실행 서비스 : 추론/학습 엔진, 모델 서비스 관리로 연산력을 안정적 Token 생산력으로 전환
데이터/지식 서비스 : 벡터 DB/지식 그래프/장기 기억으로 Token에 기업 업무 지식을 부여(범용 지능 → 산업 지능)
Agent 실행 환경 : 작업 오케스트레이션, 툴 호출, 안전 실행, 멀티 에이전트 협업으로 Token이 업무 프로세스와 자동화를 구동
 
 
2. 4개 역량권으로 재구성
 
위 3계층은 기능적 논리 구조이고, 실제 구축은 엔지니어링 배치 관점에서 4개 역량권으로 분해.
이 중 슈퍼노드와 슈퍼노드 클러스터는 연산 기반층의 핵심 매개체로 단위 연산력당 Token 생산 효율에 집중.

 
1) L1 슈퍼노드
피어 버스, 포로토콜 통일 (CPU, NPU, DPU, DRAM, SSD를 고속 버스로 연결)
 
2) L2 슈퍼노드 클러스터
2.1 다층 KV 캐시 (온칩 메모리 → DDR → SSD/SSU)
2.2 Scale-Out 네트워크 (노드 간 인터커넥트, 광/전 융합)
 
3) L3 연산 스케줄링 플랫폼
3.1 데이터센터 내 연산 스케줄링 (멀티 모델, 멀티 작업, 멀티 테넌트)
3.2 교차 도메인, 교차 데이터센터 스케줄링 (재해복구 전환, 부하 분산)
 
4) L4 AI 서비스 플랫폼
4.1 모델 실행/서비스 (추론/학습 런타임, 모델 서비스)
4.2 데이터 기반 서비스 (지식 벡터 DB, 그래프 DB, 데이터 레이크 등)
4.3 Agent 실행 환경 (보안 컨테이너, 샌드박스 등)
 
 
○ L1 슈퍼노드 : Token 고효율 생산의 핵심엔진, 구축의 표준
 
1. 슈퍼노드의 정의 : 논리적으로 ‘한 대의 컴퓨터’

 
모델이 수백억 → 수천억 → 조 단위 파라미터로 진화하면서 단일 서버 아키텍처가 물리적 한계에 근접.
예) 1T 파라미터 모델은 FP16 기준 파라미터만 약 2TB로 주류 8카드 AI 서버의 온칩 메모리를 초과.
INT4, FP4 등 저정밀 양자화로 압축해도 가중치가 메모리 대부분을 점유해 KV Cache 공간이 부족. 때문에 동시성, 긴 컨텍스트 능력이 심각하게 제한 됨.
 
따라서 대형 모델 배치, 긴 컨텍스트, 고동시성을 동시에 만족하려면 단일 서버 경계를 넘어 노드 간 융합이 필요함.

 
단일 머신에서 클러스터로 확장하면 새 병목 통신 효율이 등장.
특히 MoE의 전문가 병렬은 칩 간 All-to-All 통신이 대량 발생.
이더넷으로 표준 서버를 잇는 기존 Scale-Out은 범융 확장성은 좋지만 초대규모 AI 부하에서 대역폭, 지연이 제약되기 때문에 클러스터가 클수록 Token 생산 효율이 오히려 떨어짐.
 
전통 서버 구조 : 노드 간 네트워크 장비(spine/leaf)로 연결. 통신 비중 20 – 30%
슈퍼노드 구조 : 고속 인터커넥트 버스는 Peer-to-peer 연결, 메모리 통합 주소 지정, TB급 풀메시 대역폭
 
수퍼노드 : 고속 버스급 인터커넥트로 수십 – 수천 개 AI 칩을 물리적으로 랙 전체 또는 랙 간에 통합하고, 논리적으로 ‘한 대의 컴퓨터’로 융합
동일 슈퍼노드 도메인 내 AI 칩 32개 이상, 고대역폭(>400GB/s), 저지연(<500ns), 통합 메모리 주소 지정
 
(기존 서버 클러스터 대비 핵심 변화)
통합 메모리 주소 지정 : 분산 자원을 공유 메모리 풀로 함.
기존엔 카드마다 독립 메모리라 모델/데이터를 장치 간 계속 이동해야 했음.
메모리 풀링으로 분산 메모리를 통합 주소 공간으로 추상화해 원격 메모리 직접 접근 가능 → 모델 파라미터 칩 간 통합 관리, KV Cache 인스턴스 간 공유, 대형 모델이 단일 카드 메모리에 제약 받지 않음. ‘고립된 여러 장치’ → ‘메모리를 공유하는 대형 컴퓨터’
 
고대역폭/저지연 인터커넥트 : 통신이 연산 효율에 미치는 영향 축소
MoE는 본질적으로 통신 집약형.

고속 인터커넥트와 메모리 시맨틱 접근으로 네트워크 통신을 로컬 접근에 가까운 방식으로 바꿔 오버헤드 대폭 감소.
가치는 피크 연산력보다 더 많은 자원이 데이터 대기 대신 실제 Token 생산에 참여하는 것.
DeepSeek, Qwen 등 MoE 추론에서 엔드투엔드 성능 3배 이상 향상.
 
 
2. 슈퍼노드 기반 추론 아키텍처 혁신
 
1) 대규모 전문가 병렬 : MoE 처리량 잠재력 해방

 
기존 클러스터는 통신 효율 제약으로 전문가 규모 확장이 어려웠으나, 슈퍼노드의 대규모 메모리 풀, 고속 인터커넥트가 대규모 전문가 병렬을 가능케 함.
 
EP 카드가 많을수록 Decode 연산 시간은 줄고, 카드 간 All-to-All 통신 부담은 커지지만, 슈퍼노드의 대역폭 덕에 시스템 전체는 최적 상태 유지
 
 
2) P-D-C 완전 피어 아키텍처 : KV Chache 전역화로 중복 계산 제거, TTFT 대폭 감소
 
다중 턴 대화, Agent 작업에선 기존 컨텍스트 재사용이 많지만, 기존 아키텍처는 KV Cache가 단일 인스턴스에 묶여 공유 불가 → 같은 이력을 반복 Prefill
 
슈퍼노드 통합 메모리 주소 지정을 기반으로 P-D-C 완전 피어 방향으로 진화.
Prefill은 컨텍스트 계산, Decode는 Token 생성, Cache는 상태 공유.
 
KV Cache는 더 이상 단일 이스턴스 소유가가 아니라 연산도메인 전체의 공유 자원.
KV Cache 인지 라우팅과 결합해 이미 컨텍스트 캐시를 가진 인스턴스를 우선 스케줄링 → 중복 Prefill 감소, TTFT 하락, Token 생산 효율 향상.
 
추론 시스템이 ‘연산 모델’에서 ‘연산+상태 관리 모델’로 전환됨을 의미.
 
 
3. 다양한 슈퍼노드 형태 : 대/중/소 시나리오의 고성능 추론 수요 충족
 
1) 중소 규모 : 64카드/96카드 슈퍼노드로 다양한 사양의 PD 분리 대규모 전문가 병렬 인스턴스 배치
 
2) 대규모 고동시성 추론, 모델 학습, 핵심 생산
수백 – 수천 카드로 확장해 슈퍼컴퓨팅 시스템 형성.
더 중요한 점은 논리 분할 능력.
 
 
4. 슈퍼노드 발전 추세
 
기술 탐색에서 산업 규모 적용으로 이동하며 AI 인프라 진화의 주요 방향이 됨.
 
세방향으로 진화.
1) 규모 지속 확대 : 기존 서버 클러스터 경계를 넘어 천 카드 → 만 카드 급으로
 
2) 인터케넥트 지속 업그레이드 : 마이크로초 급 → 나노초급 지연, Tbps급 대역폭과 더 효율적 토폴로지.
기존 전기 인터커넥트는 고주파 손실, 전력 병목에 직면 → 광 인터커넥트가 차세대 핵심. NPO(근접 패키지 광학)이 핵심 기술 경로.
 
3) 자원 지속 분리 : 추론/멀티모달/Agent 복잡화로 연산/메모리/통신 수요가 차별화.
향후 AF 분리(Attention-FFN/MoE 분리 배치), 멀티모달 VAT(시각-음성-텍스트 아키텍처), LLM 분리(LLM 구성 요소별 분리 배치) 등 신규 배치 모델 지원 필요.
 
최종 목표 : 각 AI 부하가 가장 적합한 연산 자원을 동적으로 얻는 것.
※ 화웨이, 중국 건설은행 공동 발간 2026년 AI 데이터센터 백서 (Token-Centric AI Infra, Part. 3)

● Token-Centric AI Infra

○ L2 슈퍼노드 클러스터 : 조 단위 MoE 모델 고동시성 배치 아키텍처


슈퍼노드가 단일 연간 도메인 협업 효율을 높인다면, 슈퍼노드 클러스터는 AI 규모화 생산 문제를 해결.
여러 슈퍼노드를 네트워크, 스토리지와 융합해 통합 AI 생산 시스템으로 함.



1. 슈퍼노드 클러스터의 핵심 구성 : 4대 기반 협업

1) AI Computing (GPU, NPU) 기반 : 대형 학습모델, 추론 능력
2) 네트워크 기반 : 슈퍼노드 간 고속 인터커넥트, 클러스터 확장
3) AI 스토리지 기반 : 모델 데이터, KV Cache, Agent 장기 기억
4) 범용 Computing (CPU) 기반 : 작업 오케스트레이션, 툴 호출, Agent 실행 환경


AI Computing은 생각, 범용 Computing은 행동, AI 스토리지는 기업, 네트워크는 연결을 담당.


2. Scale-Out 네트워크 : 여러 슈퍼노드를 하나의 연산 도메인으로

Scale-Out 네트워크는 클러스터의 연산/데이터 자원을 연결해 클러스터급 AI 협업을 실현.
한편으로는 여러 슈퍼노드를 연결해 대형 모델 학습/추론을 협업하고, 다른 한편으론 AI 스토리지와 연결해 모델 상태, KV Cache 등에 효율적 접근 경로를 제공. → 컨텍스트 상태를 클러스터 범위에서 공유/재사용

(주요 트래픽 유형)
1) KV Cache 통신 : PD 분리와 컨텍스트 상태 공유 지원
2) 활성화(Activation)/MoE 통신 : Decode 인스턴스 모델 구조 분리 후 모듈 간 협업
3) Prefix Cache 통신 : 인스턴스 간 컨텍스트 재사용

Scale-Out 네트워크가 운반하는 대상은 전통적 데이터 교환에서 모델 상태/연산 활성화/컨텍스트 기억으로 확장, AI 추론 클러스터 규모화의 핵심 인프라가 됨.


(Scale-Out 네트워크의 핵심 기술 추세 : 천 가속기(카드) → 만 가속기 → 10만 가속기)

1) 아키텍처 : 다단 Clos → 멀티 플레인/평탄화 네트워크
다단 Clos는 규모가 커질수록 계층, 비용, 지연 증가.
멀티 플레인은 대규모 Clos를 서로 독립적인 저계층 서브넷 여러 개로 나누고, 카드 인터페이스를 분할해 각 플레인에 접속 → 포트 자원을 연산에 최대한 할당. 같은 포트 비용으로 네트워크 규모 한 자릿수(10배) 향상.
가치 : 클러스터 규모 경계 돌파

2) 통신 최적화 : 정적 포워딩 → 지능형 스케줄링
AI 통신은 대역폭이 크고 동시성이 높으며 패턴이 복잡해 기존 해시 부하분산은 링크 불균형/병목을 낳음.
네트워크급 부하분산(전역 트래픽 인지, 경로 동적 최적화) + 단말-네트워크 협조 혼잡 제어(NIC와 스위치 협업으로 대기열/꼬리 지연 감소)
가치 : 대역폭 활용률 향상, 안정적 Token 생산 보장.

3) 인터커넥트 : 단일 데이터센터 → 교차 연산 도메인
전기 스위칭은 만 – 10만 가속기(카드) 규모에서 전력/확장 압박 → 광회로 스위칭(OCS) 이 초대규모 AI 네트워크에 진입.
광 도메인 고속 직결로 스위칭 계층과 전력/지연 감소.
다만 안정적 대규모 트래픽에 적합해 동적 버스트 트래픽은 전기 스위칭이 담당 → 장기 공존.

전력/토지/냉각 제약으로 연산력이 단일 DC 경계를 넘으며 Scale-Across(캠퍼스 간/DC 간 연산 인터커넥트)가 새 방향.
선도 기업은 지역 간 협업을, 더 많은 기업은 캠퍼스 간 추론 멀티 액티브/재해복구로 신뢰성 향상.


4. AI 스토리지 : 연산 클러스터의 장기 기억

Agent 시대에 KV Cache는 추론 비용/성능을 좌우하는 핵심 수단.
Agent 작업은 다중 툴 호출, 컨텍스트 상호작용을 포함하며, 후속 요청이 기존 컨텍스트를 대량 재사용하고 소량만 추가하는 ‘추가만 하고 수정하지 않는’ 패턴 → KV Cache 재사용 가치가 매우 높음.

예) AI 코딩은 수 시간 – 수일 지속, 컨텍스트 64/128K – 백만 Token, 작업당 KV Cache 수백 GB/TB급.

(KV Cache가 AI 인프라에 주는 핵심 과제)

1) 온칩 메모리에 다 못 담음
초장문 컨텍스트(64K – 1M Token)로 작업당 KV Cache가 수백 GB – TB로 온칩 메모리 용량 초과

2) 기존 계층형 스토리지 I/O 지연이 큼
NPU → SSD 데이터가 DDR/PCle 스위칭 등 다단계 중계를 거쳐 지연이 크게 늘어 실시간성 충족 어려움.

3) SSD 잦은 쓰기로 수명 단축
빈번한 읽기/쓰기로 일일 전체 쓰기 횟수(DWPD)가 10회 이상, SSD 수명 크게 감소



(진화 방향)

로컬 캐시 → 전역 계층형 KV 공유 풀 : 캐시 관리가 AI 인프라의 공공 역량이 됨.
여러 슈퍼노드가 KV Cache를 공유해 어느 추론 인스턴스든 기존 KV Cache 재사용 → Prefix Cache 적중률 향상.
접근 빈도/지연 요구에 따라 계층 간 자동 이동(핫 데이터는 온칩/DDR, 웜 데이터는 공유 캐시 풀, 장기 데이터는 대용량 스토리지).

최종 목표 : 상위 추론 서비스가 물리 위치를 신경 쓰지 않고 통합 기억 공간처럼 기업급 KV Cache를 호출

1) Level 1 : 온칩 메모리 / 용량 : 수십 – 백 GB급 / 지연 : 나노초급 / 활성 KV : 현재 추론 인스턴스가 사용 중인 핫 데이터, 최저 지연

2) Level 2 : DDR 메모리 풀 / 용량 : TB급 / 지연 : 백 나노초급 / 핫 KV : 단기 세션 컨텍스트, 온칩 메모리 압력 완화

3) Level 3 : 공유 KV Cache 풀 / 용량 : 수십 TB급 / 지연 : 마이크로초급 / 웜 KV : 슈퍼노드 범위 컨텍스트 재사용, 인스턴스 간 캐시 공유

4) Level 4 : 클러스터급 AI 스토리지 / 용량 : PB급 / 지연 : 밀리초급 / 콜드 KV : 슈퍼노드 간 영속적 KV Cache 관리


호스트 경유 이동 → NPU-SSD 직결(NDS) : 기존엔 스토리지 프로토콜 스택-호스트 CPU-메모리 다단계 이동.
AI 칩 직통 접근, KV 시맨틱 오프로드, 메모리 시맨틱 프로토콜 경로를 줄여 KV Cache 접근을 메모리 접근 수준에 근접.

SSD → SSU : 저장 매체 수명 향상.
SSD가 시맨틱 스토리지 유닛(SSU, Semantic Storage Unit)으로 진화.
KV Cache 데이터 시맨틱을 인지해 생명주기 인지 집계, 지능형 마모 균등화로 쓰기 증폭 70% 이상 감소, DWPD 10회 이상 → 3회 이내, 수명 2 – 3배 연장.

긴 컥텍스트 Agent 애플리케이션에서 추론 비용을 결정하는 것은 연산 규모만이 아니라, 컨텍스트 상태를 지속적으로 저장, 공유, 재사용할 수 있는가임.
통합 컨텍스트 관리 능력을 갖춘 AI Infra가 더 낮은 비용, 더 높은 효율로 지속적 지능 생산을 지원


5. 범용 연산 자원 : Agent의 행동 엔진

(Agentic 시대의 새 분업) : AI 연산은 ‘생각’, 범용 연산은 ‘행동’.

작업 오케스트레이션, 툴 호출, 코드 실행, 환경 상호작용은 범용 연산에서 실행 됨.
범용 연산은 전통 업무 서버에서 Agent 네이티브 실행 환경으로 업그레이드되어야 하며 4대 핵심 역량 필요.

(4대 핵심 역량)

1) 빠름 : 고동시성, 밀리초 기동

Agent는 고동시성, 짧은 생명주기, 향후 백만 단위 작업 인스턴스가 동시 실행될 수 있음.
‘세션당 샌드박스 1개’ 방식으로 빠르게 생성/폐기해야 함.

스냅샷 복구 기반 밀리초급 콜드 스타트
단일 머신에 수백 – 천 개 Agent 인스턴스 고밀도 배치
대용량, 고대역폭 메모리로 고동시성 상태 운영 → 이 요구가 범용 연산을 전통 서버에서 슈퍼노드 형태로 이끔. (대용량 메모리, 고대역폭, 칩 간 고속 인터커넥트를 갖춘 시스템급 아키텍처만 Agent 규모화 운영 가능)


2) 안정 : 서비스 신뢰성 → 작업 신뢰성

Agent 작업이 분 단위 상호작용에서 시간, 일 단위 자율 실행으로.
최전선 코딩 Agent는 1회 연속 실행이 25시간에 도달 → 기존 ‘서비스 99.9% 가용’으로는 부족.
영속 실행, 작업 상태 체크포인트, 중단 지점 재개/노드 간 이전, AI 스토리지와 결합한 컨텍스트 장기 보존 필요.
신뢰성 기준이 ‘서비스 무중단’에서 ‘작업 반드시 완료’로 격상


3) 안전 : 강력한 격리가 Agent 실행의 기반

최대 보안 위험은 모델 자체의 불확실한 행동. (잘못된 코드 실행, 비정상 툴 호출, 데이터 경계 초과 접근)
microVM급 강격리 샌드박스, 네트워크/권한 기본 격리, 세션급 보안 통제, 전 과정 행위 감사 필요.
금융/정부/에너지 등에선 결기/감사 능력이 Agent 생산 배치의 기본 문턱


4) 융합 : 범용 연산, AI 연산, 스토리지 협조 스케줄링

Agent 실행은 본질적으로 여러 자원 도메인에 걸침 – 범용 연산(오케스트레이션, 툴, 실행 환경), AI 연산(추론, 의사결정), AI 스토리지(컨텍스트 상태, 지식, 장기 기억)
범용 연산, AI 연산 협조 스케줄링(작업 수요에 따라 동적 매칭),
연산-스토리지 고효율 협업(컨텍스트, 상태 접근 지연 감소)
최종 목표 : Agent의 ‘생각, 행동, 기억’을 통합 실행 체계로


(미래 전망) : 범용 연산, AI 연산 융합 슈퍼노드로
현재 NPU 중심 AI 연산 슈퍼노드와 CPU 중심 범용 연산 슈퍼노드 두 유형이 형성 중이나, Agent는 본래 ‘생각’과 ‘행동’을 융합하므로 두 자원을 통합 아키텍처/협조 스케줄링으로 융합한 Agent 지향 일체형 슈퍼노드 체계가 중요한 진화 방향



차세대 AI 연산 클러스터의 전체 그림 : AI 연산 = 생각, 범용 연산 = 행동, AI 스토리지 = 기억, 고성능 네트워크 = 이 3가지의 연결
향후 네 요소는 Agent 시대의 새로운 AI 인프라로 더욱 융합됨.
※ 화웨이, 중국 건설은행 공동 발간 2026년 AI 데이터센터 백서 (Token-Centric AI Infra, Part. 4)

● Token-Centric AI Infra

○ L3. 연산 스케줄링 : ‘잘 짓기’에서 ‘잘 쓰기’로, 슈퍼노드 잠재력의 효율적 해방


슈퍼노드는 단일 노드 연산 경계를 돌파했지만, 수백 – 수천 칩의 복잡한 클러스터를 지속적이고 효율적으로 스케줄링 하는 것이 AI 인프라 가치 실현의 관건.
연산 스케줄링 = 슈퍼노드 클러스터의 ‘운영체제’


(해결해야 할 3대 문제)

1) 자원 고효율 활용 : 규모, 유형이 다른 AI 작업이 슈퍼노드 자원을 공유
2) 부하 동적 적응 : 요청 변화, 모델 상태에 따라 자원 동적 매칭
3) 클러스터 지속 운영 : 장애 탐지, 작업 이전, 자원 복구로 장기 안정 운영


1. 탄력 스케줄링 : 슈퍼노드 자원을 ‘필요할 때 호출’

대형 모델 학습, 고동시성 추론은 수백- 수천 가속기가 필요한 반면, OCR, 임베딩, 음성, 소형 모델 추론 등 다수 작업은 소량 자원만 필요. → 서버 시대의 ‘한 번 할당, 장기 점유’ 방식을 바꿔야 함.

1) 자원 신축성 : 고정 사양 → 작업별 할당

대규모 작업 → 자원 집약 : 여러 슈퍼노드를 고속 인터커넥트로 통합 자원 풀화, 천 가속기급 학습, 대규모 추론, 노드 간 PD 분리 지원

소규모 작업 → 자원 분할 :
(슈퍼노드급) 수백 가속기 슈퍼노드를 여러 논리 자원 도메인으로 나눠 업무 격리 운영
(단일 가속기급) vNPU 등 가상화로 한 가속기를 여러 연산 인스턴스로 분할


2) 자원 유동성 : 정적 점유 → 동적 재사용

AI 부하는 뚜렷한 조석(tidal) 특성을 지님.
낮엔 온라인 추론 피크, 밤엔 학습, 파인튜닝, 데이터 처리.


업무 우선순위 기반 동적 재사용.
핵심 생산 추론에 확정적 자원 보장.
저점 시간대 자원을 학습, 파인튜닝 등 오프라인 작업에 자동 투입.
고우선 작업 도착 시 저우선 작업은 일시정지, 이전, 강등하여 학습/추론 혼합 배치, 낮과 저녁 재조정, 우선 순위 스케줄링으로 시간 축의 유휴 연산력을 유호 Token 생산력으로 전환


2. 고가용 스케줄링 : AI 서비스를 ‘실행 가능’에서 ‘지속 실행’으로

규모가 클수록 단일 장애 확률이 높아짐.
단일 지점 보호에서 업무 연속성 지향 시스템 보장으로 격상.


3. 지능형 스케줄링 : 자원 관리에서 AI 생산 최적화로

전통 스케줄링은 ‘어디에 유휴 자원이 있나’를 묻지만, AI 시대에는 ‘어떤 자원이, 언제, 어떤 방식으로, 어떤 작업을 처리해야 최대 비즈니스 가치를 내는가’에 답해야 함.


○ L4. AI 서비스 플랫폼 층 : Token 생산 폐루프의 마지막 고리

슈퍼노드는 고효율 연산 공급, 연산 스케줄링 자원 활용 효율 향상,
AI 서비스 플랫폼은 모델, 데이터, 업무 애플리케이션을 연결해 연산 자원을 지능형 생산 가치로 전환.
세 가지 핵심 역량층이 연산 → Token → 지식 → 행동의 지능 생산 폐루프를 구성.

1) 모델 실행 서비스
연산력을 Token 생산능력으로 전환 (모델 배치, 추론 최적화, 운영 관리)

2) 데이터 기반 서비스
Token에 기업 지식 부여 (지식베이스, 데이터관리, 컨텍스트 서비스로 기업 데이터를 모델이 이해, 호출 가능한 지능 자산으로)

3) Agent 실행 환경
Token이 업무 행동을 구동 (Agent 프레임워크, 툴 호출, 작업 오케스트레이션)


1. 모델 실행 및 서비스 : 연산력을 Token으로 바꾸는 핵심 엔진

1) 모델 실행(Model Runtime) → Token 생산 효율 결정
추론 엔진 (MindIE, vLLM, SGLang)
제한된 HW에서 모델, 스케줄링 최적화와 SW-HW 협업으로 Token 생산 효율 극대화.
모델 실행 도구 → AI 런타임 플랫폼으로 진화

미래 추론 엔진 경쟁의 핵심 : 단위 연산력당 얼마나 많은 유효 Token을 내는가.

2) 모델 서비스(Model Serving) → AI 역량 전달 효율 결정
학습 엔진 (Megatron-LM, DeepSpeed, PyTorch FSDP, Ascend 생태계의 MindSpeed.
대규모 학습을 AI 클러스터에 효율적으로 매핑 (분산 학습 효율, 다중 가속기/다중 노드 협업, 메모리/통신 비용 최적화)


2. 데이터 기반 서비스 : Token이 기업 지식을 담도록

기초 모델은 누구나 얻을 수 있는 범용 지능이 되고 있으며, 기업의 장기 경쟁우위는 사유 데이터, 업무 지식, 지속 피드백의 데이터 폐루프에서 나옴.

1) 지식 벡터 DB
모델이 기업 지식을 이해 : 규정/제품 문서/전문가 경험 등 비정형 지식을 벡터화해 RAG 지원

2) 그래프 DB
모델이 업무 관계를 이해 : 지식 그래프, 온톨로지로 기업 객체, 관계, 업무 시맨틱을 구조화, 그래프 DB로 저장/연산해 추론 가능한 업무 지식 제공

3) 장기 기억(Agent Memory)
지속적 인지 능력 : 작업/세션을 넘어 축적된 업무 경험과 컨텍스트를 관리.
일회성 상호작용 도구에서 업무 프로세스에 지속 참여하는 지능 주체로

4) 학습 데이터셋
AI 역량 최적화 폐루프 : 업무 상호작용 데이터, 추론 로그, 인간 피드백을 축적해 ‘사용 → 피드백 → 최적화’ 데이터 플라이휠 형성

앞의 세 가지는 Token 생성의 지식 공급을, 학습 데이터셋은 피드백을 통한 지속 진화를 담당.


3. Agent 실행 환경 : Token이 업무 행동을 구동

전통 앱은 ‘사용자 요청 → 시스템 응답’, Agent는 자율 계획, 툴 호출, 지속 실행으로 복잡한 작업 완료.
AI 연산은 추론/결정, AI 데이터 서비스는 컨텍스트/장기기억, 범용 연산 환경은 툴 실행, 업무 조작 담당.


○ 기업 AI 인프라 기획/구축의 중점 방향

현재 연산 수요만 보지 말고, 모델의 지속 진화와 지능형 애플리케이션 규모화를 겨냥해 자원 탄력성, Token 고효율 생산, 생산급 회복탄력성 세 방향에서 전체 설계해야 함.

1. 자원 탄력성 :연산 투자가 미래 변화에 지속 적응하도록

AI 인프라의 최대 투자 리스크는 완공 후 미래 모델, 업무 변화에 적응하지 못하는 것.

대규모 학습, MoE 추론, Agent 클러스터도, 부서 앱, 소형 모델 추론도 지원해야 함.
위로 확장(Scale-up) : 슈퍼노드, 클러스터로 더 큰 추론 및 학습 지원
아래로 분할 : 자원 분할, 격리로 다양한 업무 수요 충족

(목표) 한 번의 인프라 투자가 모델 규모, 업무 형태, 앱 수요의 지속 변화에 적응.
기업 조달 주기는 ‘년’ 단위, AI 기술 진화는 ‘월’ 단위로 탄력적 아키텍처만 그 간극을 줄일 수 있음.


2. Token 고효율 생산 :연산력을 유효 지능으로

많은 기업의 공통 문제 : 연산 투자는 많은데 활용률은 낮고 현업은 여전히 연산 부족을 느낌.
AI 연산 활용률만으로는 측정 불가 (작업 스케줄링 효율, 모델 추론 효율, 상태 재사용 능력, 업무 산출 능력을 반영하지 못함.)

자원 사용률 → 단위 연산력당 지속적으로 생산되는 유효 Token으로 관점 전환

1) 연산 효율 : 모델 최적화, 병렬 연산, 추론 스케줄링으로 더 많은 연산을 유효 계산에

2) 상태 효율 : KV Cache, 캐시, 상태 관리로 기존 결과 재사용, 긴텍스트, Agent 작업 비용 절감.

3) 시스템 효율 : 통합 스케줄링, 혼합 배치, 자원 오케스트레이션으로 업무 간 자원 협업 향상.

질문을 ‘연산 활용률이 얼마인가’에서 ‘단위 투자당 얼마나 많은 유효 Token을 생산하는가?’로 바꿔야 함.


3. 생산급 회복탄력성 : AI를 신뢰할 수 있는 생산 시스템으로

AI가 핵심 업무 프로세스에 들어오면 ‘지능 생산이 중단되면 어떻게 되나?’에 답해야 함.

금융, 에너지 등 핵심 산업에서 생산급 회복탄력성은 ‘최적화 항목’이 아니라 AI 규모화 적용의 기본 역량임.


○ 결론

1. AI 인프라 구축의 핵심 목표는 지능형 생산을 위한 새로운 인프라 역량 구축

2. 미래 기업 간 격차는 연산, 네트워크, 스토리지, 스케줄링 체계의 전체 협업 능력과, 그로부터 나오는 고성능, 대규모, 고품질, 지속 가능한 Token 생산 능력에서 드러날 것.

3. AI가 모델 능력 경쟁에서 규모화 적용으로 넘어가면서, AI 인프라는 연산 운영을 지원하는 인프라에서 지능형 생산을 구동하는 신형 생산 체계로 진화 중이며, 기업이 지능 시대에 진입하는 중요한 기반이자 미래 지능화 경쟁의 핵심 역량이 될 것.
※ AI 산업의 핵심 병목은 ‘칩’에서 ‘전력연계 및 에너지 효율’로 이동 중 (기존 전력망 효율화, 온사이트 발전, 전력 아키텍처, MFU, PUE 등)

AI 산업의 핵심 병목이 전력이 되고 있습니다.
데이터센터에 대한 수요는 넘치고, 지어지고 있는데 데이터센터에서 필요한 전기의 공급이 어려운 상황입니다.


좀 더 정확히 말하면, 전력망(그리드)에 연결시키지 못하는 것으로 현재 미국 AI산업에 있어 가장 시급한 문제는 반도체도 데이터센터도 대규모 발전소도 아닌 바로 ‘어떻게 전기를 데이터센터로 연결’ 할 수 있을까 입니다.

미국에서 지어지고자 하는 데이터센터의 규모는 500GW이상이며, 중복 신청을 제외하더라도 약 180GW 규모의 엄청난 데이터센터 수요가 현실적으로 존재하고 있습니다.
이러한 데이터센터 수요를 위해 전기가 부족하다고 얘기하고 있는데, 발전소가 부족한 것도 아닙니다.
미국 전력망 연계 대기(Interconnection Queue) 용량은 2,600GW를 초과하고 있는 상황입니다. (IEA 자료)
즉, 전력망의 부족으로 2,600GW의 전력이 그리드에 접속이 안되고 있다는 의미입니다.

현재 미국 AI 산업이 가장 절실하게 해결해야 하는 지점은, GPU도 HBM, DRAM 또는 기판, 전력기기도 아닌 바로 ‘어떻게 지금 당장 필요한 전기를 구할 수 있을까’입니다.

이 문제가 해결이 안되면 미국 AI 산업이 지금과 같은 속도로 성장하기 어려운 상황에 봉착한 것입니다.

시장의 많은 참여자들이 왜 삼성전자, SK하이닉스의 실적이 이렇게 좋은데 왜 주가가 오르지 않을까를 고민하고 있지만, 더 큰 안목으로 구조를 보는 투자자라면 AI 산업이 더 성장하기 위해서는 어느 부분이 해결되어야 하는 가를 봐야 하고, 거기에서 투자의 아이디어를 찾아 볼 수 있습니다.
(주식투자에 있어 많은 경우 병목이 초과 수익률 가져다 주곤 합니다.)

이러한 관점에서 전기를 어떻게 연결하고, 부족한 전기를 어떻게 더 효율적으로 사용할지에 대한 부분에 대한 관심이 필요한 시점입니다.

먼저 그리드의 관점에서 보면,
현재 최대의 병목인 그리드(송전망)의 경우 물리적인 한계로 인하여 빠르게 전력망을 증설하기가 어렵습니다.

데이터센터는 2년이면 지어지는데, 송전망은 10년의 시간이 필요하기 때문입니다.

그러면 결국 기존의 전력망을 효율적으로 사용하는 방법이 더욱 중요해 질 것입니다.

1) 계통안정화용(송변전 대체) ESS와 전력 제어 기술을 통한 가상 송전선로(VTL, Virtual Transmission Line) : ESS를 통해 실제 송전망을 추가 건설하지 않고도 기존 송전망의 이용률을 향상시킬 수 있습니다.

2) ESS를 통한 변전소의 잠재 용량 확대 : 피크시간대의 변압기 과부하를 ESS를 통해 완화하여 추가 변전소 증설 없이도 신규 데이터센터의 계통 접속 용량을 늘릴 수 있습니다.

3) VPP(Virtual Power Plant, 가상발전소) : 분산자원을 하나로 묶어 대형 발전소처럼 운영하여 전체 전력망 안정화에 크게 기여할 수 있습니다.

4) EMS(Energy Management System, 에너지관리시스템) 및 DERMS(분산에너지자원 관리시스템)

5) DR(Demand Response, 수요반응)


그리고 데이터센터 내부로 들어오면,
그리드의 의존을 최소화 하며(온사이트발전/BTM 자체발전 강화), 전력효율을 극대화(고전압 DC 전력아키텍처 적용, 칩 가동률 극대화(MFU 등), 데이터센터 PUE 개선 등의 방법들을 통해 자체적으로 전력을 최대한 만들고, 효율적으로 전력을 사용하는 방법들이 더욱 더 중요해질 것입니다.

1) 온사이트발전(마이크로그리드) : BTM PV(태양광발전), ESS, 연료전지, 디젤발전, 가스피커 등 분산자원과 이를 운영하는 솔루션들(AMI, EMS, PMS, DERMS 등)

2) 전력 아키텍처의 변화 : 기존 415V AC 및 OCP의 Open Rack 전력아키텍처에서 ±400V 및 800V DC 전력아키텍처로 (전력 아키텍처가 변화하면서 어떤 소재들이 중요해지는 지? SiC/GaN 전력반도체, 고전압 MLCC, 엔지니어링 플라스틱, 질화규소 AMB 기판 등)

3) 칩 가동률 증가(MFU) : 현재 GPU의 가동률은 30% 수준에 불과합니다. 이 가동률을 50 – 60%로 끌어올리면, 동일한 전력으로 2배의 AI 연산을 할 수 있는 강력한 전력 절감 방법입니다.
(메모리 월 돌파와 칩간 통신 대기 시간을 줄이기 위한 방법들인 HBM4 커스텀 베이스 다이, CXL 메모리 풀링, CPO/실리콘 포토닉스, InP 기판 등)

4) PUE를 개선하는 방법 : 냉각과 배전에서 나가는 전력소모(열 관리)를 줄여 주는 방법으로, 공조 및 열관리 시스템 개선, 액체냉각/액침냉각 적용, 배전망 개선 등이 있습니다.


데이터센터의 전력이 핵심 병목으로 부상할 때 이러한 설비 및 소재, 기술들이 시장의 주목을 받을 수 있습니다.

그리고 개인적으로 현재 AI 산업이 마주한 핵심 병목은 전력 인한 병목과 추론 비중이 늘어나면서 생기는 병목 이 두 가지를 주목하고 있으며, 시간이 나는 대로 이 부분에 대해서 추가적인 글을 게시할 예정입니다.


● 수요는 넘치는데 전기가 막혔다? AI/반도체 주주가 지금 확인할 4가지 지표. (김열매TV, 2026. 10. 28) Part. 1

○ 마이크로소프트가 산 칩을 전기에 꽂지 못하고 있다.


마이크로소프트나 아마존이 주문한 데이터센터용 반도체가 도착했는데, 전기가 들어오지 않아 AI 클라우드에 투입되지 못한 채 재고로 쌓이고 있다는 주장이 있음.

이러한 주장에 대해 지금까지 시장은 대수롭지 않게 생각했지만, 최근 전력 인허가 차질이 이어지면서 우려가 커지고 있음.
우려가 실체가 없는 게 아닌 게, 산타클라라에 6년째 빈데이터센터 건물이 있다는 사례도 나오고 있음.

데이터센터를 지으면서 납기가 긴 전력 설비(지금 주문하면 2031 - 2032년 인도 가능)를 가장 먼저 발주하고, 그 다음 어떤 반도체를 쓸지 설계해야 함.


○ 데이터센터 개발 단계와 병목 지점

긍정적인 점은 2025년보다 올해 투자가 더 공격적이고 짓는 데이터센터의 수도 늘었다는 것.
하지만 늘어난 데이터센터가 예정대로 준공되어 바로 전기가 들어와 가동되느냐는 별개의 문제이며, 완공일과 전력 연결이 모두 조금씩 밀리고 있는 게 현재 상황임.
업계에서는 이를 ‘Warm shell 없다’라고 표현하고 있음.

(데이터센터의 진행과 병목)

Step 1) 부지확보 : 데이터센터를 지을 땅을

Step 2) 파워드 랜드 : 전력 공급을 약정 받았거나 근처 전력 용량에 바로 연결 가능한 땅.
가격이 10 – 20배 뛰었음.

Step 3) 콜드 쉘 : 건물은 완공됐지만 아직 전기가 들어오지 않은 상태.

Step 4) 웰 쉘/파워드 쉘 (현재 최대 병목 구간) : 실제 전력이 연결된 건물.
인허가/건물/칩까지 다 준비됐는데 여기에 전기가 꽂히지 않는 것이 현재 문제임.
하이퍼스케일러는 주로 이 단계 건물을 임대.

Step 5) GPU 탑재/턴키 : 반도체까지 들어간 상태로 통째로 임대.
코어위브 같은 네오클라우드 방식



○ 가디언 탐사보도 : 가동 중인 MS의 AI 칩은 예상의 절반?

영국 가디언이 8월에 낸 탐사기사에 따르면, 데이터센터 건설 규모로 추론하면 MS에서 돌아가야 할 AI칩이 많아야 하는데, 실제 가동 중인 칩은 그 절반 수준으로 보인다는 내용임.

건설 규모로 추정한 가동돼야 할 AI 칩의 수치는 440만 - 640만개인데, 가디언이 추정한 실제 가동 칩은 약 220만 개로 예상치의 절반 수준임.
내부 관계자 전언에 따르면, 지난 1년 동안 가동 칩의 수가 거의 늘지 않았음.

MS는 분명 칩을 샀고(엔비디아 실적에 반영), MS의 설비투자도 계속 늘고 있음.
구매는 정상인데 전기가 안 들어와 가동을 못하는 것이라는 해석임.
이에 MS는 계산 근거가 잘 못됐다고 반박했지만, 어떤 수치가 틀렸는지는 밝히지 않음.

MS 최대 데이터센터이자 오픈 AI가 임대한 위스콘신 Fairwater처럼 가동 시점이 계속 늦어지는 문제가 있는 것으로 보임.
즉, 가동이 안되는 것은 아니라 단지 시간이 늦어진다는 것으로, 이렇게 늦어지는 곳이 많아질수록 ‘산 칩이 어딘가에서 놀고 있을 수 있다’라는 생각을 하게 될 수 있음.


○ 실제로 칩이 놀고 있는 곳 : 산타클라라 디지털 리얼티

디지털 리얼티는 웨퀴닉스와 함께 미국 상장 리츠 중 대표적인 데이터센터 운영사임.

2019년에 전력 공급을 신청하고 건물도 다 지었지만, 여전히 전력이 들어오지 않고 있음.
현재 계획은 2028년 이전에 전력을 연결하는 것임.

전력 부족, 인허가 지연 논란이 커지면서 이런 지역이 늘어날까 시장은 걱정하고 있음.


○ ‘시차’의 문제와 온사이트 발전

속도의 불일치가 원인이며, 앞으로 이 시차가 더 벌어질지 좁혀 질지가 관건임.
데이터센터 건설에는 약 2년이 걸리며, 짓기 전에 먼저 전력 인허가를 신청하고 경쟁적으로 속도전을 통해 빠르게 짓고 있음.

이에 비해 그리드 연결은 5 - 10년이 걸림. 전력이 들어오는 속도가 건물이 완성되는 속도를 따라가지 못하고 있음.

외부 송전망은 5 – 10년 걸리기 때문에 빅테크들은 데이터센터 전용 발전소를 직접 짓는 방향으로 전환하고 있음.
그 결과 ESS 수요가 증가하고, 블룸에너지에 연료전지 주문을 늘리고 있음.


송전망 건설 차질에 더해, 온사이트 발전에 대한 반대 여론도 커지고 있는 중임.
지금 시장의 최대 화두는 전력 확보로 “전력이 병목”임.


https://www.youtube.com/watch?v=bZC26UPkONs&t=124s
● 수요는 넘치는데 전기가 막혔다? AI/반도체 주주가 지금 확인할 4가지 지표. (김열매TV, 2026. 10. 28) Part. 2

○ 숫자로 보는 전력 병목


미국 전역 데이터센터를 위한 전력 신청은 500GW 이상.
텍사스(ERCOT) 한 곳의 전력 신청 규모가 400GW 이상.
실제 지어질 것으로 추정되는 데이터센터의 전력 규모는 약 180GW. (컬럼비아대 논문)
2025년 말 미국 상업용 데이터센터 전체의 전력 규모는 50GW.
텍사스에서 건설 중인 전력 규모는 12.8GW.
2026년 송전 승인 용량은 9.5GW. (텍사스)
상반기 신규로 실제 가동되는 용량은 4GW. (텍사스)


텍사스는 에너지가 풍부한 지역이지만, 모든 노력을 다해도 신청 용량을 맞출 수 없음.
신청은 400GW가 넘는데 올해 승인은 10GW도 되지 못함.
상반기에 실제 전기가 꽂혀 새로 돌아간 것은 4GW 미만으로, 하반기에 더 많은 데이터센터가 준공 예정이라 전력 차질은 자명함.


착공 중, 완공 예정 숫자와 실제 가동 사이의 시차가 점점 벌어지는 것이 문제임.

빅테크뿐 아니라, 사모펀드, 코어위브 같은 네오클라우드까지 너도나도 뛰어들어 시장 규모 파악이 어려움.
이들은 송전망을 끌어와야 하므로 연결이 안 되면 완공분이 가동되지 못할 가능성이 커짐.



○ 500GW의 정체 : 중복 신청과 ‘스펙 개발’

1) 왜 허수가 생기나?


컬럼비아대 교수의 논문을 보면 500GW 넘는 데이터센터 신청 중 실제 지어질 용량을 약 180GW인 30% 수준으로 추정하고 있음.
이유는 전력 병목이 너무 분명하기 때문에, 개발사들은 여러 곳에 중복 신청하고 있기 때문임.
예를 들면, 5조원의 예산을 정해두고 어디가 먼저 전기가 들어올지 모르니 여러 군데 신청부터 하는 것임.


2) 그럼에도 성장은 계속될 것.

180GW만 지어져도 2025년 말 미국 상업용 데이터센터 50GW의 3 – 4배 규모로 2032년까지 계속 지어야 하는 규모임.

텍사스에서 건설 중인 12.8GW만으로도 연평균 30%이상 성장이 가능하고, 반도체는 여전히 공급이 수요보다 크게 부족한 상황임.


3) 시장이 진짜 걱정하는 것.

500GW 허수가 180GW로 맞춰지는 동안, 땅을 산 사람, 전력 장비를 발주한 사람이 있을 텐데 이것들이 취소 되는 과정에서 노이즈가 발생할 수 있음.

전력 회사들이 지금 확약해 줄 수 있는 건 일부 뿐.
텍사스 400GW는 확정 수요가 아니므로, 이를 전제로 공격적으로 설비 투자를 계획한 곳은 눈높이를 낮춰야 함.

2028 – 2029년 공백 구간에 대한 우려가 있음.
전기가 늦게 들어오면 중간에 칩이 놀아야 하고, 그 동안 가격을 올려가며 속도전으로 칩을 사던 수요처가 천천히 살 수 있음.



(스펙 개발 / 고스트 프로젝트)
스펙 개발은 Speculative, 즉 투기적 개발의 줄임 말임.
부동산 업계의 오래된 전략으로, 임차인이나 매수자가 정하지 않고 먼저 짓는 방식임.
2021 - 2022년에 데이터센터에 투자한 이들이 몇 배를 벌었고 임대료도 오르는 중이라 다수가 이 방식에 뛰어들었음.

미국 언론은 이를 ‘고스트 프로젝트’라고 부름.
전력 용량이 근처에 있다는 이유만으로 땅을 10 - 20배에 산 쪽이 타격을 받을 수 있고, 이런 프로젝트들이 중복 신청 후 전력 지연을 겪으면 취소, 지연이 늘어 반도체 전력기기 주가 전망을 흔들게 됨.


○ 진짜 위험은 ‘생전 처음 하는’ 개발사

문제는 AI를 낙관하는 사람이 너무 많고, AI 데이터센터가 돈을 너무 잘 벌 때, 원래 하던 사람이 아니라 처음 해보는 사람들이 개발에 뛰어든다는 게 문제임.

현재 미국 데이터센터 개발에서 에퀴닉스, 디지털 리얼티 같은 베테랑이 아닌 첫 개발 기업이 절반 이상임.
건설사를 예로 들면, 아파트 사이클을 여러 번 겪은 대형 건설사는 쉽게 망하지 않지만, 처음 들어온 소형 시행사는 그렇지 않은 것과 비슷한 구조임.
이들은 규모를 지나치게 크게 잡고, 빅테크와 임대차 계약도 없이 착공하고 있음.

빅테크가 문제가 아니라, 전력 인허가도 늦고 사모(남의 돈)으로 들어온 신생 개발사가 금리 상승 구간에서 어려움을 겪을 수 있음.
이들도 전력 장비를 발주했을 수 있으므로, 실적이 매우 좋은 GE 버노바 주가가 조정 받는 이유로 연결될 수 있음.


○ 역설 : 전력이 막힐수록 기존 데이터센터는 더 잘 번다.

신규 인허가가 막히면 이미 지어진 곳은 임대료를 올려도 서로 쓰겠다고 줄을 섬.
미국 데이터센터 공실률은 1.4%로 사실상 공실이 없음.
지금부터 빨리 짓고, 전기만 들어오면 “확실히 돈이 되는” 사업임.

상업용 부동산 컨설팅 1위인 CBRE는 공급을 세 배로 늘렸는데도 공실이 내려가는 산업은 처음 본다고 평가하였음.

올해 상반기 북미 데이터센터는 모든 규모에서 임대료가 가파르게 올랐고, 부동산 인프라 중 상승폭이 최고였음. 두 배가 오른 사례도 있음.

(병목이 풀리면)
공급이 쏟아지면 임대료가 내려가야 함.
빅테크가 자체 발전소까지 지으면서 지금 임대료가 유지될지 의문.

(병목이 계속되면)
짓고 있는 프로젝트에 문제가 생김. 양쪽 모두 걸려 있는 장비, 반도체 업체는 혼란이 지속.

(낙관만 보면)
데이터센터 임대료가 저렇게 오르니 반도체 가격도 계속 오르겠네

(비관만 보면)
줄줄이 대기 중인데 재고만 쌓인다. MS조차 산 칩을 못 돌리는데 계속 빠르게 주문할까?

이러한 이유들로 AI 데이터센터 관련 시장은 낙관과 비관 속에서, 당분간 오르락내리락을 반복될 것.


○ 네오클라우드, 중간선거, 빅테크의 프로젝트 취소

1) 네오클라우드 (코어위브 등)


가동 중인 설비는 이익률이 좋지만, 매출이 계단식으로 성장하려면 신규 데이터센터에 전기가 들어와 빠르게 임대되어야 함.
신규 지연은 상당한 리스크임.
전력 병목이 해소되어야 추가적인 성장이 가능한 구조임.


2) MS의 영국 엔스케일(Nscale) 프로젝트 취소

GPU 23,000개가 들어갈 예정이던 프로젝트를 MS가 최소 했는데, 이유는 그때까지 전기가 들어오지 않을 것으로 판단했기 때문.
MS가 투자를 의도적으로 줄인다는 것이 아니라, 전기가 없기 때문에 불가피하게 프로젝트가 취소된 것임.

아마존도 마찬가지로, 충분한 전기 전엔 실제 가동이 늦어질 수 있지만, MS/아마존 모두 투자는 늘린다는 방침임.


3) GE 버노바 : 회사는 좋은데 주가는 왜 빠지나

GE 버노바는 2031년까지 주문이 꽉 차 있으며, 주문하려면 25%의 선수금을 먼저 내야 할 정도임.

문제는 이미 풀캐파로 주문이 나가 있어 시장 기대를 넘는 신규 수주가 나오기 어렵다는 점임.


○ 반도체의 전망은?

전력이 앞으로 늘어날 것이라는 기대가 생기면, 즉 ‘전기만 들어오면 데이터센터를 충분히 지을 수 있고 수요도 있다’는 확신이 생기면 그때부터 반도체가 안정을 찾을 것.

빅테크의 재무제표에서 건설 중인 자산이 늘어나는 중임.
Capex로 짓는 데이터센터는 완공 전까지 매출을 만드는 자산이 아니라 건설 중 자산으로 잡힘.

건설 중 자산이 얼마까지 늘어나는지, 그리고 예정 스케줄대로 가동되어 클라우드/AI 매출로 전환되는지를 주목해 봐야 함.


○ AI는 한 시즌으로 끝나는 산업이 아님.

시즌 1. 엔비디아 GPU 사이클.

시즌 2. (현재) 데이터센터, 오픈AI, claude 등이 만든 2차 사이클로 전력 부족이 이 시즌의 한계를 보여주고 있음.

시즌 3. 전력 문제와 정치적 문제가 해결되고 에너지 가격이 내려가야 열릴 수 있음.


시즌 2와 시즌 3을 구분해야 하는 이유는 전력 부족 때문임.
계획이 아무리 많아도 전기가 없으면 다음 단계로 갈 수가 없음.


시즌 2의 종료에 문제가 되는 곳은 빅테크가 아니라 신생 개발사들임.
이들이 남의 돈을 끌어 쓰는 곳이 사모 시장이므로 사모대출, 사모펀드를 주목해야 함.


○ 결론

현재 가장 비싼 자원은 “전기가 들어오는 건물”임.
이미 가동 중인 데이터센터는 문제가 없지만, 신규 가동 차질이 길어지고 지연 프로젝트가 늘어난다면 전력 산업과 그 다음에 투입될 반도체에 대한 걱정도 일리가 있는 단계임.
※ 전력망 병목, 에너지 지정학 어떻게 극복할 것인가 Part. 1 (국민경제자문회의, 2026. 10. 28)

현재 대한민국은 반도체 호황을 중심으로 역사상 가장 많은 수출 및 무역수지 흑자를 기록하고 있으며, 이를 통해 대규모 세수가 확보되고 있는 상황입니다.

미국과 중국을 중심으로 AI라는 인류사적인 거대 흐름이 펼쳐지고 있는 가운데, 이 흐름에 동참하지 못한다면 대한민국의 미래도 장담할 수 없는 절박한 상황에서 이와 같은 대규모 자금의 국내 유입은 대한민국에 AI 흐름에 올라탈 수 있는 절호의 기회라 할 수 있습니다.

이러한 상황에서 정부가 추진하고 있는 3대 메가프로젝트(반도체, AI데이터센터, 피지컬 AI)의 성공은 그 어떤 정책보다 중요하다 할 수 있습니다.


3대 메가프로젝트의 성공을 위해서는 가장 먼저 전력 인프라 구축이 선행되어야 하는데, 그 중 반도체 클러스터 조성을 위한 전력 인프라 구축이 가장 시급한 상황입니다.

현재 한국의 당면한 전력 문제는 발전소에서 전력을 생산하는 게 아니라, ‘생산된 전기를 어떻게’ 필요한 곳에 빠르게 전달할 수 있는 가의 문제입니다.

반도체 클러스터와 AI 데이터센터에 필요한 전기를 보낼 수 있는 송전망을 빠르게 건설하기 어렵기 때문에, 반도체와 AI 데이터센터는 전력이 있는 곳을 중심으로 추진될 것으로 보여지며, 특히 호남권 반도체 클러스터를 위한 호남권의 대대적인 전력 인프라 구축이 우선적으로 진행될 것으로 보입니다.

그리고 호남권을 시작으로, AI 데이터센터에 대한 계획이 구체화 되면 다른 지역(충청, 강원 등)에서의 전력 인프라 구축 사업도 본격적으로 속도를 낼 것으로 전망됩니다.


상반기 주식시장의 반도체 쏠림과 하반기 주식시장의 침체로 인해, 국내 에너지 및 전력인프라 관련주들의 주가가 좋지 못한 상황이지만, 내년부터 본격적인 전력 인프라 사업이 추진될 것으로 기대되 이들 관련 주식들 또한 내년에는 올해보다 좋은 모습을 보여주기 않을까 기대됩니다.


● 메가프로젝트를 위한 전력 공급 및 송전망 확충 전략 (권효재 COR에너지인사이트 대표)


지금의 체계, 재원, 제도로는 반도체 팹과 AI 데이터센터에 제때 전력을 공급하는 것이 “99.9% 불가능”함.

해법은 기술이 아니라 제도와 돈에 있음.

전력공급을 제때에 공급하기 위해,

1) 수요 선별과 에너지 캠퍼스

2) 반도체 팹 2+1 원칙

3) 재원(송배전 요금)과 연 단위 주민 보상

4) 범부처 실행 체계, 그리고 민원 해결의 열쇠로 전략망 전담 조직이 필요함.



○ 메가프로젝트 전력 수요와 현실

핵심은 겪어 보지 못한 대규모 전력 수요를 아주 짧은 기간에 공급해야 한다는 점임.


수요는 크게 세 갈래(반도체, AI데이터센터, 피지컬 AI)인데, 그 중 피지컬 AI는 아직 구체적인 사업조차 없음.
당장은 반도체 팹과 AI 데이터센터가 많은 전기를 빠르게 필요로 하고 있음.

하지만 현재 전력망 병목이 매우 심각한 상황임.


1. 하남 감일지구와 동서울 변전소 사례

하남 감일지구는 2019년에 처음 입주했고 현재 주민이 2만 명이 넘음.
감일지구 동쪽에 1979년에 만들어진 동서울 변전소가 있으며, 동서울 변전소는 동해안에서 오는 전기를 받기 위해 부지 안에서 설비를 개보수하고 증설하고자 하였음.
그러자 주민들이 강하게 반대하기 시작하였음.

새 변전소를 짓는 것도 아니고 40년 된 변전소 안에서 설비를 고치는 일인데도 주민들이 극렬하게 반대하고 있음.
민주 국가에서 주민 반대는 어쩔 수 없는 현실임.


2. 구조적 문제 : 한전에 모든 짐을 지운 체계

한전은 2025년 사상 최대 수준의 영업이익을 냈지만, 부채는 오히려 증가하고 전력 도매가격은 오히려 올라가고 있음.

3대 메가 프로젝트를 제외하더라도 한전은 2038년까지 약 85조 원 이상을 전력망 건설에 투자하여야 함.
여기에 3대 메가 프로젝트까지 더하면 100조 원 이상을 투자해야 함.


한전은 현재 돈이 없는 가운데, 전기료는 통제되고 있으며, 원가는 오르고 있음.
이런 상황에서 한전의 전력망 확충 계획이 잘 진행될 수가 없는 구조임.


3. ‘현 체계로는 99.9% 불가능’

메가프로젝트를 하려면 전력 병목을 풀어야 하고, 그 첫 시작은 현실을 있는 그대로 인정하는 것임.

지금 전력망 건설에는 보통 11년이 걸림.
345kV 송전선로 하나를 짓고 변전소를 완공하는데 걸리는 시간임.
이 속도로는 반도체 팹과 AI 데이터센터에 제때 전력을 공급하는 것은 거의 불가능함.


이는 국내만의 문제가 아니고 글로벌 많은 국가들이 공통으로 겪고 있는 문제임.

때문에 전기가 남는 곳, 즉 기존 전력망에 여유가 있는 곳에 데이터센터와 반도체 팹을 지어야 함.


4. 해법 : 네 가지 제안

1) 수요를 선별해 난개발을 막고, AI 데이터센터는 ‘에너지 캠퍼스’로 모음.

전력이 필요한 수요를 유형별로 나눠 별도로 대응해야 함.

예를 들어, 전기를 못 받으면 사업에 큰 문제가 생기고, 이미 수십조 원 규모의 계약을 맺은 반도체 회사와 ‘전기만 받으면 구글이나 마이크로소프트를 데려올 수 있다’며 전력 확보를 조건으로 내건 AI 데이터센터 사업자는 같을 수가 없음.

구글이나 MS는 한국 사업자에게만 제안한 게 아니라, 여러 국가의 여러 사업자들에게 동일한 조건을 제시하였음.

참고로 데이터센터 사업자 열 중 아홉은 허수라고 현업자들은 말하고 있음.
한전에 들어온 신청 약 500건 중 실제로 지어지는 것은 20건도 안됨.
그런데도 이들은 한전의 자원과 접속 슬롯을 차지하고 있음.

그 결과 삼성전자나 SK하이닉스가 전기를 달라고 해도 한전은 ‘앞에 신청서가 500개 쌓여 있으니 그것부터 처리하겠다”고 답할 수밖에 없는 구조임.

꼭 필요한 반도체 회사가 가장 우선 순위가 되어야 함.

수요를 가려내야 하고, 난개발을 막아야 함.

데이터센터도 전국에 2 – 3곳을 ‘데이터센터 에너지 캠퍼스’로 지정하고 ‘전기는 확실히 넣어 줄 테니 여기로 오라’고 해야 함.
수 백명의 사업자가 각자 뛰어다니게 둬서는 안됨.

데이터센터 수요가 18.4GW라고 말하고 있지만, 최근 국정감사에서 기후에너지환경부 장관이 말했듯 상당 부분이 불확실 함. 수요자(빅테크)의 문제가 아니라 주어진 시간이 2 – 3년 뿐이라 시간이 지나면 다른 곳으로 갈 수밖에 없기 때문임.

정말로 AI 산업이 중요하다면, 국가가 AI 에너지 캠퍼스 단지 2 – 3곳을 조성하고 전력 공급을 확실히 약속해야 함.


2) 반도체 팹은 ‘2+1 원칙’으로 기준을 먼저 정하고, 입지는 지자체 공모로

용인이냐, 호남이냐, 원전이냐 재생에너지냐 하는 논쟁은 많은데 정말 중요한 기준이 빠져있음.

반도체 팹은 100조 – 200조 원 단위가 들어가는 대규모 사업이고, 이런 위험을 지고 투자하는 기업이 안전장치를 2중, 3중, 4중으로 요구하는 것은 당연한 것임.

선로 하나로 전기를 받아서는 팹을 돌릴 수 없기 때문에 완전히 분리된 변전소에서 이중으로 전기를 받아야 함.
원래는 이 이중 망이 완성될 때까지 기다렸다가 착공해야 하지만, 지금은 주문이 밀려 있어 기다릴 시간이 없음.

‘2+1 원칙’ : 처음부터 한전 계통 이중 공급(2)에 팹 자체 발전소(+1)을 원칙으로 정함.
시간이 촉박하니 팹 자체 발전소를 허가하고, 그 발전소가 나중에 전력 시장에 어떻게 들어갈지는 이후 논의함.


3) 발상을 뒤집어 ‘연 단위 보상’을 하고, 재원은 송배전 요금으로 정직하게 마련함.

국가적으로 중요한 프로젝트이기 때문에 원전에 버금가는 수준의 보상을 약속해야 함.

3대 메가 프로젝트와 반도체 팹, 그리고 미래 전기화와 재생에너지 200GW를 위한 대규모 전력망 건설은 반드시 필요하기 때문에 재원을 마련해야 하고, 국민에게 솔직하게 알려야 함.

송배전 요금을 kWh당 5 – 7원 정도 추가로 충당.


4) 메가프로젝트와 직결된 사업을 먼저 챙기고, 범부처가 매일 함께 관리해야 함.

한전이 이미 짓고 있는 송배전 사업 가운데 메가프로젝트와 직접 연결된 사업을 우선 챙겨야 함.

범부처 체계를 되살리고, 사안을 매일 모니터링하고 공개하면서 추진되어야 함.


https://www.youtube.com/watch?v=hJW5gfxjdnw
※ 전력망 병목, 에너지 지정학 어떻게 극복할 것인가. Part 2 (국민경제자문회의, 2026. 10. 28)

● 3대 메가프로젝트와 전력망 도전 과제 (이규섭 서울대 전기정보공학부 교수)


재생에너지로 공급은 늘고, 메가프로젝트로 수요가 급증하면 수급 균형을 맞추는 일이 가장 어려워짐.

호남 반도체 클러스터는 지역 송전선로와 계통 안정화 설비가 관건임.

AI 데이터센터는 대형 부하의 일시 탈락이라는 새로운 위험을 가져옴.
따라서, 대규모 부하에도 계통 지원 기능과 자립(자체 발전)이 요구되며, 발전기 주심인 신뢰도 고시 등 제도를 수요 측까지 넓혀야 함.



○ 대한민국 전력 정책 동향과 수급 구조

12차 전력수급기본계획 준비가 막바지임.

11차에서 12차로 넘어가며, 재생에너지 공급 물량이 빠르게 늘고 있음.
11차는 약 121.9GW가 제시되었는데, 12차에서는 200GW를 넘는다는 이야기도 나오고 있는 상황임.


하지만 지금 세계 전력 분야에서 더 중요한 것은 공급보다 수요 쪽임.
대표적인 것이 AI 발전에 따른 데이터센터이며, 몇 년 사이에 수요가 2 – 3배씩 가파르게 늘고 있음.

한국에는 여기에 더해 2023년에 발표된 첨단산업 특화단지가 있는데, 대표적으로 용인 반도체 클러스터가 14.9GW이고, 가장 최근 발표된 3대 메가프로젝트도 있음.

재생에너지 중심 공급과 메가프로젝트의 수요가 함께 급격히 늘면, 가장 어려운 일은 둘의 균형을 맞추는 것임.
그 균형을 맞추는 것이 바로 전력 시스템임.



○ 호남권 반도체 클러스터 : 두 가지 쟁점

1. 송전선로를 얼마나 지어야 하는가

송전선로는 두 종류로 나눠 봐야 함.

1) 국가 기간 전력망


멀리 떨어진 발전 단지와 수요 지역을 잇는 장거리 송전선로로 동해안 원전 전력을 수도권으로 보내는 HVDC 등이 대표적임.

호남에는 이미 재생에너지 발전 단지가 많아 신설이 거의 필요 없을 수 있음.


2) 지역 송전선로

근처 변전소에서 새 부하(클러스터 부지)까지 끌어오는 선로로, 장성 345kV 변전소, 화순 변전소 등에서 광주 클러스터 부지까지의 송전선로 등이 있음.

수요가 들어설 곳은 원래 빈땅이라 전력이 공급되지 않았기 때문에 지역 송전선로 건설은 반드시 필요함.

‘지역 송전선로’는 10 – 20km에 이르는 선로로, GW급 부하에 공급하려면 이 선로 건설을 서둘러야 함.




2. 호남 계통의 태생적 불안정성

호남 발전원 대부분은 기존 대형 발전기가 아님.
태양광 그리고 풍력처럼 인버터를 통해 계통에 연결되는 IBR(Inverter-Based Resouces, 인버터 기반 자원)임.

IBR은 기존 기계식 발전기와 달리 본래 계통 불안정을 일으키는 성질이 있음.
재생에너지가 몰린 호남에서는 이미 공진, 전압 불안정 같은 현상이 나타나고 있음.

여기에 대규모 부하를 붙이려면 불안정성을 해결할 솔루션을 함께 고려해야 함.
기계식 설비로는 동기 조상기가 있으며, 전력전자 설비로는 STATCOM(정지형 무효전력 보상장치)가 대표적임.

이 설비들을 한 묶음으로 넣고 초기 단계부터 함께 분석해야 함.
국가 기간망을 새로 짓지 않는 대신, 지역 안정화를 위한 추가 설비 보강은 반드시 필요하기 때문임.

국가 기간망을 새로 짓는 것보다 안정화 설비를 넉넉히 만드는 편이 비용 면에서 훨씬 효과적임.


○ AI 데이터센터 : 재생에너지와 닮은 새로운 위험

반도체 전력공급은 한국 특유의 상황이지만, AI 데이터센터와 계통 문제는 이미 전 세계적인 이슈이고, 대표적으로 북미에서 발생하고 있음.

AI 데이터센터는 지난 10년 가까이 한국 전력산업을 괴롭혀 온 재생에너지 계통 연계 문제와 아주 비슷한 성격을 지니고 있음.

지금 계통 안정도 문제는 대부분 재생에너지로부터 비롯되고 있다 해도 과언이 아닌데, 그와 같은 문제를 AI 데이터센터도 일으키고 있음.



1. 미국 사례 : 대형 부하(Large Load)에 대한 모라토리엄

미국은 데이터센터 같은 대형 부하의 계통 접속에 매우 비우호적임.
많은 미국의 지역들이 데이터센터 신규 접속에 모라토리엄을 선언해 새로 접속할 수 없는 곳들이 나타나고 있음.

1) 버지니아 ‘데이터센터 앨리’ 탈락 사건

2024년, 약 1.5GW의 데이터센터가 몰린 지역에서 계통에 사소한 이상이 생기자 데이터센터들이 한꺼번에 계통에서 떨어져 나갔음.
수요와 공급이 맞던 상태에서 1.5GW 수요가 갑자기 사라지며 수급 불균형이 생겼고, 자칫 대정전으로 이어질 뻔하였음.

2026년, 같은 지역에서 3.8GW가 탈락되었는데, 미국 계통 규모가 커서 버틸 수 있었음.
3.8GW는 원전 4기에 해당하는 양이고, 만약 이런 일이 한국에서 발생한다면 바로 대정전으로 이어질 수밖에 없음.


데이터센터들은 자기의 설비들을 보호하려고 계통 불안정 시 스스로 계통에서 분리되고자 하고 있음.
문제는 이 분리가 오히려 계통 전체를 불안정하게 만들 수 있음.


데이터센터의 대규모 부하가 계통에 큰 악영향을 주는 게 증명되고 있음.


2. 대규모 부하 사업자가 준비해야 할 것.

대규모 부하를 계통에 연결하기 어려운 상황에서 부하 사업자와 전력 산업계 양쪽 모두가 준비를 해야 함.

1) 기존 제도 : 전력계통영향평가

2024년 분산에너지 활성화 특별법 시행으로 10MW 이상 대형 부하가 계통에 연계하려면 기후부 주관으로 전력계통영향평가를 받아야 함.

평가는 대규모 부하가 더 능동적인 능력을 갖추도록 유도하고 있는데, 다음과 같은 항목에 가점을 주고 있음.
(1) 부하가 자가 발전 설비를 갖췄는가
(2) 에너지 효율화 시스템을 갖췄는가
(3) ESS를 함께 설치하는가 등


2) 해외 추세 : 부하에도 계통 지원 기능을 요구

해외에서는 대규모 부하가 계통에 접속할 때 전력망을 지원하는 기능을 갖추라고 요구하는 쪽으로 바뀌고 있음.

발전기에는 오래전부터 이런 기능을 요구해 왔는데, 예를 들어 필요하면 무효전력을 공급하고, 지시가 오면 유효전력을 즉시 줄여야 함.
반면 부하에는 지금까지 아무것도 요구하지 않았음.

이제 부하 자체가 계통 불안정을 일으킬 수 있기 때문에, 대규모 부하에도 같은 기능을 요구하는 흐름임.
대표적인 것이 ‘계통에서 갑자기 떨어지지 마라’는 Fault Ride-Through(고장 시 운전 유지) 요건임.



3) 국내 수요 측 자원 제도

(1) Fast DR : 계통 주파수가 일정 수준 아래로 떨어지면 차단기를 열어 부하를 즉시 분리
(2) 고객참여 부하차단제도 : 긴급할 때 제어할 수 있는 부하를 돈을 주고 미리 확보


현재 이러한 제도의 가장 큰 문제점은 참여하는 부하가 적다는 것임.
의무가 아니라 자발적 참여이기 때문으로, 이 기능들을 넓혀야 함.


4) 궁극적 방향 : 대규모 부하의 자체 발전과 자립

예를 들어, 일론 머스크의 xAI ‘Colossus’는 2GW급 데이터센터를 122일 만에 지을 수 있다고 말하고 있음.
계통에 연결하지 않고 자체 발전원 만으로 돌리기 때문임.
실제로 현재 문제점이 있지만 방향성은 맞음.

‘부하를 계통이 어떻게 지원할까’만 고민할 게 아니라, ‘부하가 발전원을 함께 가져와 어떻게 자립할까’를 정책으로 밀어붙여야 함.


3. 전력 계통이 준비할 것.

전력망은 발전, 송배전, 수요로 나뉨.
하지만 계통 운영에 필요한 기능은 모두 발전원에만 요구하고 수요에는 아무 요건도 두지 않고 있음.

‘대규모 부하가 떨어져 나가면 어떻게 해야 하나, 대규모 부하는 어떻게 동작해야 하나’에 대한 논의를 이제 시작해야 함.

이를 위해 계통 관련 고시, 법, 규정을 전면적으로 손봐야 함.

이러한 대응을 하게되면 운영 비용이 늘어날 수 있지만, 현재 미국에서 일어나는 문제로 반드시 대비해야 함.


(시뮬레이션 예시) 미국에서 한 시뮬레이션에 따르면, 대규모 부하가 떨어져 나가는 것은 동해안 송전선로 하나가 탈락해 과도안정도 문제가 생기는 것과 비슷한 효과를 냄.
하지만 우리는 지금 이 문제를 검토하고 있지 않음.


○ 전기요금 문제

미국이 대규모 부하에 부정적인 진짜 이유는 계통 안정도보다 돈 문제가 더 큼.

미국은 전력시장이 완전히 자유화되어 있어, 수요와 공급에 따라 가격이 계속 바뀜.
때문에 데이터센터 같은 대규모 부하가 몰린 지역은 다른 지역보다 전기요금이 2 – 3배 높음.

한국도 3대 메가프로젝트로 반도체 공장 20GW, 데이터센터 20GW가 들어오면 전기요금은 오를 수밖에 없음.

때문에 요금 인상을 최소화 하는 방안을 고민해봐야 함. (발전원 구성 최적화 등)
AI데이터센터_병목_용어설명서_2026.pdf
467.6 KB
※ 세미나 자료 : 전력과 추론, AI 데이터센터의 두 병목 및 AI 데이터센터 병목 용어 설명서

이번에 하는 세미나의 주제는 AI 산업의 병목 중 현재 진행되고 있는 전력과 추론으로 인한 병목에 관해서입니다.

앞으로 한 동안은 AI산업의 병목에 대해서 세미나를 할 계획입니다.
(전력과 추론으로 인한 병목의 개념을 먼저 잡고, 이후 세부적인 내용을 중심으로 이어갈 생각입니다.)

2022년 11월 30일, ChatGPT가 출시되면서 AI는 글로벌 메가트렌드로 자리잡았고, 우리는 현재 AI 혁명 시대에 살고 있습니다.

AI가 급속도로 성장하면서(그리고 중국으로부터의 공급망 분리가 함께 진행되면서), 계속해서 병목지점들이 만들어져 왔고 이들 병목들이 지난 수년 동안 주식시장을 이끌어 왔습니다.

2023년부터 2025년까지의 GPU와 HBM 그리고 CoWoS 병목으로 엔비디아, SK하이닉스, TSMC의 주가가 크게 상승하였고, 2026년에는 메모리 병목의 돌풍이 한국을 중심으로 글로벌 주식시장을 휩쓸었습니다.
이로 인해 상반기 한국 주식시장은 유래 없는 폭등을 보여주었고, 이 폭등의 후유증으로 하반기 업황은 좋지만 주식시장은 크게 하락하며 많은 투자자들을 힘들게 하고 있습니다.

그리고 현재 이 병목이 전력 부족(더 정확히는 전력을 연결하기 어려움)과 추론 비중의 확대(Agent AI 등)로 새로운 단계로 진입하고 있는 것으로 보여집니다.
칩은 있는데 이를 돌릴 수 있는 전력이 모자라고, 아울러 추론 비중의 증가로 데이터센터 내부의 구조가 바뀌고 있는 상황입니다.

이러한 AI 산업의 구조 변화에서, 주식시장의 주도섹터도 서서히 변해갈 것이라고 보고 있으며, 2027년에는 새로운 병목이 시장의 주목을 받을 수 있다고 생각합니다.

현재 주식시장이 큰 혼란과 어려움에 놓여 있지만, 이럴 때일수록 먼저 공부하고 다음을 준비하자는 의미에서 주변 투자자분들과 계속해서 세미나를 열고 있습니다.
시장이 힘들기 때문에, 이를 공부로써 극복하자는 의미에서 이전보다 세미나를 좀 더 자주 하고 있습니다.


● 전력과 추론, AI 데이터센터의 두 병목

○ 목차


1. 전력 병목은 왜 생기나 : 수요는 빠르게 늘고 있는데, 전기를 전달하는 인프라는 그 속도를 따라가지 못하고 있음.

2. 추론은 왜 늘어나는가 : 단일 대화 대비 에이전트 코딩의 작업당 토큰이 250배 증가.

3. 무엇이 어떻게 바뀌나 : 전력은 ‘더 많이 공급’에서 ‘더 유연하게, 더 효율적으로’의 방향으로, 연산은 ‘GPU 하나’에서 ‘역할별 분업’으로 바뀌고 있음.

4. 어디가 막히나 : 분야별 병목과 병목의 강도

5. 2023년부터 2030년까지의 병목지점 : 병목은 칩에서 메모리로, 다시 전력 구조와 입지/제도로 옮겨가고 있음.

6. 병목별 국내외 관련 기업
※ SMART ENERGY Plus 2026 참가 후기 (2026. 10. 29) #1.

● 글로벌 데이터센터 동향 및 End to End LG 통합 냉각 솔루션 (이광원 LG전자 어플라이드 사업담당)



냉각 방식은 세 단계로 이동 중에 있음.

과거 공랭식 : 대략 10kW 규모의 랙에 사용되며, 팬과 항온항습기로 공기를 식힘.

현재 액냉(물)식 : 블랙웰 랙은 100kW이상으로 칩 위 콜드플레이트에 물을 흘려 냉각 시킴.

향후 냉매(2상)방식 : 냉매가 끓으며 잠열로 열을 흡수하여, 같은 면적에서 더 많은 열을 제거할 수 있음.



○ 핵심 요약

1. 발열이 냉각 방식을 바꾸고 있음.

엔비디아 블랙웰급 랙부터는 공랭으로 감당하기 어려워 액체냉각이 표준이 되고 있으며, 장기적으로 물 대신 냉매(2상 냉각)로 갈 수 있음.


2. 냉각수가 뜨거워졌음.

예전에는 10 – 15℃ 냉수를 썼다면, 이제는 40 – 50℃대 물로 칩을 식힘. 샤워물보다 뜨거운 물로도 냉각이 되니 냉각 설비 구성도 이에 맞춰 바뀌는 중임.


3. 병목이 칩에서 전력으로 옮겨 왔음.

처음에는 엔비디아 GPU 확보가, 그 다음엔 전력, 냉각설비가, 지금은 전력 자체가 문제임.
정해진 전력을 냉각에 덜 쓰고 연산에 더 쓰는 것, 즉 PUE를 1에 가깝게 만드는 것이 핵심 과제가 되었음.


4. 속도가 경쟁력임.

데이터센터를 빨리 짓고 빨리 가동할 수록 수익이 큼.
미국은 현장 숙련 인력이 부족하므로, 공장에서 미리 만들어 오는 모듈 방식이 늘어날 것으로 보임.


5. CDU가 액체 냉각의 중심임.

LG는 엔비디아 베라 루빈 대응 CDU를 2.6MW급까지 갖췄고, 3MW급을 곧 내놓을 예정임.
압축기를 직접 만든다는 점이 타업체와의 차별점임.


○ 데이터센터에서 냉각이 중요해진 이유

칩의 발열량이 커지면서 냉각 시스템이 핵심이 되었음.
일반 데이터센터 랙과 엔비디아 블랙웰(GB200급) 랙을 비교하면, 랙 하나의 열이 10배 이상 늘어나 기존 공랭으로는 어렵고 앞으로 액냉으로 가야 함.


열이 많이 올라 공랭의 한계를 벗어나면서 액체냉각을 사용하기 시작하였음.
지금 액체냉각으로 물을 사용하지만, 이후에는 냉매를 사용할 것임.
같은 면적에서 냉매가 물보다 훨씬 더 많은 열을 제거할 수 있기 때문임.

발열량이 늘면 냉각수 유량도 늘려야 함.
그 안에 들어가는 배관과 펌프 같은 시스템도 함께 바뀌기 때문임.



○ 엔비디아가 말하는 두 가지 키워드

1) 속도

CSP(대형 클라우드 사업자) 투자가 매우 빠르게 이뤄지므로, 데이터센터를 가장 빨리 짓고 서비스를 시작하는 쪽이 그만큼 많은 수익을 낼 수 있음.


2) 전력

병목이 처음에는 엔비디아 칩의 확보였다면, 다음엔 전력/냉각 설비였고, 지금은 전력 자체임.
그래서 정해진 전력을 냉각에 쓰지 않고 어떻게 토큰을 생산하는 데 쓰느냐가 중요하고, PUE를 낮춰야 함.



○ 미국 데이터센터의 현황

미국은 현장 숙련 인력이 부족해서, 공장에서 미리 다 만들어 오고 현장 작업을 최소화하는 모듈(프리팹) 방식이 늘어날 수밖에 없는 구조임.

미국 데이터센터는 전력과 인구가 많은 버지니아에 몰려 있다가 남부, 다시 서부로 옮겨가고 있는 중임.
하지만 전력이 풍부한 지역으로 옮겨도 현재 전력만으로는 미국의 AI 데이터센터 수요를 감당할 수 없음.

결국 핵심은 전력 설비임.


엔비디아에서 가장 중요하게 보는 부분은 서버에 냉각수를 안정적으로 공급하는 장치인 CDU임.
LG는 엔비디아 베라 루빈 대응을 위해 CDU의 용량을 2.6MW급까지 엔비디아와 맞췄고, 올해 안에 3MW급까지 진행할 것임.
※ 2026 전기국가 포럼, 석유패권에서 전력주권으로 (2026. 11. 03)

● (자원안보 기본계획에) 석유, 석탄, 천연가스는 있는데, 전력은 빠졌다? (김진수 한양대학교 교수)

○ 지난 30년 동안의 한국 에너지 구조 변화 (전기국가로 가야만 함.)


1. 국내 화석연료 생산은 사실상 0이 되어가고 있음.
동해 가스전이 2022년 고갈되면서 컨덴세이트와 가스 생산이 끝났음.
발전용 유연탄은 국내에서 생산되지 않음.
연탄용 무연탄은 석탄공사 탄광이 조기 폐광했고, 경동이 운영하는 탄광 하나만 남아 있는 상황임.

2. 에너지 수입액 규모
한국의 에너지 수입규모는 통상 1,000억 달러 수준임.
러-우 전쟁이나, 중동 전쟁 같은 위기 시에 2,000억 달러가 넘기도 함.



대한민국이 전기국가로 간다는 방향 자체는 의심의 여지가 없음.
다만 산업이 쓰는 전력이 절대적이기 때문에, 전기국가 설계에 산업 경쟁력과 국가 경쟁력을 함께 고민해야 함.


○ 이란 전쟁(호르무즈) 리뷰

1. 공급과잉 시대가 미뤄졌음.


원래 2026 - 2027년에는 LNG가 공급과잉이 되어 구매자 우위 시장이 될 것으로 예상되었음.
이번 이란 전쟁으로 이 흐름이 없어진 것은 아니고, 2 – 3년 정도 늦춰졌다는 것이 대체적인 전망임.


2. 물류 병목(초크포인트)이 무기가 되었음.

물류 병목을 전쟁 수단으로 썼을 때 어떤 파급효과가 나타나는지를 이번 중동사태를 통해 분명하게 보여주었음.


3. ‘3차 석유 파동인가?’에 대한 평가

1차(1973년 욤키푸르 전쟁), 2차(1978 – 79년 이란 혁명) 석유파동 때보다 공급 차질물량은 2.5배 이상 컸으며, 역대 최대 공급 충격이었음.

하지만 1, 2차 파동 수준의 위기는 아니었는데,
1) 세계 경제 규모가 1975년 무렵보다 약 4.5배 커져, 상대적인 충격이 줄었음.
2) 과거 석유 특히 수송용 석유를 대체할 수단이 없었지만, 지금은 대체 수단이 있음.

1, 2차 석유 파동때는 유가가 약 4배 올랐고, 물량 자체를 구하지 못하는 상황이었으나 이번은 아님.


3. 한국에 대한 핵심 영향은 LNG 가격임.

이번 이란전쟁이 여름안에 끝났으면 하고 바랬던 이유가 천연가스 가격 때문이었음.

한국이 들여오는 LNG의 지표 가격인 JKM이 최근 MMBtu당 30달러를 넘었음.
평소 11 - 12달러, 평년 겨울에는 약 15달러, 추운 겨울에는 약 18달러인 것을 감안하면 평소 대비 2 – 3배 정도 가격이 올라 있는 것임.


가스 가격이 오른 만큼 SMP(계통한계가격)도 올라야 하지만 그만큼 반영하지 못하고 있음.


○ 한국 에너지 현황과 안보 환경 변화

1. 에너지 현황


화석연료를 전량 수입하고 있으며, 에너지 수입 의존도는 93 – 94%임.
중동 의존도는 과거 약 70%였고, 공급원 다변화 정책 덕분에 낮아졌으나, 다변화 대상이었던 러시아산 원유(중질유)를 러-우 전쟁 이후 못 들여오게 되면서 다시 중동 의존도가 올라가고 있음.

호르무즈 사태 이후 다시 낮추는 중이지만 여전히 60%대임.


2. 복합 위기가 상시화 될 것

과거 위기는 석유면 석유, 석탄이면 석탄처럼 한 분야에서만 일어났음.
하지만 앞으로는 여러 분야가 연결되어 동시에 발생할 가능성이 높아졌음.
여기에 탄소중립 목표, 글로벌 밸류체인 재편, 통상 질서 변화가 겹쳐지고 있음.


3. 투자 환경 악화

발전소는 보통 자기자본 15 – 20%에 나머지 80 – 85%를 금융 조달(파이낸싱)로 지음.
지금은 석탄화력 발전소에 대한 파이낸싱이 사실상 불가능하고, 가스복합화력도 어려워지고 있음.
그만큼 안보를 위한 포트폴리오 선택지가 좁아지고 있음.

여기에 AI데이터센터로 인한 전력 수요가 급증하고 있는 상황임.


○ 화석연료의 미국, 재생에너지의 중국

1. 중국은 재생에너지 패권국임.


2024년 기준, 글로벌 태양광 설치의 약 60%, 풍력의 약 70% 이상이 중국에 설치되었음.
중국 기업이 해외에 설치한 것까지 합치면 더 많음.
중국은 최대 구매자이면서, 기자재/소재/부품 공급자로서도 밸류체인을 장악하고 있음.


2. 완전한 탈중국은 불가능함.

가격 경쟁력 측면에서 100% 탈중국은 불가능한 목표임.
중요한 것은 중국 이외의 옵션을 얼마나 가지고 있느냐이며, 한국은 그 대안 위치를 차지해야 함.


3. 중국의 양손 전략

미국, 독일 등 서방국가들은 대부분 석유를 가장 많이 사용하고 있으며, 프랑스만 예외적으로 원전을 많이 사용하고 있음.

중국은 전체 에너지 공급에서 석유가 차지하는 비중이 약 18%에 불과하고, 석탄이 60%임. 이는 자국내 석탄이 풍부하기 때문임.

한편으로 값싼 석탄 중심의 공급체계를 유지하면서, 다른 한쪽으로는 재생에너지를 대폭 확대하고 있음.
석유화학 원료를 석탄화학 원료로 대체하는 작업도 많이 진행 중임.


○ 자원 안보 기본계획의 빈틈 : 전력이 빠졌다.

지난 9월 23일, 자원안보특별법에 따른 첫 자원안보 기본계획이 발표되었음.
그 동안 영역별로 흩어져 있던 안보 대응 수단을 종합 정리한 계획임.

문제는 석유, 석탄, 천연가스, 재생에너지 부품 및 소재는 포함되었지만, 전력 안보는 계획에 들어가 있지 않음.
때문에 앞으로 전기까지 포함한 통합 에너지 안보 또는 통합 자원안보 정책을 펼쳐야 함.


1. 전기화가 바꾸는 안보의 대상

이전에는 연료를 어떻게 안정적으로 확보하느냐가 안보의 첫 번째 과제였으나, 이제는 다음 네가지(4중 안전망)으로 옮겨가야 함.

1) 설비
2) 설비를 만드는 국내 제조 및 산업 인프라
3) 제조에 필요한 원료 물질, 즉 핵심광물
4) 계통(전력망)


화석연료 수입이 줄어든다고 안보 고민이 사라지는 것이 아니라, 고민의 대상이 바뀌는 것임.


○ 전력 수요 전망

AI 데이터센터와 반도체 클러스터 수요를 모두 인정할지는 12차 전력수급기본계획을 세우는 과정에서 계속 논쟁이 될 사안임.

이와 별개로 수요 증가의 핵심 동인은 전기화이며, 이는 모든 선진국이 같은 방향임.

현재 최종 에너지 가운데 전기로 공급되는 부분은 22% 뿐임.
나머지 78%는 화석연료가 직접 공급하고 있음.

이 78%를 전기로 바꾸고, 그 전기를 깨끗하게 만들지 않으면 탄소중립은 불가능함.


1. 12차 전기본 수요 전망

전망에 따르면, 847TWh라는 숫자가 처음 나왔는데, 현재 전력 사용량은 600TWh도 안되는 수준임.



○ 핵심광물 : 전기국가의 병목

1. 병목이 되는 이유


가격이 두 배로 올라도 시장에서 살 수 있다면 병목이 아님.
문제는 중국의 핵심광물 정제 점유율이 평균 72%이고, 일부 품목은 90%를 넘어 98%에 이름.
중국이 시장 원리에 따라 계약을 이행하면 문제가 없지만, 지정학/지경학적 무기로 쓰는 순간 목줄을 잡히게 됨.

때문에 전력설비 인프라와 국내 밸류체인을 구축하는 일과 동시에 핵심광물 공급망도 함께 확보해야 함.


○ 전력 안보 개념의 재정의

장기적 관점 : 설비 구축에 필요한 핵심광물 확보, 계획한 시점에 맞춘 설비 건설 등 안정적 공급 측면

단기적 관점 : 운영 신뢰도 (현재 주로 이것만 검토 하고 있음)


신뢰도 고시 기준을 재정비해야하는데, 재생에너지가 늘어날수록 하향 예비력이 중요해지기 때문임.

재생에너지의 출력 변동성을 고려해야 함.
해상풍력은 연도별 출력 변화까지 있기 때문에, 공급 안정성을 위해 소량의 가스화력 발전소가 필요함. 평소에는 돌지 않고 공급 위기 때만 가동하는 발전소임.


○ 전력 주권확보를 위한 세 가지 길

1. 강건한 전력 인프라 제조 산업 생태계


지금은 유례없는 기회임.
전력기기 3사의 수주잔고가 매우 크고, 전력기기 산업이 호황임.
이 호황을 지속 가능한 경쟁력을 가진 산업으로 굳혀야 함.

한국이 석유 최고가격제를 시행할 수 있었던 것은 국내에 정유사가 있었기 때문임.
마찬가지로 전력 주권도 관련 산업 생태계가 있느냐 없느냐에 달려있음.

1) 핵심설비의 안보 자원화가 필요함.
민간에 전부 맡기지 않고, 일부는 국가나 공공이 통제할 여지를 남겨야 함. (예, 생산량 모니터링)

2) 국산화

3) 생산/투자 인센티브
재생에너지 제조업에 적용되는 PTC(생산세액공제), ITC(투자세액공제)를 전통 산업으로 여겨지는 전력기기에도 확대하는 방안을 검토


4) 수출 산업화와 동반 진출


2. 경쟁력 있는 전력산업과 전력시장 형성

요금 경쟁 체계, 한전이 독점하는 판매시장의 개방 여부.

현재 한국 전력시장은 가격 신호가 존재하지 않는 시장이며, 바람직하지 않음.
논의중인 LMP(지역별 한계가격)을 넘어, 가격 신호가 소비자에게 전달되고 소비자가 반응하며 공급 사업자도 그에 맞춰 전략을 짤 수 있는 시장으로 가는 방향을 유지해야 함.



3. 핵심광물 공급망

광물은 에너지와 다름.
석유, 가스, 전력의 최종 소비자는 국민이지만, 광물의 최종 소비자는 기업임.
때문에 정책 설계가 에너지 정책과 달라야 함.

https://www.youtube.com/watch?v=6fvVWRi80MM&t=448s
※ 2026 전기국가 포럼, 석유패권에서 전력주권으로 (2026. 11. 03)

● (자원안보 기본계획에) 석유, 석탄, 천연가스는 있는데, 전력은 빠졌다? (김진수 한양대학교 교수)

주요수치 정리
※ 네오클라우드 리스크와 미국 데이터센터 산업의 핵심 병목이 된 전력

현재 AI 산업에 대한 시장의 우려가 어느 지점을 향하고 있는지를 매우 잘 설명해주고 있는 영상으로 보여집니다.

코어위브, 엔스케일과 같은 네오클라우드 업체들에 대해서 시장의 우려와 그 이면에 가장 핵심이 되는 원인은 지금 당장 사용할 수 있는 전력의 부족하다는 것입니다.

이러한 구조적인 문제로 인해, 사모금융이 문제가 생길 수 있고, 또한 이들 네오클라우드 업체들에 대한 노출 비중이 큰 엔비디아 문제(네오클라우드가 문제가 생길 경우, 이들에게 신용 보증을 해주며 GPU를 판매하고 있는 엔비디아의 매출이 일정부분 타격을 받을 수 있음)와 엔비디아와 얽혀 있는 SK하이닉스, 삼성전자와 같은 한국 메모리업체들 등 현재 시장의 상황을 매우 적나라하게 말해주고 있습니다.

또한 왜 ESS, 연료전지, 가스피커/엔진과 같은 가격이 다소 비싸더라도 빠르게 설치할 수 있는 발전원/전력원들이 시장의 각광을 받아왔는지도 이해 할 수 있습니다.


무엇보다 중요한 것은, AI의 연산이 절대적으로 부족하다는 사실은 변함이 없고, 이 연산의 부족을 해결하기 위한 핵심은 바로 전력이라는 사실입니다.

현재 전력을 빠르게 구할 수 있는 곳이 승자가 되는 것이 미국 AI 데이터센터 산업이며, 앞으로 전력 문제 해결이 AI산업의 핵심 화두가 될 것으로 전망됩니다.


● 수주 1,000억 달러, 가동은 2.5% : 엔스케일과 네오클라우드 리스크 (김열매TV, 2026. 11. 03)

○ 핵심 요약


1. 엔스케일은 상반기 매출 1.4억 달러, 순손실 10억 달러인데 IPO 목표 몸값은 300억 – 350억 달러임.
동종업체 배수로 계산하면 60억 달러 수준이어야 한다는 비교도 나오고 있음.

2. 계약 총액은 약 1,034억 달러지만 실제 가동 중인 계약은 26억 달러(2.5%)뿐임.
나머지는 전력, 건설, GPU 입고가 제때 이뤄져야 매출이 됨.

3. 2025년 매출의 73%는 싱가폴 법인을 통한 바이트댄스 계열 고객이었고, S-1에는 고객명이 명확히 드러나지 않았다는 지적이 있음.

4. 미국 웨스트버지니아 8GW ‘모나크’ 캠퍼스가 성장의 핵심임.
앤트로픽이 450억 달러/460MW로 첫 고객이지만, 납기를 못 맞추면 단계별 해지가 가능함.

5. 앤비디아는 투자자, 칩 공급사, 리스 보증인에 이어 건설 대금 보증까지 검토 중임.
네오클라우드가 흔들리면 사모대출 운용사와 앤비디아로 위험이 번질 수 있음.


○ 머스크의 ‘구피’ 경고

머스크는 스페이스X 회사채 등으로 막대한 돈을 빌려 데이터센터에 투자 중이며, 200곳이 넘는 네오클라우드가 구피처럼 죽고 통합될 것이라고 말하고 있음.


○ 엔스케일 개요와 몸값 논쟁

9월에 S-1을 제출했고, 연내 상장을 목표로 하고 있음.
상반기 매출 1.4억 달러, 순손실 10억 달러였으며, 목표 기업가치는 350억 달러임.

사업 모델은 엔비디아 GPU를 사서 데이터센터에 깔고 AI 회사에 연산 능력을 빌려주는 것으로, 코어위브, 네비우스, 아이렌과 비슷.

네비우스 수준의 매출 대비 기업가치(PSR) 약 15배를 적용하면 엔스케일의 기업가치는 약 60억 달러 수준이 됨.
하지만 3월 시리즈 C에서 이미 146억 달러를 평가 받아 자금을 조달했기 때문에, 최소한 직전 투자자가 손실을 보지 않으려면 그 이상을 받아야 하며, 회사는 300억 달러 이상의 기업가치를 원하고 있음.

현재 코어위브 회사채가 할인 거래되고 주가도 떨어지면서 ‘비싸다’라는 말이 나오고 있음.


○ 엔스케일의 매출과 바이트댄스

2025년 매출의 73%가 단일 고객에서 나왔음.
싱가폴에 세운 사실상 페이퍼 컴퍼니인 ‘스프링’으로 실체는 바이트댄스 계열임.

스프링은 엔스케일의 노르웨이 데이터센터를 임차하였으며, 엔비디아 최신 칩은 중국 수출이 막혀있지만, 해외 데이터센터에를 빌리면 사용할 수 있음.

바이든 정부는 해외 클라우드 임차 우회로도 막으려 했지만, 트럼프 행정부는 해외를 통한 우회로를 허용했음.

중국 AI 기업이 칩 제약 속에서도 빠르게 따라온 이유 중 하나가 이런 해외 임차일 수도 있음.


○ 수주잔고 1,000억 달러, 가동은 2.5%

S-1 상 계약 총액(TCV)은 1,000억 달러가 넘음.
그 중 실제 가동 중인 계약은 26억 달러, 전체의 2.5%에 불과함.

엔비디아에서 사기로 한 GPU는 46만 장이 넘지만, 8월 말 기준 가동 중인 것은 소수이고, 10월초 기준으로 5만 장 정도 가동 중이라고 회사는 밝혔음.


○ 모나크 프로젝트 : 땅, 전력, 가스 엔진

모나크 프로젝트는 웨스트버지니아에 짓는 8GW 데이터센터임.

계획 부지는 275만 평, 그 중 공사 중인 곳은 49만 평임.
1단계는 현장 자가발전 2GW로 일부가 첫 가동 중임.

첫 고객은 앤트로픽으로 450억 달러 계약에 460MW를 사용함.
IPO 자금과 추가 대출로 나머지를 지어야 함.
공사 일정이 지연되면 앤트로픽은 계약을 해지할 수 있음.
참고로 모나크의 또 다른 계약은 마이크로소프트로 1.35GW 규모임.

현재 우려하는 것은 빅테크가 아니라 데이터센터 부동산 버블임.
전기가 들어온다는 이유로 농지를 비싸게, 빚으로 사들였다가 공사가 늦어지면 이자 비용이 급증할 수 있음.


1,500만 달러 짜리 부지를 시행사가 몇 달 만에 9천만 달러(6배)에 엔스케일에 넘겼고, 전력 확보 권리는 7억 달러 이상을 따로 지불하였음.
즉, 땅값보다 전기가 핵심 자산이라는 뜻임.


1단계 2GW 가스 발전에 엔진 864대가 들어감.
대형 터빈은 지금 주문하면 2031 – 2032년에 나오기 때문에 전 세계에서 소형 엔진을 긁어 모으고 있음.
이는 네오클라우드의 속도전을 잘 보여주고 있음.


○ 마이크로소프트의 영국 철수

마이크로소프트가 영국 엔스케일 프로젝트에서 철수하였음.
이유는 2030년 이후에야 전력이 들어올 수 있기 때문임.

문제는 영국 철수만이 아닐 수 있음.
S-1에서 마이크로소프트 계약 내용이 빠졌다는 얘기가 있으며, 모나크에서도 계속할지 불확실함.

엔스케일 CEO는 마이크로소프트와의 장기 관계는 탄탄하고 런던 전력 때문에 벌어진 일이라고 밝혔음.


○ 엔스케일과 앤트로픽 계약

앤트로픽과의 계약은 446억 달러임.
데이터센터 면적이 아니라 GPU까지 갖춘 연산 능력을 임대하는 계약임.

46만 장 중 5만 장만 들어왔고, 일정대로 들어와야 계약이 유지됨.
트랜치(단계)별 납기를 못 맞추면 해지가 가능함.

때문에 엔스케일은 기한까지 건설 자금을 대고, 공사를 서두르고, GPU를 넣어 가동해야 하는 상황임.


○ 엔비디아, ‘AI 업계의 은행’에서 건설 보증까지

지금까지 엔비디아는 투자를 해주고, GPU를 사게 하며, GPU 판매에 대해서 만 보증해 왔음.

하지만 언론보도(FT, 블룸버그)에 따르면, 엔비디아가 엔스케일의 건설 대금 보증까지 협상 중이라고 보도하였음.
공사비를 못 빌려 공사가 중단되면 엔비디아 GPU 판매에도 차질이 생기기 때문임.


엔스케일은 코어위브보다 훨씬 작지만 아이렌과 비슷한 규모라 결코 작은 회사가 아님.

엔비디아의 전체 보증/약정 규모는 1,645억 달러로, AI 클라우드 구매와 제 3자 데이터센터 리스를 포함하면 560억 달러, 소프트뱅크 자회사 SB에너지와 오픈 AI관련이 1천억 달러 이상, 기타 33억 달러임.

현재 젠슨 황은 엔스케일에 밤낮으로 일하고 잠을 줄여서라도 일정을 맞추라고 주문하고 있음.


○ 머스크의 이해관계

가트너도 2030년까지 네오클라우드의 80%가 파산이나 합병으로 독립 운영을 멈출 것이라고 전망하고 있음.

코어위브의 부도 위험을 반영하는 CDS 프리미엄이 크게 올랐고, 퍼머스는 IPO에 실패했음.

현재 시장에서 가장 많은 돈을 빌리는 것은 머스크이고, GPU 금융 리스와 스페이스 X 회사채 발행을 하고 있는 이해관계자임.

FT는 네오클라우드가 제때 짓지 못하면 수요가 대형 사업자로 옮겨 갈 것이라고 봤음.

앤트로픽, 오픈AI 모두 연산 부족으로, AI 수요 자체는 넘쳐나고 있음.

만약 네오클라우드가 속도를 못 맞추면 빚이 많아 채권자들이 헐값 매각이나 상환을 요구하고, 이는 xAI의 콜로서스 같은 대형 사업자에게 오히려 호재가 될 수 있음.
망한 네오클라우드를 사들일 수도 있음.


업계에서는 코어위브는 자리 잡은 회사이고, 퍼머스나 엔스케일 같은 후발 주자가 훨씬 취약한 상태에 놓여 있음.


○ 사모시장으로 번지는 경로

네오클라우드에는 아폴로, 핌코, 블루아울 등의 대출과 전환사채가 들어가 있고, 그 뒤에는 아부다비 국부펀드 같은 출자자가 있음.

전략적 투자자로 엔비디아, 델, 노키아, 레노버 등이 참여하고 있음.

때문에 엔스케일 등 네오클라우드들의 IPO 지연 → 공모 규모/몸값 하락 → 투자자 횟수 지연, 평가가치 하락 → 추가 자금 조달 부담 증가로 이어지는 구조임.


현재 전력 병목으로 가동이 늦어지고, 임대료 수입이 늦어지니 적자만 커지고 있음.
사모대출은 점점 네오클라우드 대신 빅테크, 스페이스X, 알파벳, 아마존 같은 안전한 곳으로 향하고, 시장은 당분간 전력난과 자금난을 겪을 것으로 보여짐.



○ 엔비디아에 미치는 영향과 봐야 할 지표

엔비디아 베라 루빈 칩 예약 고객 중 빅테크 비중이 크지만, 네오클라우드 약정 또한 적지 않음.

엔비디아가 신용보강을 해주며 보통은 돈을 빌리기 어려운 회사들과 칩 계약을 맺고 있기 때문임.


중요한 것은 네오클라우드 자체보다 엔비디아가 판 칩이 실제로 설치되고 돌아가고 있는 지임.


(주의 해서 봐야 할 지표들)

1) 블랙스톤, 아폴로, KKR, 블루아울 등 대체투자 운용사 주가.
시장이 안정되면 이들의 주가가 먼저 오를 것.

2) 엔비디아 주가와 보증 구조.
주가가 계속 오르면 “구피 몇 마리” 수준의 걱정이 될 것이지만, 주가가 흔들리면 신용 보강으로 만든 매출에 대한 의심이 커진다는 신호임.

3) 네오클라우드 주가와 CDS 프리미엄.

4) 엔스케일 같은 회사의 IPO 성사 여부, 그리고 앤트로픽 상장 시 최종 몸값.


특히 사모시장에 가장 적극적이었던 블루아울 같은 운용사 주가를 유심히 지켜봐야 함.

https://www.youtube.com/watch?v=kNALKComaf8&t=1671s
※ 미국 AI산업의 문제는 민주당의 승리가 아니라 전력. (AI의 구조적 성장을 믿는 다면, 전력에서 다음 투자 아이디어를 찾아야)

미국의 중간선거가 민주당의 단순한 승리를 넘어 역사적인 압승으로 결론지어졌습니다.

민주당의 승리가 미국 AI 데이터센터에 대한 규제 강화로 연결될 수 있다는, 우려가 존재하고 있으며 실제로 지난 수주일 동안 민주당 승리에 대한 우려가 시장에도 선반영 되기도 하였습니다.

하지만, 현재 미국 AI 산업이 마주한 사실을 보면 민주당의 규제 강화 보다, 데이터센터에 연결할 수 있는 전력이 없다는 것이 훨씬 더 치명적인 문제라고 할 수 있습니다.

지금 미국의 현실은, 데이터센터를 더 짓고 싶어도 전력이 없어서 짓지를 못하는 상황입니다.

텍사스 한 곳에서만, 데이터센터를 위한 전력 신청이 약 400GW 수준에 달하고 있지만, 실제 텍사스(ERCOT)가 올해 송전을 승인한 전력은 9.5GW에 불과한 실정이며, 2026년 상반기 신규 가동된 데이터센터의 규모는 4GW에 불과합니다.

즉, 아무리 데이터센터를 짓고 싶어도 전력 부족으로 인해 데이터센터를 지을 수가 없는 상황으로, 민주당이 설혹 데이터센터 건설에 대한 아무런 규제를 가하지 않는다고 해도, 물리적인 이유로 데이터센터를 건설할 수가 없는 것이 현재 미국이 처한 상황입니다.


○ 컴퓨팅 연산이 증가하고, 데이터센터의 수요는 늘어나는데 전력이 없음.

2022년 11월 30일, ChatGPT의 출시 이후 AI 모델은 텍스트 중심의 생성형 AI를 시작으로 멀티모달 AI, Agent AI로 빠르게 발전하였고 이와 함께 폭발적으로 컴퓨팅 연산이 증가하였습니다.

그리고 이러한 컴퓨팅 연산의 증가는 보다 많은 데이터센터를 필요로 하기에 현재와 같은 AI 데이터센터 수요의 폭발적 증가로 이어졌습니다.

즉, 연산의 증가(토큰 사용량의 증가)가 GPU와 HBM, CoWoS의 병목부터 시작하여 2026년 메모리의 병목으로 이어졌고 그리고 이제 전력의 병목으로 연결되고 있습니다.

문제는 데이터센터 건설(약 2년, 빠르면 1년)과 전력망 건설/계통연결(5년에서 10년) 사이의 물리적 시차로 인해 데이터센터가 만들어져도 전력이 없는 상황이 발생하고 있다는 것입니다.


현재 미국 AI 시장의 가장 뜨거운 논쟁 중 하나인 코어위브와 같은 네오클라우드의 문제도 이 ‘연결할 수 있는 전력의 부족‘ 때문에 생기고 있습니다.

즉, GPU도 메모리도 있고 데이터센터 건물도 있는데, 정작 이들 칩을 돌릴 수 있는 전기가 없다는 것이 현재 미국 AI 데이터센터 산업이 처한 현실입니다.

엔비디아의 GPU도, SK하이닉스의 HBM도, 삼성전자의 메모리도 문제도 아니며, 주정부의 인허가 문제도 아니고 바로 연결할 수 있는 전력의 문제입니다.

즉, 민주당의 주지사나 정치인들이 데이터센터 인허가를 내주냐 마냐의 문제가 아니라, 전력 자체가 없다는 것이 문제의 핵심입니다.


○ 전력 문제가 해결이 안되면 반도체 주가도 오를 수 없음.

최근 반도체 주식들이 놀랄 만한 실적에도 불구하고, 제대로 오르지 못하는 이유도 여기에 있다고 보여 집니다.

계획된 데이터센터가 전력 문제로 제대로 가동을 할 수 없게 되면서, 주문한 칩들이 쌓여 갈 수 있다는 우려가 반도체 주식이 제대로 상승하지 못하는 이유 중 하나일 수 있습니다.


여기에 더해, 엔비디아는 취약한 자금 구조의 네오클라우드(코어위브, 엔스케일 등)에게 신용 보증을 해주며 GPU를 팔고 있으며(GPU 담보부 대출), 만약 이들 네오클라우드들이 계획된 데이터센터를 건설하지 못하게 되면 엔비디아의 GPU도 SK하이닉스와 삼성전자의 HBM과 메모리의 수주도 타격을 받을 수 있는 구조입니다.


더 깊숙히 들어가면, 네오클라우드에 막대한 투자를 한 사모금융의 문제 전이되어 미국 AI 산업 전체를 흔들 수도 있게 됩니다.

현재 보여지는 AI 시장의 불안이 전력에서 비롯되었다 해도 과언이 아닌 상황입니다.


○ 미국 AI 산업은 멈추기에는 이미 늦었음.

그럼에도 불구하고, 미국이 AI 산업이 후퇴하도록 놔둘 수는 없는 상황입니다.
미국은 AI 산업에 너무나 많은 것을 투자하였고, 더 이상 되돌아 올 수 없는 강을 건너갔기 때문입니다.

현재 미국 경제 성장의 약 30% - 50%(최근 분기 GDP 성장 기여도 약 0.4% - 1.1%)가 AI 산업을 통해 나타나고 있습니다. (미국 연방준비은행/St. Louis Fed 분석)

또한 사모펀드를 비롯한 막대한 금융시장의 자금들이 AI산업에 천문학적인 투자를 한 상황입니다.
그리고 미국 국민들의 자산의 대부분을 차지하는 주식이 AI 관련 주식들 몰려 있습니다. 어찌 보면 살인적인 인플레이션에도 불구하고 미국 국민들이 버틸 수 있었던 이유는 이들 AI 주식 가치 상승에 있었는지도 모릅니다.

이러한 상황에서 만약 미국 AI 산업이 후퇴하게 된다면, 미국은 경기 침체를 넘어 금융 위기로까지 몰릴 수 있기에, 미국 AI 산업은 이제 멈출 수 없는 기차가 되어버렸습니다.

최근 JP모건의 CEO인 제이미 다이먼도 이 부분을 강하게 지적하며, AI가 멈추면 미국의 경제는 함께 침몰 할 것이라고 강하게 경고하기도 하였습니다.

중국과의 패권 전쟁이라는 이유 외에도, 미국은 공화당 뿐 아니라, 민주당도 이 기차를 멈출 수는 없는 구조입니다.


○ 미국 AI 산업은 어떻게든 길을 찾을 것

때문에 미국은 AI 산업을 지속시키기 위해서 전력 문제를 어떻게든 해결하고자 할 것입니다.

송전망 건설이 힘들다면, 전력원이 있는 곳(태양광 사이트 등)에 데이터센터를 짓거나, 또는 온사이트 발전을 통해서, 전력 수요관리, 전력 아키텍처의 변화(800V DC), 데이터센터 내부 전력 효율화(PUE) 및 연산 효율화(MFU)를 통해서 건, 해결 방법을 찾으려고 노력할 것입니다.

그리고 바로 이 지점에서 다음 시장의 주도 섹터와 주식들이 나타날 것이라고 생각합니다.

올해 블룸에너지가 시장의 폭발적인 관심을 받은 이유도 바로 이 지점에 있습니다.
경제성이 낮은 SOFC 연료전지가 이렇게 까지 주목을 받는 이유는 바로 빠르게 전력을 공급할 수 있다는 장점 때문이었습니다.

일론 머스크의 ‘콜로서스’ 데이터센터 단지가 빠르게 데이터센터를 가동 시킬 수 있었던 이유(122일 만에 건설했다고 말하고 있음)도 온사이트발전을 위해 가스피커와 같은 빠르게 설치할 수 있는 모든 발전원들을 총동원했기 때문입니다.

미국 데이터센터들은 퇴역한 항공기의 제트엔진(가스터빈)을, 선박용 엔진(힘센 엔진 등) 등 모든 가용 발전원들을 다 활용하고 있는 절박한 상황입니다.


이러한 상황에서 태양광, 가스/디젤 발전, 연료전지 등 다양한 온사이트 발전원(분산 발전원), 대규모 ESS 구축, 그리고 에메랄드AI의 수요관리 기술과 같이 기존 그리드를 최대한 활용할 수 있게 만드는 기술(EMS, VPP, DR 등), 800V DC, PUE 개선, MFU 향상 등 다양한 전력과 관계된 설비와 기술, 소재들이 시장의 주목을 받을 수 있다고 생각합니다.


○ 미국 민주당의 승리로 변할 수 있는 것들 (재생에너지와 ESS)

AI 산업의 구조와 미국이 처해 있는 상황을 이해한다면, 이번 중간 선거에서 민주당은 단순한 정치적 이벤트에 불과하고 AI 산업의 큰 방향성은 바꾸지 못할 것이라는 것을 알 수 있습니다.

다만, 세세한 산업의 부분에서(특히 주식적 관점에서)는 바뀌는 것들이 있을 수 있습니다.

예를 들면, 산업적으로 매우 빠르게 성장하고 있음에도 불구하고 트럼프의 스탠스로 인해서 시장의 주목을 덜 받았던 재생에너지, 2차전지와 같은 산업이 앞으로 더 많은 주목을 받을 수 있습니다.

트럼프 정부의 비우호적인 정책 속에서도 미국의 재생에너지와 ESS를 중심으로 한 2차전지 산업은 빠르게 성장하고 있었습니다.

민주당이 이번 중간선거에서 승리를 하였기 때문에, 의회를 중심으로 이들 산업에 대한 트럼프 행정부보다는 우호적인 정책이 펼쳐질 수 있는 기반이 마련될 수 있게 되었습니다.

그리고 이러한 기조 속에서 데이터센터의 전력원으로서 재생에너지의 가치는 지금보다 더 높아질 것입니다.
빅테크들도 트럼프 이후를 준비해야 하고, 무탄소 전원에 대한 선호도가 한층 더 강화될 수 있기 때문입니다.

전력이 부족한 데이터센터들은 대규모 태양광 발전이 있는 사이트 근처에, 데이터센터를 짓고자 하는 움직임이 더 강화될 수도 있습니다.

태양광 사이트는 데이터센터와 같이 1 - 2년 안에 발전 사이트를 건설할 수 있기 때문에, 다른 대형 발전원 대비 좋은 선택지가 될 수 있기 때문입니다. (원전은 10년 이상, 대형 가스발전도 5년 이후에나 전력을 공급 받을 수 있기 때문에 현실적 대안이 되기 어렵습니다.)

태양광 발전의 간헐성은 ESS, 연료전지, 디젤/가스피커과 같은 분산발전원으로 충분히 커버할 수 있습니다.
그리고 이는 현재 중국이 증명하고 있습니다.
(중국은 재생에너지를 통해 데이터센터를 돌리고 있으며, 더 나아가 true native DC 전력 구조를 만들어나가고 있습니다.)


대신 트럼프 트레이딩으로 시장의 주목을 받았던, 원전/SMR, 대규모 천연가스 발전 등은 트럼프 행정부의 약화와 함께 기업들의 선호도가 하락할 가능성이 있습니다.


○ 민주당의 승리에 대한 걱정보다, 다음 병목을 찾아야

AI 산업은 프런티어들의 놀랄 정도로 빠른 AI 모델의 발전을 통해 질주하고 있습니다.

다만 이들 AI 모델의 발전 속도를 여러 장비, 소재, 인프라가 쫓아오지 못하면서 병목 지점을 형성하였고, 그 병목 지점에서 투자자들은 초과 수익을 찾아왔습니다.

GPU와 HBM을 시작으로 메모리가 바로 그 주인공 들이었으며, 현재 전력으로 병목이 이동 중에 있습니다.


AI 산업의 구조적 성장을 믿는다면, 단순하게 삼성전자, SK하이닉스의 실적 만을 보면서 주가가 싸다 비싸다 만을 논하지 말고, AI 산업의 구조와 지금 미국이 처해 있는 상황을 이해하고 그 가운데서 다음 병목을 찾고 투자를 진행하는 것이 더 좋은 투자 성과로 이어질 가능성이 높다고 보고 있습니다.

이러한 가운데 미국의 공화당이 승리하던, 민주당이 승리를 하던 이는 부차적인 문제일 뿐, 큰 틀에서 변하는 것은 없다고 생각합니다.
※ 미국 중간선거를 계기로, AI 데이터센터 산업은 다음 단계로 넘어갈 것. (GPU/HBM, 메모리, MLCC, 가스터빈 등에서 태양광, 전력반도체, ESS, VPP, EMS, DR, 공조 및 액체/액침 냉각 등으로)

미국 민주당의 기록적인 중간선거 압승 이후, 미국 AI 데이터센터 산업에 대한 우려가 직접적으로 (미국)주가에 반영되기 시작하는 것으로 보여집니다.

특히 선거를 통해 미국인들의 데이터센터에 대한 직접적인 거부감이 확인된 점(10개 주에서 부쳐진 41개 데이터센터 관련 주민투표 안건 중 단 1건만 유권자의 지지를 얻고 너머지는 모두 부결됨)은, 앞으로 미국에서 데이터센터 건설이 지금과는 다른 방향으로 가야 한다는 것을 산업계와 주식시장이 인식하게 만들어 줬다고 볼 수 있습니다.

지금까지 미국의 데이터센터 건설은, 기존 예상을 뛰어넘는 컴퓨팅 연산의 폭발적 증가(복합 에이전트로 AI모델로 진화해 가며 토큰 사용량이 폭증)로 ‘데이터센터 건설 = 돈’이라는 인식에 모두가 데이터센터 산업으로 뛰어드는 결과를 만들었습니다.

그 결과 미국에서만 200여개가 넘는 네오클라우드 업체들이 우후죽순처럼 생겨났고, 500GW의 데이터센터 건설 계획이라는 비현실적인 숫자가 나타나게 되었습니다.
텍사스 한 곳만으로 기준으로, 400GW의 데이터센터 전력이 신청(Queue)이 되었는데, 실제 올해 상반기에 신규로 가동된 데이터센터는 4GW 이하에 불과한 수준입니다.

이러한 말도 안되는 괴리는 현재 미국 데이터센터 산업이 처해 있는 상황을 여실히 보여주고 있습니다.
전력부족, 용수부족 등 기본 인프라가 전혀 뒷받침이 안되어 있는 상황에서 많은 사업자들이 사모금융으로부터 직간접 투자 또는 PF를 일으켜 데이터센터 건설 사업에 뛰어들었고, 이들 네오클라우드들은 짓지도 못할 데이터센터를 위해 반도체를 중심으로 소재, 부품, 장비들에 대해 대규모의 발주를 넣었습니다.
이들 소재, 부품의 공급이 한정되어 있어 우선 발주부터 넣지 않으면 안되는 상황이었고, 그 대표적 결과가 반도체 가격의 비상식적인 폭등이었습니다.


이러한 상황에 엔비디아는 이들 업체들에게 GPU를 팔기 위해, 신용보증(GPU를 담보로 한 자산담보대출)까지 해주며 상황을 오히려 악화시켰습니다.

이번 중간선거를 계기로 미국 데이터센터 산업은 다음 Phase로 넘어가야 하는 단계로 진입한 것으로 보여집니다.
그리고 그 과정에서 먼저 네오클라우드 업체들과 이들과 연관된 사모금융 중 일부 약한 고리가 정리되어야 할 것으로 보여집니다. (일론 머스크도 월가의 많은 전문가들도 이 부분을 지적하고 있습니다.)

미국 데이터센터 산업에 있어 이런 부실한 부분이 최소한이라도 정리되고, 비상식적으로 높았던 반도체를 비롯해 소재, 부품, 장비, EPC 비용 등도 하향 안정화되면서 다시 빅테크 중심의 산업으로 재편되는 과정이 필요해 보입니다.

그리고 민주당의 압승으로 인해, 민주당 주지사들이 선호하는 방식의 데이터센터 건설 방식(좀 더 친환경적이고, 주민 부담을 최소화하는)으로 전환될 것으로 보여집니다.
많은 허수의 데이터센터 계획이 철회되고 진짜 될 수 있는 사업 위주로 재편될 것으로 보여집니다.

이 과정에서 AI관련 주식들도 재편이 일어날 것으로 보여집니다.

바클레이스 보고서에서 밝혔듯, 현재 미국 데이터센터 산업을 어렵게 하는 여러 요소들(전력, 용수, 주민 수용성 등)를 해결 할 수 있는 산업들이 다음 주도주가 될 것으로 보여집니다.

계통 운영 및 가교 전원(BTM/온사이트 발전, 태양광+ESS), 데이터센터 내부 전력 효율화(800V DC 전력 아키텍처, 액체/액침 냉각), 전력망 안정화 시스템(VPP, EMS, DR, Ride-Through)등과 같은 섹터가 다음 AI 산업 발전의 새로운 주도 산업이 될 수 있다고 생각합니다.

과거의 GPU/HBM, 메모리, 가스터빈이 아니라 태양광, 전력반도체(SiC/GaN), ESS, VPP, EMS, DR, 공조 및 액체/액침 냉각 등에 대한 관심이 유효한 때라고 보여집니다.


● 미국 데이터센터 최전선에서 논의된 ‘건설 리스크’ : 인허가, 숙련공, 보험, 전력 변동성 (华尔街见闻, 2026. 11. 06)

바클레이스는 이틀간 열린 데이터센터 산업 서밋에 참석한 뒤, 현재 미국 AI 데이터건설업계 현황을 관찰 정리하였음.

미국 데이터센터 산업이 다차원적인 위기에 직면해 있음.
바클레이스의 보고서에 따르면, AI 인프라 확장을 가로막는 병목 현상이 기존의 단순 전력 공급 문제에서, 인허가, 노동력 부족, 보험 및 파이낸싱, AI 동적 부하 관리 등 복합 리스크의 상호 작용으로 확대
되었다고 지적하고 있음.

이러한 진단은 미국 중간선거 직후 나온 것으로, 선거 결과는 데이터센터 건설에 대한 민간의 조직적인 저항을 여실히 드러냈음.
10개 주에서 부쳐진 41개 데이터센터 관련 주민투표 안건 중 단 1건만 유권자의 지지를 얻었고 나머지는 모두 부결되었음.
이러한 민심은 업계의 데이터센터 건설 리스크를 한층 더 높이고 있음.



○ 인허가 심사, 더 이상 형식적 절차 아니다.

바클레이스는 업계 관계자의 추산을 인용해 인허가 심사 절차의 효율이 과거 대비 약 1/4 수준으로 하락했다고 전하였음.

더 중요한 점은, 현재 대외적으로 발표된 수 많은 데이터센터 프로젝트 중 상당수가 실제로는 지방 정부의 승인을 받지 못했거나 전력망 연계 신청조차 완료하지 못한 상태라는 사실임.
이는 업계가 대외적으로 공표한 건설 규모와 실제로 준공되어 가동될 수 있는 용량 사이에 상당한 격차가 존재함을 의미함.


이번 중간선거 통계는 이러한 민간의 반발 규모를 다시 한번 확인해 주고 있음.
Ballotpedia 데이터에 따르면, 41개 투표 안건은 직접적인 건설 금지, 임시 건설 중단(모라토리엄), 심사 절차 추가, 일반 용도지역 변경 및 프로젝트별 특별 재조정 등 다양했음.
이 중 건설을 지지하는 자문형 투표 7건은 전원 부결된 반면, 직접 건설 금지 조치 17건은 모두 통과되었음.

바클레이스는 지역사회의 반대 여론이 점차 조직화됨에 따라 개발사들이 프로젝트 추진 방식을 근본적으로 바꿔 초기 단계부터 주민 소통에 나서야 한다고 말하고 있음.


○ 공기 지연과 비용 초과는 일상화 될 것.

개발사들이 갈수록 비현실적인 공사 일정으로 내몰리고 있으며, 이는 직접적으로 일정 지연과 비용 초과 리스크를 키우고 있음.

바클레이스가 제시한 데이터에 따르면, 현재 데이터센터 프로젝트의 85% 이상이 공기 지연으로 인해 건설 보험 연장을 요청하고 있음.
프로젝트 규모가 지속적으로 커지고 복잡성이 증가함에 따라, 각 프로젝트의 일정 관리와 시공사 간의 조율 난이도가 급격히 높아지고 있음.

이처럼 무리한 일정과 다중 실행 병목이 맞물리면서 공사비 증가와 일정 지연은 불가피한 결과로 이어지고 있음.


○ 노동력 부족 : 고령화와 임금 상승의 이중고

데이터센터 산업은 숙련된 기술 인력에 대한 의존도가 높지만, 숙련 노동자의 고령화 은퇴 가속화와 신규 인력 부족이라는 이중고를 겪고 있음.

이에 대한 해법도 업계에서는 의견이 엇갈리고 있음.

일부는 전기 및 냉각 시스템을 공장에서 사전 제작(프리패브) 모듈화하면 현장 기술 인력 의존도를 낮추고 공사 템포를 개선할 수 있다고 보았지만, 사전 제작 방식은 병목을 현장에서 공장으로 이전시킬 뿐이며, 전통적인 현장 시공 대비 유연성이 떨어져 후속 맞춤형 변경이나 개조가 어렵다는 반론도 있음.

하이퍼스케일러 데이터센터 운영사 입장에서는 모듈화보다 표준화가 더 매력적인 대안이 될 수 있음.
서로 다른 프로젝트에 동일한 설계 규격과 장비 모델을 반복 적용함으로써 시공효율을 체계적으로 높일 수 있기 때문임.


○ 단일 프로젝트 인수 한계에 다다른 보험 시장

대형 데이터센터 프로젝트의 보험 수요가 전통적인 보험 시장의 인수 한계선에 근접하고 있음.
프로젝트 규모가 계속 커지는 데다 특정 지역에 밀집되면서 위험 누적 효과가 두드러지고 있으며, 특히 기상이변이 잦은 지역에서 이러한 현상이 심화되고 있음.

대표적인 사례를 보면, 텍사스주 Abilene의 한 대형 데이터센터 프로젝트는 우박과 토네이도 위험에 노출되어 있어 약 85억 달러 규모의 건설보험 한도가 필요하고, 이로 인해 수억 달러의 보험료가 발생했으며, 전 세계 약 130개 보험 자본이 공동으로 참여해야 했음.
이 정도 규모가 되면 전통 건설보험 시장의 단일 프로젝트 인수 능력이 사실상 한계에 다다르며, 더 큰 규모의 프로젝트를 진행하려면 연기금이나 국부펀드 등 비용 부담이 더 큰 대체 위험자본을 끌어들여야 할 수 있음.

외부 자본 의존도가 높은 프로젝트의 경우, 보험 가입 가능 여부가 실질적인 파이낸싱 진입 장벽으로 작용하고 있음.


○ 전력 동적 관리 : 전력망 안정성을 시험하는 AI 부하 변동

AI 연산 부하의 높은 전력 밀도와 극심한 동적 변동성은 데이터센터 전력 시스템에 새로운 과제를 안겨주고 있음.


전력시스템은 피크부하에 맞춰 용량을 설계해야 하는데, 작업 부하가 급격히 요동치면 전기 설비에는 열 응력이, 회전형 전력 기기(전통 교류발전기)에는 비틀림 응력이 가해져 설비 노후화와 고장이 가속화 됨.

2026년 7월, PJM 전력 시장의 송전선 고장으로 인해 약 3.8GW 규모의 데이터센터 부하가 순식간에 전력망에서 탈락하였음.
이는 대규모 발전-부하 불균형을 촉발시켰고, PJM 관할 전역에 심각한 전압 및 주파수 변동을 야기했음.
이 사건은 업계에서 데이터센터의 ‘저전압 통과 능력(Ride-Through Capability)’ - 즉, 전력망에 순간적인 교란이 발생하더라도 장비가 가동 상태를 유지하며 보호 차원의 부하 차단으로 인한 서비스 중단을 방지하는 능력 – 을 논의하는 결정적 계기가 되었음.

이를 해결하려면 소프트웨어 제어와 함께, 배터리, 슈퍼커패시터, 동기조상기 등의 하드웨어 솔루션을 결합한 포괄적인 ‘부하 완충’ 체계를 구축해야 함.

바클레이스는 데이터센터가 유연하고 제어 가능한 부하 관리를 구현할 수 있다면 이론적으로는 전력망 자산으로 기능하여 전력회사로부터 우선 계통 연계 혜택을 받을 수 있다고 분석하고 있음.
하지만 이는 매우 어려운 과제임.


○ BTM 자가발전과 800V DC : 단기적 가교와 장기적 전환

잘 설계된 BTM(독립 전원, Behind-the-Meter) 시스템은 신뢰할 수 있는 장기 전력 공급 방안이자 전력망에 유익한 조절 자산이 될 수 있음.
하지만 일각에서는 BTM이 전력망 용량이 확보될 때까지 임시방편으로 ‘전력을 빠르게 확보하는’ 과도기적 역할에 불과하며, 신뢰성 면에서 전력망 공급을 대체하기 어렵다고 주장하기도 함.

결론적으로 고객의 신뢰성 요구 수준을 바탕으로, BTM 발전, 전력망 연계, ESS, 이중화 비중의 최적 조합을 찾아야 함.


800V DC 전력 아키텍처 전환은 점진적인 방식으로 진행될 것으로 전망되고 있음.

랙당 전력 밀도의 급증으로 장기적으로는 800V DC 전환이 불가피하겠지만, 대다수 데이터센터는 2028년 이전까지 End-to-End 방식의 Native 800V DC를 도입하기 어려울 것으로 보임.

고체 상태 변압기(SST) 생산 능력과 안전 표준 등 생태계 전반이 아직 성숙하지 않았기 때문임.

초기 단계에서는 기존 전력 인프라 옆에 800V DC ‘Add-on Module(Sidecar 방식)’을 추가하는 형태로 점진적인 침투가 이뤄질 가능성이 가장 높음.

https://wallstreetcn.com/articles/3785323#from=ios