Insights Investing
AI 스택 해독: 장기 투자자를 위한 병목 현상, 해자 및 가치 축적 분석
팟캐스트 · 듣기 (24분)
Chamath's AI Stack: Who Gets Paid From $700B Capex? | Stock Market
목차
인공지능 기술 스택 전반에서 가치는 단순히 절대적인 물리적 희소성을 통해 축적되는 것이 아니라, 기술적 병목이 가격 결정력, 반복적인 물량 확대, 전환 비용 및 높은 증분 투하자본이익률(ROIC)과 교차하는 지점에서 축적된다. Chamath Palihapitiya의 여섯 계층 스택 프레임워크(인프라, 칩, 데이터, 모델, 실행, 애플리케이션)는 기반 모델의 경제적 범용화와 핵심 하드웨어 병목의 등장을 정확히 부각하지만, 장기 투자자는 절대적인 기술적 희소성과 지속 가능한 주주가치 창출을 구분해야 한다. 하이퍼스케일러가 2026년에 컴퓨팅 및 전력망 인프라에 $700B 이상을 지출할 것으로 예상되는 자본집약적 산업 기업으로 변모하면서, 내재가치 평가에는 물리적 병목에만 의존하기보다 잉여현금흐름(FCF)의 지속성, 자본집약도 위험 및 독자적인 업무 흐름의 피드백 순환을 분석하는 것이 필요하다.
1. AI 스택 분해: 병목과 경제적 가치 축적의 비교
계층형 아키텍처를 통해 인공지능을 분석하면 펀더멘털 투자자에게 필수적인 명확성을 제공할 수 있다. Chamath Palihapitiya는 생태계를 인프라(전력, 토지, 냉각, 광물, 반도체 제조시설), 칩(GPU/ASIC, 고대역폭 메모리[HBM], 패키징, 네트워킹), 데이터(독점 데이터, 감각 데이터, 로보틱스 데이터), 모델(기반 지능), 실행(에이전트, 오케스트레이션, API, 액추에이터), 애플리케이션(최종 사용자 소프트웨어 및 시스템)의 여섯 가지 뚜렷한 계층으로 분류한다. 이 계층들을 연결하는 핵심 분석 개념은 “지렛점 자산”으로, 모든 상위 계층이 반드시 거쳐야 하며 쉽게 대체할 수 없는 구성 요소를 뜻한다.
그러나 절대적인 기술적 병목과 높은 수익을 창출하는 경제적 해자 사이에는 중요한 차이가 있다. 어떤 자산은 기술적 핵심 경로에 직접 위치하면서도 주주에게 그에 비례하는 재무적 수익을 가져다주지 못할 수 있다. Graham과 Buffett의 프레임워크를 통해 경제적 해자를 평가하는 장기 투자자에게 물리적 희소성만으로는 오너 어닝스(Owner Earnings)의 장기 복리 성장이 보장되지 않는다.
이러한 역학은 ASML과 NVIDIA를 비교하면 명확히 드러난다. ASML은 극자외선(EUV) 노광 시스템에서 절대적이고 대체 불가능한 기술적 병목을 보유하고 있으며, 첨단 반도체 제조시설은 ASML의 장비를 대체할 수 없다. 그럼에도 NVIDIA는 훨씬 더 큰 주주가치 상승을 창출했다. ASML은 한정된 수의 구매자에게 수량이 제한적이고 매우 복잡하며 자본집약적인 장비를 판매하므로, 전 세계 토큰 소비가 두 배로 늘어날 때 매출이 자동으로 확대되는 데 한계가 있다. 반면 NVIDIA는 실리콘 병목을 CUDA 소프트웨어 도구 체계, 시스템 아키텍처, NVLink 네트워킹 및 깊이 있는 생태계 통합과 결합한다. NVIDIA는 AI 추론과 학습의 확대되는 물량 탄력성에서 직접 가치를 확보한다.
스택 전반의 경제적 가치 축적을 평가하려면 투자자는 희소성만 따로 측정하기보다 포괄적인 정성적 공식을 적용해야 한다.
$$\text{Value Accrual} \approx \text{bottleneck} \times \text{pricing power} \times \text{volume growth} \times \text{recurring demand} \times \text{switching costs} \times \text{incremental ROIC}$$
지속 가능한 경제적 수익은 운영상의 병목이 물량 탄력성, 높은 전환 비용 및 강력한 증분 투하자본이익률과 결합할 때만 실현된다.
2. 인프라와 자본적 지출 집약도: AI 아래에서 진행되는 산업혁명
AI 스택의 기반 계층은 자산경량형 소프트웨어 모델에서 자본집약적 산업 운영으로 구조적 전환을 겪고 있다. 스택 하단의 핵심 병목은 극심한 지리적·기업별 집중을 드러낸다.
- 반도체 소재 희소성: 기업 국적 기준으로 일본 소재 공급업체가 전 세계 반도체 포토레지스트 매출의 약 78%를 차지하며, Shin-Etsu, JSR, Tokyo Ohka Kogyo 및 Fujifilm이 특정 고순도 화학물질 시장을 지배한다.
- 고순도 석영(HPQ): 반도체급 실리콘 잉곳 생산은 노스캐롤라이나주 스프루스 파인에서 채굴되는 극도로 순수한 석영으로 만든 용융 석영 도가니에 의존한다. Sibelco(두 곳의 고순도 광체에서 IOTA 소재 생산)와 The Quartz Corp는 첨단 고급 HPQ를 경제성 있게 대규모로 생산하는 유일한 공급업체다.
물리적 원자재를 넘어 전력 공급 인프라는 심각한 운영상 제약을 초래한다. 국제에너지기구(IEA)는 전 세계 데이터센터 전력 소비가 2025년 약 485 TWh에서 2030년 약 950 TWh로 확대되어 거의 두 배가 될 것으로 전망한다. 하이퍼스케일러의 자본적 지출은 주로 데이터센터 확장에 힘입어 2026년에 $700B를 초과할 것으로 추정된다.
| 인프라 영역 | 핵심 병목 및 주요 공급업체 | 경제적 영향 및 지표 |
|---|---|---|
| 반도체 소재 | 일본 포토레지스트(Shin-Etsu, JSR, TOK, Fujifilm) | 국적 기준 ~78% 시장점유율; 대체 불가능한 화학 투입재. |
| 고순도 석영 | 스프루스 파인 광체(Sibelco, The Quartz Corp) | 실리콘 잉곳용 용융 석영 도가니의 독점적 원료 공급원. |
| 공급 가능한 전력망 전력 | 변압기, 개폐장치, UPS, 계통 연계 | 발전 자체보다 먼저 제약 발생; 485 TWh $\rightarrow$ 950 TWh (IEA). |
| 하이퍼스케일러 자본적 지출 | 데이터센터 확장 및 컴퓨팅 가속 | 2026년 >$700B 예상(IEA); 심각한 감가상각 부담. |
중요한 점은 발전 자체가 단기적으로 가장 큰 제약은 아니라는 것이다. 존스홉킨스대학교의 연구는 전력망 공급 장비, 구체적으로 변압기, 개폐장치, 무정전 전원장치(UPS) 시스템, 송전 계통 연계 및 특수 냉각 인프라가 발전 용량 자체가 주요 병목이 되기 전에 데이터센터 구축을 제약할 것임을 보여준다. 당장 경제적으로 희소한 자산은 필요한 전압, 위치 및 신뢰성을 갖추어 공급할 수 있는 전력이다.
가치투자 관점에서 이러한 전환은 기업의 재무상태표와 수익률 지표에 심각한 영향을 미친다. 하이퍼스케일러가 연간 자본적 지출로 $700B 이상을 투입하면서, 수십억 달러 규모의 물리적 자산이 유형자산(PP&E)으로 재무상태표에 계상된다. 가동이 시작되면 즉각적인 매출 실현 여부와 관계없이 정액법 감가상각 일정에 따라 손익계산서에 비용이 반영된다. 수익화 가능한 토큰 수요나 기업용 소프트웨어 도입이 물리적 시설 구축에 뒤처지면, 투하자본이익률(ROIC)과 잉여현금흐름(FCF) 전환율은 아직 상각되지 않은 인프라의 부담으로 급락한다. 이러한 역학은 WorldCom과 Global Crossing이 연루된 통신 광섬유 붕괴와 같은 과거의 인프라 과잉 구축 사례와 직접적으로 닮아 있다. 당시 막대한 자본적 지출은 장기적인 인터넷 확산이라는 전망이 결국 타당했음에도 심각한 공급 과잉을 초래하고 주주가치를 파괴했다.
3. 칩, 메모리 및 모델의 경제성: 범용화와 이동하는 최첨단 경계
이론적 모델은 제조 역량이 정상화됨에 따라 하드웨어 병목이 시간이 지나면서 자연스럽게 해소된다고 가정하지만, 반도체 공급 제약은 여전히 심각하다. 고대역폭 메모리(HBM)와 첨단 패키징은 일시적인 마찰이 아니라 수년에 걸친 구조적 병목이다. IEA는 HBM 공급 부족이 적어도 2027년 말까지 지속될 것으로 전망한다. 시장점유율은 여전히 매우 집중되어 있으며, Counterpoint의 Q2 2026 데이터는 HBM 매출 점유율을 다음과 같이 추정한다.
- SK하이닉스: 50%
- 삼성: 33%
- Micron: 18%
현대 하드웨어의 해자는 독립적인 연산 다이에 의존하지 않고, 인터포저를 통해 HBM과 통합된 GPU/ASIC 다이, 첨단 패키징, 고속 네트워킹(NVLink 등), 전력 공급 및 특수 냉각을 아우르는 전체 시스템 수준의 통합에 의존한다. 이러한 시스템 통합은 작업 부하가 모델 학습에서 추론으로 이동하면서 더욱 중요해진다. McKinsey는 추론이 2030년까지 전체 AI 수요의 약 60%를 차지할 것으로 전망한다. 따라서 경쟁의 전장은 메모리 대역폭, 용량, 지연 시간, 열 효율 및 유용한 토큰 출력당 전력 소비로 직접 이동하고 있으며, 이는 통합 하드웨어 공급업체의 구조적 해자를 강화한다.
동시에 기반 지능 모델의 경제성에서는 비용이 빠르게 하락하고 있다. 스탠퍼드 AI 지수 데이터에 따르면 GPT-3.5 수준의 MMLU 성능으로 모델을 실행하는 비용은 2022년 11월 M 토큰당 약 $20에서 2024년 10월 약 $0.07로 하락하여, 18개월 동안 비용이 280배 감소했다. 또한 OECD 연구에 따르면 품질을 조정한 언어 모델 가격은 2024년 1월부터 2026년 4월 사이에 거의 80% 하락했다.
| 지표 / 지표 초점 | 과거 기준치 | 최근 / 예상 수준 | 분석적 의미 |
|---|---|---|---|
| GPT-3.5 MMLU 토큰 비용 | $20.00 / M 토큰(2022년 11월) | $0.07 / M 토큰(2024년 10월) | 지능 단위 비용 280x 감소(스탠퍼드). |
| 언어 모델 가격 | 기준 수준(2024년 1월) | ~80% 하락(2026년 4월) | 품질 조정 출력의 가격 급락(OECD). |
| 폐쇄형 대비 개방형 성능 격차 | 큰 격차(2023년) | 3.3%–3.4% 격차(2026년 3월) | 기본 역량의 범용화(스탠퍼드 2026년 AI 지수). |
| 기업 지출 비중 | 최첨단 모델 35%(Q3 2025) | 최첨단 모델 63%(Q3 2026) | 최첨단 추론에 대한 프리미엄 지불 의향(Menlo). |
이러한 가격 급락에도 불구하고 기반 모델은 아직 완전한 범용 상품이 되지 않았다. 기본 지능은 범용화되고 있으며, 스탠퍼드 2026년 AI 지수에 따르면 최상위 최첨단 모델(Anthropic, xAI, Google, OpenAI) 간 차이는 Arena Elo 점수로 불과 25점이고, 2026년 3월 기준 폐쇄형 모델이 가중치 공개형 대안보다 앞서는 정도는 불과 3.3%에서 3.4%다. 그러나 기업 고객은 최첨단 역량에 계속 프리미엄을 지불하고 있다. Menlo 연구에 따르면 기업 AI 지출에서 최첨단 모델이 차지하는 비중은 Q3 2025의 35%에서 Q3 2026의 63%로 상승했다.
모델 계층은 이동하는 경제적 최첨단 경계로 작동한다. 기본 역량은 빠르게 범용화되는 반면, 최첨단 추론은 가격 결정력을 유지하므로 모델 개발자는 최첨단 수준과의 동등성을 유지하기 위해서만도 지속적이고 막대한 자본 투자를 감당해야 한다.
4. 실행 계층, 물리적 AI, 제번스의 역설
기반 모델이 범용 상품화되면서 경제적 가치는 실행 및 제어 계층으로 이동한다. 이 미들웨어 계층은 동적 모델 라우팅, 영속적 상태 메모리, 신원 관리, 권한 관리, 평가, 도구 통합, 오케스트레이션을 포괄한다. 기업 재무상태표의 관점에서 보면, 기업용 소프트웨어 구매자는 원시 기반 모델 토큰을 구매하는 것이 아니라 완결된 비즈니스 성과를 구매한다. 실행 계층은 클라우드 컴퓨팅의 Kubernetes, 신원 및 접근 관리, 관측 가능성과 유사한 조직 차원의 "미들웨어"로 작동하며, 기업의 전환 비용을 고착시키고 기저 기반 모델이 변동하더라도 이익률을 보호한다. 2026년 LangChain 운영 환경 설문조사는 다중 모델 기업 아키텍처가 이제 표준이며, 주요 배포 병목이 토큰 단위 비용에서 실행 신뢰성, 안전성, 작업 완료로 이동하고 있음을 확인해 준다.
마찬가지로 범용 웹 학습 데이터는 독점적인 성과 기반 피드백 루프에 비해 범용 상품화되고 있다. 소프트웨어 애플리케이션이 특정 분야의 운영 워크플로에 직접 내재화되어 그 안의 행동이 검증 가능한 현실 세계의 평가를 만들어 낼 때 지속 가능한 경제적 해자가 형성된다.
이러한 역학을 보여 주는 대표적인 사례는 법률 분야의 Harvey다. Harvey는 범용 토큰 생성을 판매하는 취약한 기반 모델 래퍼로 경쟁하지 않는다. 대신 법률 워크플로에 직접 내재화되어 법률 기록 관리 시스템, 유통, 규제 준수, 고객 신뢰, 독점적 피드백 루프(계약 분석 $\rightarrow$ 변호사 수정 $\rightarrow$ 최종 법원 제출/해결)를 결합한다. Harvey는 전체 워크플로와 그 결과로 생성되는 성과 데이터를 소유하기 때문에 높은 전환 비용을 구축하고 가격 결정력을 방어하며, 기저 기반 모델의 선택을 달성된 비즈니스 성과보다 부차적인 요소로 만든다. 유사한 성과 기반 피드백 루프가 코딩(패치 $\rightarrow$ 테스트 결과 $\rightarrow$ 배포 성과), 의료(진단 $\rightarrow$ 치료 $\rightarrow$ 환자 건강 결과), 금융(송장 $\rightarrow$ 청산 $\rightarrow$ 분쟁 해결) 등 전문 분야에서도 등장하고 있다.
물리적 AI 시스템에서 자본 배분 역학은 순수 소프트웨어 기업의 경제 구조와 근본적으로 다르다. 소프트웨어는 거의 제로에 가까운 한계비용으로 확장되지만, 물리적 로봇은 막대한 자재명세서(BOM) 관련 자본을 필요로 한다. McKinsey는 정밀 구동기가 휴머노이드 로봇 BOM의 40%에서 60%를 차지하는 반면, 배터리 모듈은 5%에서 10%를 차지한다고 추정한다. 또한 CRU는 각 휴머노이드 로봇에 2에서 3 kg의 NdFeB(네오디뮴-철-붕소) 희토류 자석이 필요하다고 추정한다. 물리적 AI 부품은 장기적인 전략적 선택 가치를 제공하는 반면, 데이터센터 연산 및 메모리 자산은 현재 즉각적이고 검증 가능한 현금흐름을 창출한다.
| 물리적 AI 하드웨어 요소 | 추정 BOM / 자원 비중 | 주요 경제 및 공급망 동인 |
|---|---|---|
| 정밀 구동기 | 전체 BOM의 40% – 60% (McKinsey) | 고정밀 관절, 기어박스, 모터, 감속기. |
| 배터리 모듈 | 전체 BOM의 5% – 10% (McKinsey) | 구동 장치 대비 상대적으로 낮은 자본 배분. |
| NdFeB 희토류 자석 | 휴머노이드 로봇당 2 – 3 kg (CRU) | 중희토류 원소의 구조적 수요 동인. |
이러한 구조적 자본적 지출 확대를 이해하려면 제번스의 역설을 적용해야 한다. 토큰 단위 비용이 100배 하락해도 연산에 대한 총지출은 줄어들지 않는다. 오히려 낮아진 단위 가격이 총 토큰 소비의 폭발적 확대를 촉발한다. 단일 질의-응답 상호작용이 지속적인 백그라운드 시뮬레이션과 자동화된 도구 호출을 실행하는 다중 에이전트 추론 루프로 대체되면서, 단위 가격의 급락에도 불구하고 총 하드웨어 연산 수요는 가속화된다.
자본 배분을 평가하는 장기 펀더멘털 투자자에게 지속 가능한 가치 확보란 순수한 물리적 희소성보다는 높은 증분 ROIC, 가격 결정력, 내재화된 워크플로 피드백 루프를 갖춘 기업을 선호하는 것을 의미한다. 심층 가치평가 모델과 펀더멘털 기반 오너 어닝스(Owner Earnings) 계산에 관심이 있는 투자자는 DeepValues Research 웹사이트에서 당사의 오픈소스 기업 리서치를 살펴보거나 DeepValues 앱을 사용해 모든 주식의 내재가치와 안전마진을 평가할 수 있다.
5. 핵심 수치
- 78%: 기업 국적 기준 일본 기업의 반도체 포토레지스트 매출 시장점유율 추정치.
- >$700B: IEA가 추정한 2026년 하이퍼스케일러 자본적 지출로, 주로 데이터센터 확장에 사용된다.
- 485 TWh에서 ~950 TWh: 2025년부터 2030년까지 예상되는 데이터센터 전력 소비 증가(IEA).
- 2027년 말: 고대역폭 메모리(HBM) 공급 부족이 지속될 것으로 예상되는 시점(IEA).
- 50% / 33% / 18%: Q2 2026 SK하이닉스, 삼성, 마이크론의 HBM 매출 점유율 추정치(각각, Counterpoint).
- 토큰 M개당 $20에서 $0.07: 2022년 11월부터 2024년 10월 사이 GPT-3.5 수준의 MMLU 성능을 구현하는 비용의 하락으로, 280x 감소를 나타낸다(스탠퍼드 AI 지수).
- ~80%: 2024년 1월부터 2026년 4월까지 품질 조정 언어 모델 가격의 하락률(OECD).
- Arena Elo 25점: 2026년 3월 기준 Anthropic, xAI, Google, OpenAI의 최첨단 모델 간 좁은 성능 격차(스탠퍼드 2026년 AI 지수).
- 3.3%–3.4%: 2026년 3월 최고의 비공개 소스 모델과 최고의 가중치 공개 모델 간 성능 격차(스탠퍼드 AI 지수).
- 35%에서 63%: Q3 2025부터 Q3 2026 사이 기업 AI 지출에서 최첨단 모델이 차지하는 비중의 증가(Menlo 리서치).
- 40%–60% 대비 5%–10%: 휴머노이드 로봇의 자재명세서(BOM)에서 구동기와 배터리 모듈이 각각 차지하는 비중 추정치(McKinsey).
- 2–3 kg: 휴머노이드 로봇당 NdFeB 희토류 자석 소요량 추정치(CRU).
6. 당사의 견해를 바꿀 요인
- CUDA 및 HBM 아키텍처의 급속한 구식화: HBM과 NVLink를 성공적으로 대체하는 대안적 상호연결 기술 또는 메모리 아키텍처의 발전이 가속화되어 2027년 이전에 시스템 수준의 네트워킹 해자를 약화시키는 경우.
- 하이퍼스케일러 자본적 지출 축소: 실망스러운 투하자본이익률(ROIC) 또는 심각한 전력망 연결 지연으로 인해 연간 >$700B 규모의 하이퍼스케일러 자본적 지출 전망이 큰 폭으로 하향 조정되는 경우.
- 가중치 공개 모델의 급속한 수익화와 정체: 최첨단 모델과의 3.3–3.4% 성능 격차가 사라지면서 기업 고객이 고가의 비공개 모델을 포기하고 현지화된 저렴한 가중치 공개 모델을 선택하는 경우.
- 물리적 AI 도입 가속화: 휴머노이드 로봇의 대규모 상용화와 대량 생산이 2030년보다 훨씬 이른 시점에 수백만 대에 도달하여, 즉각적인 현금흐름 가치 확보가 구동기 및 자석 공급망으로 이동하는 경우.
7. 출처
AI 가치 해독, Chamath Palihapitiya (2025년 연례 서한 및 관련 프레임워크) 스탠퍼드 AI 지수 (스탠퍼드대학교, 2024–2026년 데이터) 국제에너지기구(IEA) 전력 및 자본적 지출 보고서 Counterpoint Research (Q2 2026 반도체 및 HBM 시장 분석) McKinsey & Company 로봇 BOM 연구 CRU Group 소재 및 희토류 연구 OECD 언어 모델 가격 연구 (2024–2026년) Menlo Ventures 기업 AI 지출 연구 (2025–2026년) 존스홉킨스대학교 인프라 및 데이터센터 전력 연구 LangChain 운영 환경 AI 설문조사 (2026년)
시청
출처 링크
- Decoding AI Value
보기 · 듣기
- Chamath's AI Stack: Who Gets Paid From $700B Capex? YouTube · EN
- 輝達vs艾司摩爾:7000億美元AI資本支出 YouTube · 中文
- Chamath's AI Stack: Who Gets Paid From $700B Capex? | Stock Market 팟캐스트 · EN
- 輝達vs艾司摩爾:7000億美元AI資本支出|美股市場 팟캐스트 · 中文