이 글에 대하여
2026년 9월 한국은행 조사국 전문가초청 세미나에서 발표한 「하이퍼스케일러 관점에서 본 기업 AI 투자 동향과 AI 인프라 수요 변화」의 내용을 아티클로 재구성한 것입니다. 모든 데이터는 공개 자료(실적발표·IR·산업 리서치, 2026년 8월 기준)를 기반으로 하며, 필자 개인의 견해로서 소속 기관의 공식 입장과 무관합니다.
요약
AI 수요의 무게중심이 "모델을 만드는 것"에서 "모델을 쓰는 것"으로 이동하고 있습니다. 이 전환이 반도체 수요의 성격을 바꾸고 있습니다. 통계와 공시는 분기 단위로 후행하지만, 기업의 계약·아키텍처 결정은 6~12개월 앞서 현장에서 일어납니다. 이 글은 그 선행 신호를 네 가지 질문으로 정리합니다 — ① 이 투자는 버블인가 구조 전환인가 ② 기업은 실제로 AI를 어떻게 쓰고 있는가 ③ 학습→추론→에이전트 전환은 반도체 수요에 무엇을 의미하는가 ④ 다음 수요의 축은 어디인가.
1. 버블인가, 구조 전환인가 — 네 가지 검증
규모부터 보겠습니다. Big 4 하이퍼스케일러의 2026년 capex는 $650~725B로 전년 대비 약 77% 증가 — 미국 GDP의 2.2~2.4% 수준입니다. 역사적 인프라 구축기와 비교하면 닷컴기 통신 투자 비율(~1.2%)은 이미 상회했고, 철도기 피크(~6%)에는 미달합니다. "전례 없는 규모"는 아니지만 속도는 사상 최고입니다. 그리고 결정적 차이가 하나 있습니다 — 철도·전력망은 수십 년에 걸쳐 감가하지만 AI 서버는 5~6년입니다. 회수 검증 주기가 짧다는 뜻이고, 이 사이클의 지속성은 "매출 회수가 빨리 증명되는가"에 달려 있습니다.
그래서 검증이 필요합니다. 저는 네 가지를 봅니다.
수주잔고 — 계약이 먼저, 건설이 나중
AWS 수주잔고(RPO)는 $496B, 한 분기에만 $132B 증가했습니다. RPO는 서명된 계약 중 매출로 인식되지 않은 잔고 — capex와 반도체 수출의 선행지표입니다. 닷컴기와 달리 서명된 계약이 공급능력을 초과하고 있습니다.
순환거래 논쟁 — 실재하지만 사이클을 기각할 근거는 아직 아니다
칩 공급자가 모델 기업에 투자하고, 모델 기업이 그 자금으로 컴퓨트를 사는 순환 구조는 실재합니다. 다만 닷컴기 벤더 파이낸싱과 세 가지가 다릅니다 — 유료 사용자·기업 구독·API 매출이라는 최종수요가 실재하고, 지분 투자가 매출 인식과 회계상 분리되어 있으며, 수주잔고 증가분의 다수는 일반 기업 고객입니다. 순환 요소는 모니터링 대상이지만, 사이클 전체를 기각할 근거는 아직 아닙니다.
매출 회수 — 투자는 돌아오고 있는가
AWS는 마진 39.4%를 유지하며 AI 매출 연환산 $25B+(세 자릿수 성장)를 공시했습니다. "AI와 코어 클라우드가 서로를 견인한다"는 것이 공급자 측의 설명이고, 현재까지의 숫자는 이를 뒷받침합니다.
최종 수요 — 도입은 임계점을 넘었지만 증명은 절반
대기업의 74%가 실운영 배포에 도달해 "파일럿 연옥"을 벗어났습니다. 그러나 절반가량은 ROI를 일관되게 측정하지 못하고, 48%는 워크플로 재설계 없이 AI만 얹었습니다. 병목은 기술이 아니라 조직입니다.
가장 정직한 수요 지표: 고객 질문의 변화
기업 미팅에서 받는 질문의 변화가 수요의 성숙도를 가장 정직하게 말해줍니다.
| 시기 | 기업 미팅의 대표 질문 | 수요 단계 |
|---|---|---|
| 2023 | "ChatGPT 같은 걸 우리도 만들 수 있나요?" | 호기심·탐색 |
| 2024 | "어떤 모델이 제일 좋나요? 벤치마크 점수는요?" | 모델 중심 사고 — PoC 양산기 |
| 2025 | "PoC는 됐는데, 실운영 보안 심사와 비용 통제는요?" | 운영 전환기 |
| 2026 | "에이전트에 어디까지 권한을 줘도 되나요? 토큰 청구액이 왜 이렇게 늘죠?" | 스케일 운영기 |
필자의 현장 경험을 일반화한 패턴.
"모델" 질문은 거의 사라지고 "운영" 질문만 남았습니다. 모델 자체는 범용재가 되고 차별화는 데이터·워크플로·거버넌스로 이동했다는 뜻입니다. 질문의 성숙은 곧 지출의 성숙입니다 — 탐색기의 일회성 개념검증 예산과 운영기의 경상비는 지속성이 근본적으로 다르며, 이것이 수주잔고 성장의 미시적 배경입니다.
2. 기업은 실제로 어떻게 쓰는가 — 토큰 소비의 폭증
기업의 인프라 선택은 API로 시작해 사용량이 늘면서 워크로드별로 분화합니다 — 전면 회귀가 아니라 포트폴리오화입니다. 규제 데이터는 전용 엔드포인트로, 예측 가능한 대량 워크로드는 다년 약정으로, 실시간 UX는 사용자 근접 배치로. 이 다년 약정 전환의 순간이 그 기업의 AI 지출이 '실험비'에서 '운영비'로 재분류되는 순간이고, 수주잔고 $496B의 미시적 실체입니다.
그리고 소비량이 구조적으로 폭증하고 있습니다. 단가는 그대로거나 하락했는데 질의당 소비가 늘어나는 네 가지 구조적 요인이 있습니다 — ① 문서·코드베이스 전체를 넣는 긴 컨텍스트 ② 매 질의마다 근거 문서 수십 페이지가 포함되는 검색결합(RAG) ③ 계획→도구 호출→검토→재시도를 반복해 작업 하나가 수십 회 모델 호출이 되는 에이전트 루프 ④ 답을 내기 전 "생각"에 수만 토큰을 쓰는 추론 체인. 한 대형 의료보험사의 월 토큰 소비는 1년 만에 300만 개에서 1.5억 개로 50배가 됐습니다. 기업의 93%가 AI 예산 초과를 경험했는데(McKinsey), 원인은 단가가 아니라 소비량입니다.
제본스 역설 — 단가와 소비의 역주행
단가를 30% 낮춰주면 수개월 뒤 총청구액은 오히려 늘어 있습니다. 아낀 예산이 새 유스케이스로 재투입되기 때문입니다. 청구액이 급증한 기업들의 질문이 "어떻게 줄이나"가 아니라 "어디에 더 쓰나"라는 것 — 수요가 가격에 둔감해지고 있다는 신호입니다.
에이전트는 이 구조를 한 단계 더 밀어붙입니다. 에이전트 워크플로 1개 승인은 상시 실행 워크로드 1개 추가입니다 — 사람과 달리 퇴근하지 않습니다. "사용자 수 × 근무시간"이던 수요 상한이 "에이전트 수 × 24시간"으로 재정의되는 중입니다.
인프라 관점에서 학습과 추론은 다른 것을 요구합니다. 학습은 소수 거점에 집중된 프로젝트성 배치 워크로드지만, 추론은 사용자 근접·지리적 분산·상시 가동(24×365)이며 병목은 연산이 아니라 메모리 대역폭과 지연시간입니다. 그리고 병목 자체가 이동하고 있습니다 — 2026년 하이퍼스케일러 capex의 60% 이상이 전력·냉각·건물 등 비(非)칩 항목이고, 신규 리전 개설의 최대 제약은 GPU 조달에서 계통 접속(grid interconnection)으로 넘어갔습니다. 대규모 도입 상담의 첫 질문이 "GPU가 있는가"에서 "전력이 언제 들어오는가"로 바뀐 것이 최근 2년 현장의 가장 큰 변화입니다.
3. 반도체 수요의 구조 전환 — "AI는 대역폭을 산다"
추론이 AI 컴퓨트의 3분의 2를 차지하는 구조로 전환되면서, 병목이 연산(FLOPS)에서 메모리로 이동했습니다. 메커니즘은 이렇습니다. LLM은 추론 시 이전 대화·문서의 중간 계산값을 KV 캐시로 GPU 메모리에 상주시키는데, 컨텍스트가 길수록·동시 사용자가 많을수록 캐시가 선형으로 증가합니다. 추론형 모델은 "생각하는 토큰"까지 캐시하고, 에이전트는 세션이 며칠씩 지속되어 메모리 점유가 상시화됩니다. 학습 시대의 병목이 GPU 코어 수였다면, 추론 시대의 병목은 HBM 탑재량입니다.
GPU 시장에서 커스텀 실리콘(자체 칩)이 부상하며 독점은 완화되고 있지만, 반도체 수요 관점의 핵심은 다른 데 있습니다 — GPU와 커스텀 칩이 아무리 경쟁해도 HBM·어드밴스드 패키징·고속 네트워킹은 공통 수요입니다. "누가 이기든 메모리는 팔린다" — 한국 메모리 입장에서 칩 경쟁 심화는 오히려 수요 저변의 확대입니다. 세계 최대 메모리 구매자가 "메모리 가격이 올라서 capex를 $200B에서 $220B로 상향한다"고 공시하는 국면 — 수요자가 가격을 수용하는 공급자 우위 시장의 공식 확인입니다.
한국 수출 데이터와의 정합성 — 단, 급증분은 대부분 '가격'
2026년 7월 한국 수출에서 메모리는 +276.9%, 시스템반도체는 -0.7%였습니다. "AI는 대역폭을 산다"는 명제와 방향이 정확히 일치합니다. 다만 중앙은행 관점에서 결정적인 구분이 하나 있습니다 — 이 급증의 성분을 분해하면 대부분이 가격 효과입니다. DRAM 수출물가가 +270.3%(한국은행 수출물가지수)로, 물량 기여는 한 자릿수~10%대로 추정됩니다. 교역조건 개선이라는 순풍은 명확하지만, 가격이 반전되면 수출 금액은 물량이 그대로여도 되돌아갑니다. 따라서 수출 전망의 핵심 질문은 "물량이 늘고 있는가"가 아니라 "가격이 언제까지 유지되는가"이고, 그 근거는 HBM의 다년 선예약 계약 구조입니다.
| 리스크 | 조기경보 지표 | 현재 상태 (2026.8) |
|---|---|---|
| 수요 둔화 | 하이퍼스케일러 RPO 증가율 | 가속 중 — 경보 없음 |
| 재무 한계 | Capex/영업현금흐름 비율 | 99% — 임계 근접, 외부 조달 확대 국면 |
| 회수 지연 | AI 서비스 매출 성장률 | 세 자릿수 성장 지속 |
| 옥석 가리기 | 에이전트 프로젝트 취소율 | Gartner: 2027년까지 40%+ 취소 전망 |
| 공급 과잉 | 중국 CXMT 생산능력·신규 팹 가동 | 2028년 수급의 최대 변수 |
출처: Gartner(2026), 각사 공시, 필자 종합. 취소율 40%는 "AI 축소"가 아니라 닷컴기의 옥석 가리기 — 인프라 수요의 기반(추론·에이전트 사용량)은 취소와 무관하게 성장.
리스크도 분명합니다. 품목 집중(메모리 vs 시스템반도체의 극단적 온도차), 수요처 집중(실질 수요자가 4~5개 하이퍼스케일러 — 단일 기업의 capex 가이던스가 국가 수출 전망 변수가 되는 구조), 그리고 2028년 수급 역전 가능성(신규 생산능력 대량 가동과 수요 성장 둔화가 겹칠 경우)입니다. 2027년이 아니라 2028년이 진짜 시험대이며, 다년 선예약 계약이 완충 역할을 할지가 관건입니다.
4. 다음 수요의 축 — Physical AI와 엣지 메모리
2026년은 "로봇의 ChatGPT 모먼트"가 선언된 해입니다. 개별 작업을 프로그래밍하던 로봇이 범용을 배우고 전문화하는(generalist→specialist) 방식으로 바뀌고 있고, 흥미로운 것은 국내 Physical AI 문의가 로봇 기업보다 제조사의 생산기술·품질 부서에서 먼저 온다는 점입니다. 수요의 진원지가 다릅니다.
반도체 수요 관점에서 Physical AI는 3중 컴퓨트 구조를 갖습니다 — 클라우드(파운데이션 모델 학습: GPU+HBM), 시뮬레이션(디지털 트윈·합성 데이터: GPU+그래픽 메모리), 엣지/디바이스(실시간 추론·제어: 엣지 SoC+LPDDR·저전력 메모리). 데이터센터 HBM이 1차 파동이라면 엣지 메모리는 2차 파동입니다. 로봇·차량 1대당 메모리 탑재량은 스마트폰의 수 배~수십 배이고, 물량 기반이 다릅니다 — 데이터센터 서버 수백만 대 vs 로봇·차량 수억 대의 잠재 시장. 다만 본격 물량은 2028년 이후로, 2028년 수급 역전 리스크의 완충 후보이기도 합니다.
한국은 이 사이클에서 공급자(엣지 메모리로 수요 저변 확대)이자 수요자(세계 최고 수준의 로봇 밀도 + 인구구조상 가장 절실한 자동화 수요)입니다. Physical AI는 "AI 확산"과 "제조업 경쟁력"이 만나는 지점이며, 현장 배치형이므로 국내 투자·고용 효과는 데이터센터 AI보다 클 수 있습니다.
결론 — 네 가지 핵심 메시지
투자의 성격: 수요 견인형 사이클
서명된 계약(수주잔고)이 공급능력을 초과하는 국면. 다만 자체 현금의 한계에 도달해 외부 조달이 확대되고 있어, 조달 구조와 신용 경로를 주시해야 합니다.
구조 전환: 메모리 집약도의 구조적 상승
학습→추론→에이전트 전환은 "AI는 대역폭을 산다"로 요약됩니다. 한국 메모리에 구조적 순풍 — 7월 수출과 정합적이지만, 급증분의 대부분은 가격 효과라는 점을 구분해야 합니다.
수출 전망: 2027년까지 메모리 주도 호조 지속 가능성
단, 품목·수요처 집중, 중국 CXMT 생산능력, 2028년 수급 역전 리스크를 선행지표(RPO 증가율, capex 가이던스, HBM 계약 구조)로 관리해야 합니다.
다음 사이클: Physical AI라는 2차 수요 축
엣지 반도체라는 새 수요 축과 한국 제조업의 도입 수요 — 공급자와 수요자를 겸하는 한국의 이중 기회입니다.