추론이 컴퓨팅의 70%를 먹어치운다: 2026년 가을, 컴퓨팅 산업이 ‘효율 변곡점’에 직면하다

지난 한 주 동안 컴퓨팅 분야에서는 단일한 ‘폭발적 발표’가 없었지만, 더 상징적인 사건이 일어났다. 여러 개의 평행했던 흐름이 같은 시간대에 하나의 명확한 전환 신호로 모인 것이다. 즉, 추론 컴퓨팅이 지출과 부하 비중 모두에서 학습을 전면적으로 추월했고, 에이전트의 대규모 배치가 컴퓨팅 산업을 ‘GPU 사재기 경쟁’에서 ‘효율과 수익의 경쟁’으로 밀어붙이고 있다. 이것은 단순한 업계 구호가 아니라 정책 데이터, 수요 구조, 비즈니스 장부, 기술 아키텍처, 자본의 의문이 같은 주에 같은 방향을 가리킨 결과다. 컴퓨팅 산업은 여전히 빠르게 확장하고 있지만 확장의 논리는 바뀌고 있다. 과거에는 “카드를 몇 장 더 살 수 있는가”를 물었고, 지금은 “카드 한 장이 한 시간에 얼마를 벌어들일 수 있는가”를 묻는다. 과거에는 클러스터 규모를 보았고, 지금은 단위 컴퓨팅당 유효 산출을 본다. 과거에는 컴퓨팅을 설비투자 항목의 숫자로 여겼고, 지금은 점점 더 많은 사람이 감가상각, 전력 요금, 활용률, 회수 기간으로 검증해야 하는 생산적 자산으로 본다.

I. 하나의 변곡점, 세 세트의 데이터

10월 20일 중국 공업정보화부(MIIT)는 국무원 신문판공실 기자회견에서 9월 말 기준 중국의 지능형 컴퓨팅 파워 규모가 2592 EFLOPS에 달했고 전년 동기 대비 146% 증가했다고 밝혔으며, 다음 단계로 “컴퓨팅 시설의 확장과 품질 향상을 가속화”하겠다고 명시했다. 이 수치 자체는 공급 측의 연장이지만, 이번 주의 방향을 실제로 정의한 것은 수요 측의 구조적 변화였다. 2592 EFLOPS는 컴퓨팅 공급이 여전히 빠르게 확장되고 있음을 보여주고, 146%의 전년 동기 대비 증가율은 지능형 컴퓨팅이 여전히 인프라 투자의 핵심 방향임을 보여준다. 그러나 ‘확장과 품질 향상’이라는 말이 함께 놓이면서 정책 목표는 더 이상 규모를 키우는 것만이 아니라 규모 확장과 동시에 활용률, 네트워크 협조 능력, 친환경 에너지 효율, 실제 산출을 높이는 것이 되었다. 다시 말해 컴퓨팅 건설의 평가 체계가 ‘얼마나 지었는가’에서 ‘얼마나 잘 쓰는가’로 이동하고 있다.

중국정보통신연구원(CAICT)의 《토큰 경제 발전 연구 보고서(2026년)》는 2026년 추론 컴퓨팅이 AI 컴퓨팅 총부하의 70.5%를 차지하고, AI 컴퓨팅 수요가 모델 학습에서 추론 및 에이전트 운영으로 가속 전환할 것으로 전망한다. 이 비율의 의미는 컴퓨팅 수요의 형태를 바꾼다는 데 있다. 학습 부하는 일반적으로 단계적이고 집중적이며 계획 가능하다. 대규모 모델 학습 작업은 비교적 확정된 주기에 대량의 컴퓨팅을 소비한 뒤 끝난다. 추론 부하는 생산 시스템에 더 가깝다. 사용자 요청, 에이전트 작업, 도구 호출, 긴 문맥 처리, 다중 턴 반복에 분산되어 지속성, 변동성, 롱테일성을 갖는다. 추론이 70%를 넘으면 컴퓨팅 센터는 더 이상 ‘학습 공장’이 아니라 점점 더 ‘토큰 공장’이자 ‘에이전트 실행 기반’이 된다.

Gartner의 통계는 같은 결론의 다른 측면을 보여준다. 2026년 글로벌 추론 지출은 2330억 달러에 달해 처음으로 1900억 달러의 학습 지출을 넘어선다. 지출 구조의 변화는 부하 비중보다 비즈니스 의사결정에 더 직접적으로 영향을 준다. 학습 지출이 높으면 모델 능력 경쟁과 설비투자 선행에 대응하고, 추론 지출이 높으면 서비스 수익, 호출량, 단위 비용, 매출총이익률에 대응한다. 클라우드 사업자, 컴퓨팅 임대 사업자, 모델 서비스 사업자에게 이는 수익 모델을 다시 계산해야 한다는 뜻이다. 클러스터를 짓고 학습 고객이 전용 예약하기를 기다리는 것만으로는 부족하고, 추론 시장에서 처리량, 지연, 캐시, 스케줄링, 가격 책정을 통해 지속적인 호출 수요를争夺해야 한다. 추론 지출이 학습 지출을 넘어선다고 해서 학습이 중요하지 않다는 뜻은 아니며, 컴퓨팅 산업의 가치 실현 연결고리가 ‘일회성 학습 투자’에서 ‘지속적 추론 서비스’로 이동하고 있음을 뜻한다.

이 전환을 이끄는 것은 에이전트가 데모에서 대규모 배치로 이동하고 있기 때문이다. 젠슨 황은 10월 21일 베를린 GTC 연설에서 컴퓨팅 수요의 장부를 다시 분해했다. 에이전트는 사고, 추론, 반복, 도구 사용 능력을 갖추고 있으며 단일 작업에서 소비하는 토큰 수는 전통적인 일문일답식 상호작용에 비해 배수급으로 확대된다. 전통적 채팅 상호작용은 한 번 질문하고 한 번 답하는 경우가 많아 토큰 소비가 상대적으로 통제 가능하다. 에이전트는 먼저 작업을 계획하고 도구를 호출하고 결과를 읽고 오류를 수정해 재시도한 뒤 마지막으로 요약을 생성할 수 있다. 한 번의 사용자 요청 뒤에는 여러 차례 모델 호출, 여러 차례 문맥 조합, 여러 차례 외부 도구 상호작용이 있을 수 있다. 토큰 소비가 확대되면서 추론 컴퓨팅 수요는 선형 증가가 아니라 작업 복잡도에 의해 구동되는 승수 효과를 보일 수 있다. 동시에 에이전트는 지연, 안정성, 동시 처리 능력에 대한 요구가 더 높고, 컴퓨팅 스케줄링은 피크 컴퓨팅만 볼 것이 아니라 네트워크, 스토리지, 캐시, 추론 프레임워크의 협조 효율도 봐야 한다.

같은 날 Meta의 실적 발표는 소비자용 에이전트의 운영 샘플을 제공했다. Muse는 출시 약 한 달 반 만에 1000만 명 이상의 사용자가 설정을 완료했고 쇼핑이 최대 사용 시나리오가 되었으며 컴퓨팅 소비는 이전 어떤 AI 제품보다도 현저히 높았고, Meta는 따라서 1년 안에 컴퓨팅 효율을 10배로 높이겠다고 제시했다. 이 샘플의 가치는 소비자용 에이전트가 컴퓨팅 수요를 ‘모델 연구개발 부서’에서 ‘대규모 사용자에게 서비스하는 생산 시스템’으로 밀어낸다는 점을 보여준다는 데 있다. 쇼핑 시나리오는 추천, 가격 비교, 의사결정 지원, 다중 턴 대화, 도구 호출이 중첩되며, 겉보기 단순한 사용자 요구 뒤에 복잡한 추론 체인이 있을 수 있다. 사용자 규모가 클수록 추론 부하는 지속적이 되고 컴퓨팅 비용은 연구개발비가 아니라 운영비에 가까워진다. Meta가 1년 안에 컴퓨팅 효율을 10배로 높이겠다고 한 것도 선도 플랫폼조차 카드를 쌓는 것만으로는 추론 경제성을 해결할 수 없고 모델 압축, 추론 프레임워크, 캐시 재사용, 작업 스케줄링, 하드웨어 협조에서 효율을 찾아야 함을 보여준다.

수요 측의 구조적 반전은 컴퓨팅 산업의 가치평가 기준이 이동하고 있음을 의미한다. 과거에는 “카드가 몇 장 있고 클러스터가 얼마나 큰가”를 보았고, 지금은 “카드 한 장이 한 시간에 얼마나 가치 있는 토큰을 생산할 수 있는가”를 본다. 이 변화는 산업 체인의 여러 고리에 전달된다. 칩 제조사는 피크 컴퓨팅만 말할 것이 아니라 추론 처리량, 에너지 효율, 상호 연결 능력을 말해야 한다. 클라우드 사업자는 데이터센터 규모만 말할 것이 아니라 활용률과 토큰당 비용을 말해야 한다. 모델 기업은 파라미터와 리더보드만 말할 것이 아니라 추론 가격과 매출총이익률을 말해야 한다. 컴퓨팅 임대 사업자는 설치율만 말할 것이 아니라 고객 구조와 장기 임대 안정성을 말해야 한다. 컴퓨팅은 여전히 희소 자원이지만 희소성의 정의는 ‘카드가 있는가’에서 ‘효율적이고 안정적이며 청구 가능한 유효 컴퓨팅이 있는가’로 이동하고 있다.

II. DeepSeek의 38달러: 검증 가능한 효율 샘플

추론이 학습을 넘어선 것이 ‘양’의 변곡점이라면, DeepSeek가 10월 20일 추론 프레임워크 DeepInfer를 오픈소스화하면서 공개한 경영 데이터는 ‘질’的问题에 답하려는 시도다. 이 프레임워크에 기반해 DeepSeek의 단일 클러스터 서비스 처리량은 하루 155조 토큰에 달했고 전체 수익은 카드당 시간당 38달러(오프피크 가격 기준)였다. 이 숫자가 업계 공명을 일으킨 이유는 그것이 ‘높다’는 데 있지 않고, 이전에 거의 공개되지 않았던 비교 기준을 제공했다는 데 있다. NVIDIA H200의 카드당 시간당 임대 표시 가격은 약 6~8달러, B300은 약 15~20달러다. 실제 시장 거래 가격으로도 B300 장기 임대는 시간당 5~6달러까지 낮아질 수 있다. 같은 카드로 직접 임대하는 수익 능력과 토큰을 판매하는 수익 능력 사이에는 수 배의 차이가 있다.

이 비교의 핵심은 단순히 “토큰 판매가 카드 임대보다 더 돈이 된다”는 결론을 내리는 것이 아니라, 추론 컴퓨팅을 처음으로 감사 가능한 비즈니스 장부 앞에 놓았다는 것이다. 카드 임대 모델의 수익은 임대료이고 비용은 감가상각, 전력, 네트워크, 데이터센터, 운영유지다. 토큰 판매 모델의 수익은 호출료이고 비용에는 위 항목 외에도 모델 연구개발 상각, 추론 프레임워크 효율, 캐시 적중률, 스케줄링 손실, 가격 전략이 포함된다. 카드당 시간당 38달러가 중요한 이유는 컴퓨팅을 ‘설비투자 항목의 숫자’에서 ‘카드당 시간당 얼마를 벌어들이는가’를 물을 수 있는 생산적 자산으로 바꾸었기 때문이다. 컴퓨팅 센터에게 카드를 직접 임대해 몇 달러만 받을 수 있는데 효율적 추론 서비스로 더 높은 단위 수익을 낼 수 있다면, 경쟁 초점은 ‘누가 카드를 소유하는가’에서 ‘누가 카드로 더 많은 청구 가능 토큰을 생산할 수 있는가’로 이동한다.

해외 소셜 미디어는 이에 기반해 DeepSeek 추론 사업의 하드웨어 매출총이익률이 84~96% 구간에 있을 수 있다고 추산했다. 강조할 점은 이 추산이 캐시 적중률, 처리량, 가격 책정 등 여러 가정에 의존하며 완전한 이익 기준이 아니고, DeepSeek도 클러스터의 칩 모델, 수량, 완전한 비용 구조를 공개하지 않았다는 것이다. 높은 매출총이익률 추산은 흥분을 불러오기 쉽지만 오독되기도 쉽다. 하드웨어 매출총이익률은 일부 비용만 포괄하고 모델 학습 투자 상각, 연구개발비, 마케팅비, 전력 변동, 네트워크 대역폭, 데이터센터 건설 등 완전한 비용을 포함하지 않는다. 오프피크 가격 책정은 38달러가 전천후 평균 가격이 아니며 실제 수익은 부하 곡선에 따라 변동한다는 뜻이다. 따라서 이 숫자는 효율 신호로 이해하는 것이 적절하다. 특정 프레임워크, 특정 부하, 특정 가격 조건에서 추론 컴퓨팅의 단위 산출은 단순 카드 임대 모델을 크게 웃돌 수 있다. 효율 최적화의 큰 여지가 있음을 증명하지만 업계 전체가 같은 이익률을 얻을 수 있다고 직접 추론할 수는 없다.

그 의미는 추론 컴퓨팅 경쟁이 ‘하드웨어 파라미터’에서 ‘시스템 엔지니어링’으로 이동하기 시작했다는 데도 있다. 하루 155조 토큰의 처리량은 칩 컴퓨팅만의 결과가 아니라 추론 프레임워크의 배치 처리 능력, KV 캐시 관리, 투기적 디코딩, 연산자 최적화, 클러스터 스케줄링, 네트워크 통신과 관련된다. DeepInfer가 오픈소스화된 후 업계는 추론 효율이 어디서 오는지 더 구체적으로 논의할 수 있다. 배치 크기를 늘리는 것인지, 첫 토큰 지연을 줄이는 것인지, 캐시 적중률을 높이는 것인지, 다중 GPU 병렬 통신을 최적화하는 것인지. 과거 컴퓨팅 산업 논의는 칩 모델과 클러스터 규모에 머무는 경우가 많았지만 DeepSeek의 샘플은 문제를 “같은 카드가 다른 추론 프레임워크와 스케줄링 전략 아래에서 얼마나 많은 유효 토큰을 생산할 수 있는가”로 밀어냈다. 이는 정책 측의 ‘확장과 품질 향상’과 호응한다. 공업정보화부가 9월 발표한 《정보통신업 발전 제15차 5개년 계획》은 2030년까지 지능형 컴퓨팅 규모를 2025년 대비 5배 이상 늘리고 ‘품질 향상’을 ‘확장’과 병렬로 제시했다. 추론이 컴퓨팅 소비의 주체가 되면 ‘품질 향상’의 경제적 의미는 구체화된다. 더 많은 카드를 짓는 것이 아니라 기존 카드가 더 많은 청구 가능 토큰을 생산하게 하는 것이다.

더 나아가 추론 효율 향상은 컴퓨팅 수급의 긴장도를 바꾼다. 단위 컴퓨팅이 더 많은 사용자에게 서비스하고 더 많은 작업을 처리할 수 있다면 단기적으로 신규 컴퓨팅에 대한 한계 수요는 둔화될 수 있다. 그러나 효율 향상이 가격 하락을 가져오면 더 많은 에이전트 애플리케이션이 출시되어 역으로 총 컴퓨팅 소비를 늘린다. 이는 효율과 수요의 전형적 상호작용이다. 효율이 높을수록 단위 비용이 낮아지고 애플리케이션이 보급되며 총 컴퓨팅 수요는 줄지 않고 오히려 더 빠르게 늘 수 있다. 산업의 건전성을 결정하는 것은 단순한 총 컴퓨팅 규모가 아니라 효율 향상이 지속 가능한 수익과 이익으로 전환될 수 있는가다. DeepSeek의 38달러는 출발점을 제공하지만 답보다 질문에 가깝다. 업계 전체가 실제 부하, 완전한 비용, 장기 가격 아래에서 이 효율을 재현할 수 있는가.

III. 공급 측의 대응: ‘컴퓨팅을 납품하는 것’에서 ‘회수 가능한 컴퓨팅을 납품하는 것’으로

자본과 기술의 흐름도 같은 방향을 뒷받침한다. 10월 20~21일 Anthropic이 Nscale과 약 450억 달러 규모의 두 번째 컴퓨팅 임대 계약을 협상 중인 것으로 보도되었다. 성사되면 두 계약 합계 규모는 약 900억 달러가 되고 NVIDIA의 차세대 Vera Rubin 칩을 계속 사용한다. 이런 초대형 계약은 선도 모델 기업이 여전히 장기적이고 고정된 컴퓨팅 공급을 필요로 하며 학습과 추론의 공동 수요가 아직 끝나지 않았음을 보여준다. 그러나 계약 형태 자체도 주목할 만하다. 단순한 카드 구매가 아니라 컴퓨팅을 임대하고 용량을 고정하며 차세대 칩에 묶는 것이다. 컴퓨팅 공급 측이 납품해야 할 것은 하드웨어만이 아니라 설치 속도, 네트워크 능력, 전력 공급 보장, 장기 운영유지도 포함한다. 수요 측에게 컴퓨팅 계약은 점점 더 장기 인프라 계약에 가까워지며 공급 보장과 단위 비용 관리가 모두 필요하다.

머스크는 SpaceX의 컴퓨팅 계획도 제시했다. 내년 말까지 13기가와트를 가동하고 극단적 경우 20기가와트를 보며, 클라우드 컴퓨팅 임대료는 기가와트당 500억 달러를 넘고 컴퓨팅 자산 회수 기간은 재가격화된다. 기가와트급 컴퓨팅 계획은 문제를 에너지와 인프라 수준으로 끌어올린다. 컴퓨팅은 더 이상 칩만의 문제가 아니라 전력, 냉각, 토지, 계통 연결, 설비투자의 종합 문제다. 1기가와트 컴퓨팅이 수백억 달러 규모의 임대료에 대응하면 컴퓨팅 자산의 회수 기간, 활용률, 전력 요금 민감도가 핵심 변수가 된다. 컴퓨팅 경쟁이 대규모화될수록 단순한 칩 조달 경쟁이 아니라 에너지 인프라와 자본 구조의 경쟁이 된다.

기술 아키텍처 측면에서 이번 주 선전 WEC2026에서 전시된 국산 10만 카드 초대형 클러스터, 화웨이 승등 1024카드 액침 슈퍼노드, NVIDIA Vera Rubin의 완전 액침 72-GPU 랙 설계는 공동으로 하나의 추세를 가리킨다. 경쟁 단위가 ‘단일 카드 성능’에서 ‘랙 전체, 슈퍼노드, 클러스터급 협조’로 고도화되고 있다. 단일 카드 성능은 여전히 중요하지만 추론과 에이전트 부하는 클러스터 효율에 더 의존한다. 다중 카드 상호 연결, 액침 방열, 전력 밀도, 장애 복구, 스케줄링 시스템이 대규모 클러스터가 안정적으로 운영될 수 있는지를 결정한다. 10만 카드 초대형 클러스터와 천 카드급 액침 슈퍼노드는 국산 컴퓨팅이 단일 칩 추격에서 시스템급 통합으로 이동하고 있음을 보여준다. 완전 액침 랙은 고밀도 컴퓨팅이 더 높은 에너지 효율의 냉각 방안으로支撑되어야 함을 보여준다. 미래 컴퓨팅 경쟁은 칩의 피크 성능만이 아니라 클러스터가 실제 부하에서 더 안정적이고 더 전력 효율적이며 운영유지가 쉽고 컴퓨팅을 유효 토큰으로 더 잘 전환할 수 있는지를 겨룬다.

공급 측의 이러한 움직임은 공동으로 ‘회수 가능한 컴퓨팅을 납품하는 것’을 가리킨다. 과거 컴퓨팅 프로젝트의 흔한 논리는 “먼저 짓고 나중에 고객을 찾는 것”이었다. 지금은 설비투자 규모가 너무 크고 회수 기간이 너무 길어 수요를 미리 고정하고 에너지 효율을 최적화하며 활용률을 높여야 한다. 컴퓨팅 임대 사업자는 고객 구조를 더 중시해야 한다. 학습 고객인지 추론 고객인지, 단기 임대인지 장기 임대인지, 클러스터 일괄 예약인지 토큰 과금인지. 클라우드 사업자는 GPU 설치율 확대만이 아니라 추론 서비스의 매출총이익률을 더 중시해야 한다. 칩 제조사는 추론 처리량과 에너지 효율비를 더 중시해야 한다. 추론 부하 비중이 높을수록 토큰당 전력 비용이 더 중요해지기 때문이다. 정책 측의 ‘확장과 품질 향상’과 시장 측의 ‘회수 가능’은 여기서 교차한다. 컴퓨팅 인프라는 여전히 확장이 필요하지만 확장은 수요 실현, 에너지 조건, 상업적 수익과 일치해야 한다.

IV. 효율의 다른 측면: 감가상각, 한계 가격 책정, 수익 격차

그러나 ‘컴퓨팅 자산은 회수 가능하다’는 서사는 이번 주 다른 쪽 끝에서 심각한 의문에 직면했다. Gartner는 10월 20일 시장을 불안하게 하는 판단을 재확인했다. 최대 3조5000억 달러의 AI 인프라 투자가 위험에 처할 수 있으며, 2027년부터 2030년까지 AI 전체 수익이 계획된 설비투자가 수익을 내기에 충분하지 않다는 것이다. 그 수석 예측 책임자는 “현재 컴퓨팅 용량이 수요보다 많고 대량의 토큰과 처리 능력이 프리미엄 요금제를 통해 무상 제공되고 있다”고 직언했다. 이 판단의 날카로움은 AI에 수요가 없다는 것이 아니라 수요 실현의 속도와 가격 수준이 천문학적 설비투자를 커버하지 못할 수 있다는 점을 지적한다는 데 있다. 컴퓨팅 공급은 1~2년 안에 빠르게 설치될 수 있지만 기업 도입, 에이전트 보급, 지불 습관 형성에는 더 긴 시간이 필요하다. 공급이 수익보다 빠르게 늘면 컴퓨팅 시장은 단계적 과잉에 빠질 수 있다.

Citadel 창업자 Ken Griffin은 10월 21일 컴퓨팅 투자의 잠재적 함정을 세 층으로 분해했다. 첫째, GPU의 한계 운영 비용은 극히 낮고 공급이 수요를 초과하면 현물 임대와 API 가격이 ‘자유낙하’해 2000년 통신 버블의 암흑 광섬유 궤적을 반복할 수 있다. 둘째, 5~6년 된 구형 GPU로 높은 임대료를 받는 상황은 지속 불가능할 가능성이 높고 7~9년 감가상각 모델은 체계적 재평가에 직면한다. 셋째, 기업의 AI 지출은 시행착오에서 ROI 정밀 계산으로 이동했고 ‘절약할 수 있으면 절약한다’는 거대 기업의 천문학적 설비투자와 정면 긴장 관계를 형성한다. 이 세 층의 판단은 각각 가격, 감가상각, 수요에 대응하며 컴퓨팅 자산의 가장 취약한 부분을 정확히 찌른다.

첫째 층은 한계 가격 책정이다. GPU 클러스터가 일단 구축되면 한계 운영 비용은 주로 전력, 운영유지, 네트워크이며 건설 비용에 비해 높지 않다. 시장이 공급 과잉이면 컴퓨팅 임대 사업자는 감가상각을 희석하기 위해 한계 비용에 가까운 가격으로 임대할 수 있고 현물 가격이 빠르게 하락할 수 있다. 이는 통신 버블의 암흑 광섬유와 유사하다. 광섬유가 구축되면 한계 사용 비용은 매우 낮지만 수요가 동시에 실현되지 않아 가격 전쟁이 투자 수익을 파괴한다. 컴퓨팅 시장이 완전히 재현되지는 않겠지만 추론 API 가격 전쟁은 이미 한계 가격 책정의 압력을 보여준다. 모델 서비스 사업자가 호출량을 두고 가격을 내리면 토큰당 수익이 하락하고 컴퓨팅 자산의 회수 기간이 길어진다.

둘째 층은 감가상각이다. GPU는 영구 자산이 아니고 기술 반복이 빠르며 에너지 효율과 성능이 매년 향상된다. 7~9년 감가상각 모델이 합리적인지는 구형 GPU가 몇 년 후에도 충분한 임대료나 추론 수익을 얻을 수 있는지에 달려 있다. 차세대 칩이 토큰당 비용에서 구형 카드를 크게 능가하면 구형 카드의 임대료는 하락하고 감가상각 기간은 과대평가될 수 있다. 컴퓨팅 임대 사업자에게 가장 위험한 것은 고객이 없는 것이 아니라 고객이 구형 카드에 점점 더 낮은 가격만 지불하고 장부상 감가상각은 아직 완료되지 않은 것이다. 클라우드 사업자에게 새 카드를 계속 구매하면 설비투자 압력이 생기지만 업데이트하지 않으면 단위 컴퓨팅 비용이 뒤처진다. 감가상각 모델의 재평가는 컴퓨팅 자산의 가치평가와 자금 조달 능력에 직접 영향을 준다.

셋째 층은 기업 ROI 정밀 계산이다. 기업의 AI 지출은 ‘한번 해보자’에서 ‘계산해 보자’로 이동했다. 기업이 일부 AI 기능이 명확한 수익이나 비용 절감을 가져오지 못한다고 발견하면 호출량을 줄이거나 더 낮은 가격을 요구한다. 이는 거대 기업의 천문학적 설비투자와 정면 긴장 관계를 형성한다. 공급 측은 확장하고 수요 측은 정밀 계산한다. 에이전트는 토큰 소비를 확대하지만 기업이 모든 토큰에 무조건 지불하지는 않으며 실제 가치를 가져오는 작업만 지속된다. 이는 추론 컴퓨팅 수요 성장이 구조적으로 분화된다는 뜻이다. 고가치 시나리오의 컴퓨팅 수요는 강하고 저가치 시나리오는 압축되거나 무상화될 수 있다. Gartner가 “대량의 토큰과 처리 능력이 프리미엄 요금제를 통해 무상 제공되고 있다”고 한 것은 바로 이 분화의 표현이다.

이러한 경고는 컴퓨팅 수요의 장기 성장을 부정하는 것이 아니라 타이밍 미스매치를 지적한다. 컴퓨팅 자산의 감가상각 속도가 수요 실현 속도보다 빠를 수 있다. 이번 주 또 다른 소식이 물리적 각주를 제공했다. Amazon은 약 50억 달러 상당의 GPU가 전력 부족으로 유휴 상태다. 전력, 냉각, 계통 연결 진척이 칩 배치 리듬을 따라가지 못할 때 ‘확장’ 자체가 자동으로 ‘품질 향상’이 되지는 않는다. GPU를 사고 데이터센터를 지어도 전력이 부족하고 계통 연결이 느리고 냉각 능력이 부족하면 컴퓨팅은 수익으로 전환될 수 없다. 이는 컴퓨팅 인프라의 병목이 칩만이 아니라 에너지와 엔지니어링 능력에도 있음을 보여준다. 컴퓨팅 프로젝트에게 전력 공급 보장과 계통 연결 진척은 칩 조달보다 실제 설치율과 수익 실현을 더 좌우할 수 있다.

V. 산업 체인 영향: 가치평가 기준, 가격 결정력, 관측 지표

이번 주의 흐름을 함께 보면 컴퓨팅 산업 체인의 가치평가 기준은 세 층의 이동을 겪고 있다.

첫째 층은 ‘컴퓨팅 규모’에서 ‘유효 컴퓨팅’으로의 이동이다. 총 컴퓨팅 규모는 여전히 중요하지만 투자자와 고객은 설치율, 활용률, 추론 처리량, 토큰당 비용을 더 중시할 것이다. 10만 카드 클러스터가 전력 부족, 네트워크 혼잡, 스케줄링 효율 저하를 안고 있으면 실제 유효 컴퓨팅은 명목 규모를 크게 밑돌 수 있다. 반대로 규모가 작아도 스케줄링이 효율적이고 캐시 적중률이 높으며 추론 프레임워크가 최적화된 클러스터는 더 높은 단위 수익을 낼 수 있다. 유효 컴퓨팅이 더 현실적인 경쟁력 지표가 된다.

둘째 층은 ‘카드 임대 수익’에서 ‘토큰 수익’으로의 이동이다. 카드 임대 모델의 수익은 비교적 안정적이지만 상한은 임대 가격에 제약된다. 토큰 수익 모델은 탄력성이 더 크지만 호출량, 가격 책정, 경쟁에 영향을 받는다. 컴퓨팅 임대 사업자가 베어메탈만 제공하면 가격 전쟁에 빠질 수 있지만 추론 서비스, 모델 호스팅, 에이전트 실행 환경을 제공할 수 있으면 더 높은 부가가치를 얻을 수 있다. 클라우드 사업자의 경쟁도 GPU 설치 속도에서 추론 플랫폼 능력으로 이동한다. 배치 처리, 캐시, 모니터링, 탄력적 확장, 과금 방식이 포함된다.

셋째 층은 ‘설비투자’에서 ‘회수 기간’으로의 이동이다. 컴퓨팅 프로젝트는 더 이상 자금 조달과 건설만의 문제가 아니라 운영과 수익의 문제다. 설비투자가 클수록 회수 기간은 길고 활용률과 전력 요금에 민감하다. 컴퓨팅 자산의 자금 조달 비용, 감가상각 정책, 전력 계약, 고객 장기 계약이 프로젝트 실현 가능성에 영향을 준다. 정책 측의 ‘확장과 품질 향상’이 친환경 전력, 액침, 네트워크, 스케줄링의 협조를 촉진할 수 있으면 회수 기간 단축에 도움이 되지만 규모 확장만 하면 수급 미스매치를 악화시킬 수 있다.

관측자에게 향후 몇 분기 동안 몇 가지 지표군을 주시할 수 있다. 추론 지출 비중이 계속 상승하는지. 에이전트 애플리케이션으로 인한 토큰 소비가 지속적 지불로 전환되는지. 컴퓨팅 임대 현물 가격과 API 가격이 빠르게 하락하는지. GPU 감가상각 기간과 중고 가격이 재평가되는지. 데이터센터 설치율, 활용률, 전력 공급 보장이 개선되는지. 국산 슈퍼노드와 액침 클러스터가 실제 부하에서 보이는 처리량과 에너지 효율. 선도 모델 기업의 추론 매출총이익률이 완전한 비용 기준에서 버틸 수 있는지. 이러한 지표는 단순한 컴퓨팅 규모보다 산업 건전성을 더 잘 반영한다.

VI. 컴퓨팅 경쟁의 후반전, 겨루는 것은 ‘누가 더 큰가’가 아니다

지난 한 주를 돌아보면 컴퓨팅 분야에서 가장 뜨거운 화제는 단일 제품, 단일 주문, 단일 정책이 아니라 형성되고 있는 새로운 합의였다. 추론 컴퓨팅이 수요의 주체가 되었고, 에이전트가 컴퓨팅 소비를 단속적 학습에서 지속적이고 롱테일적인 생산 부하로 밀어내고 있으며, 컴퓨팅 자산의 상업적 합리성이 처음으로 ‘카드당 시간당 수익’으로 증명하도록 요구받고 있다.

이는 학습이 중요하지 않다는 뜻도, 확장이 멈춘다는 뜻도 아니다. 2592 EFLOPS의 규모와 ‘제15차 5개년 계획’의 5배 성장 목표는 공급 측이 여전히 빠르게 확장할 것을 결정한다. 학습에는 여전히 대규모 클러스터가 필요하고 프런티어 모델 경쟁에는 여전히 최상위 컴퓨팅이 필요하며 국산 컴퓨팅의 시스템급 통합에는 여전히 지속 투자가 필요하다. 그러나 경쟁의 무게 중심은 이동하고 있다. 전반전은 더 많은 카드를 확보하고 더 큰 클러스터를 건설할 수 있는지를 겨루었다. 후반전은 같은 카드로 더 많은 청구 가능한 유효 토큰을 생산할 수 있는지, 누구의 추론 효율이 단위 컴퓨팅당 수익을 감가상각, 전력, 자본 비용보다 빠르게 달리게 할 수 있는지를 겨룬다.

DeepSeek의 38달러는 출발점을 제공하지만 답보다 질문에 가깝다. Gartner의 3조5000억 달러 경고와 공업정보화부의 확장 계획이 같은 주에 나타나고 Vera Rubin의 랙 밀도와 Amazon의 유휴 GPU가 동시에 뉴스가 될 때, 컴퓨팅 산업이 정말로 답해야 할 질문은 더 이상 “얼마나 더 많은 컴퓨팅이 필요한가”가 아니라 “그 컴퓨팅이 어떤 효율로, 언제, 누구를 위해 수익을 낼 것인가”다. 변곡점은 이미 도래했고 효율 경쟁의 휘슬은 막 울리기 시작했다. 칩 제조사, 클라우드 사업자, 모델 기업, 컴퓨팅 임대 사업자, 투자자에게 앞으로 가장 중요한 능력은 컴퓨팅 규모를 계속 확대하는 것이 아니라 컴퓨팅을 측정 가능하고 가격 책정 가능하며 회수 가능한 유효 생산성으로 바꾸는 것일 수 있다.