훈련에서 추론으로: NVIDIA 실적이 촉발한 AI 컴퓨팅 패러다임 전환

이번 주, 전 세계 AI 산업은 말 그대로 '슈퍼 위크'라 불러도 손색없는 열기에 휩싸였다. 그 도화선은 8월 26일 미국 장 마감 후 NVIDIA가 발표한 분기 실적 보고서였다. 이 실적은 반도체 역사에 길이 남을 내용으로, 금융 시장에 충격을 주었을 뿐만 아니라 지금 바로 가속화되고 있는 구조적 전환을 데이터로 명확히 드러냈다. 즉, AI 컴퓨팅의 주된 전장이 대규모 모델 훈련에서 대규모 추론 단계로 본격적으로 이동하고 있는 것이다. 이는 단순한 기술적 방향 전환이 아니라, 산업의 비즈니스 모델과 성장 논리 자체를 재정의하는 움직임이다.

'압도적인' 실적의 전모

핵심 재무 지표를 먼저 살펴보자. 2027 회계연도 2분기(자연력 2026년 2분기) NVIDIA의 총매출은 962억 2,100만 달러에 달해 전년 대비 106%, 전분기 대비 18% 증가했다. 이는 시장 컨센서스(약 920억 달러)를 크게 웃도는 수치다. 이 중 데이터센터 사업 매출은 890억 달러로 전년 대비 117% 증가했으며, 전체 매출에서 차지하는 비중은 92.5%로 상승해 회사의 절대적인 성장 엔진으로서의 지위를 더욱 공고히 했다. 순이익(GAAP)은 596억 8,800만 달러로 전년 대비 126% 증가했으며, 주당 순이익도 사상 최고치를 경신했다.

모든 지표가 강세론자들의 최고 예상치조차 가볍게 상회했다. 그러나 시장 심리를 '만족'에서 '열광'으로 바꾼 것은 NVIDIA가 제시한 매우 이례적인 장기 가이던스였다. 회사는 2028 회계연도 전체 매출이 약 70% 성장할 것으로 전망했는데, 이는 시장의 종전 예상(약 45%)을 크게 웃도는 수준이다. 두 회계연도에 걸친 이 같은 낙관적 전망은 NVIDIA로서는 매우 드문 일로, 경영진이 적어도 향후 18개월간의 컴퓨팅 수요에 대해 극도로 높은 가시성과 확신을 가지고 있음을 시사한다.

하드웨어 세대 교체 속도 역시 주목할 만하다. '차세대 AI 컴퓨팅 기반'으로 불리는 Vera Rubin 플랫폼은 8월부터 본격적인 양산 출하를 시작했다. NVIDIA CFO는 콘퍼런스 콜에서 이 플랫폼이 3분기(2026년 8월~10월) 데이터센터 매출의 약 2할을 기여할 것으로 예상한다고 밝혔다. 다수의 월가 애널리스트들은 2026년 3분기가 글로벌 AI 하드웨어의 중요한 산업적 전환점이 되어, 공급망 전체가 기존 Hopper 아키텍처 중심 사이클에서 Vera Rubin을 핵심으로 하는 새로운 양산 단계로 이행할 것이라고 지적했다. 실적 발표 후 NVIDIA 주가는 하루 만에 8.74% 급등했으며, AMD, 브로드컴, 마이크론 테크놀로지 등 AI 하드웨어 관련주도 일제히 상승하고 필라델피아 반도체 지수도 3% 넘게 올랐다.

추론: 재정의된 '성장 엔진'

숫자 자체의 우수함이 표면이라면, 콘퍼런스 콜에서 젠슨 황 CEO가 내놓은 발언이 바로 그 본질이다. 그는 분명히 이렇게 선언했다. "추론은 AI의 성장 엔진이다." 이는 시장을 달래기 위한 구호가 아니다. AI 애플리케이션 계층의 폭발적 진화에 대한 깊은 통찰에 기반한 것이다.

지난 3년간 AI 투자는 거의 일방적으로 훈련 쪽에 쏠려 있었다. 테크 거대 기업과 스타트업 모두 수만 개의 GPU 클러스터를 경쟁적으로 조달해 수천억, 수조 개의 매개변수를 가진 대규모 언어 모델을 사전 학습시켜 왔다. 그러나 훈련은 본질적으로 일회성 자본 지출이며, 모델이 완성되면 한계 비용은 거의 0에 수렴한다. 추론은 전혀 다르다. 사용자가 ChatGPT와 대화할 때마다, AI 에이전트가 작업을 실행할 때마다, 검색 엔진이 개인화된 요약을 생성할 때마다, AI가 비디오 프레임을 생성할 때마다 추론 컴퓨팅이 지속적으로 소비된다. 이러한 소비는 영구적이고 누적되며, 사용자 활성도와 애플리케이션 침투율이 높아짐에 따라 기하급수적으로 확대된다.

AI 에이전트, 지능형 검색, 코드 어시스턴트, 실시간 번역 등의 애플리케이션이 본격적으로 확장되기 시작하면, 추론 수요의 성장률은 수치상으로도 훈련을 앞지르게 된다. NVIDIA는 이에 대응하기 위해 극도로 타겟팅된 하드웨어 무기를 준비했다. Groq 3 LPX 추론 칩이다. 이는 Vera Rubin 아키텍처를 기반으로 깊이 커스터마이징된 추론 전용 가속기로, 최신 Gemma 4 31B 오픈소스 모델을 실행할 때 초당 3,400개의 토큰이라는 놀라운 처리 속도를 달성하며, 현행 주류 대체 플랫폼과 비교해 4배 빠른 응답 속도를 제공한다. 그 설계 철학은 범용 행렬 곱셈의 피크 성능을 추구하는 것이 아니라, 에이전트형 AI 워크플로우와 지연 시간에 극도로 민감한 실시간 상호작용 시나리오에 극한의 성능을 제공하는 데 있다. 이는 NVIDIA가 더 이상 단일 범용 GPU로 모든 컴퓨팅 시나리오를 커버하려 하지 않고, CPU 대기업처럼 특정 워크로드에 전용 칩을 설계하는 전략으로 방향을 전환했음을 의미한다. 이 칩을 최초로 채택한 AI 클라우드 플랫폼 Nebius의 주가는 시간 외 거래에서 6% 넘게 상승했다. 시장은 '추론 전용'이라는 세그먼트에 자금으로 투표하고 있는 것이다.

거액 계약과 글로벌 인프라 경쟁

NVIDIA의 호실적은 이번 주 AI 컴퓨팅 열기의 빙산의 일각에 불과하다. 실적 발표 전후로 천문학적 규모의 컴퓨팅 확보 계약이 잇따르며, 산업 자본의 거의 광기 어린 쟁탈전 양상을 보여주었다.

가장 주목을 끈 것은 AI 유니콘 Anthropic이 450억 달러를 투자해 클라우드 인프라 사업자 Nscale로부터 미국 웨스트버지니아주 데이터센터 캠퍼스의 컴퓨팅 능력을 임대한다는 발표였다. 계약 기간은 6년이며, 전력 용량은 약 460메가와트에 해당하고, Nscale은 NVIDIA의 최신 Vera Rubin 시리즈 칩을 클러스터에 도입할 예정이다. 이 거래는 단일 AI 스타트업의 컴퓨팅 임대로는 사상 최대 금액을 기록했을 뿐만 아니라, 대규모 언어 모델 개발자조차도 전문 컴퓨팅 운영업체의 리소스에 크게 의존할 수밖에 없는 현실을 여실히 드러냈다.

동시에 클라우드 대기업 AWS와 NVIDIA는 전략적 파트너십을 대폭 확대한다고 발표했다. 양사는 2027년부터 2028년까지 AWS의 글로벌 인프라 전반에 200만 개의 NVIDIA GPU를 추가 도입할 계획이다. 여기에는 NVIDIA의 차세대 Vera CPU를 AWS 서비스에 통합하고, 미국 정부 전용 클라우드 환경을 위해 10만 개의 GPU를 탑재한 대규모 AI 컴퓨팅 팩토리를 구축하는 것도 포함된다. 클라우드 제공업체와 칩 설계 기업 간의 이러한 깊은 협력은 클라우드 컴퓨팅 공급망의 상류를 재편하고 있다.

중국으로 시선을 돌리면, 인프라 구축 속도도 현저히 가속화되고 있다. 국가 당국이 공개한 계획 정보에 따르면, '제15차 5개년 계획' 기간 동안 컴퓨팅 네트워크 구축에 대한 추가 직접 투자는 총 4조 위안에 달하며, 컴퓨팅-전력 연계, 초대규모 지능형 컴퓨팅 클러스터 상호연결 등 첨단 분야에 중점을 둘 예정이다. 올해 6월 말 현재 중국의 지능형 컴퓨팅 총규모는 이미 2185 EFLOPS에 도달했으며, 8대 허브 노드를 중심으로 70여 개의 지역 간 컴퓨팅 회선이 구축되었다. 창강삼각주 지역에서는 총투자 70억 위안, 10만 장급 카드 수용을 계획하는 대규모 그린 지능형 컴퓨팅 센터가 꾸준히 토목 공사를 진행 중이다. 또한 후허하오터 그린 컴퓨팅 서밋에서는 총액 1,361억 위안의 계약이 현장에서 체결되었으며, 올해 첫 7개월 동안 전국적으로 150개 이상의 억 위안급 지능형 컴퓨팅 프로젝트가 계약 체결 또는 착공되었다. 이 같은 수치는 국가의 톱다운 설계에서 지방 산업 구현, 동부 애플리케이션 집적 지역에서 서부 에너지 풍부 지역에 이르기까지 입체적인 컴퓨팅 인프라 네트워크를 잘 보여준다.

산업 실적: 테마형 투기에서 실질적 성과로

NVIDIA의 양질의 실적은 중국 A주 시장뿐만 아니라 글로벌 AI 투자에 중요한 판단을 확증해 주었다. 즉, AI 컴퓨팅 산업의 발전 로직이 2025년부터 2026년 상반기까지의 정책 기대와 기술 콘셉트에 기반한 투기 단계에서, 수주와 현금흐름에 뒷받침되는 실질적인 실적 성장 단계로 완전히 전환된 것이다.

중국 A주 기업들의 중간 실적 보고서는 그 유력한 증거를 제공한다. AI 서버 제조 대기업인 산업부련(Industrial Fortune Union)은 상반기 매출 5,578억 6,100만 위안(전년 대비 54.63% 증가)을 달성했으며, 순이익도 마찬가지로 성장을 가속화했다. 랑차오 정보(Inspur Information)는 상반기 순이익이 전년 대비 226%~288% 증가할 것으로 전망한다. 광트랜시버 선도기업인 중지쉬촹(Eoptolink)은 상반기 순이익이 전년 대비 241.70% 증가했으며, 800G 및 1.6T 고속 광모듈의 증산에 따라 총이익률도 개선되고 있다. 세부 섹터를 집계하면, A주 디지털 칩 설계 기업들의 상반기 순이익 합계는 전년 대비 무려 405.64%라는 놀라운 증가율을 기록했다. 이들은 더 이상 머나먼 미래의 추상적 개념이 아니라, 현금흐름표와 손익계산서에 명확히 반영된 구체적인 수치들이다.

패러다임 전환이 컴퓨팅 '천장'을 재정의하다

추론 시대의 공식적인 개막은 AI 컴퓨팅 시장 전체의 '천장'을 재정의하고 대폭 상향 조정함을 의미한다. 훈련 수요는 본질적으로 단속적인 자본 지출이며, 그 성장 곡선은 대형 고객들의 데이터센터 클러스터 구축 속도에 제약을 받는다. 인프라가 완성되면 조달은 자연히 둔화된다. 그러나 추론 수요는 전형적인 운영 비용으로, 강한 지속성과 점착성을 가진다. 전 세계 AI 애플리케이션의 월간 활성 사용자가 계속 증가하고, 기업의 디지털 프로세스에 내장되는 AI 에이전트가 늘어나는 한, 추론 소비는 단조 증가를 지속하며 경기 순환에 따른 하락은 사실상 존재하지 않는다.

이것이 바로 NVIDIA가 두 회계연도에 걸쳐 70%의 매출 성장 전망을 제시한 배후의 수학적 논리일지도 모른다. 이번 주의 'AI 슈퍼 위크'는 막을 내렸지만, NVIDIA 실적이 드러낸 훈련에서 추론으로의 패러다임 전환의 심각한 영향은 산업 사슬의 구석구석에 스며들기 시작했다. 미래의 컴퓨팅 경쟁은 누가 더 많은 H100이나 Vera Rubin 칩을 보유하느냐에 그치지 않고, 누가 가장 낮은 한계 비용, 가장 낮은 지연 시간, 가장 높은 에너지 효율로 수십억 명의 최종 사용자들의 일상적이고 무의식적인 AI 호출을 감당할 수 있느냐가 관건이 될 것이다. 이 혁명의 종착점은 컴퓨팅이 전기나 수도처럼 인간 생활의 모든 틈새에 스며드는 것이며, 우리는 지금 바로 그 전환점의 한가운데에 서 있다.