NVDA: 구조적 분석

이 기업은 어떤 사업인가

NVIDIA를 반도체 회사라고 부르는 것은 아마존을 온라인 서점이라 부르는 것과 같다. 한때는 맞는 말이었지만, 지금은 사업의 본질을 완전히 놓치는 표현이다.

이 기업이 실제로 하는 일은 이렇다. 칩, 네트워킹, 시스템 소프트웨어, 알고리즘을 하나의 유기체로 엮어서 데이터센터 전체를 하나의 컴퓨터로 판매한다. 과거에는 GPU라는 부품을 팔았다면, 지금은 수만 개의 GPU가 하나처럼 움직이는 랙 규모의 AI 인프라를 설계하고 납품한다. FY2026(기말 2026년 1월) 기준, 연간 매출 2,159억 달러 중 데이터센터가 1,937억 달러를 차지한다. 게임 사업이 여전히 160억 달러짜리 건실한 사업이지만, NVIDIA의 경제학을 움직이는 엔진은 완전히 달라졌다.

이 전환의 규모를 가늠하려면 이익을 봐야 한다. 영업이익률 60.4%, 순이익 1,201억 달러. 이 숫자들은 반도체 산업의 문법으로는 해석이 불가능하다. 경쟁사 AMD의 영업이익률이 10.7%, Intel이 -4.2%인 산업에서, NVIDIA만이 소프트웨어 기업보다 높은 마진을 기록하고 있다. Microsoft의 순이익률이 약 37%이고, Google이 약 27%인 것을 생각하면, 55.6%의 순이익률이 하드웨어 기업에서 나온다는 사실 자체가 이례적이다.

비결은 단순하다. NVIDIA가 파는 것은 실리콘 웨이퍼가 아니라 컴퓨팅 성능에 대한 접근권이다. 고객이 지불하는 가격은 칩의 원가가 아니라, 그 칩이 만들어내는 AI 추론 성능의 경제적 가치에 기반한다. 글로벌 TOP500 슈퍼컴퓨터의 78% 이상이 NVIDIA GPU와 네트워킹을 사용하며, 모든 주요 클라우드 서비스 기업, AI 모델 개발사, 엔터프라이즈가 이 회사의 플랫폼 위에서 작동한다. AI 인프라 가치사슬의 한가운데서 통행세를 걷는 위치에 서 있는 것이다.

장기 투자자가 이 기업을 연구하는 이유

NVIDIA를 연구해야 하는 이유는 현재의 이익이 크기 때문이 아니라, 이 이익의 원천이 구조적 전환비용 위에 세워져 있기 때문이다.

2006년에 도입된 CUDA 개발 플랫폼은 GPU의 병렬 처리 능력을 범용 컴퓨팅에 개방했다. 18년이 지난 지금, 750만 명 이상의 개발자가 CUDA와 관련 도구를 사용하고 있으며, 수백 개의 도메인별 소프트웨어 라이브러리와 프레임워크가 이 생태계 위에 구축되어 있다. 자율주행을 위한 NVIDIA DRIVE, 헬스케어를 위한 Clara, 엔터프라이즈 AI를 위한 NIM과 NeMo — 각 스택은 수년간의 개발과 고객 협업을 통해 쌓인 것으로, 경쟁사가 하드웨어만으로는 대체할 수 없는 가치의 층위다.

Blackwell 아키텍처부터는 이 전환비용이 한 차원 더 높아졌다. 36개의 Grace CPU와 72개의 Blackwell GPU를 NVLink로 연결하여 수십만 개의 GPU가 단일 시스템처럼 작동하는 데이터센터 규모의 통합 설계다. 고객이 AMD나 자체 칩으로 옮기려면, 칩 하나를 교체하는 것이 아니라 전체 인프라 아키텍처를 재설계해야 한다. 창립 이래 축적된 767억 달러 이상의 연구개발 투자가 만들어낸 이 통합의 깊이가, 단순한 시장점유율과 구조적 해자의 차이를 만든다.

여기에 사업 모델의 경제적 구조가 더해진다. NVIDIA는 자체 팹을 보유하지 않는 팹리스 기업이다. TSMC에서 웨이퍼를 제조하고, SK하이닉스와 마이크론에서 메모리를 조달하며, Foxconn 등이 조립한다. 대규모 설비투자 없이도 수요 변동에 탄력적으로 대응할 수 있는 구조다. 연간 R&D에 185억 달러를 투자하지만, 통합 아키텍처 전략 덕분에 하나의 기초 기술 투자가 데이터센터, 게임, 자동차 등 복수의 수십억 달러 시장을 동시에 지원한다. 판관비 비율 2.1%는 B2B 기술 기업 중에서도 극히 낮은 수준인데, 이는 고객이 NVIDIA를 찾아오는 구조이지, NVIDIA가 고객을 설득해야 하는 구조가 아니기 때문이다.

구조적 강점

성장의 질이 달라지고 있다. FY2026에 NVIDIA의 사업 모델은 근본적 전환을 겪었다. GPU 보드(HGX 시스템)를 판매하던 구조에서, GPU·CPU·NVLink 스위치·DPU·네트워킹 어댑터·케이블·시스템 소프트웨어를 묶은 랙 규모 솔루션을 판매하는 구조로 바뀌었다. 데이터센터 네트워킹 매출이 전년 125억 달러에서 314억 달러로 142% 성장한 것이 이 전환을 증명한다. 단위당 부가가치가 구조적으로 높아지고 있는 것이다.

이 전환의 대가로 매출총이익률은 전기 75.0%에서 71.1%로 하락했다. 풀스택 솔루션은 메모리, 기판, 냉각 시스템 등 BOM이 복잡해지기 때문이다. 그러나 이 마진율 하락을 과도하게 우려하는 것은 숲을 놓치는 것이다. 매출총이익의 절대액은 979억 달러에서 1,535억 달러로, 영업이익은 815억 달러에서 1,304억 달러로 증가했다. 마진율의 소폭 양보를 대가로 이익의 절대 규모가 60% 이상 성장한 것이다.

자본 배분은 오너의 마인드셋을 반영한다. Owner Earnings 상한 약 1,229억 달러 중, 자사주매입 401억 달러와 배당 9.7억 달러 — 총 411억 달러를 주주에게 환원했다. 배당보다 자사주매입을 압도적으로 선호하는 구조는 젠슨 황의 경영 철학을 보여준다. 나머지는 생태계 확장에 재투자되었다. 비상장 기업 투자 175억 달러, Groq 라이선스 130억 달러 등 — AI 스타트업과 인프라 파트너에게 자본을 공급하여 NVIDIA 플랫폼에 대한 수요를 선순환적으로 만드는 전략이다.

매출 5년 CAGR 68.3%, 3년 CAGR 100.0%. 이 성장률의 지속 가능성에 대해서는 당연히 의문을 가져야 하지만, 주목할 것은 성장의 동인이 전환되고 있다는 점이다. 초기의 폭발적 성장이 대규모 모델 훈련 인프라에 대한 일회적 투자에 기반했다면, 이제는 에이전틱 AI, 추론 워크로드, 물리적 AI라는 새로운 수요 동인이 등장하고 있다. Rubin 플랫폼이 “cost per token을 Blackwell 대비 최대 10배 절감”을 목표로 한다는 것은, 추론 시장의 확대를 위해 성능 대비 비용을 적극적으로 낮추겠다는 의지의 표현이다.

무시할 수 없는 구조적 리스크

첫째, 가장 큰 고객이 가장 큰 잠재적 경쟁자다. FY2026에 한 직접 고객이 전체 매출의 22%, 또 다른 고객이 14%를 차지했다. 매출채권 기준으로는 상위 3개 고객이 각각 25%, 18%, 13%를 점유한다. 그런데 이 고객들 — Amazon, Google, Microsoft — 은 모두 자체 AI 칩(Trainium, TPU, Maia)을 개발하고 있다. NVIDIA 스스로가 10-K에서 “certain of our customers have in-house expertise and internal development capabilities similar to some of ours”라고 인정한다. 현재까지 자체 칩이 NVIDIA의 범용 플랫폼을 완전히 대체하지는 못했지만, 추론 워크로드에서의 부분적 대체는 이미 진행 중이다. 추론 시장에서는 비용 효율성이 핵심 구매 기준이므로, 특정 워크로드에서 더 낮은 cost-per-token을 제공하는 맞춤형 ASIC이 NVIDIA의 프리미엄 가격을 위협할 수 있다.

둘째, 수출 통제라는 예측 불가능한 역풍. NVIDIA는 10-K에서 세계 2위 AI 시장인 중국의 데이터센터 시장에서 “effectively foreclosed from competing”이라고 공식 인정했다. 중국 매출은 전기 250억 달러에서 197억 달러로 감소했으며, H20 관련 45억 달러의 재고 및 구매약정 비용이 발생했다. 그러나 단순한 매출 감소보다 더 심각한 것은 장기적 효과다. NVIDIA 자신의 표현을 빌리면, 중국 시장에서의 퇴출이 “경쟁사가 더 큰 개발자 및 고객 생태계를 구축하여 글로벌 시장에서 우리에게 도전하는 것”을 돕고 있다. 수출 통제의 반복적 변경은 중국 밖의 고객들에게도 미국 반도체에 대한 의존을 줄이려는 — 이른바 ‘design-out’ — 움직임을 촉발하고 있다.

셋째, 영업이익률의 변동성이 말해주는 것. 5개년 영업이익률 추이는 극적이다: 37.3%(2022) → 15.7%(2023) → 54.1%(2024) → 62.4%(2025) → 60.4%(2026). FY2023의 급락은 암호화폐 수요 소멸의 결과였다. 이 궤적은 NVIDIA의 초과수익이 특정 기술 파도의 타이밍에 크게 의존한다는 사실을 상기시킨다. 현재의 60%대 영업이익률이 정상 상태인지, AI 투자 사이클의 정점에서만 가능한 피크 마진인지는 아직 답이 나오지 않은 질문이다.

10년의 시간 축에서 바라보기

10년 후 NVIDIA의 구조가 지금보다 더 강해져 있을 것인가. 이 질문에 대한 답은 결국 두 가지 변수에 달려 있다.

첫째, AI가 진정한 범용 기술(General Purpose Technology)로 자리잡는가. 만약 그렇다면, 컴퓨팅 수요의 총량은 현재로서는 상상하기 어려운 수준으로 확장된다. 에이전틱 AI, 물리적 AI, 자율주행, 로보틱스 — 각각이 대규모 GPU 수요를 창출하는 새로운 시장이다. 이 시나리오에서 NVIDIA의 풀스택 플랫폼은 시간이 갈수록 진입장벽이 높아지고, CUDA 네트워크 효과는 더 강해진다.

둘째, 하이퍼스케일러의 자체 칩이 NVIDIA의 범용 플랫폼을 실질적으로 대체하는가. 훈련 워크로드에서는 NVIDIA의 지위가 당분간 견고해 보이지만, 추론 시장은 다르다. 추론은 훈련보다 다양하고 분산적이며, 맞춤형 ASIC이 특정 워크로드에서 더 효율적일 수 있다. NVIDIA의 장기 성장 스토리는 궁극적으로 이 추론 시장의 크기와 그 안에서의 점유율에 달려 있다.

경쟁우위 기간(CAP)은 5-10년으로 추정하는 것이 합리적이다. 연간 185억 달러의 R&D, 1년 단위 아키텍처 갱신, 풀스택 통합의 깊이가 이 기간을 지지하지만, 하이퍼스케일러 자체 칩의 성숙, 오픈소스 생태계의 발전, 수출 통제의 확대가 이 기간을 단축할 수 있다. ROE 76.3%라는 숫자는 현재 시점에서 자본이 얼마나 효율적으로 배치되어 있는지를 보여주지만, 이것이 10년 후에도 유지될 것이라고 가정하는 것은 지나친 낙관이다.

확실한 것은 하나다. AI 인프라의 표준을 정의하는 플랫폼 기업이라는 NVIDIA의 현재 위치는, 단순히 좋은 칩을 만드는 것만으로는 달성할 수 없었고, 단순히 좋은 칩을 만드는 것만으로는 빼앗기지도 않을 것이다. 문제는 이 위치가 얼마나 오래 지속되느냐이며, 그 답은 기술의 진화 속도, 고객의 전략적 선택, 그리고 지정학의 방향이라는 — NVIDIA 스스로도 통제할 수 없는 — 변수들에 달려 있다.

보다 상세한 분석은 구독자 리포트를 참고하세요.