
엔비디아가 4조 달러를 돌파한 이유
글: RockFlow
핵심 요약
① 엔비디아는 전체 생태계 네트워크 효과의 혜택을 받고 있다. CUDA, 설치 기반, 시스템 수준 통합 및 최적화 등 각각의 강점이 서로 보완되며 강력한 기술 장벽을 형성했다.
② 엔비디아는 지난 6개 분기 연속 시장 예상치를 상회하는 매출을 기록했다. 매 분기마다 전망치를 상향 조정함에도 불구하고 여전히 투자자들을 놀라게 하는 큰 성장을 이뤄내며 시장을 놀라게 하고 있다.
③ 과거 인터넷 거대 기업들은 특정 기술로 사업적 벽을 구축할 때 주로 성장성을 고려했다. 그러나 AI 시대의 거대 기업들에게는 한 발만 느려져도 사업 기반이 무너질 수 있다. 지금 그들의 의사결정은 수익률 계산이 아닌 절대적 손실에 대한 두려움에서 비롯된다. 엔비디아 칩 구매는 본질적으로 '보험'을 사는 것이며, 탄력성은 존재하지 않는다.
④ 장기적으로 볼 때, 기술 거대 기업들은 엔비디아 의존도를 줄이기 위해 자체 솔루션이나 다른 고성능 GPU 공급처를 계속해서 모색할 것이다. 이러한 노력은 엔비디아의 지배력을 서서히 약화시킬 수는 있지만, 완전히 대체하기는 어려울 것이다.
때때로 수 년간 주가가 급등하며 주목받고, 격렬한 변동성으로 인해 커다란 논란을 일으키는 스타 기업이 등장한다. 이번엔 바로 AI에 동력을 제공하는 글로벌 반도체 거물 엔비디아다. 최근 5년간 주가는 거의 50배 가까이 치솟았으며, 현재 마이크로소프트와 애플과 함께 세계 시가총액 3위에 이름을 올리고 있다.
최근 ‘십자로 대담’ 팟캐스트에서 ‘엔비디아 주가에 거품이 있는가’라는 질문에 대해 RockFlow 창립자 Vakee는 자신의 견해를 밝혔다—그녀는 엔비디아에 거품이 있다고 보지 않는다. 전방 배수(Forward P/E) 40배라는 평가는 이처럼 선도적인 기업에게 합리적인 수준이다.
최근 반도체주들의 조정은 물론 미국 증시 전체의 과열 이후 나타난 정상적인 조정 현상이며, 당시 더 강력한 금리 인하 기대감으로 위험 선호 심리가 강화되면서 일부 자금이 대형주에서 더 공격적인 소형주로 이동하는 것은 정상적인 섹터 로테이션이었다. 또한 몇 주 전 미국의 수출 제한 강화 및 지정학적 긴장은 엔비디아를 중심으로 한 반도체주의 하락을 유발했지만, 이 역시 정상적인 시장 반응의 범주 안이다.
근래 1~2주간 미국 증시의 격렬한 변동성은 미국 노동시장 지표의 부진, 실적 발표 시즌에 대형 기업들이 기대 이상의 성과를 내놓지 못한 점, 엔 캐리 트레이딩의 청산, 중동 지역의 잠재적 갈등 등 여러 요인이 복합적으로 작용한 결과다. 하지만 이러한 외부 요인을 제쳐두고 엔비디아 자체를 본다면, 우리는 AI에 대한 중장기적 낙관론을 유지하고 있으며(이는 우리 세대에서 가장 큰 변화의 기회일 가능성이 크다), 이 산업의 절대적 리더로서 거품은 존재하지 않는다고 믿는다.
엔비디아의 최근 1년간 실적은 매우 인상적이다. AI 칩 시장 점유율 약 90%, 연간 매출 600억 달러 초과, 순이익률 50% 이상. 지난 5년간 연평균 매출 성장률은 64%에 달하며, S&P 500 기업들 사이에서 단연 돋보인다.
이 회사의 성장 역사와 투자 가치에 대해서는 RockFlow 리서치팀이 작년 초에 이미 상세히 분석한 바 있다 — AI 대규모 모델 경쟁에서 엔비디아가 마지막까지 웃을 수 있을까?
본문에서는 시장이 아직 충분히 주목하지 않은 엔비디아의 진정한 차별화 요소와, 왜 우리가 엔비디아가 단순히 훌륭한 기업을 넘어 잠재적 수익률도 높은 투자 대상이라고 보는지를 설명하고자 한다.
1. CUDA 외에, 엔비디아의 경쟁 우위는 무엇에 기반하는가?
엔비디아를 긍정적으로 보는 투자자들은 미래에 베팅하고 있다고 생각한다. 엔비디아의 더 높은 성장 전망을 감안하면, 다른 거대 기술 기업들보다 비싼 것도 아니다.
하지만 문제는 시장 예측 기간이 길어질수록 불확실성이 커진다는 점이다. 마이크로소프트와 애플은 기존의 안정된 고객층을 기반으로 수익을 내는 성숙한 기업이다. 반면 엔비디아는 비교적 새로운, 그러나 더 큰 잠재력을 지닌 시장을 대상으로 하므로, 투자자들 사이에서 엔비디아의 전망에 대한 의견 차이가 마이크로소프트나 애플보다 훨씬 크다.
오랫동안 엔비디아는 게임용 그래픽카드의 최고 제조사로 알려져 왔다. 암호화폐 채굴 붐이 일면서 그래픽카드의 핵심인 GPU의 수요도 급증했다. 엔비디아가 설계한 GPU는 '병렬 처리'에 특화되어 있으며, 복잡한 계산 문제를 수천 개의 프로세서 코어에 동시에 분배하여 기존 컴퓨팅 방법보다 훨씬 빠르고 효율적으로 해결한다.
시장에서 가장 진보된 GPU를 설계하는 것 외에도, 엔비디아는 프로그래밍 모델과 병렬 컴퓨팅 플랫폼인 CUDA(Compute Unified Device Architecture)를 자체 개발했는데, 이는 업계 표준이 되었으며 개발자들이 엔비디아 GPU의 기능을 쉽게 활용할 수 있도록 해준다.

하지만 엔비디아의 핵심 경쟁력은 오늘날 사람들이 주목하는 CUDA 플랫폼에만 있지 않다. RockFlow 리서치팀은 엔비디아가 CUDA, 설치 기반, 시스템 수준 통합 및 최적화 등 다양한 요소들이 결합된 전체 생태계 네트워크 효과로부터 혜택을 받고 있으며, 이는 대역폭 및 네트워크 면에서도 선진 기술을 선택해 컴퓨팅 성능을 극대화함으로써 강력한 기술 장벽을 형성하고 있다고 본다.
우선 설치 기반부터 살펴보자. CUDA는 수십 년간의 선점 효과 덕분에 강력한 네트워크 효과를 누리고 있다. 방대한 설치 기반은 프레임워크와 개발자들이 이를 우선 목표로 삼도록 유도하며, 이는 다시 사용자의 확대로 이어진다. 엔비디아는 게임, 전문 시각화, 데이터센터 등 다양한 분야에서 많은 사용자를 확보하고 있어, 꾸준한 수익원과 제품 피드백을 얻을 수 있으며, 이러한 규모의 경제는 지속적인 R&D 투자와 기술 선도를 가능하게 한다.
둘째, 시스템 수준의 통합 능력이다. 엔비디아는 GPU 하드웨어뿐만 아니라 드라이버, 개발 도구, 최적화 라이브러리 등 일체의 소프트웨어 스택을 제공하며, 이미 완벽한 생태계를 구축했다. 이러한 수직 통합은 시스템 수준에서의 최적화를 가능하게 하여 더 나은 성능과 사용자 경험을 제공한다.
최적화 측면에서도 엔비디아는 하드웨어와 소프트웨어 모두 깊이 있게 최적화하고 있다. 하드웨어 측면에서는 GPU 아키텍처를 지속적으로 개선해 성능과 에너지 효율을 높이고, 소프트웨어 측면에서는 드라이버와 라이브러리의 최적화를 통해 하드웨어의 잠재력을 극대화한다. 다중 GPU 협업, GPU 직접 메모리 접근(GPU Direct Memory Access) 등의 시스템 수준 최적화 기술은 전체 성능을 더욱 향상시킨다.
대역폭 및 네트워크 문제 해결을 위해 엔비디아는 다양한 시도를 해왔다. GPU와 CPU, 그리고 GPU 간의 데이터 전송 효율을 높이기 위한 기술을 개발했는데, 그 중 가장 중요한 것은 NVLink다. NVLink는 고대역폭으로 여러 GPU를 직접 연결해 AI 컴퓨팅 효율을 크게 높였다. 이는 엔비디아가 자율주행 및 AI 컴퓨팅 분야에서 강력한 입지를 유지하도록 했다. 또한 인피니밴드(InfiniBand)에 투자하고 멜라녹스(Mellanox)를 인수하며, NVIDIA Spectrum-X를 통해 이더넷 플랫폼에도 적극적으로 접근하고 있다.
RockFlow 리서치팀은 현재 엔비디아의 경우, 방대한 설치 기반이 GPU 설계의 지속적 최적화를 위한 동력과 데이터를 제공하고, 시스템 수준의 통합과 최적화는 사용자 이탈을 막고 설치 기반을 확대시키며, 대역폭과 네트워크 문제 해결을 위한 선진 기술의 지속적 반복 개선이 서로 양의 순환을 이루고 있다고 믿는다. 이러한 요소들이 복합적으로 작용해 엔비디아가 GPU 및 가속 컴퓨팅 분야에서 지속적으로 선두를 달릴 수 있도록 한다.
따라서 AMD, 인텔 등 경쟁사들도 유사한 GPU 제품을 출시하고 가격 경쟁력을 갖추고 있음에도 불구하고, 엔비디아는 여전히 AI 칩 시장에서 압도적인 지배력을 유지하고 있다.
추정에 따르면, 엔비디아는 지난 7년간 데이터센터용 GPU 시장 점유율 90% 이상을 유지해왔다. 2023년에는 무려 98%에 달했으며, 모든 대규모 데이터센터의 운영과 대규모 모델 훈련은 엔비디아가 개발한 GPU에 의존하고 있다.

장기적으로 보면 엔비디아가 현재의 시장 점유율을 영원히 유지하기는 어렵겠지만, 데이터센터용 GPU 및 기타 AI 칩 시장의 지속적 성장에 따라, 그들의 경쟁 우위는 대부분의 주문을 확보할 수 있도록 보장할 것이다. 엔비디아는 이번 신산업혁명에서 계속 중요한 위치를 차지하며 건강하고 지속 가능한 성장을 이어갈 것으로 기대된다.
2. 엔비디아의 실적 기적: 전망치 지속 상향 조정에도 불구하고 여전히 놀라운 성과
두 달 전 엔비디아가 1분기 실적을 발표하자 다음 날 주가는 10% 급등했고, 이후 시가총액은 급등하며 일시적으로 마이크로소프트를 제치고 세계 시가총액 1위에 오르기도 했다.
지난 분기 엔비디아의 구체적인 매출 현황은 다음과 같다:

매출은 전 분기 대비 18% 증가한 260억 달러(예상치 초과 15억 달러). 그 중 데이터센터 부문 매출은 전 분기 대비 23% 증가한 226억 달러로, 전체 매출 중 가장 큰 비중을 차지하며 가장 빠른 성장세를 보였다.
그 성장률이 얼마나 놀라운지 아래 차트에서 확인할 수 있다:

사실 엔비디아는 지난 6개 분기 연속 시장 예상을 상회하는 매출을 기록했다. 매 분기마다 전망치를 상향 조정함에도 불구하고 여전히 시장의 기대를 넘어서는 성과를 내며 투자자들을 놀라게 하고 있다. 동시에 엔비디아 칩 사업의 수익률도 크게 개선되고 있다.
이후 실적 컨퍼런스콜에서 황仁勋(젠슨 황)은 이렇게 말했다:
「다음 번 산업혁명이 시작됐다. 각국과 기업들이 엔비디아와 협력해 수조 달러 가치의 기존 데이터센터를 가속 컴퓨팅으로 전환하고, 새로운 형태의 데이터센터—AI 공장(AI Factory)을 구축해 완전히 새로운 상품인 AI를 생산하고 있다.」
AI 시스템 운용의 두 가지 핵심 단계를 살펴보면 다음과 같다. 먼저 '훈련(training)': AI가 방대한 데이터에서 학습하며 지능과 패턴 인식 능력을 발전시킨다. 현재 이 단계는 엔비디아의 강력한 GPU가 주도하고 있다. 다음은 '추론(inference)': AI가 습득한 지식을 현실 세계의 작업과 의사결정에 적용하는 단계다. 더 치열한 경쟁이 예상되지만, 엔비디아는 여기서도 중요한 진전을 이루고 있다.
지난 1년간 추론 워크로드는 엔비디아 데이터센터 매출의 약 40%를 기여했다. 현재 시장의 일반적 전망은 생성형 AI 애플리케이션이 늘어남에 따라 추론 시장이 거대하게 성장할 것이며, 이는 엔비디아 고객들에게 상당한 투자 수익을 가져다줄 것이라는 것이다.
현재 엔비디아는 고객을 주로 세 가지로 나누고 있다:
-
클라우드 서비스 제공업체(CSP)가 데이터센터 매출의 거의 절반을 차지한다. 아마존, 마이크로소프트, 구글 등 모든 거대 기업들이 엔비디아의 고객이다;
-
B2B 기업들도 강력한 지속 성장을 이끌고 있다. 테슬라의 경우 AI 훈련 클러스터를 35,000개 H100 GPU로 확장했으며, FSD V12에 활용하고 있다;
-
C2C 기업들도 중요한 분야다. 메타의 경우 Llama 3를 24,000개 H100 GPU 클러스터에서 훈련했으며, 차세대 다중모달 모델 Llama 4는 24만 개의 GPU와 Llama 3보다 10배 많은 컴퓨팅 자원을 투입해 훈련할 예정이다.
엔비디아 경영진은 컨퍼런스콜에서 몇 가지 중요 방향도 언급했다:
데이터센터 관련해서는,
「생성형 AI가 점점 더 많은 B2C 인터넷 애플리케이션에 진입함에 따라, 추론 규모는 모델의 복잡성뿐 아니라 사용자 수와 각 사용자의 질의 수가 증가함에 따라 확대될 것이며, 이는 AI 컴퓨팅 수요를 더욱 촉진할 것이라 예상한다.」라고 밝혔다.
또한 엔비디아는 '주권형 AI(Sovereign AI)' 개념에 대해 매우 긍정적인 전망을 하고 있다:
「주권형 AI란 한 국가가 자체 인프라, 데이터, 인력, 비즈니스 네트워크를 활용해 AI를 생산하는 능력을 의미한다. AI의 중요성은 모든 국가의 관심을 끌고 있으며, 주요 국가는 AI 기술에 대한 통제권을 더욱 중시할 것이다. 우리는 주권형 AI가 올해 수십억 달러의 수익을 창출할 것이라 믿는다.」
미국의 수출 제한 조치의 영향, 차세대 H200 및 Blackwell 아키텍처 등에 대해서도 젠슨 황은 상응하는 정보를 공개했다. 이후 몇 주간 엔비디아 주가의 연이은 상승은 시장이 그의 견해와 AI 물결의 장기적 성장 가능성에 대해 인정하고 있다는 것을 충분히 보여준다.
3. 가장 큰 도전은 여전히 거대 기업의 자체 개발
앞서 언급했듯이, 엔비디아는 CUDA 생태계를 중심으로 구축한 네트워크 효과가 기업이 완전한 생태계를 조성하는 데 있어 탁월한 사례다. 엔비디아의 거대한 성공은 칩의 뛰어난 성능뿐 아니라, 관련 하드웨어 및 소프트웨어 네트워크 전체를 통해 자신을 생성형 AI 물결의 중심에 자리매김했기 때문이다.
하지만 동시에 기초 소프트웨어와 칩을 묶어 판매하는 전략은 고객과 경쟁사들로부터 강한 비판을 받았으며, 규제 당국도 극도로 높은 시장 점유율을 이유로 반독점 조사를 수차례 진행하고 있다.
현 시점에서 엔비디아는 AMD 및 기타 반도체 제조업체(퀄컴, 인텔 등)의 경쟁에 직면해 있다. 이들 기업은 기본적으로 모두 칩 설계자이며, 사실상 동일한 외주 제조업체—TSMC를 이용해 칩을 생산한다.
AMD와 인텔은 모두 자체 데이터센터용 GPU를 출시해 엔비디아의 H100/H200에서 시장 점유율을 되찾겠다는 목표를 갖고 있다. 인텔은 Gaudi3 AI 가속 칩을, AMD는 MI300 시리즈를 출시했다. 2024년은 엔비디아가 AMD에게 일부 시장 점유율을 내주는 첫 해가 될 수 있으며, 인텔도 일부 점유율을 되찾을 가능성이 있다.
경쟁사들의 이런 결심을 이해하려면 하나의 데이터만 보면 된다. 최신 분기 실적에 따르면, 마이크로소프트, 구글, 메타의 2024년 2분기 총 자본 지출은 400억 달러를 초과했으며, 대부분이 AI 분야에 사용됐다.

이렇게 많은 거대 기업들이 막대한 자본을 투입하고 있는데, 어느 순간 내부·외부 압력으로 인해 AI 비용의 투자 수익률(ROI)을 계산하다가 수지 타산이 맞지 않다고 판단해 투자를 늦출 가능성은 없을까?
우리의 답변은 거의 불가능하다는 것이다. 과거 인터넷 거대 기업들은 특정 기술을 통해 사업적 벽을 구축할 때 주로 성장성, 즉 사업 가속화 여부를 고려했다. 하지만 이번 생성형 AI는 큰 변화를 가져왔으며, 거대 기업들에게는 한 걸음만 뒤처져도 기업과 사업 기반이 무너질 수 있다. 따라서 이번 생성형 AI 군비 경쟁에서 엔비디아 칩 구매는 본질적으로 '약'을 사는 것과 같다. 어떤 기술이 기업의 생사 여부를 결정한다면, 그 기업은 세부사항을 많이 고려하지 않을 것이다.
이것은 과장이 아니다. 예를 들어 검색 사업은 AI에 의해 완전히 바뀔 수 있다. 구글이든, 바이두든, 그들의 의사결정 방식은 더 이상 수익의 크기나 수익률을 계산하는 것이 아니라, 절대적 손실에 대한 두려움에서 비롯된다. 엔비디아 칩을 사는 것은 본질적으로 보험을 사는 것이며, 이때는 탄력성이 존재하지 않는다.
고성능 칩이 너무나 중요하기 때문에, 거대 기업들은 막대한 자본을 지출하면서도 자체 개발 또는 대체 방안을 찾기로 결심하고 있다. 엔비디아의 포괄적인 CUDA 생태계에 맞서, 다른 기업들(실질적으로는 거의 모든 경쟁사들)은 오픈형 솔루션을 공동 개발해 엔비디아의 AI 소프트웨어·하드웨어 생태계 독점을 깨고자 시도하고 있다.
인텔, 구글, ARM, 퀄컴, 삼성 등 다른 기술 기업들은 개발자의 코드가 어떤 칩이 장착된 어떤 기계에서도 실행될 수 있도록 하는 새로운 소프트웨어 패키지를 공동 개발하고 있다. OpenAI 역시 자체적으로 노력하고 있으며, CUDA 경험이 없는 연구자들도 GPU 코드를 작성할 수 있도록 오픈소스 언어를 출시했다. 메타가 육성한 오픈소스 PyTorch 재단도 유사한 시도를 진행 중이다.
이들 기업은 엔비디아의 독점 하드웨어를 대체하기 위해, 서버 내부 및 서버 간에 다수의 AI 칩을 연결하는 새로운 방안도 개발하고 있다. 인텔, 마이크로소프트, 메타, AMD, 브로드컴 등은 현대 데이터센터에 필수적인 이 연결 기술에 대한 새로운 산업 표준을 정립하려 하고 있다. 독점 방식과 개방형 방식 사이의 갈등은 스마트폰 시장의 애플과 구글 안드로이드와 유사하다. 우리가 아는 바와 같이, 폐쇄와 개방의 두 가지 비전 모두 승자를 만들 수 있다.
장기적으로 보면, 기술 거대 기업들은 엔비디아에 대한 의존도를 줄이기 위해 자체 솔루션이나 다른 고성능 GPU 공급처를 계속해서 모색할 것이다. 가장 가능성 있는 시나리오는 이러한 노력이 점차 엔비디아의 지배력을 약화시킬 수는 있지만, 완전히 대체하기는 어려울 것이라는 점이다.
4. 결론
지난 몇 년간 엔비디아의 칩은 회사의 수익성을 새로운 차원으로 끌어올렸다. RockFlow 리서치팀은 장기적으로 엔비디아를 긍정적으로 보고 있으며, 이전에 RockFlow 창립자 Vakee가 ‘십자로’ 팟캐스트에서 「현재 엔비디아에 경쟁사들이 공격할 만한 약점이 보이나요?」라는 질문을 받았을 때, 그녀의 답변은 “그런 신호는 없다”였다.
엔비디아의 오늘날의 우위는 단일 제품이나 GPU 하드웨어의 단순한 우위가 아니다. 엔비디아는 복잡한 생태계 내에서 핵심 경쟁력을 구축했기 때문에 돌파하기가 매우 어렵다. CUDA 플랫폼 외에도, 현재의 사용자 수, 설치 기반, 전체 시스템 통합 능력, 지속적인 최적화 능력 등이 모두 강점이며, 이러한 요소들이 서로 강화되며 전체 경쟁 장벽이 더욱 두드러진다.
생태계 내 잠재적 문제에 대해 엔비디아는 해결을 위해 아낌없이 투자하고 인수하며, 하드웨어뿐 아니라 시스템 통합 능력, 네트워크 대역폭 문제 해결 등 모든 측면에서 지속적으로 장벽을 높이고 있다. 이러한 양의 순환은 그들의 우위를 더욱 견고하게 할 것이다.
따라서 우리는 엔비디아가 이전의 성장세를 계속해서 이어가며 장기적으로 더 큰 가치를 실현할 수 있을 것이라고 믿는다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News














