GPU에는 ‘가격’이 없다: 네 가지 주요 지표가 충돌하며, 컴퓨팅 파워 시장은 당신이 생각하는 것보다 훨씬 혼란스럽다
저자: David Lopez Mateos
번역 및 정리: TechFlow
TechFlow 서론: 언론은 GPU 컴퓨팅 파워 가격의 등락을 하나의 숫자로 요약하는 것을 좋아한다. 그러나 현실은 이렇다. 블룸버그 터미널에서 제공되는 네 개의 지수는 서로 2달러 이상 차이 나며, 방향성과 속도 역시 일치하지 않는다. 본 기사의 저자는 GPU 컴퓨팅 파워 거래 플랫폼 Compute Desk의 창립자인 David Lopez Mateos이다. 그는 실시간 거래 데이터를 바탕으로 H100 및 B200의 실제 가격 구조를 분석하여, 합의된 기준 없이, 표준화된 계약 없이, 선물 곡선 없이 운영되는 원시적 시장을 드러낸다—즉, 컴퓨팅 파워가 마치 단기 임대 아파트처럼 매입되고 재임대되고 있는 것이다.
언론의 제목은 독자에게 GPU 컴퓨팅 파워 가격이 급등하고 있다는 인상을 준다. 이 서사는 매우 편안하며, “공급 부족 + AI 수요의 무한정한 확대”라는 거시적 프레임워크에 완벽히 부합한다. 더불어, 우리는 가격 신호가 명확하고 해독 가능한, 원활하게 작동하는 시장이 존재한다는 안심할 만한 사실을 암시한다.
하지만 그런 시장은 존재하지 않는다. 이 서사는 거의 전적으로 하나의 지수에 기반해 구성되어 있으며, 이 지수가 암시하는 바는 결코 암시되어서는 안 된다—즉, GPU 임대 시장이 이미 충분히 효율화되어 하나의 숫자로 전체 시장 상태를 대표할 수 있다는 점이다.
공급 부족은 실제로 존재하지만, 이를 체감하는 정도는 사람마다 완전히 다르다—당신이 누구인지, 어디에 위치해 있는지, 어떤 유형의 계약을 체결했는지, 어떤 종류의 컴퓨팅 자산을 거래하는지에 따라 달라진다. 이러한 불투명성에 직면해 시장의 자연스러운 반응은 질서 있는 가격 발견이 아니라 ‘매입’(hoarding)이다. 즉, 아직 필요하지 않을 수도 있는 GPU 사용 시간을 미리 확보해 두는 것이다. 다음 달에 해당 자원을 어떤 가격으로든 구매할 수 있을지 확신할 수 없기 때문이다. 매입이 발생하고 공신력 있는 기준이 부재한 곳에서는 분절화된 2차 시장이 형성된다. Compute Desk에서는 이미 고객들이 대규모 행사 기간 중 아파트를 재임대하듯 클러스터를 재임대하는 사례를 성사시켰다. 이는 가정이 아니라 현재 진행형인 현실이다.
지수의 수렴 실패
성숙한 상품 시장에서는 다양한 방법론으로 산출된 지수들이 일반적으로 수렴한다. 브렌트 원유와 WTI 원유는 지리적 위치와 원유 품질 차이로 인해 몇 달러의 가격 차이가 있지만, 방향성 면에서는 동조 움직임을 보인다(그림 1). 이러한 수렴은 효율적인 시장의 특징이다.
그림 설명: 브렌트 원유와 WTI 원유 가격 추이 비교. 방향성이 고도로 일치함
현재 블룸버그 터미널에는 세 개의 GPU 가격 지수 제공업체가 있다: Silicon Data, Ornn AI, 그리고 Compute Desk. SemiAnalysis는 최근 네 번째 지수를 공개했다—100여 개 시장 참여자를 대상으로 한 설문 조사 데이터를 기반으로 산출된 월간 H100 1년 계약 가격 지수이다. Silicon Data와 Ornn은 일일 H100 임대 지수를 발표하고, Compute Desk는 Hopper 아키텍처 수준에서 데이터를 집계하며, SemiAnalysis는 게시된 가격이나 크롤링된 가격이 아닌 협상 후 실제 체결된 계약 가격을 포착한다. 이들 지수는 방법론, 업데이트 주기, 동일한 시장을 바라보는 관점 모두 다르다. 이들을 겹쳐 보면, 의견 불일치는 명백하다(그림 2).
그림 설명: 네 개의 GPU 지수를 겹쳐 비교한 결과. 가격 수준과 추세 모두 뚜렷이 불일치함
가격 상승은 정확히 어디서 발생했는가
Compute Desk의 데이터를 활용하면, H100 가격 변동을 공급업체 유형 및 계약 구조별로 세분화해 분석할 수 있으며, 여기에 Silicon Data의 SDH100RT 지수를 함께 표시할 수 있다(그림 3). 모든 지표는 가격 상승을 보여주지만, 시작 시점과 상승 폭은 지수 및 계약 유형에 따라 크게 달라진다.
그림 설명: 계약 유형별 H100 가격 추이와 SDH100RT 지수 겹침
Compute Desk의 H100 신클라우드(neocloud) 데이터는 집계 지수보다 훨씬 구체적인 이야기를 전달한다. ‘온디맨드(on-demand)’ 가격은 겨울 내내 약 3.00달러/시간으로 비교적 안정적이었으나, 3월 들어 급격히 3.50달러까지 치솟았다. 반면 ‘현물(spot)’ 가격은 더 변동성이 크고 수준도 낮았으며, 3월까지는 소폭 상승 추세조차 보이지 않았다. Silicon Data의 SDH100RT 지수는 더 부드럽고 꾸준한 상승을 나타냈으며, 동기간 2.00달러에서 2.64달러로 올랐다. 두 지수는 지속적으로 다른 수준을 유지했고, 시간 경과에 따른 변화 양상도 달랐다: Compute Desk는 3월 급등을 강조하고, Silicon Data는 서서히 상승하는 모습을 보였다.
1년 예약 가격은 2월까지 거의 정체되었으나, 3월 말에 1.90달러에서 갑작스럽게 2.64달러로 급등했다—점진적 조정이 아니라 급격한 재평가였다. 이는 수요 급증에 따라 공급업체들이 온디맨드 시장의 수요 압력을 반영해 계약 요금을 일제히 조정한 것으로 보는 것이 타당하며, 지속적인 구조적 수요 증가에 의한 것이 아니다.
B200의 3월 상황은 더욱 극단적이었다(그림 4). Compute Desk의 온디맨드 지수는 수주 내에 5.70달러에서 8.00달러 이상으로 폭등했다. Silicon Data의 SDB200RT 지수는 4.40달러에서 6.11달러까지 급등했다가 다시 5.47달러로 하락했다. 두 지수 모두 이 상승세를 기록했지만, 출발점 차이는 2달러를 넘었고, 상승 및 하락 형태 역시 다르다. B200은 5개월도 채 안 되는 짧은 데이터 기간, 적은 수의 공급업체, 더 큰 가격 격차를 특징으로 하며, 두 지수는 동일한 사건을 매우 다른 관점에서 바라보고 있는 것이다.
그림 설명: B200 온디맨드 및 예약 가격 추이. Compute Desk와 Silicon Data 데이터 겹침
인프라 문제: 단순한 지역 차이를 넘어선 문제
상품 시장에는 ‘베이시스 차이(basis differential)’가 존재한다. 애팔래치아 천연가스는 교과서적인 사례이다: 막대한 매장량이 구조적으로 제한된 파이프라인 운송 능력 위에 놓여 있으며, 펜실베이니아-오하이오 회랑의 가용률은 종종 100%를 초과한다. 보레알리스 파이프라인(Borealis Pipeline) 같은 신규 프로젝트는 2020년대 말에야 가동될 예정이다.
GPU 시장에도 유사한 상황이 있다: 버지니아에 있는 H100 한 장과 프랑크푸르트에 있는 H100 한 장은 동일한 경제적 상품이 아니다. 그러나 단순한 지역 차이만으로는 동일 시장을 측정하는 여러 지수 간의 극단적 불일치를 설명할 수 없다. GPU 시장의 비정합성은 애팔래치아 천연가스보다 훨씬 심각하다. 천연가스의 문제는 단일 결함—즉, 수요와 공급을 연결하는 파이프라인 용량 부족—에 기인한다. 그러나 컴퓨팅 파워 시장의 인프라 공백은 수요측과 공급측 양쪽에 걸쳐 존재한다. 물리적 인프라—신뢰할 수 있는 컴퓨팅 파워 공급을 위한 일관된 네트워크, 예측 가능한 구성, 예측 가능한 가용성—는 아직 미성숙하며, 때때로 전혀 작동하지 않기도 한다. 금융 인프라—물리적 차이가 존재하더라도 가격 격차를 줄일 수 있는 표준화된 계약, 투명한 기준, 차익거래 메커니즘—도 여전히 부재하다.
데이터는 하나의 이야기를 전달한다. 2026년 초 실제 컴퓨팅 파워를 조달하려 했던 경험은 더 날카롭고 고통스러운 이야기를 전한다. 모든 GPU 유형의 온디맨드 공급 능력은 사실상 전부 소진되었다. 64장의 H100을 확보하는 것조차 어려웠다: Compute Desk에 따르면, 공급업체의 90%가 온디맨드 클러스터의 가용량을 0으로 보고했고, 예약 시장 역시 상황이 좋지 않았다. 원활하게 작동하는 시장이라면, 이 정도의 희소성은 이미 가격을 새로운 균형점으로 밀어올렸을 것이다. 그러나 실제로는 그렇지 않았다. 이는 공급업체 자체도 실시간 가격 정보 부족으로 인해 가격 조정에 소극적임을 의미한다. 가격은 오르고 있으나, 시장을 청산하기에 충분할 만큼 빠르게 오르지는 못하고 있다. 게시된 가격과 실제 구매 의사 사이의 격차는 매입, 재임대, 비공식적인 2차 시장 거래로 메워지고 있는 것이다.
변화가 필요한 영역
현재 GPU 컴퓨팅 파워 시장은 다음과 같은 7가지 핵심 문제를 안고 있다:
• 합의된 기준 부재. 다양한 지수가 공존하되, 각각의 방법론이 달라 결론 또한 모순된다.
• 집계된 서사가 구조적 복잡성을 은폐한다. 단 하나의 “H100 가격”이라는 숫자는 공급업체 유형 및 계약 기간 간의 거대한 차이를 가린다.
• 거래 수준의 데이터 부재. 양자간 시장에서는 게시된 가격과 실제 거래 가격 사이의 편차가 매우 크다.
• 계약 표준화 부재. 대부분의 GPU 임대는 양자 간 협상에 의해 이루어지며, 계약 조건은 다양하다. 더 짧고 표준화된 계약 기간 도입은 유동성과 가격 발견을 개선할 수 있다.
• 서비스 품질 보장 부재. 인터커넥트 토폴로지, CPU 연동, 네트워크 스택, 가동 시간 등이 현저히 다르다. 구매자는 구매 결정을 내리기 전에 자신이 구매하는 컴퓨팅 파워의 품질을 정확히 알아야 한다.
• 계약 유동성 부재. 예약 기간 중 수요가 변경되면 선택지는 제한적이다: 비용을 감수하거나 비공식적으로 재임대하는 것뿐이다. 시장은 이미 약속된 컴퓨팅 파워를 양도하거나 재판매할 수 있는 인프라를 갖춰야 하며, 이를 통해 생산 능력이 가장 필요한 곳으로 유입될 수 있도록 해야 한다.
• 선물 곡선 부재. 미래 가격을 산정할 수 없으면 헤지가 불가능하다. 이것이 금융기관이 GPU 담보에 대해 40~50% 할인을 적용하고, 자금 조달 비용이 높게 유지되는 이유이다.
본 세기 최고로 중요한 상품을 위한 건강한 시장을 구축하는 것은 어느 하나의 축만으로는 불가능하다. 측정, 표준화, 계약 구조, 서비스 품질, 유동성—이 모든 요소가 동시에 진전되어야만, 비로소 ‘GPU 1시간이 정확히 얼마인지’를 진정으로 말할 수 있게 될 것이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@SenorScience
