AI+Web3 미래 발전 방향 (2): 인프라편

2024.03.21

AI+Web3 미래 발전 방향 (2): 인프라편

AI+Web3 산업의 인프라 계층에 있는 주요 프로젝트들은 기본적으로 탈중앙화 컴퓨팅 네트워크를 주된 스토리로 삼으며, 낮은 비용을 주요 강점으로 내세우고 토큰 인센티브를 통해 네트워크 확장을 추진하며, AI+Web3 고객 서비스를 주요 목표로 한다.

2024.03.21 - 09:50:10

Web3 심층 보도에 집중하고 흐름을 통찰

글: Future3 Campus

본문은 Future3 Campus의 AI+Web3 산업 리포트 두 번째 편으로, 인프라 레이어의 성장 가능성과 스토리텔링 로직, 대표적인 주요 프로젝트들을 심층 분석한다. 첫 번째 편 보기: AI+Web3 미래 발전 방향 (1): 산업 전망과 스토리텔링 로직。

인프라는 AI 발전에서 확실한 성장 방향성

급증하는 AI 컴퓨팅 파워 수요

최근 몇 년간 컴퓨팅 파워 수요는 급격히 증가하고 있으며, 특히 LLM(대규모 언어 모델) 출시 이후 고성능 컴퓨팅 시장이 폭발적으로 성장했다. OpenAI 자료에 따르면 2012년 이후 최대 규모 AI 모델을 학습시키는 데 필요한 계산량은 지수함수적으로 증가하며, 약 3~4개월마다 두 배씩 늘고 있으며, 이 속도는 무어의 법칙을 훨씬 상회한다. AI 응용 프로그램의 수요 증가는 컴퓨팅 하드웨어에 대한 수요를 가속화하고 있으며, 2025년까지 AI 응용이 컴퓨팅 하드웨어에 요구하는 수요는 약 10%~15% 증가할 것으로 예상된다.

AI 컴퓨팅 수요의 영향으로 GPU 하드웨어 업체인 엔비디아(NVIDIA)의 데이터센터 부문 매출은 꾸준히 증가했으며, 2023년 2분기 데이터센터 매출은 103억 2천만 달러에 달해, 직전 분기 대비 141%, 전년 동기 대비 171% 증가했다. 2024 회계연도 4분기 기준 데이터센터 사업은 전체 매출의 83% 이상을 차지하며 전년 대비 409% 성장했으며, 이 중 40%는 대규모 모델 추론(inference)에 사용되어 고성능 컴퓨팅 파워에 대한 강력한 수요를 보여주고 있다.

또한 거대한 데이터 처리는 저장 및 하드웨어 메모리에도 높은 요구를 제기하는데, 특히 모델 학습 단계에서는 많은 양의 파라미터 입력과 데이터 저장이 필요하다. AI 서버에 적용되는 주요 저장 칩에는 고대역폭 메모리(HBM), DRAM, SSD 등이 있으며, AI 서버의 작업 환경 특성상 더 큰 용량, 더 높은 성능, 더 낮은 지연 시간 및 빠른 반응 속도를 제공해야 한다. 마이크론(Micron)의 측정에 따르면 AI 서버에서 사용하는 DRAM의 양은 일반 서버의 8배, NAND는 3배에 달한다.

수요와 공급 불균형이 높은 컴퓨팅 비용을 초래

일반적으로 컴퓨팅 파워는 AI 모델의 학습, 파인튜닝(fine-tuning), 추론(inference) 단계에 활용되며, 특히 학습 및 파인튜닝 단계에서는 더 많은 데이터와 파라미터 입력, 더 큰 연산량이 필요하고 병렬 컴퓨팅 간 연결성 요구도 높아지므로 고성능 GPU 클러스터를 필요로 한다. 대규모 모델의 발전에 따라 계산 복잡성이 급격히 증가하면서 모델 학습을 위한 고급 하드웨어 수요 또한 급증하고 있다.

예를 들어 GPT-3의 경우, 1,300만 명의 독립 사용자가 접근한다고 가정하면, 약 3만 개 이상의 A100 GPU가 필요하며, 초기 투자 비용은 무려 8억 달러에 달하고, 일일 모델 추론 비용은 약 70만 달러로 추정된다.

또한 업계 보도에 따르면 2023년 4분기 전 세계적으로 NVIDIA GPU의 공급량이 엄격하게 제한되었으며, 전 세계적으로 공급 부족 현상이 뚜렷했다. 엔비디아의 생산 능력은 TSMC, HBM, CoWoS 패키징 등의 한계로 제약받고 있으며, H100 제품의 ‘심각한 품귀 현상’은 최소 2024년 말까지 지속될 전망이다.

따라서 고성능 GPU의 수요 증가와 공급 제약이 맞물리면서 현재 GPU 등 하드웨어의 가격이 매우 높은 수준을 유지하고 있다. 특히 엔비디아처럼 산업 체인 하단의 핵심 위치를 점유한 기업은 선두 독점적 지위를 바탕으로 추가적인 가치 수익까지 창출할 수 있다. 예컨대 엔비디아의 H100 AI 가속 카드 물류 원가가 약 3,000달러임에도 불구하고 2023년 중순 시점의 판매가는 이미 약 3만 5천 달러에 달했으며, eBay에서는 4만 달러를 넘어서기도 했다.

AI 인프라가 산업 체인 내 핵심 가치 성장을 점유

Grand View Research의 보고서에 따르면, 글로벌 클라우드 기반 AI 시장 규모는 2023년 기준 약 626억 3천만 달러이며, 2030년까지 6,476억 달러에 달할 것으로 예측되며, 연평균 복합성장률(CAGR)은 39.6%에 이를 전망이다. 이는 클라우드 기반 AI 서비스의 성장 잠재력과 AI 산업 생태계 내에서 중요한 비중을 나타낸다.

a16z의 추산에 따르면, AIGC 시장에서 발생하는 대부분의 자금은 결국 인프라 기업으로 흘러들어간다. 일반적으로 애플리케이션 기업들은 각 고객별 추론 및 파인튜닝에 대해 수입의 약 20~40%를 지출한다. 이러한 비용은 대개 컴퓨팅 인스턴스를 제공하는 클라우드 업체 또는 제3자 모델 제공업체에 직접 지불되며, 다시 제3자 모델 제공업체는 수입의 약 절반을 클라우드 인프라에 사용한다. 따라서 현재 AIGC 전체 수입의 10~20%가 클라우드 제공업체로 유입된다고 추정할 수 있다.

동시에 더욱 큰 부분의 컴퓨팅 수요는 대규모 AI 모델 학습에 집중되는데, 다양한 LLM 대모델들이 해당되며, 특히 모델 스타트업의 경우 AI 컴퓨팅 사용에 전체 비용의 80~90%를 할당한다. 종합적으로 AI 컴퓨팅 인프라(클라우드 컴퓨팅 및 하드웨어 포함)는 초기 시장 가치의 50% 이상을 차지할 것으로 예상된다.

탈중앙화된 AI 컴퓨팅

앞서 언급했듯이 현재 중심화된 AI 컴퓨팅의 비용이 매우 높은데, 그 주요 원인은 AI 학습이 고성능 인프라에 대한 수요 증가 때문이다. 그러나 실제로 시장에는 여전히 상당한 유휴 컴퓨팅 자원이 존재하며, 이는 수요와 공급의 일부 불일치를 초래한다. 그 이유는 다음과 같다:

메모리의 제약으로 인해 모델 복잡도와 필요한 GPU 수량은 선형 관계가 아니다: 현재 GPU는 연산 성능 우위를 가지지만, 모델 학습에는 많은 양의 파라미터를 메모리에 저장해야 한다. 예를 들어 GPT-3의 경우 1,750억 개의 파라미터를 학습하기 위해 1TB 이상의 데이터를 메모리에 보관해야 하는데, 이는 현재 존재하는 어떤 GPU 사양보다 크다. 따라서 여러 GPU를 병렬로 사용하여 계산과 저장을 수행해야 하지만, 이는 곧 GPU 연산 자원의 유휴를 초래한다. 예컨대 GPT-3에서 GPT-4로 넘어가며 모델 파라미터 규모는 약 10배 증가했으나, 필요한 GPU 수량은 24배 증가했으며(학습 시간 증가는 미고려) 관련 분석에 따르면 OpenAI는 GPT-4 학습에 약 2.15e25 FLOPS를 사용했으며, 약 25,000개의 A100 GPU를 90~100일간 운용했으며, 컴퓨팅 이용 효율은 약 32~36%에 그쳤다.

이러한 문제에 직면하여, AI 작업에 적합한 고성능 칩 또는 전용 ASIC 칩 설계는 현재 다수의 개발자 및 대기업이 탐구하는 방향이다. 또 다른 접근은 기존 컴퓨팅 자원을 통합 활용하여 분산형 컴퓨팅 네트워크를 구축하고, 컴퓨팅 자원의 임대, 공유, 스케줄링 등을 통해 컴퓨팅 비용을 낮추는 것이다. 또한 현재 시장에는 유휴 상태의 소비자용 GPU 및 CPU가 많으며, 개별 성능은 낮지만 특정 상황이나 고성능 칩과 함께 구성할 경우 기존 컴퓨팅 수요를 충족시킬 수 있고, 무엇보다 공급이 풍부하여 분산형 네트워크 스케줄링을 통해 비용을 추가로 절감할 수 있다.

따라서 분산형 컴퓨팅은 AI 인프라 발전의 하나의 방향이 되었으며, Web3 역시 분산이라는 개념과 유사하여, 탈중앙화된 컴퓨팅 네트워크는 현재 Web3+AI 인프라의 주요 응용 방향이 되고 있다. 현재 시장의 Web3 기반 탈중앙화 컴퓨팅 플랫폼은 중심화된 클라우드 컴퓨팅 대비 80~90% 저렴한 가격을 제공하는 것이 일반적이다.

저장 인프라도 AI의 가장 중요한 요소 중 하나이지만, 대규모, 사용 편의성, 낮은 지연 시간 등에 대한 요구로 인해 현재로서는 중심화된 저장 솔루션이 더 큰 장점을 갖는다. 반면 분산형 컴퓨팅 네트워크는 명확한 비용 경쟁력을 바탕으로 실질적인 시장 수요를 형성하며, AI 시장 폭발 성장의 혜택을 더 크게 누릴 수 있다.

모델 추론 및 소규모 모델 학습이 현재 분산형 컴퓨팅의 핵심 응용 분야다. 분산형 컴퓨팅은 자원이 분산되어 있기 때문에 불가피하게 GPU 간 통신 문제가 발생하며, 이는 전반적인 컴퓨팅 성능을 저하시킨다. 따라서 분산형 컴퓨팅은 통신 요구가 적고 병렬 처리가 가능한 작업에 더 적합하다. 예를 들어 AI 대모델의 추론 단계나 파라미터 수가 적은 소규모 모델 학습 등은 성능 저하 영향이 작다. 사실 향후 AI 응용의 발전에 따라, 추론이 응용 레이어의 핵심 수요가 될 것이며, 대부분의 기업은 자체적으로 대규모 모델 학습을 수행할 역량이 없기 때문에 분산형 컴퓨팅은 여전히 장기적인 시장 잠재력을 지닌다.
대규모 병렬 컴퓨팅을 위한 고성능 분산 학습 프레임워크도 계속 등장하고 있다. 예를 들어 PyTorch, Ray, DeepSpeed 등 혁신적인 오픈소스 분산 컴퓨팅 프레임워크는 개발자가 분산형 컴퓨팅 자원을 활용한 모델 학습에 강력한 기반을 제공하며, 분산형 컴퓨팅의 미래 AI 시장 적용성을 더욱 강화할 것이다.

AI+Web3 인프라 프로젝트의 스토리텔링 로직

우리는 분산형 AI 인프라에 대한 수요가 강하고 장기적인 성장 가능성이 있음을 확인했으며, 이는 스토리텔링이 쉬우며 자본시장에서도 선호되는 분야다. 현재 AI+Web3 산업의 인프라 레이어 주요 프로젝트들은 기본적으로 탈중앙화 컴퓨팅 네트워크를 주요 스토리로 삼고, 낮은 비용을 핵심 경쟁력으로 내세우며, 토큰 인센티브를 통해 네트워크를 확장하고, AI+Web3 고객을 주요 서비스 대상으로 삼는다. 주로 다음 두 가지 유형으로 나뉜다:

1.비교적 순수한 형태의 탈중앙화 클라우드 컴퓨팅 자원 공유 및 임대 플랫폼: Render Network, Akash Network 등 초기 AI 관련 프로젝트들이 여기에 해당한다.

컴퓨팅 자원이 주요 경쟁 우위: 핵심 경쟁력과 자원은 대량의 컴퓨팅 공급업체와 접촉할 수 있어 신속하게 기초 네트워크를 구축하고, 사용자에게 편리한 제품을 제공하는 것이다. 초기 시장에서는 클라우드 컴퓨팅 업체 및 마이너들이 이 분야에 진입하기 쉽다.
제품 진입 장벽이 낮고 출시 속도가 빠름: Render Network나 Akash Network 같은 성숙한 제품들은 이미 실제 성장 데이터를 확인할 수 있으며, 일정한 선도적 우위를 가지고 있다.
신규 진입자의 제품 동질화: 현재 이 분야는 핫한 트렌드이며 제품 진입 장벽이 낮기 때문에 최근에는 컴퓨팅 자원 공유, 임대 등을 주제로 한 프로젝트가 다수 진입했으나, 제품의 동질화가 심하며, 더 많은 차별화된 경쟁 우위가 필요하다.
간단한 컴퓨팅 수요를 가진 고객 중심 서비스: 예를 들어 Render Network는 주로 렌더링 수요를, Akash Network는 CPU 기반 자원 제공에 집중한다. 단순한 컴퓨팅 자원 임대는 대체로 간단한 AI 작업 수요를 충족하지만, 복잡한 AI 학습, 파인튜닝, 추론 등 전체 수명주기 수요를 만족시키기는 어렵다.

2.탈중앙화 컴퓨팅 + 머신러닝(ML) 워크플로우 서비스 제공: 최근 고액 투자를 유치한 새로운 프로젝트들로, Gensyn, io.net, Ritual 등이 있다.

탈중앙화 컴퓨팅이 밸류에이션 기반을 높임: 컴퓨팅 파워는 AI 발전의 확실한 스토리이기 때문에 컴퓨팅 기반을 갖춘 프로젝트는 일반적으로 안정적이며 성장 가능성이 높은 비즈니스 모델을 가지며, 순수 중간 레이어 프로젝트 대비 더 높은 밸류에이션을 받는다.
중간 레이어 서비스가 차별화된 경쟁 우위 창출: 이 컴퓨팅 인프라의 경쟁력 있는 부분은 중간 레이어 서비스다. 예를 들어 AI의 온체인/오프체인 컴퓨팅 동기화를 지원하는 오라클 및 검증자, AI 전체 워크플로우의 배포 및 관리 도구 등이 있다. AI 워크플로우는 협업성, 지속 피드백, 높은 복잡성 등의 특성을 가지며, 여러 단계에서 컴퓨팅 파워가 필요하므로, 사용 편의성과 협업성이 뛰어나고 AI 개발자의 복잡한 요구를 충족시킬 수 있는 중간 레이어 인프라는 현재 경쟁력이 있다. 특히 Web3 분야에서는 Web3 개발자들의 AI 수요를 만족시켜야 하므로, 이러한 서비스는 단순한 컴퓨팅 수요 지원을 넘어서 잠재적인 AI 응용 시장으로 연결되기 쉽다.
보통 ML 분야의 전문 운영 경험을 갖춘 팀이 필요: 위와 같은 중간 레이어 서비스를 제공하려면 프로젝트 팀이 ML 전체 워크플로우에 대한 깊은 이해를 가져야 하며, 개발자의 전 생애주기 수요를 더 잘 충족시킬 수 있다. 비록 이러한 서비스는 많은 기존 오픈소스 프레임워크와 도구를 활용하여 반드시 강력한 기술 혁신을 요구하지는 않지만, 풍부한 경험과 강력한 엔지니어링 능력을 갖춘 팀이 필요하며, 이 또한 프로젝트의 경쟁 우위다.

중심화된 클라우드 컴퓨팅 서비스보다 저렴한 가격을 제공하면서도 서비스 편의성과 사용자 경험은 유사한 수준을 유지함으로써, 이러한 프로젝트들은 다수의 주요 자본으로부터 인정을 받았지만, 동시에 기술적 복잡도도 높아 현재 대부분 스토리텔링 및 개발 단계에 있으며, 완전히 출시된 제품은 아직 없다.

대표 프로젝트

Render Network

Render Network는 블록체인 기반의 글로벌 렌더링 플랫폼으로, 분산형 GPU를 제공하여 창작자들에게 더 낮은 비용과 더 빠른 3D 렌더링 서비스를 제공한다. 창작자가 렌더링 결과를 확인한 후 블록체인 네트워크가 노드에 토큰 보상을 지급한다. 플랫폼은 분산형 GPU의 스케줄링 및 할당 네트워크를 제공하며, 노드의 사용량, 평판 등을 기반으로 작업을 분배하여 컴퓨팅 효율을 극대화하고 자원 유휴를 줄이며 비용을 절감한다.

Render Network의 토큰 RNDR는 플랫폼 내 결제용 토큰으로, 창작자는 RNDR로 렌더링 서비스를 결제하고, 서비스 제공자는 컴퓨팅 자원을 제공하여 렌더링 작업을 완료한 후 RNDR 보상을 받는다. 렌더링 서비스 가격은 현재 네트워크 내 사용량 등에 따라 동적으로 조절된다.

렌더링은 분산형 컴퓨팅 아키텍처를 적용하기에 비교적 적합하고 성숙한 분야다. 렌더링 작업을 여러 개의 하위 작업으로 분할하여 고도로 병렬 처리할 수 있으며, 작업 간 통신 및 상호작용이 거의 필요 없어 분산형 컴퓨팅의 단점을 최대한 회피하면서 광범위한 GPU 노드 네트워크를 효과적으로 활용하여 비용을 절감할 수 있기 때문이다.

따라서 Render Network의 사용 수요도 상당히 높은 편이며, 2017년 설립 이후 네트워크상에서 1,600만 프레임 이상의 렌더링과 약 50만 개의 장면을 처리했으며, 렌더링 프레임 수와 활성 노드 수 모두 증가 추세를 보이고 있다. 또한 Render Network는 2023년 1분기에 Stability AI 툴셋과의 원생 통합을 출시하여, 사용자가 Stable Diffusion 작업을 도입할 수 있게 되었으며, 사업 범위가 단순한 렌더링 작업을 넘어 AI 분야로 확장되고 있다.

Gensyn.ai

Gensyn은 딥러닝 컴퓨팅을 위한 글로벌 슈퍼컴퓨팅 클러스터 네트워크로, 폴카닷(Polkadot) 기반의 L1 프로토콜이며, 2023년 a16z가 리드한 4,300만 달러 규모의 시리즈 A 펀딩을 유치했다.

Gensyn의 스토리텔링 구조는 인프라 레벨의 분산형 컴퓨팅 클러스터뿐 아니라, 체인 외부에서 실행된 대규모 컴퓨팅이 체인의 요구에 따라 정확히 수행되었는지를 검증하는 상위 레벨 검증 시스템도 포함한다. 즉 블록체인을 통해 검증함으로써 신뢰 없는 머신러닝 네트워크를 구축하는 것이다.

분산형 컴퓨팅 면에서 Gensyn은 여분의 용량을 가진 데이터센터에서 잠재적 GPU를 탑재한 개인 노트북까지 다양한 장치를 연결하여 단일 가상 클러스터를 형성하며, 개발자는 필요 시점에 접속하여 P2P 방식으로 자원을 사용할 수 있다. Gensyn은 모든 참여자가 접근 가능한 시장 가격이 동적으로 결정되는 시장을 창출함으로써 ML 컴퓨팅의 단가를 공정한 균형 수준으로 만들 수 있다.

검증 시스템은 Gensyn의 더욱 중요한 개념으로, 네트워크가 머신러닝 작업이 요청대로 올바르게 완료되었는지 검증할 수 있도록 하는 것이다. 이는 전통적인 블록체인의 중복 검증 방식보다 훨씬 효율적인 방법으로, 확률적 학습 증명(Probabilistic Proof of Learning), 그래프 기반 정밀 위치 프로토콜(Graph-based Precise Localization Protocol), Truebit 스타일 인센티브 게임(Truebit-style Incentive Game)이라는 세 가지 핵심 기술을 포함한다. 네트워크 참여자로는 제출자(Submitters), 해결자(Solvers), 검증자(Verifiers), 제보자(Bounty Hunters)가 존재하며, 이들이 공동으로 검증 프로세스를 완료한다.

Gensyn 백서에 제시된 종합 테스트 데이터에 따르면 현재의 주요 강점은 다음과 같다:

AI 모델 학습 비용 감소 가능: Gensyn 프로토콜 상에서 NVIDIA V100과 동등한 컴퓨팅의 시간당 비용은 약 0.40달러로, AWS 온디맨드 요금 대비 80% 저렴하다.
보다 효율적인 신뢰 없는 검증 네트워크: 백서의 테스트에 따르면 Gensyn 프로토콜의 모델 학습 시간 오버헤드는 Truebit의 복제 방식 대비 1,350% 성능 향상, 이더리움 대비 2,522,477% 성능 향상을 기록했다.

그러나 동시에 분산형 컴퓨팅은 로컬 학습 대비 통신 및 네트워크 문제로 인해 불가피하게 학습 시간이 증가하며, 테스트 데이터상 Gensyn 프로토콜은 모델 학습에 약 46%의 시간 오버헤드를 추가한다.

Akash network

Akash Network는 분산형 클라우드 컴퓨팅 플랫폼으로, 다양한 기술 컴포넌트를 결합하여 사용자가 탈중앙화된 클라우드 환경에서 애플리케이션을 효율적이고 유연하게 배포하고 관리할 수 있도록 한다. 간단히 말해, 분산형 컴퓨팅 자원의 임대 서비스를 제공한다.

Akash의 하단에는 전 세계에 분포한 다수의 인프라 서비스 제공업체가 CPU, GPU, 메모리, 저장 자원을 제공하며, 상위 Kubernetes 클러스터를 통해 사용자에게 자원을 임대한다. 사용자는 애플리케이션을 Docker 컨테이너 형태로 배포하여 더 낮은 비용의 인프라 서비스를 이용할 수 있다. 동시에 Akash는 '역경매(reverse auction)' 방식을 채택하여 자원 가격을 추가로 낮춘다. Akash 공식 홈페이지 추산에 따르면, 플랫폼 서비스 비용은 중심화된 서버 대비 약 80% 이상 절감된다.

io.net

io.net은 전 세계에 분산된 GPU를 연결하는 탈중앙화 컴퓨팅 네트워크로, AI 모델 학습 및 추론 등에 컴퓨팅 파워를 제공한다. io.net은 최근 3,000만 달러 규모의 시리즈 A 펀딩을 완료했으며, 기업 가치는 10억 달러에 달한다.

Render, Akash 등에 비해 io.net은 더욱 견고하고 확장성이 뛰어난 탈중앙화 컴퓨팅 네트워크이며, 다층의 개발자 도구를 접목하고 있다. 주요 특징은 다음과 같다:

더 많은 컴퓨팅 자원 통합: 독립형 데이터센터, 암호화폐 마이너, Filecoin, Render 등 암호화 프로젝트의 GPU를 포괄한다.
핵심적으로 AI 수요 지원: 핵심 기능으로는 배치 추론 및 모델 서비스, 병렬 학습, 병렬 하이퍼파라미터 튜닝, 강화 학습 등이 있다.
보다 완전한 기술 스택으로 효율적인 클라우드 환경 워크플로우 지원: 다양한 오케스트레이션 도구, ML 프레임워크(컴퓨팅 자원 할당, 알고리즘 실행, 모델 학습 및 추론 등), 데이터 저장 솔루션, GPU 모니터링 및 관리 도구 등을 포함한다.
병렬 컴퓨팅 능력: 오픈소스 분산 컴퓨팅 프레임워크인 Ray를 통합하여 Ray의 본연의 병렬성을 활용하며, Python 함수를 쉽게 병렬화하여 동적 작업 실행이 가능하다. 메모리 저장소를 통해 작업 간 빠른 데이터 공유가 가능하며 직렬화 지연을 제거한다. 또한 io.net은 Python에 국한되지 않고 PyTorch, TensorFlow 등 기타 주요 ML 프레임워크와도 통합되어 확장성이 뛰어나다.