대화 io.net COO: AWS 클라우드 서비스와 경쟁하여 더 편리한 탈중앙화 GPU 제공을 희망 (에어드랍 인터랙션 튜토리얼 포함)

2024.03.06

대화 io.net COO: AWS 클라우드 서비스와 경쟁하여 더 편리한 탈중앙화 GPU 제공을 희망 (에어드랍 인터랙션 튜토리얼 포함)

우리는 Web3의 정신을 구현하고 AWS와 GCP를 물리치기를 원한다.

2024.03.06 - 03:53:04

io.net

Web3 심층 보도에 집중하고 흐름을 통찰

우리는 Web3의 정신을 구현하고 AWS와 GCP를 물리치기를 원한다.

글: AYLO

번역: TechFlow

BC8.AI로 생성함. io.net이 지원하는 플랫폼.

오늘은 제가 매우 주목하고 있는 또 다른 프로젝트에 대한 인터뷰를 소개합니다.

이 프로젝트는 현재 핫한 세로 시장들인 AI + DePin + Solana를 아우릅니다.

io.net Cloud는 첨단의 탈중앙화 컴퓨팅 네트워크로, 머신러닝 엔지니어가 중앙집중형 서비스보다 훨씬 낮은 비용으로 분산 클라우드 클러스터에 접근할 수 있게 해줍니다.

저는 더 많은 정보를 얻기 위해 최고운영책임자(COO) 토리 그린(Tory Green)과 대화를 나누었습니다.

IO 토큰은 곧 솔라나(Solana)에서 출시될 예정이며, 이 글을 반드시 읽어보실 것을 강력히 추천합니다. 또한 에어드롭 참여 방법도 아래에서 안내하겠습니다(글 맨 아래 참조).

저는 io.net의 개인 투자자로서 그들의 플랫폼을 확신합니다. 왜냐하면 그들의 GPU 클러스터 솔루션은 정말 독보적이기 때문입니다.

io.net 개요

GPU 기반 ML(머신러닝) 트레이닝을 위한 탈중앙화 AWS
현재 실시간, 무허가로 전 세계 GPU 및 CPU 네트워크에 접속 가능
노드 25,000개 보유
GPU 클라우드를 클러스터링하는 혁신적인 기술
대규모 AI 스타트업에게 계산 비용 최대 90% 절감 가능
Render 및 Filecoin과 통합
솔라나 기반

최근 3,000만 달러 규모의 펀딩을 발표하며 업계 주요 지지자들을 끌어모았습니다.

왜 사람들이 io.net에 주목해야 할까요?

우리는 다른 암호화 프로젝트뿐 아니라 클라우드 컴퓨팅 시장과도 경쟁하고 있습니다. 고객에게 제공하는 주요 장점 중 하나는 가격이 현저히 저렴하다는 점입니다. 최대 90%까지도 저렴할 수 있죠. 우리가 진정으로 제공하는 것은 소비자의 선택권이며, 이것이 가장 흥미로운 부분입니다. 맞아요, 우리의 플랫폼에서는 GPU를 90% 저렴하게 이용할 수 있으며, 꼭 한 번 체험해보시길 강력히 권합니다. 값싼 완전 탈중앙화된 소비자용 GPU를 큰 할인율로 이용할 수 있습니다. 하지만 고성능이 필요하다면 A100 같은 최상위 하드웨어를 사용해 AWS와 유사한 경험을 재현할 수도 있고, 그 경우에도 AWS보다 30% 정도 저렴하게 이용할 수 있습니다. 일부 경우에는 AWS보다 성능마저 뛰어나 특정 산업군, 예를 들어 헤지펀드 같은 곳에선 결정적일 수 있습니다.

주요 고객 중 한 곳에는 AWS보다 70%, 다른 곳보다는 40% 저렴한 서비스를 제공했습니다. 우리 플랫폼은 사용하기 쉽고 무허가 방식인데 반해, AWS는 영업 계획 등 자세한 정보를 요구할 수 있어 누구나 즉시 가입하고 클러스터를 시작하기란 어렵습니다. 누구나 가입해 즉시 클러스터를 실행할 수 있지만, AWS는 며칠에서 몇 주가 걸릴 수 있죠.

탈중앙화 경쟁사들과 비교하자면, Akash 같은 플랫폼에서 클러스터를 구하려 하면 즉시 이루어지지 않습니다. 마치 여행사처럼 데이터센터에 전화해서 사용 가능한 GPU를 찾는 식이라며, 몇 주가 걸릴 수 있습니다. 하지만 저희는 실시간이고, 더 저렴하며, 무허가입니다. 우리는 Web3의 정신을 구현하면서 동시에 AWS와 GCP를 제압하고자 합니다.

2024년 로드맵은 어떻게 되나요?

사업 로드맵과 기술 로드맵으로 나뉩니다. 사업 측면에서 보면 TGE(토큰 생성 이벤트)가 곧 다가옵니다. 올해 피크 행사(summit)를 개최할 예정이며, 그때 제품 관련 다양한 내용을 발표할 것입니다. TGE의 열기가 크지만, 우리는 자신을 진정한 기업으로 간주하며, AWS의 합법적인 경쟁자라고 생각합니다.

판매팀을 계속 크게 육성할 계획입니다. 체인링크(Chainlink)와 폴리곤(Polygon)을 본받아 아마존과 구글에서 고위급 영업 임원을 영입해 세계적 수준의 판매 조직을 만들고자 합니다. 이를 통해 AI 고객을 유치하고 Hugging Face, Prettybase 같은 기관과 협력 관계를 구축할 수 있을 것입니다.

초기 고객층은 거대한 AI 컴퓨팅 비용에 직면한 대형 AI 스타트업들입니다. 저는 실리콘밸리의 한 기술기업 CFO 팀 일원인데, 그곳에서 가장 큰 문제 중 하나가 바로 높은 AI 컴퓨팅 비용입니다. A라운드 SaaS 스타트업 중 한 곳은 매달 AI 컴퓨팅에 70만 달러를 쓰고 있는데, 이는 지속 불가능한 수준입니다. 우리는 이러한 기업들의 비용을 크게 줄이는 것을 목표로 하고 있습니다.

처음 고객들 사이에서 개념 증명이 성공하면 인접 시장도 타겟팅할 계획입니다. 당사 네트워크에는 SOC 표준을 충족하는 GPU 두 대가 있으며, 대형 테크 기업이나 JP모건, P&G 같은 기업의 내부 AI 부서를 겨냥할 수 있습니다. 우리의 기술은 최대 50만 개의 GPU 클러스터를 지원할 수 있어, 물리적으로 그렇게 많은 GPU를 한 장소에 배치할 수 없는 AWS나 GCP를 용량 면에서 능가할 가능성도 있습니다. 이는 OpenAI 같은 주요 AI 프로젝트들이 차세대 GPT 버전을 위해 관심을 가질 만합니다. 그러나 시장을 형성하려면 수요와 공급을 균형 있게 유지해야 합니다. 현재 네트워크에는 2.5만 개의 GPU가 있지만, 대기 명단엔 20만 개가 있습니다. 시간이 지남에 따라 수요 증가에 맞춰 네트워크를 확장하는 것이 우리의 목표입니다. 이것이 바로 사업 로드맵입니다.

기술적으로 보면 할 일이 많습니다. 현재 Ray를 지원하며 Kubernetes도 지원하고 있으며, 활발히 개발 중입니다. 하지만 앞서 언급했듯이 제품 확장을 고려하고 있습니다. AI 작동 방식을 생각해보면, ChatGPT를 사용할 때 애플리케이션이고, ChatGPT는 모델 위에 구축되며, 그 모델은 GPT-3이며, GPT-3은 모든 추론(inference)을 GPU에서 실행합니다. 결국 GPU에서 시작해 전체 스택을 구축할 수 있습니다.

또한 Filecoin과 협력 중인데, 많은 파트너 데이터센터가 이미 대량의 CPU와 저장 공간을 보유하고 있으므로, 모델 저장도 시작할 수 있습니다. 이를 통해 컴퓨팅, 모델 저장, 앱 구축용 SDK까지 제공하여 거의 탈중앙화된 앱스토어와 같은 완전한 탈중앙화 AI 생태계를 조성할 수 있습니다.

토큰은 네트워크에서 어떤 역할을 하나요?

큰 틀에서 보면 이것은 네트워크 상의 컴퓨팅 비용을 지불하는 데 쓰이는 유틸리티 토큰입니다. 이것이 가장 간단한 설명입니다. 또한 bc8.ai 웹사이트도 확인해보시길 바랍니다.

이것은 우리가 구축한 개념 검증용 프로토타입으로, stable diffusion의 복제본이며, 현재 존재하는 유일한 완전히 블록체인 상의 AI dApp이라고 믿습니다. 사용자는 솔라나를 통해 마이크로 트랜잭션을 수행하며, 암호화 결제로 이미지를 생성할 수 있습니다. 각 거래는 이미지 생성에 기여한 네 가지 주요 이해관계자에게 보상을 제공합니다: 앱 개발자, 모델 개발자, 우리 회사, 그리고 사용된 GPU 제공자 모두 보상을 받습니다. 현재는 무료로 이용하도록 하고 있는데, 이유는 우리가 앱 소유자이자 모델 소유자이기 때문입니다. 하지만 이는 실제 비즈니스라기보다는 개념 검증용입니다.

우리는 네트워크를 확장해 다른 사람들도 모델을 호스팅하고 완전히 탈중앙화된 AI 애플리케이션을 구축할 수 있도록 할 계획입니다. IO 토큰은 우리의 모델뿐만 아니라 앞으로 만들어질 모든 모델을 지원할 것입니다. 토큰 이코노믹스는 아직 최종화 중이며, 약 4월경에 발표될 예정입니다.

왜 솔라나를 선택했나요?

원본 동영상 링크

두 가지 이유가 있다고 생각합니다. 첫째, 우리는 이 커뮤니티를 정말 좋아하며, 둘째 솔직히 말해, 우리를 지원할 수 있는 유일한 블록체인이기 때문입니다. 비용 분석을 살펴보면, 누군가 추론(inference)을 수행할 때마다 약 다섯 건의 거래가 발생합니다. 추론 후 모든 이해관계자에게 보상을 지급하니까요. 그래서 비용 분석을 할 때 6만, 7만, 10만 건 이상의 거래가 발생하는데, 이러한 모든 거래가 1/100센트 또는 1/10센트 수준이어야 합니다. 우리의 거래량을 감안하면 솔라나는 사실상 유일한 선택지였습니다. 게다가 그들은 파트너로서 많은 도움을 주었으며, 커뮤니티도 매우 강력합니다. 거의 당연한 선택이었던 셈입니다.

시장 규모는 얼마나 될 것으로 보시나요?

예측하기 어려운 수준이라고 생각합니다. 우리가 일조 달러라는 숫자를 제시하기는 하지만, 그것조차도 전체 범위를 완전히 이해하기엔 어렵습니다. 예를 들어, Gartner 같은 기관의 예측에 따르면 2030년까지 모델 트레이닝이 GDP의 1%를 차지할 수 있으며, 이는 약 3천억 달러에 해당합니다. 이런 통계는 비교적 쉽게 찾을 수 있습니다. 그러나 Nvidia CEO가 말한 것처럼, AI 시장의 10%만이 트레이닝에 사용된다고 한다면 시각이 달라집니다. 만약 추론과 트레이닝이 합쳐서 3천억 달러 시장을 형성한다면, 단지 컴퓨팅 서비스만으로도 AI GPU 시장 전체는 3조 달러 규모일 수 있습니다. 게다가 캐시 우드(Kathy Wood)는 전체 AI 시장이 80조 달러에 이를 수 있다고 예측합니다. 이는 시장의 잠재적 규모가 우리의 이해를 초월한다는 것을 보여줍니다.

io.net 발전의 가장 큰 장애물은 무엇이라고 보시나요?

시장을 구축하는 것은 어렵습니다. 암호화 분야에서는 좀 더 쉬울 수 있지만 여전히 도전 과제가 있습니다. 예를 들어 대부분의 고객들은 A100을 요구합니다. 이는 최상위 기업용 GPU로, 하나당 약 3만 달러의 비용이 들며 공급이 부족합니다. 지금은 매우 구하기 어렵습니다. 우리 영업팀은 이러한 GPU를 찾기 위해 노력하고 있으며, 이는 공급이 부족하고 비용이 높기 때문에 큰 도전입니다.

그러나 우리는 3090도 많이 가지고 있는데, 이는 더 소비자 중심 제품이며 수요가 그리 높지 않습니다. 따라서 우리는 전략을 조정하고 이러한 종류의 GPU를 원하는 고객을 찾아야 합니다. 그러나 어떤 시장에서도 이런 상황은 발견되며, 우리는 적절한 인력을 고용하고 효과적인 마케팅 전략을 시행함으로써 이를 해결하고 있습니다.

전략적 관점에서 보면, 제가 언급했듯이 우리가 걱정되는 점은 서로 다른 지리적 위치에서 탈중앙화 클러스터를 구성할 수 있는 유일한 플랫폼이라는 점입니다. 지금 이것이 우리의 경쟁 우위이자 방어벽(moat)입니다. 단기적으로는 상당한 경쟁 우위를 갖고 있으며, 중기적으로도 이어질 것이라 생각합니다. Render 같은 협력자 입장에서도, 우리의 네트워크를 활용해 95%의 가치를 유지할 수 있다면 굳이 우리의 모델을 복제할 이유가 없습니다.

이런 기능을 개발하는 데 팀이 약 2년이 걸렸습니다. 그래서 결코 쉬운 일이 아닙니다. 물론 미래에 누군가가 이 방법을 알아낼 가능성은 언제나 있습니다. 그때까지 우리는 충분한 방어벽을 구축할 수 있기를 바랍니다. 우리는 이미 2만 5천 개의 GPU를 가진 최대 규모의 탈중앙화 GPU 네트워크이며, Akash는 300개, Render는 수천 개에 불과합니다.

우리의 목표는 10만 개의 GPU와 500개 고객을 확보해 페이스북과 같은 네트워크 효과를 창출하는 것입니다. 문제는 "다른 데는 어디 있느냐"는 것이 됩니다. 우리는 Uber가 카풀 서비스를, Airbnb가 숙박 서비스를 지배한 것처럼, GPU 컴퓨팅이 필요한 사람들의 우선 선택 플랫폼이 되는 것이 목표입니다. 핵심은 신속하게 행동해 시장에서의 입지를 확보하고, 탈중앙화 GPU 컴퓨팅의 대명사가 되는 것입니다.