이번 여름, AI 업계에서 가장 극단적인 베팅이 곧 카드가 공개된다.
저자: David, TechFlow
지난 몇 주 동안 계좌 속의 칩 주식을 지켜봤다면 아마 이런 의문을 품었을 것입니다: AI 붐이 이미 정점에 도달한 것은 아닐까.
보름 반 동안 반도체 섹터의 시가총액 1 조 달러 이상이 증발했고, 메모리 주식은 집단적으로 약세장에 진입했으며, 삼성이 기록적인 이익을 발표했음에도 불구하고 주가는 당일 오르지 않고 오히려 떨어졌습니다...
비관론자들은 2000 년 인터넷 버블의 차트를 꺼내 과거의 사례에 현재를 대입하려 하고, 낙관론자들은 이는 너무 급격히 오른 후의 조정일 뿐이라고 말합니다. 논쟁이 오가지만 모든 사람은 여전히 같은 회사들, 즉 엔비디아, 인텔, 마이크론과 같은 칩 판매 거물들만 주시하고 있습니다.
이 논쟁은 아마도 산업 트렌드의 큰 변화 중 작은 단면에 불과할 뿐, 더 큰 그림은 거의 테이블 위에 올려져 논의되지 않았습니다. 칩 자체가 변하고 있다는 생각을 해본 적 있습니까?
지난 몇 년 동안 AI 에 사용되는 칩은 모두 범용이었습니다. 엔비디아의 GPU 는 무엇이든 계산할 수 있으며, 그래픽, 훈련, 추론 모두 가능합니다. 하지만 모든 것을 할 수 있는 대가는 모든 것이 극한에 도달하지 못한다는 것입니다.
그러나 현재 거의 모든 대형 기술 회사들은 몰래 새로운 것을 만들고 있습니다: 단 한 가지 일만 하지만 그 일을 극한까지 수행하는 전용 칩.
OpenAI 도 만들고 있으며, 구글의 TPU, 아마존의 Trainium 모두 해당됩니다. 브로드컴은 올해 구글을 위해 이러한 칩을 제작해 주가가 크게 상승했습니다. 이는 아마도 대부분의 사람들이 아직 주목하지 않은 숨은 흐름일 것입니다.
범용 칩의 시대가 전용 칩에 의해 흔들리고 있습니다.
이 숨은 흐름 속에서 이름조차 들어본 적 없는 한 회사가 누구보다도 과감하게 나아가고 있으며, 심지어 엔비디아를 대체하겠다고 공언할 정도입니다.
그 회사의 이름은 Etched 로, 하버드 대학을 중퇴한 세 명의 젊은이가 설립했으며 올해 나이는 모두 25 세前後입니다. 회사 설립 4 년이 되었지만 오늘까지 제품을 하나도 판매하지 않았습니다.
하지만 여기에 투자한 사람들은 다음과 같은 거물들과 기관들입니다:
실리콘밸리 벤처 캐피탈의 대부 Peter Thiel, 최고 퀀트 기관 Jane Street, TSMC 관련 벤처 캐피탈 펀드... 아직 칩 하나도 납품하지 않은 이 회사는 현재까지 약 8 억 달러를 조달했으며 기업 가치는 50 억 달러입니다.
더욱 이상한 것은 외신 보도에 따르면 이미 10 억 달러 이상의 주문을 확보했으며, 이러한 주문들은 아직 제조되지 않은 칩을 구매하는 것이라는 점입니다.
이 세 젊은이는 AI 에서 비용이 가장 많이 드는 부분이 현재 '모델 훈련'에서 '모델이 질문에 답하게 하는 것', 즉 추론으로 이동했다고 확신합니다.
여러분이 ChatGPT 나 Claude 에게 질문을 할 때마다 배후에서는 한 번의 추론이 이루어지며, 이는 하루에 수십억 번 발생하여 전체 AI 에서 가장 비용이 많이 들고 빈번한 단계입니다.
엔비디아의 GPU 는 무엇이든 할 수 있지만 유일하게 추론이라는 한 가지 일을 위해 맞춤 제작된 것은 아닙니다. Etched 가 만들려는 것은 추론만 실행하고 ChatGPT 의 아키텍처를 실리콘 칩에 직접 새겨 넣은 칩입니다.
자체 공개 데이터에 따르면 같은 작업에서 Etched 칩 8 개가 엔비디아 H100 100 개 이상의 성능을 냅니다. 이 숫자는 아직 제 3 자 검증을 거치지 않았지만 이것이 세 젊은이가 엔비디아에 맞설 수 있는 유일한 자신감입니다.
가장 비용이 많이 드는 그 일은 근본적으로 만능 칩이 필요하지 않습니다.
퇴로 없는 큰 도박
제품 관점에서 볼 때 이는 정말로 퇴로 없는 큰 도박입니다. 핵심은 '새겨 넣는다'는 두 글자에 있습니다.
다른 회사들은 전용 칩을 만들 때 어느 정도 퇴로를 남겨 칩이 소프트웨어를 통해 새로운 모델 구조에 적응할 수 있도록 합니다. 하지만 Etched 는 그렇게 하지 않았습니다. ChatGPT 와 같은 대형 모델이 공유하는 기본 아키텍처 (업계에서는 Transformer 라고 부름) 를 물리적 회로 방식으로 직접 실리콘 칩에 구워 넣었습니다.
유연성을 위해 남겨졌어야 할 모든 공간을 절약하여 연산 능력에 투입했기에 배의 속도가 가능했습니다. 따라서 그 힘의 대가는 만약 어느 날 AI 가 새로운 아키텍처로 바뀌어 더 이상 Transformer 가 아니게 된다면 이 칩은 즉시 쓸모없는 실리콘 조각이 되어 수정조차 할 수 없다는 것입니다.
창업자들은 누구보다도 이 점을 잘 알고 있습니다.
2024 년 시리즈 A 라운드 자금 조달 당시 이 회사의 CEO 인 Gavin Uberti 는 공개 인터뷰에서 그들이 AI 분야에서 가장 큰 도박을 하고 있으며, 이 아키텍처가 사라지면 회사는 끝장난다고 언급한 바 있습니다.
하지만 만약 살아남는다면 Etched 는 역사상 가장 큰 회사가 될 것입니다.
이 말을 할 때 그는 23 세였으며 회사 계좌에는 막 1 억 2 천만 달러가 있었습니다. 2 년이 지난 지금 회사 계좌에는 8 억 달러의 자금 조달금이 있고 뒤에는 10 억 달러의 주문이 쌓여 있지만 그 칩은 여전히 출고되지 않았습니다.
20 대 초반의 혈기왕성한 젊은이가 회사의 결말을 운명적인 두 단어로 압축했습니다. 제로, 또는 사상 최대. 중간에 퇴로 한 치도 남기지 않은 것은 다소 대담하고 비현실적입니다.
그런데 그에게 투자한 사람들은 모두 노련한 사람들인데, 왜 그들도 함께 도박을 감행할까요?
추론이 이익 중심이 될 때
AI 훈련은 엔비디아의 해자이지만 추론은 아닙니다.
훈련은 모델을 처음부터 가르쳐 완성하는 것으로, 몇 달 동안 한 번에 막대한 연산 능력을 소모합니다. 반면 추론은 모델이 학습을 마친 후 매일 수억 명을 대신해 질문에 답하며 반복적으로 돈을 태우는 것입니다.
이 두 가지 일의 비용 지출 방식은 완전히 다릅니다. 여러 외신 보도에 따르면 추론은 이미 훈련을 대체하여 AI 회사의 가장 큰 지속 비용이자 가장 큰 병목 현상이 되었습니다.
소식에 따르면 Anthropic 은 이번 분기에 추론의 이익률을 통해 흑자로 전환할 가능성이 있습니다. 자금의 중심은 훈련에서 추론으로 조용히 이동하고 있습니다.
오늘날 거의 모든 추론은 엔비디아의 GPU 에서 실행되며, GPU 는 이 일을 위해 제작된 것이 아니므로 추론을 전용으로 실행할 때 많은 회로가 유휴 상태입니다.
Etched 창업자 Gavin Uberti 는 인터뷰에서 하나의 숫자를 언급했는데, GPU 클러스터가 추론을 실행할 때 실제 연산 능력 이용률은 종종 20~30% 에 불과하며 절반 이상의 능력이 낭비된다고 합니다.
즉, 추론을 위해 5 만에서 15 만 달러를 들여 엔비디아 기계를 구매하면 실제로 핵심에 사용되는 것은 30% 뿐이며 나머지 70% 는 단순히 열을 내고 전력을 소비할 뿐입니다.
엔비디아의 해자는 항상 훈련과 CUDA 소프트웨어 생태계에 쌓여 있으며 그곳의 벽은 높고 두꺼워 단기간에 누구도 넘을 수 없습니다. 하지만 추론은 다릅니다. 이는 더 단순하고 더 반복적인 일로 만능 칩이 필요하지 않으며 엔비디아는 이곳에 동일한 벽이 없습니다.
엔비디아를 글로벌 시가총액 최고의 칩 회사라고 할 수 있지만 가장 수익성이 좋고 성장 가장 빠른 그 사업은 바로 그것이 완전히 특기인 것도 아니고 최적화되지 않은 곳에 구축되어 있습니다.
이 Etched 에 투자한 투자자들은 바로 이번 중심 이동을 도박하고 있습니다.
이 중에서 가장 칩에 투자할 것 같지 않은 사람은 장수 광신자 Bryan Johnson 으로, 매일 자신에게 100 개 이상의 지표를 측정하고 노화를 역전시키고자 하는 기술 부호입니다.
그 본인의 공개 표명에 따르면 몇 년 전 Etched 의 두 창업자 중퇴생들이 그를 찾아와 더 빠른 AI 칩을 만들어 장수 연구를 가속화할 수 있다고 했으며, 칩이 토큰을 더 빠르게 생성할수록 약을 찾고 질병을 해결하는 속도가 빨라진다고 했습니다.
추론을 빠르고 저렴하게 만드는 사람이야말로 AI 로 생계를 유지하는 모든 산업의 가격을 다시 책정할 수 있습니다.
여러분은 엔비디아가 왜 직접 추론 전용 칩을 만들지 않는지 묻겠지만 실제로 물론 만들 수 있습니다. 하지만 범용 GPU 는 규모가 크고 사업이 큰데 왜 모든 것을 걸고 방향을 바꿔 전용 GPU 를 만들겠습니까?
따라서 이는 가장자리에서의 전복 이야기의 초안입니다.
이번 여름, 도박의 카드가 공개됩니다
Etched 가 4 년 동안 도박했던 그 칩이 이번 여름에 납품됩니다.
설립 4 년 동안 제품을 하나도 판매하지 않은 회사에게 이는 마침내 실현해야 할 순간입니다. 칩을 고객의 서버실에 설치했을 때 PPT 에서 말한 것처럼 추론을 위해 태어났는지 아닌지는 현장에서 진실이 드러날 것입니다.
하지만 카드가 공개되려는 시점에 카드 테이블 자체에 조용히 약간의 변화가 발생했습니다.
Etched 가 실리콘 칩에 용접한 것은 3 년 전에 정의한 AI 의 모습입니다. 그러나 칩 제작에 몰두하던 이 몇 년 동안 일부 AI 는 자체적으로 방식을 바꿨습니다. 과거에는 모델이 하나의 덩어리여서 어떤 문제가 오든 모두를 호출했지만 최근 2 년 동안 가장 강력한 오픈소스 모델들은 구조를 변경하여 많은 작은 조각으로 나누고 매번 임시로 몇 개만 선택하여 작업합니다. DeepSeek, Qwen 과 같은 최전선에서 실행되는 중국 오픈소스 모델들은 모두 이러한 새로운 성장 방식입니다.
소프트웨어는 버전을 변경하는 데 몇 주가 걸리지만 칩은 설계도에서 양산까지 2 년이 걸립니다. 아키텍처를 용접하여 고정하는 것은 어떤 의미에서는 변화의 속도에 공매도하는 것입니다.
이 냄새는 이전 암호화 주기를 경험한 사람들에게는 익숙할 것입니다. 이더리움 초기에도 하드웨어 채굴에 의존했으며 이더리움만 계산하고 다른 것은 전혀 하지 않는 전용 채굴기들이 범용 그래픽 카드를 훨씬 앞질렀습니다. 이것이 바로 Etched 가 투자자들에게 말하는 이야기입니다: 전용이 범용을 압도한다.
2022 년 9 월 그날 밤 이더리움은 채굴 규칙을 완전히 바꾸어 하드웨어 경쟁에서 코인 보유 경쟁으로 변경했으며 전 세계적으로 그를 위해 만든 채굴기들과 무수한 그래픽 카드가 집단적으로 벽돌이 되어 수십억 달러의 하드웨어가 하룻밤 사이에 제로가 되었습니다.
채굴기는 알고리즘이 변하지 않을 것이라고 도박하고 Etched 는 아키텍처가 변하지 않을 것이라고 도박하며 또한 회사의 세 창업자도 이 장애물을 잘 알고 있습니다.
그들의 대응 방법은 시간을 확보하는 것입니다.
Uberti 는 인터뷰에서 반복적으로 말하는 단어가 '너무 늦었다'이며 그는 Etched 가 전용 추론 칩에서 엔비디아, 구글과 같은 거물들보다 최소 18 개월 앞서 있다고 확신합니다. 대형 회사들이 정신을 차리고 유사 제품을 만들 때쯤이면 Etched 는 이미 2 세대로 업그레이드하여 고객을 묶어둘 것입니다.
다시 말해 그가 도박하는 것은 현행 주류 AI 추론 아키텍처인 Transformer 가 죽지 않는 것뿐만 아니라 자신이 충분히 빠르게 달려 아키텍처가 변하여 칩이 따라가지 못하기 전에 이번 여름의 물건을 먼저 납품하고 시장을 차지할 수 있을 정도로 빠르다는 것입니다.
이것은 속도에 관한 경주이며 이 경주에 도박한 것은 그 회사 한 곳뿐만이 아닙니다.
투자, 즉 기술이 꽃피우며 결실을 맺는 것에 내기
돌아보면 Etched 의 이야기는 사실 Etched 에만 관한 것이 아닙니다.
이는 모든 사람이 하고 있지만 거의 말하지 않는 일을 가장 극단적으로 밀어붙였습니다. 여러분이 손에 엔비디아, 브로드컴, 캠브리콘, Cerebras 와 같은 칩 주식을 들고 있다면 사는 것은 결코 한 회사의 실적뿐만이 아닙니다. 여러분은 하나의 판단을 사는 것이며 특정 기술 노선이 충분히 오래 지속될 수 있을 것이라고 도박하는 것입니다, 그것을 둘러싼 투자한 돈을 벌어들일 수 있을 정도로 오래.
Etched 는 단지 이 도박을 가장 퇴로가 없는 위치에 걸었을 뿐입니다. 아키텍처를 실리콘 칩에 용접하여 승패가 한 번에 결정됩니다. 반면 대부분의 내기는 부드럽고 느리며 여러분은 자신이 내기하고 있다는 사실조차 인지하지 못합니다.
'전용화' 이야기를 매수하는 것은 어떤 의미에서는 변화의 속도에 공매도하는 것입니다.
변화가 느릴수록 여러분은 더 안정적으로 이기며 변화가 만약 가속화되면 용접이 단단할수록 더 심하게 떨어집니다.
이번 여름 Etched 의 칩은 자연스럽게 그 나름의 답을 줄 것입니다. 하지만 이는 또한 주목할 만한 풍향계와 표시판이기도 하며 도박판은 여러분의 계좌에서 조용히 '그것은 변하지 않을 것이다'라고 내기한 모든 포지션을 시험합니다.
여러분 손안의 카드도 뒤집어 스스로 바라봐야 합니다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
深潮TechFlow
