半導体株が 40% 暴落した後、計算能力の需要のファンダメンタルズを見直す

著者：Kerman Kohli

翻訳：TechFlow

TechFlow 編集部导语：半導体株が30-40%暴落した後、多くの人が AI バブルの崩壊を宣言した。しかし、この判断は致命的な仮定に基づいている。それは、計算能力への需要は限られているというものだ。政府の軍事、科学研究から企業製品、個人アプリケーションまで、すべてのグループが計算能力を奪い合っており、各グループが支払う意思のある価格の上限は異なる。さらに重要なのは、AI には他のインフラにはない特性、つまり再帰的な需要があることだ。計算能力そのものが、さらなる計算能力の需要を生み出すのだ。ハイパースケールクラウドプロバイダーの計算能力の注文残高が 5,000 億ドルから2 兆ドルに増加した時点で、これがバブルだと言うには、より強力な証拠が必要だろう。

核心的な問題：需要は無限か有限か

この記事が公開された時点では、半導体およびその他の AI/モメンタム関連株は、史上最高値から30-40%下落している。

多くの人はこれを半導体/AI/メモリの天井と呼び、参加しなかったことを勝利として祝う意愿がある。

彼らはそらく早計に祝いすぎている。

私見では、半導体/AI 投資論点はこの 1 点に集約される：

「あなたは計算能力への需要は限られていると思うか、無限だと思うか？」

交流の中で、企業の使用/採用に関する局所的な経験に縛られ、それをより広い市場に一般化している人々を太多く見かける。企業の採用にはより時間がかかるという論点は、確かに成立する可能性がある。

しかし、これは同時に逆のインセンティブを生み出す。AI が適切に使用されれば、人員を増やすよりもはるかに安価になるため、より小さく、より AI ネイティブな企業が、より少ない従業員でそれらを打ち負かすことができるのだ。

いずれにせよ、視野を広げ、AI 資本支出を単なる企業需要と見なすのをやめよう。高レベルで見れば、AI 建設は計算能力をオンラインにすることだ。

計算能力は逆に、以下のグループによって使用され、使用されることになる：

• 政府による軍事および国防目的
• 科学家による医学およびその他の最先端研究
• 企業による新製品の構築および労働力制限なしでの拡大
• 個人によるエンパワーメント（プログラミング、デザイン、創作、質問）

これらのユースケースと買い手はそれぞれ、計算能力に対して異なる価格を支払う意思がある。一部の人は計算能力の価格のために離脱するかもしれないが、他の人に更高い予算がないと考えるのは賢明ではない。一部の人々にとって、計算能力への支出は交渉の余地がない。なぜならこれは残酷な競争だからだ。例としては、主権国家政府とハイパースケールクラウドプロバイダーが挙げられる。他の人々にとって、計算能力は人件費の代替手段であり、それでもはるかに安価だ（法的 overhead、管理時間などがない）。

私たちが「過剰建設」または「容量を超える建設」を行ったと信じることは、上記のいずれのグループも最終状態に達し、現状に満足していると信じることを意味する。簡単に言えば、それは以下を信じることに他ならない：

• 政府は、より賢い武器と防御能力を必要ないと考えている
• 科学家は、完了した研究量に満足している
• 企業は、製品ラインですでに十分な作業を行ったと考えており、これ以上成長したくない
• 個人は好奇心の最終状態に達しており、これ以上何もしたくない

もしあなたが上記のいずれかを本当に信じているなら、AI はバブルであり、過剰投資があると言うのは正しい。

各グループが計算能力に対して支払う意思/能力のある価格は異なるが、市場は需要围绕して組織化され、品質/価格が満たされるようにする。すべてのグループにとってインテリジェンスが高すぎるというのは誤解であり、なぜならインテリジェンスを収益性地にオーケストレーションできる人々は、それに対する需要を推進し続けるからだ。

しかし、もしあなたが人類および上記のグループが決して満足しないと信じるなら、あなたは計算能力への需要は無限だと信じなければならない。私たちは今、計算能力围绕した大きな競争の中におり、それに気づいている人はほとんどいない。

追问：投資対効果（ROI）とは何か

市場でより多くの時間を過ごした後、これは投資者が計算能力建設に対して抱き続ける最大の懸念だ。ハイパースケールクラウドプロバイダーがすべてのフリーキャッシュフローを使い果たす傾向は過剰ではなく、彼らは自分の未来を賭けているのか？

ハイパースケールクラウドプロバイダーの資本支出に加え、大手研究所がどのような収益と利益を得ているかにも大きな関心が集まっている。新しいオープンソースモデルが、研究所が最先端モデルから抽出できる価値を脅かしており、状況をさらに複雑にしている。

これらについて逐一議論する時間を取るが、まずはハイパースケールクラウドプロバイダーの資本支出から始めよう。

ハイパースケールクラウドプロバイダーが計算を間違えていると考える人々には、これが事実から程遠いことを理解してもらう必要がある。パブリッククラウドサービスは法外に高く、彼らはあなたから最後の 1 セントまで絞り取る方法を知っている。彼らは整整一代の企業を説得し、彼らなしでは拡大できないと信じ込ませた。

その見返りとして、彼らは通常の非 CPU 計算能力のコストを10-20 倍に吊り上げる。さらに、基本的な作業を完了するために、ログ、データ転送（エグレス）、およびその他の 5 つのサービスに対して支払う必要がある。

このゲームが機能する理由は、彼らがあなたを自分のシステムに閉じ込めるからだ。GCP/AWS 王国内の帯域幅は安いが、一度外部に転送すると大幅に上昇する。多くのハイパースケールクラウドプロバイダーにとって、顧客を自分のエコシステム内に留めておく必要がある。そうでなければ、ビジネスを失うリスクがある。計算能力が不足することは、彼らの生存にとって致命的だ。顧客のデータと計算能力が両方ともあなたにある場合、GPU が枯渇したと言うことは完全に受け入れられず、競合他社にゆっくりと移行するよう強いることになる。ハイパースケールクラウドプロバイダーは興味深いダイナミクスを生み出しており、顧客が何をしようとも無力な状態で、顧客に 원하는価格を支払うよう強いることができる。彼らのテナントはベアメタルからそれほど乖離しており、巨大なロックイン効果があり、移行（可能であれば）には多年の努力が必要となる。

この点で彼らがどれだけ狂っているかを示す簡単な例を挙げよう。数か月前、私がこの15,000 ドルのマシンをどのように構築したかについて書いた：

AI 推論マシンの構築

図：著者自作の AI 推論マシン 出典：Kerman Kohli / Substack

GCP で同じ GPU、構成が低いマシンを見つけることができる：

https://cloud.google.com/products/compute/pricing/accelerator-optimized

オンデマンドコストは月額約3,248 ドル、3 年予約は月額1,444 ドル。

図：Google Cloud GPU インスタンス価格例。出典：Google Cloud

私のマシンには128GBの DDR5 しかないが、Google Cloud 的是180GBの某种のメモリ（彼らは DDR4 か DDR5 か教えてくれない哈哈）。

快速計算：

• オンデマンド価格では、私のマシンは4.6 か月で元本回収できる
• 3 年コミットメントの場合、回収期間は10 か月

他のマシンの計算も同様だ。H200 クラスター（2024 年末にリリースされた GPU）は2 年未満で元本回収できる。どこを見ても非常に類似した計算結果が見られる。もちろん、これは土地コスト、継続的な電気代、資金調達コスト、現場スタッフを考慮していないが、ハイパースケールクラウドプロバイダーが如何に巨額のプレミアムで価格設定するかを示す例証となる。もちろんスポット価格とコミットメント価格では再び差異が生じる。

この計算をさらに狂わせるのは、5 年前の GPU が：a）価値を維持している b）リースコストが上昇している！ことだ。

ハードウェアは減価償却する可能性が極めて低く、むしろこれから appreciation するだろう。計算効率が更高い新しいチップがリリースされたとしても、それらが欠く効率はメモリコストの上昇によって相殺される。

私はハードウェアを 2 つのコンポーネントからなるゲームとして概念化している。其中一个のコンポーネント（計算）は技術的に価値が下がるが、もう一つのコンポーネント（メモリ）によって相殺され、后者は時間とともに価値が上がる。

もしそうであれば、彼らの資本支出の投資対効果（ROI）は、誰もが遠く予想していたよりも高い。ハイパースケールクラウドプロバイダーの信用リスクについては、Gavin Baker のこのツイートがうまく要約している：

図：Gavin Baker ツイート配图。出典：X / @GavinSBaker

今、あなたは言うかもしれない、この需要が十分であることをどうやって知るのか？つまり、すべての顧客のためにすべてのシナリオをモデル化することはできないが、ある時点で謙虚に認める必要がある。人々が列をなして支払っていることは最強の信号であり、彼らが正の ROI の努力において合理的に支出する主体であると信じるべきだ。

もしこの観点から見るなら、注文残高は 2025 年初頭の5,000 億ドルから、短短1.5 年で2 兆ドルを大幅に超えるまで増加した。これが顧客によって推進されている場合、これらすべてが偽/正の ROI ではないと言うのは無理がある。今、反論的是研究所がその大部分を占めているというものだが、この見方は誤りだ。EpochAI によると、最先端研究所は一部を占めているに過ぎず、世界の計算能力需要のすべてではない。

図：計算能力の注文残高が 5,000 億ドルから 2 兆ドルに増加。出典：EpochAI

図：世界の計算能力需要構成。出典：EpochAI

あなたが何を信じていようとも、2 兆ドルの注文残高という事実は何かを示すべきだ。数兆ドルの支出が構造的変化を反映せず、過剰なバブルであると考えるのは興味深い观点だ。

多くの投資者は类比を通じて推論することを好む。それをインターネット建設、鉄道、または過去のインフラプロジェクトと比較する。ここでの論理は理解できるが、それは AI の重要な特徴を無視している。つまり、再帰的な需要だ。

鉄道やインターネットの場合、より多くの人々にその技術を採用してもらい、その後、経済中に十分な普及を確保するために、その技術を使用するすべての人の上限を確保する必要がある。AI にはこれらのダイナミクスはない。この競争において、計算能力は自分自身の計算能力需要を生み出すことができ、個人または組織の計算能力制限は実際には無限だ。もし有用で、正の ROI のユースケースを見つければ、計算能力に投資し続けることができ、それは金銭を生むマシンとなる。

これが非常に厄介になる点は、異なる人々が AI を使用することで非常に異なる体験を得ることだ。世界の大多数の人々はそれを単一のプロンプト質問応答マシンとして使用している。私のような人々にとって、エージェントエンジニアリングがより有能になるにつれて、それらは不可欠なものになり、より多くのことを可能にしている。

私の計算能力への支出は上昇し続け、今後も上昇し続ける。なぜなら、私はより多くの正の ROI のユースケースを発見しているからだ。AI がいくら収益を生み出そうとも、それが生み出すコスト削減は否定しようがなく、これが大多数のエンド顧客のケースを推進している。

不確実性要因：OpenAI / Anthropic

前の点 continuation して、需要残高が狂っていることはわかる。しかし、研究所からの需要（計算能力需要の相当な部分）はどれだけ真实的なのか。今、これは答えがあまり明確ではないが、推論可能な場所だと考えている。この答えを推論とトレーニングに分解して考えたい。

もし新しい SOTA（最先端）モデルのコストが数億ドルに達すると考えるなら、それは投資資産であり、時間とともに推論を通じていくつかの有用なライフタイムバリューを生み出すと言える（急激な減価償却曲線があるにもかかわらず）。

反作用力として、オープンソースモデルが市場に拡散し、より安価なコストで最先端研究所と計算能力を競争することになる。これらのオープンソースモデルは蒸留されているかどうかに関わらず、ダイナミクスを理解する上では重要ではない。

したがって、私たちが疑問視しなければならないダイナミクスは、SOTA モデルが出てきた時に何が起こるかだ。現実は、誰もが常にそれらを使用してすべての問題を解決するわけではない。しかし、それらが SOTA 能力を持っていることを考慮すると、現在のモデルクラスでは解決できない問題を解決できるため、あなたはそれにプレミアムを支払う意愿がある。

Kimi K3 のようなモデルがこのダイナミクスを変えたと言えるかもしれない。なぜならそれらはオープンソースだからだ。しかし、人々は重要な事実を忘れている。SOTA モデルは非常に大きく、それらを実行するために必要なハードウェアは、どの家庭用モデル也能行うものよりもはるかに超えている。Kimi K3 自体は接近1.5TB - 2TBのメモリを必要とする。それを見つけるのは幸運を祈るばかりだ。

モデルをより興味深くさせるのは、Kimi が K3 へのゲートを開いた後、容量が枯渇したことだ。もちろん外にモデルは存在するが、依然として誰かがそれをサービス提供する必要がある。それは依然として有能なハードウェア上で実行されなければならない。研究所は時間とともに競争力を高めることを強られるだろうが、それは彼らのビジネスを脅かすものではない。なぜなら、最終的には某些のワークロードのプレミアムは維持され続けるからだ。さらに、あなたのワークロードのためにそのモデルの容量を提供できることも同様に重要だ。最先端モデルがどんなプレミアムも価値がないと考えるのは不誠実だ。このプレミアムがどれだけ大きいかは依然として観察を待つ必要がある。

もしオープンソースモデルが禁止または違法になった場合、研究所は革新を代价として大勝利を収めるだろう。

推論は収益性があることが証明されており、サービスプロバイダーベースの利益率は50% - 70%の間だ。人々がホスティングプロバイダーを離れたとしても、この需要は彼らが自分のハードウェアを購入する方に流れなければならない。推論が支配的なワークロードであるため、需要は供給を大幅に超えている。

今、私たちの大手研究所に関して言えば、彼らはこの世界でどのように振る舞うのか？答えはおそらく大丈夫だが、利益率はそれほど高くないかもしれない。

彼らが失敗し、転倒すると考えるのは誤りだ。より多くのデータに裏打ちされた观点を提供したいところだが、彼らの具体的な利益率に関する明確なデータはない。しかし、彼らの推論サービス最適化能力が業界標準に達していると合理的に推測できる。さらに、数千万から数億の月間アクティブユーザーを持つ会社は、赤裸々なポンジスキームや詐欺プロジェクトではなく、しかも彼らの収益は急速に成長している。

図：大手研究所とオープンソースモデルの競争状況

研究所モデルの投資対効果

研究所は SOTA モデルで依然として顕著な回报を生み出せないかもしれない。しかし、それは市場がより強い能力を持つ新しいモデルに報酬を与えず、このプレミアムに対して支払う意愿がないことを意味するわけではない。最先端モデルが AI が解決できる次のクラスの問題を表していることを考慮すると、最先端に反対して賭けるのは良い考えではないようだ。この競争から撤退する代价は、後で追いつくことがより難しくなることだ（蒸留を通じてでない限り）。

SOTA 競争がどうあれ、推論には依然としてハードウェアが必要であり、推論への無限の需要は依然として誰かのハードウェアによって満たされなければならない。

AI 取引の複雑さ

AI 取引は、おそらく現在市場で最も興味深い取引だ。なぜなら、それは同時に 3 つの特徴を持っているからだ：

• 軽視されている
• 過密になっている
• 严重く誤解されている

多くの市場参加者（大手機関投資家を含む）は、技術の複雑さとそれが貸借対照表のボトムラインに与える影響を理解できない。Kimi K3 のような簡素化された見出しは、K3 が実行できる最大のメモリ集約型モデルの 1 つであるにもかかわらず、メモリ株の大規模な売却を引き起こした。

これらの株価はすでに上昇しているが、それらは個位数のフォワード PER で取引されており、市場は彼らの利益と需要が2028/2029年に暴落すると予想している。

無限需要の新しい経済

合理主義的な観点から見れば、このような需要無限の新しい経済商品が存在すると言うのは狂っているように聞こえる。伝統的な経済学では、需要が急騰すれば、供給が追いついて需要を満たすと考えられている。しかし、均質化された投入（電力、チップ、土地）が不確実な結果（インテリジェンス）を生み出すことを考慮すると、私たちは既存の計算能力に決して満足することはないだろう。

計算能力需要が無限の世界は、私たちが全く新しい世界に突入していることを意味する。

多くの計算能力予測は、今後 5 年間のロボットの台頭も考慮していない。計算能力をショートすることは、ロボットをショートすることだ。世界の人口が減少するにつれ、より多くの人々がより生産的になるという現在の経済モデルは成立しなくなる（特に多くの人々の注意持続時間が短くなっているため）。人工知能とロボットがなければ、経済には成長とより多くの経済価値を創造する道はない。

AI がなければ、私たちは最終的に人類の進歩を減速させることになる。文明としてこの段階に達するには、より多くの計算能力をオンラインにする必要がある。北米の計算能力オンライン化能力は基本的に上限に達している。カナダとオーストラリアが次だ。私たちはスペースを使い果たすまで世界中にデータセンターを建設し、その後宇宙に转向してより多くのデータセンターを建設するだろう。

需給の非対称な価格設定

さらに魅力的なのは、供給量は正確に測定されていることだ。なぜなら、それは決算電話会議中のファウンドリのスケジュールを通じて知られており、価格設定も完璧だからだ（すべての供給は遅延なく正確なスケジュール通りに到来する）。一方、需要側はリアルタイムで測定されており、過小評価されている。これは、市場が供給の上限を信じる一方で、需要状況を過小評価している（過小評価の幅度は大きく、今日には真实可信なデータがある）状況を生み出している。

AI 取引を推論しようとするたびに、自分は計算能力への需要は有限か無限かを信じているか自問する必要がある。この問題の答えが、その後の意思決定を導くだろう。

計算能力は普通の商品ではない。それは労働力の代替手段であり、国家安全保障の必需品であり、再帰的に自己増殖する生産手段でもある。需要が有限だと信じることは、人類がすでに満足していると信じることに等しく、需要が無限だと信じることは、私たちが経済のパラダイムシフトの起点に立っていることを意味する。