半導體股暴跌 40% 後，重新審視算力需求的基本面

作者：Kerman Kohli

編譯：深潮 TechFlow

深潮導讀：半導體股暴跌 30-40% 後，很多人宣告 AI 泡沫破滅。但這個判斷建立在一個致命假設上：算力需求是有限的。從政府軍事、科學研究到企業產品和個人應用，所有群體都在爭搶算力，而每個群體願意支付的價格天花板都不同。更關鍵的是，AI 有個其他基建沒有的特性——遞歸需求：算力本身會催生更多算力需求。當超大規模雲廠商的算力訂單積壓從 5,000 億美元漲到 2 萬億美元時，說這是泡沫需要更強的證據。

核心問題：無限需求還是有限需求

根據這篇文章發佈的時間，半導體和其他 AI/動量相關股票已經從歷史高點下跌了 30-40%。

很多人願意把這稱為半導體/AI/內存的頂部，併為沒有參與而慶祝勝利。

他們很可能慶祝得太早了。

在我看來，半導體/AI 投資論點歸結為這一個問題：

「你認為對算力的需求是有限的還是無限的？」

在交流中，我看到太多人困在他們對企業使用/採用的局部經驗中，並推廣到更廣泛的市場。我認為企業採用需要更長時間的論點可能確實成立。

然而，這也創造了一個反向激勵，讓更小、更 AI 原生的公司用更少的員工擊敗它們，因為 AI 如果使用得當，可以比用人力擴張便宜得多。

無論如何，讓我們放大視野，停止將 AI 資本支出僅僅視為企業需求。從高層次來看，AI 建設是關於讓算力上線。

算力反過來可以並將被以下群體使用：

• 政府用於軍事和國防目的
• 科學家用於醫學和其他前沿研究
• 企業構建新產品並在沒有勞動力限制的情況下擴張
• 個人賦能做更多事情（編程、設計、創作、提問）

這些用例和買家各自願意為算力支付不同的價格。雖然有些人可能因為算力價格而退出，但認為不會有其他人有更高預算是不明智的。對某些人來說，算力支出是不可商量的，因為這是殘酷的競賽。例子包括主權政府和超大規模雲廠商。對其他人來說，算力是勞動力成本的替代品，而且仍然便宜得多（沒有法律開銷、管理時間等）。

相信我們「過度建設」或「建設超過容量」意味著上述任何群體都已達到最終狀態並對現狀滿意。簡單來說，它相信：

• 政府認為他們不需要更智能的武器和防禦能力
• 科學家對已完成的研究量感到滿意
• 企業認為他們在產品線上已經做了足夠的工作，不想再增長
• 個人已達到好奇心的最終狀態，不想做更多

如果你真的相信上述任何一點，那麼你說 AI 是泡沫、會有過度投資是對的。

每個群體願意/能夠為算力支付的價格不同，但市場會圍繞需求組織以確保質量/價格能夠滿足。認為智能對所有群體來說都太貴是個誤解，因為那些能夠盈利地編排智能的人會繼續推動對它的需求。

但是，如果你相信人類和上述群體永遠不會滿足，那麼你必須相信對算力的需求是無限的。我們現在正處於一場圍繞算力的大競賽中，很少有人意識到這一點。

追問：投資回報率是什麼

在市場中花費更多時間後，這是投資者對算力建設持續最大的擔憂。超大規模雲廠商花光所有自由現金流的趨勢是否過度，他們是否在賭上自己的未來？

除了超大規模雲廠商的資本支出，人們還非常關注大型實驗室獲得了什麼收入和利潤？新的開源模型威脅實驗室從前沿模型中可提取的價值，這使情況變得更加複雜。

我會花時間逐一討論，但讓我們從超大規模雲廠商的資本支出開始。

那些認為超大規模雲廠商算錯賬的人，我需要你們明白這遠非事實：公有云服務貴得離譜，他們知道如何從你身上榨取每一分錢。他們說服了整整一代公司，讓你們相信沒有他們就無法擴張。

作為回報，他們將正常非 CPU 算力的成本標高 10-20 倍。此外，你還要為日誌、數據傳輸（出口）和其他 5 項服務付費才能完成基本工作。

這個遊戲之所以奏效，是因為他們把你困在他們的系統裡。GCP/AWS 王國內的帶寬很便宜，一旦你向外轉移就會大幅上漲。對很多超大規模雲廠商來說，他們需要客戶留在他們的生態系統中，否則就有失去生意的風險。沒有足夠的算力對他們的生存是致命的。當你的客戶數據和算力都在你這裡時，說你的 GPU 用完了是完全不可接受的，會迫使他們慢慢轉向你的競爭對手。超大規模雲廠商創造了一個有趣的動態，他們可以強迫客戶支付任何他們想要的價格，而客戶對此無能為力。他們的租戶與裸機如此脫節，有巨大的鎖定效應，使得轉移成為一個多年的努力（如果可能的話）。

舉個簡單的例子來說明他們在這方面有多瘋狂。我幾個月前寫過我如何建造這臺 15,000 美元的機器：

構建 AI 推理機器

圖：作者自建的 AI 推理機器 來源：Kerman Kohli / Substack

你可以在 GCP 上找到同樣的 GPU、配置更低的機器：

https://cloud.google.com/products/compute/pricing/accelerator-optimized

按需成本約為每月 3,248 美元，3 年預留每月 1,444 美元。

圖：Google Cloud GPU 實例定價示例。來源：Google Cloud

我的機器只有 128GB DDR5，但 Google Cloud 的是 180GB 的某種內存（他們不告訴你是 DDR4 還是 DDR5 哈哈）。

快速計算：

• 按需定價我的機器將在 4.6 個月內回本
• 三年承諾的回本期為 10 個月

其他機器的數學也類似。H200 集群（2024 年末發佈的 GPU）將在不到 2 年內回本。無論你在哪裡看，都能看到非常相似的數學。當然這沒有考慮：土地成本、持續電費、融資成本和現場員工，但它應該作為一個說明性例子，說明超大規模雲廠商知道如何以鉅額溢價定價。當然現貨價與承諾價再次產生差異。

讓這個數學更瘋狂的是，5 年前的 GPU 正在：a）保值 b）租賃成本上漲！

硬件極有可能不會貶值，而是從此開始升值。雖然推出了計算效率更高的新芯片，但它們缺乏的效率會被內存成本的上漲所補償。

我將硬件概念化為一個雙組件遊戲，其中一個組件（計算）在技術上會變得不那麼值錢，但會被另一個組件（內存）抵消，後者會隨時間變得更值錢。

如果是這樣的話，他們資本支出的投資回報率比任何人遠程預期的都要高。關於超大規模雲廠商的信用風險，Gavin Baker 的這條推文很好地總結了：

圖：Gavin Baker 推文配圖。來源：X / @GavinSBaker

現在你可能會說，我們怎麼知道這個需求足夠？我的意思是我無法為每個客戶建模每個場景，但在某個時候你需要有謙遜地說，人們排隊付錢是最強的信號，你相信他們是在正 ROI 的努力上理性支出的行為者。

如果我們從這個角度來看，積壓訂單從 2025 年初的 5,000 億美元在短短 1.5 年內增長到遠超 2 萬億美元。當這是由客戶驅動時，說所有這些都是假的/不是正 ROI 就變得牽強了。現在，反駁的是實驗室佔其中很大一部分，但這種觀點是錯誤的。根據 EpochAI，前沿實驗室佔一部分，但不是全球算力需求的全部。

圖：算力訂單積壓從 5,000 億美元增長至 2 萬億美元。來源：EpochAI

圖：全球算力需求構成。來源：EpochAI

無論你相信什麼，2 萬億美元的積壓訂單這一事實應該表明了什麼。認為數萬億的支出不反映結構性轉變而是過度泡沫是一個有趣的觀點。

許多投資者喜歡通過類比來推理，將其與互聯網建設、鐵路或過去的基礎設施項目相比較。我理解這裡的邏輯，但它忽略了 AI 的一個關鍵特徵：遞歸需求。

對於鐵路或互聯網，你需要更多人採用該技術，然後確保每個人使用該技術的上限，以確保在經濟中有足夠的擴散。AI 沒有這些動態。在這場競賽中，算力可以產生自己的算力需求，一個個人或組織的算力限制實際上是無限的。如果你找到一個有用的、正 ROI 的用例，你可以繼續投資算力，它就會成為一個賺錢機器。

這變得非常棘手的地方在於，不同的人使用 AI 有非常不同的體驗。世界上大多數人將其用作單個提示問答機器。對像我這樣的人來說，隨著代理工程變得更有能力，它們正在變得不可或缺，讓我做更多事情。

我的算力支出繼續上升，並將繼續上升，因為我發現了更多 ROI 為正的用例。無論 AI 產生多少營收，它創造的成本節約是不可否認的，這推動了大多數終端客戶的案例。

不確定因素：OpenAI / Anthropic

延續上一點，我們可以看到需求積壓是瘋狂的。但來自實驗室的需求（算力需求的相當大一部分）有多真實。現在這是我認為答案不太明確但仍可推理的地方。我想將這個答案分解為推理和訓練。

如果我們認為一個新的 SOTA（最先進）模型成本高達數億美元，那麼我們可以說它是一項投資資產，隨時間通過推理產生一些有用的生命週期價值（儘管有急劇的折舊曲線）。

作為反作用力，你會有開源模型擴散到市場並以更便宜的成本與前沿實驗室競爭算力。這些開源模型可能是蒸餾的或不是，對理解動態來說並不重要。

所以我們必須質疑的動態是當 SOTA 模型出來時會發生什麼？現實是不是每個人都會一直用它們解決每個問題。然而，鑑於它們具有 SOTA 能力，它們可以解決當前模型類無法解決的問題，你願意為此支付溢價。

你可以說像 Kimi K3 這樣的模型改變了這種動態，因為它們是開源的，但人們忘記了一個重要事實：SOTA 模型非常龐大，運行它們所需的硬件遠超任何家用模型所能做的。Kimi K3 本身需要接近 1.5TB - 2TB 的內存。祝你好運找到它。

讓模型更有趣的是，Kimi 在向 K3 開放閘門後就耗盡了容量。當然外面存在一個模型，但仍然需要有人為它提供服務。它仍然必須在有能力的硬件上運行。實驗室確實會被迫隨時間變得更有競爭力，但這不會威脅到它們的業務，因為最終某些工作負載的溢價將繼續保持。此外，能夠為你的工作負載提供該模型的容量同樣重要。認為前沿模型不值任何溢價是不誠實的。這個溢價有多大仍有待觀察。

如果開源模型被禁止或非法，那麼實驗室會以創新為代價大獲全勝。

推理已被證明是盈利的，基於服務提供商的利潤率在 50% - 70% 之間。即使人們離開託管提供商，這種需求也必須流向他們購買自己的硬件。鑑於推理是主導工作負載，需求遠超供應。

現在就我們的大型實驗室而言，它們在這個世界中表現如何？我認為答案可能還好，但利潤率可能不會那麼高。

認為它們會失敗和跌倒是錯誤的。儘管我很想給出一個有更多數據支撐的觀點，但我們並沒有關於它們具體利潤率的清晰數據；不過可以合理推測，它們的推理服務優化能力已經達到了行業標準。此外，那些擁有數千萬乃至數億月活用戶的公司並非赤裸裸的龐氏騙局或欺詐項目，而且它們的收入還在快速增長。

圖：大型實驗室與開源模型競爭格局

實驗室模型的投資回報

實驗室在 SOTA 模型上可能仍無法產生可觀回報，但這意味著市場不會獎勵具有更強能力的新模型，也不願意為這種溢價付費。考慮到前沿模型代表了 AI 能夠解決的下一類問題，押注反對前沿似乎不是個好主意。退出這場競賽的代價是日後更難追趕（除非通過蒸餾）。

無論 SOTA 競賽如何，推理仍需要硬件，對推理的無限需求仍必須由某人的硬件來滿足。

AI 交易的複雜性

AI 交易可能是當前市場最有趣的交易，因為它同時具有三個特點：

• 被忽視
• 過度擁擠
• 嚴重誤解

許多市場參與者（包括大型機構投資者）無法理解技術的複雜性及其對資產負債表底線的影響。像 Kimi K3 這樣的簡化標題導致內存股大規模拋售，儘管 K3 是你能運行的最大內存密集型模型之一。

這些股票價格已經上漲，但它們以個位數的遠期市盈率交易，市場預期它們的利潤和需求將在 2028/2029 年暴跌。

無限需求的新經濟

從理性主義角度來看，說存在這種需求無限的新經濟商品聽起來很瘋狂。傳統經濟學認為，如果需求飆升，供應會趕上來滿足需求。但考慮到同質化的投入（電力、芯片、土地）產出不確定的結果（智能），我們永遠不會滿足於現有的算力。

算力需求無限的世界意味著我們正在進入一個全新的世界。

許多算力預測也沒有考慮未來五年機器人的崛起。做空算力就是做空機器人。隨著全球人口下降，我們當前關於更多人變得更有生產力的經濟模型不再成立（尤其是許多人的注意力持續時間越來越短）。沒有人工智能和機器人，經濟就沒有增長和創造更多經濟價值的途徑。

沒有 AI，我們將最終減緩人類進步。作為一個文明要達到這個階段，我們需要上線更多算力。北美的算力上線能力基本已達上限。加拿大和澳大利亞是下一個。我們將在全世界建設數據中心，直到空間用盡，然後轉向太空建設更多數據中心。

供需的不對稱定價

更令人著迷的是，供應量被精確衡量，因為它通過財報電話會議中的晶圓廠時間表為人所知，並且定價完美（所有供應都將按確切時間表到來，沒有延遲）。而需求端是實時衡量的，且被低估了。這造成了一種情況：市場相信供應的上限，同時低估需求情況（低估幅度很大，而今天有真實可信的數據）。

每當你試圖推理 AI 交易時，你需要問自己是否相信算力需求是有限還是無限的。這個問題的答案將指導你的後續決策。

算力不是普通商品。它既是勞動力的替代品，也是國家安全的必需品，更是遞歸自我增殖的生產資料。相信需求有限，等於相信人類已經滿足；相信需求無限，則意味著我們正站在一場經濟範式轉移的起點。