大模型公司「卷」 芯片，英偉達危？

撰文：木沐

人工智能的行業競爭，不僅是 OpenAI 與谷歌等各大互聯網巨頭的大模型之爭，支撐運算的芯片賽道也暗流湧動，大模型「製造機」們也加入了賽道。

OpenAI 計劃從 CEO Sam Altman 投資的一家初創公司 Rain AI 訂購更高效的 NPU 芯片；微軟也推出兩款自研芯片 Azure Maia 100 和 Azure Cobalt 100；谷歌剛推出的新模型 Gemini 1.0 採用的就是自己設計的芯片 TPUs v4 和 v5e。

在這之前，英偉達構築的 AI 芯片帝國是這些大模型公司的強大輸出方，如今，大模型公司試圖要自給自足一部分。而正式向英偉達發起挑戰，還是芯片賽道上的老玩家。

美國超威半導體公司（AMD）已推出新一代 AI 芯片 MI300X， 還從從英偉達手中分走了 Meta、微軟和 OpenAI 三大客戶。

AI 芯片捲起來了，但想要挑戰坐在「王位」英偉達，也絕非易事。

大模型公司自給芯片‍‍

今年以來，各種 AI 大模型和應用百家爭鳴，英偉達 A100、A800、H100、H800 等能支持 AI 大模型訓練的芯片被瘋狂搶購。「消費者」不僅是科技公司，還有各國政府和風險投資公司。

「賣水」的英偉達一時風頭無兩，他們家的 AI 芯片供不應求，AI 市場再現 GPU 短缺。

微軟在 2023 財年報告中就多次指出，對能否為其雲運營獲取 GPU 感到擔憂。OpenAI 的 CEO Sam Altman 也不止一次公開「抱怨」芯片短缺及成本巨大，今年 5 月，他曾公開表示，OpenAI 正在經歷嚴重的算力短缺。這也正在影響用戶體驗，ChatGPT 時常卡頓，反應延遲。

據報道，OpenAI 運行 ChatGPT 的成本每天在 70 萬美元。路透社指出，每個 ChatGPT 查詢的成本約為 4 美分，如果此類查詢增長到 Google 搜索的 1/10，則需要預先投入價值約 480 億美元的 GPU，每年需要花費 160 億美元的芯片才能維持運行。

算力短缺，成本高昂，戴爾亞太和日本總裁 Peter Marrs 就曾預測，買家不會容忍英偉達 GPU 的交貨時間過長，這將給大量競爭對手製造機會。

為了擺脫對英偉達的芯片依賴，OpenAI 正在考慮研發自己的 AI 芯片，以應對全球 GPU 的短缺，縮減 GPT 的訓練成本。

前幾天，OpenAI 一份訂購意向書曝光，Altman 任職 CEO 期間，該公司承諾從一家初創公司 Rain AI 訂購芯片，金額高達 5100 萬美元，而 Altman 投資了這家公司。

值得一提的，這款芯片是基於神經擬態（Neuromorphic）技術的「類腦」 AI 芯片 NPU，據說「模仿了人腦的結構和功能」，支持並行和分佈式地處理信息，非常適合 AI 應用中的「計算密集型任務」，能夠實現低耗、高效地處理信息。但目前，該芯片仍在研發階段。

不僅是 OpenAI，微軟和 Google 等大型科技公司也在一直打造更高效的芯片。

11 月 16 日，微軟在年度 IT 專業人士和開發者大會 Ignite 上推出兩款自研芯片——雲端 AI 芯片微軟 Azure Maia 100、服務器 CPU 微軟 Azure Cobalt 100。

Maia 100 旨在為 AI 工作負載運行基於雲的訓練和推理，而 Cobalt 100 則用於通用工作負載。微軟的數據中心預計，將在 2024 年初同時採用 Arm CPU 和專用 AI 加速器。微軟表示，除了在 Bing 和 Office AI 產品上測試該芯片外，OpenAI 也正在測試該芯片。

微軟研發 Maia 100 自用及供給合作伙伴 OpenAI

谷歌也開始行動，其剛剛發佈的、號稱「吊打」GPT-4 的大模型 Gemini1.0，用的就是谷歌自研的 TPUs v4 和 v5e 芯片。

谷歌稱，在 TPUs 上，Gemini 的運行速度明顯快於早期規模更小、性能更弱的模型。此外，歌還發布了 TPU 系統 Cloud TPU v5p，旨在為訓練前沿 AI 模型提供支持，從而加速 Gemini 的開發。

包括蘋果、華為等硬件廠商，越來越多的科技巨頭都開始自主設計和開發自己的芯片，以滿足自身的業務需求和差異化競爭。

英偉達的防禦與擴張

大模型公司捲進芯片賽道，真能徹底擺脫對英偉達的依賴嗎？

儘管市面上英偉達 H100 GPU 已漲到了原價的兩倍，依舊供不應求。也即便已經上線自研芯片的谷歌，也依然在大量採購英偉達的芯片。

英偉達有自己的護城河。

據英國《金融時報》 報道，今年以來，英偉達已經投資了二十多家公司，包括從價值數十億美元的大型新人工智能平臺到將人工智能應用於醫療保健或能源等行業的小型初創企業。

雖然英偉達表示，公司在投資時並沒有特殊條款，也不要求被投企業必須使用英偉達的芯片。但某種程度上，這意味著更密切的關係。

英偉達風險投資部門 NVentures 的負責人 Mohamed Siddeek 表示：「對於英偉達來說，進行初創企業投資的首要標準是相關性。」 他強調，「使用我們的技術、依賴我們的技術、在我們的技術上建立業務的公司，我想不出我們投資的公司有哪家沒有使用英偉達的產品。」

根據跟蹤風險投資機構 Dealroom 的估計，英偉達在 2023 年參與了 35 筆交易，幾乎是去年的六倍。Dealroom 指出，這是英偉達人工智能領域交易最活躍的一年，超過了 Andreessen Horowitz 和紅杉等硅谷大型風險投資公司。

此外，英偉達 CUDA 計算平臺以及軟硬件生態，也為英偉達護城河構築了更加堅固的河堤。

CUDA 是一種英偉達推出的並行計算架構，運行相同任務的情況下，支持 CUDA 系統的英偉達 GPU 比 CPU 的速度要快 10 到 100 倍。正是得益於 CUDA 系統，GPU 才得以打敗 CPU，成為今天運行大數據計算的基礎。

大模型公司自研芯片，擺在眼前的也困難並不少，根源是原材料的供不應求。

The Enderle Group 首席分析師 Rob Enderle 就表示，「製造芯片並非易事，代工廠和晶圓廠已經飽和，這使得 OpenAI 的這項工作很可能會失敗。」他補充說，「他們最好與 AMD、高通、英偉達或英特爾合作，因為後者已經擁有自己的鑄造廠。」

還有成本。

Futurum Group 的高級分析師 Todd R. Weiss 表示，創建自己的芯片擺脫依賴「乍一看，是一個很酷的主意」，但設計自己的芯片、建立自己的芯片製造設施，永無止境地開發更新更好的芯片路線圖所需的成本，還要擔心自己的供應鏈問題，「這並不比從他人手中購買芯片更簡單。」

芯片的戰場，還在芯片製造商之間。

12 月 6 日，英偉達最大的競爭對手美國超威半導體公司（AMD）舉行「Advancing AI」發佈會，並拉來了微軟、Meta 等科技公司高管站臺，發佈會上，AMD 帶來了新一代 AI 芯片 MI300X。

與英偉達的 H100 HGX 相比， MI300 X 加速器在運行大語言模型推理時的吞吐量和時延表現都要明顯高出一截，且價格也更加低廉。Meta、微軟和 OpenAI 公司隨後在 AMD 投資者活動上表態，未來他們將會使用 AMD 最新的 AI 芯片。

真正降低成本的辦法，還得看芯片製造商的「互卷」。AMD、英偉達等芯片大廠進入產能競爭，價格才能打下來。而大模型巨頭自研芯片，無非是為「軍備競賽」多一條奔跑的腿。