核威懾會失效，AI 實驗室或被國有化：一位匿名研究者的 46 條未來暴論

作者： bayeslord

編譯：深潮 TechFlow

深潮導讀： bayeslord（@bayeslord）是 AI × 加密圈裡一個匿名但有分量的賬號，不帶貨、不追熱點，專門沿著 scaling law、算法深度這些技術內核往下硬推。

該博主最近寫了一個 46 條清單，對科技、AI 和相關技術的未來發展做出了推演，認為所有人都在用過去的效率曲線理解 AI，而真正的大跳躍還沒來，智能生產可能還剩四到十個數量級沒走完。

他從算法加速一路談到機器人、資本、永久底層階級，最後落到最尖銳的地方：相互確保摧毀（MAD）可能失效，軍警會被自動化，AI 實驗室或被國有化。

原貼已近 100 萬瀏覽。觀點雖然極端，但每條相對自恰，值得泛科技讀者一看。

這份清單基於我 6 月 4 日發的一條推文串，做了些修改和補充。好幾個人說原來那條太難讀了，所以整理成這個版本。

智能

1. 算法進步會讓所有人措手不及。整個世界——市場、政府、軍隊、公司、個人——都在用最近這些年的生產效率和規律去理解 AI 的影響，去判斷事情大概會怎麼走。連那些號稱信了「遞歸自我改進」的新實驗室，都覺得這不過是老一套加個智能體在循環裡跑。不是這樣。我猜智能生產這件事上，還剩很多個數量級沒走完，也許多達十個，四到七個的可能性更大。原則上超過十個也不是不行，但那會狠狠撞上我懷疑物理定律真正允許的上限。不太可能，但沒被排除。如果這判斷成立，那事情的真實走向和它表面看起來的走向就不是一回事，一次大跳躍正在逼近。任何沿著這個方向發生的事，都會讓世界變得比幾乎所有人定價的都要詭異得多。

2. 我們正處在起飛早期。AI 改進 AI，最後可能成為歷史上後果最重的一步。這件事沒法打包票，因為我們不知道自己離智能的物理極限和計算極限還有多遠，不過我押注還很遠（前面說了，每單位算力再榨出 4 到 10 個數量級的智能輸出，看起來是可能的）。

3. 既然進了起飛階段，算法研究就在加速。算力還是稀缺資源，但研究員時間的機會成本降下來了，因為你可以直接派個智能體去跑任何任務，哪怕是瞎折騰。它可能就帶回點東西來。所有新想法都揹著一筆「優化債」，現在這筆債可以用無人監督的 token 消耗來還。海量的研究 scaling law 曲線會被一條條走完。

4. AI 模型會持續變強，前沿模型尤其如此。唯一真正的牆是物理。模型越來越自主、越來越聰明，而且一直在變好。數學和代碼正在被規模加強化學習攻下，剩下的都排在後面。「可驗證」和「不可驗證」這個區分作為有意義的界限會慢慢消失。往前走，自動化 AI 研究和 AI 學習會越來越像同一回事。把模型訓練好，本質上和模型自己學得好是緊密相關的。樣本效率、創造力、以及其他所有限制都會被解決，然後在任意規模上逼近算法最優。

5. 長任務智能體必須要有同等長度的訓練數據，這個想法是錯的，因為泛化在時間維度上是存在的。長任務不是由「長」這個屬性堆出來的。這跟 LeCun 那個 （1-e）^n 誤差累積的謬誤有關。真正發生的是糾錯。糾錯在多個尺度上同時進行，從單個 token 生成的層面，一直到長任務裡的每一步。METR 那張圖之所以往上走，一部分原因是智能體開始觸及糾錯的逃逸速度。

6. 一門工程級別的深度學習科學馬上就要出現了。它會把我們推向 AI 的算法成熟期，速度比大多數人預期的快得多——雖然前面提過，這條路原則上能走多遠還不清楚。舉個例子，一門研究尺度不變性的科學，會大幅提升有用實驗的規模和回報，因為一塊 GPU 上的實驗能告訴你怎麼用十萬塊。

7. 技術人類活動的每一個領域，都會有屬於自己的「第 37 手」時刻（AlphaGo 對李世石時下出的那手超越人類直覺的棋），然後很快，「第 37 手」本身會顯得過時。我說的是所有領域。

8. 算力會持續變好。今天最好的矩陣乘法機器，離 AI 加速器的物理極限還差得遠。數字硅這條路還有很大提升空間。新的襯底也有很多候選，它們欠下的算法債會被自動化榨到極限，但我們還不知道對 AI 來說，在空間、能耗、時間、可製造性、成本上最優的那個是什麼。光子學和隨機硅都是有意思的候選，但我也預期奇點本身會讓人意外。

9. 實驗室能領先多遠，一部分取決於自動化和規模的回報，這裡麵包括更深算法深度帶來的回報。如果深度學習的實踐（和理論）永遠是淺的，那長期來看護城河大概不會主要是算法層面的，因為秘密相對容易被發現。最終，蒸餾加數據加時間可以追上算力規模，可能會慢一點。目前看我們部分處在這個狀態，但就算真是這樣，也沒人保證它會一直這麼走。

10. 如果隨著規模擴大，深度學習變得不那麼淺，那每一分自動化和規模的增量，都會給你換來別人越來越夠不著的算法秘密。這個狀態我們目前看起來也部分符合。兩種情況的終點都是邊際效用回報隨規模和研究飽和的時候。我們不知道那個點在哪。可能離今天 2 個數量級，也可能 20 個。沒人知道。

智能供應鏈

11. 至少未來幾年，算力都會是被激烈爭奪的資源。但在這段時間裡它會開始商品化，我們會回頭嘲笑 2020 年代的寒酸。規模在擴大而且奏效，資本跟著進來，一遍遍地轉動飛輪。更多矩陣乘法機器、更多晶圓廠、更多能源正在路上。智能生產的瓶頸是暫時的。潛在的經濟減速帶不算在內。

12. 智能供應鏈的性質正在變。現在它高度集中在實驗室手裡。但實驗室正在自動化那個讓它們變強的核心東西——研究員，以及算法優勢的發現。一旦這個過程開始，假設開源跟得不太遠，尤其如果實驗室不把 AI 研究員模型鎖死，那實驗室的優勢就會轉向更容易的融資、更多算力、獨家數據、商業關係和好產品。這確實取決於前面說的算法深度那個問題怎麼收場，以及其他一些因素。

13. 分佈式訓練會降低對單體數據中心大規模建設的需求，給非超大規模廠商一些優勢。不過在單次最大規模訓練這個純粹的維度上，它不會超過超大規模廠商。

14. 自動化 AI 實驗會讓算法秘密被廣泛發現，因為這些秘密天然比全尺寸訓練更容易分發。這條路能走多遠不清楚，但我預期相當遠。前面說了，深度學習的根本深度仍然未知，這條判斷的上界就取決於那個未知。

15. 儘管這些力量表面上對學術界和開源有利，它們仍可能因為算力的成本和機會成本而萎縮。比如說，GB300 是拿去服務 GLM5.2 或 Fable 更值錢，還是在某個學術實驗室裡做非前沿研究、或者在 Anthropic 內部造 Mythos 2 更值錢？市場會算出需求最大的地方在哪，而現在看，那地方確實是實驗室。這意味著開源實驗室可能會更加算力飢渴，就算它們有錢也一樣，前提是它們還沒提前鎖定算力產能。就算鎖定了，它們也還得盤算自己做研究相比出租算力的機會成本。參考 Colossus 和 Anthropic 那筆合作。

16. 在 AI 能力開始變刺激的環境裡（未來 0 到 18 個月），開源在社會層面也可能開始難做，尤其如果我們加速安全的速度很慢——到目前為止確實很慢。

17. 資本湧向實驗室的時候，開源可能開始萎縮。這裡有個協調問題：除了實驗室（也許還有政府），沒人想要一個 token 壟斷者，但如果這個問題能解決、監管環境又友好，也許結果還行。

機器人

18. 機器人會有一個類似 2022 年 11 月 ChatGPT 那樣的時刻，然後再有一個類似 2025 年 11 月 Opus 4.5 那樣的時刻。兩個都還沒發生，但它們要來了，而且會比人們想的快，這是快速 AI 進步的結果，包括 AI 加速的物理系統工程。機器人這兩個時刻之間的間隔，看起來不太會是三年。

19. 不過要在物理上把全世界機器人的數量真正堆上去，可能得等到 2030 年甚至更晚。雖然我們一年造大約 1 億輛車，而人形機器人比車小得多。考慮到我們一年還造 10 億部智能手機，如果資本和算法跑得夠快，2030 年做到每年 1 億臺機器人這個量級是合理的。每年 1000 萬臺肯定能做到，無人機市場我們已經在做了。只要軟件能在小規模上證明人形機器人值這個錢，就能撬動無限資本，撬動的量和證明的質量成正比。

20. 今天看起來像機器人硬性上限的東西會消失，包括樣本效率差、數據相對稀缺、手和電機的硬件設計又貴又難、物理世界的分形複雜度，還有那些關於我們怎麼在世界裡幹活的、沒被記錄下來的隱性知識（比如水管工那套）。世界模型看起來有用，但具體是哪個東西不重要。研究 scaling law 會被一路磨到效用遞減為止。

21. 全球對機器人的需求輕鬆就是幾百億臺，尤其如果把各種形態加起來。有太多值得自動化的體力活了。市場會想辦法解決這件事，而人們大概不會擋路。

進步

22. 科學正在自動化、虛擬化。這意味著這世界需要的很多進步，會從自動化實驗室和模擬裡來。我們不知道虛擬化的完整計算極限，但生物、材料科學等領域這種機器人驅動的實驗室，會拆掉大量瓶頸，一路上還會推高「已驗證虛擬化」的邊界，來提升樣本效率和「落地成真」的淨回報。基本上在每個領域，我們都會有神經模型、顯式模擬、真實世界實驗的某種組合，一起提升生物、材料科學這類領域裡每一塊錢、每一份時間的回報。

23. 進步定律到處都是。在深度學習裡它們叫 scaling law。任何一條曲線上，S 型曲線什麼時候飽和很難判斷，地平線那頭有沒有新的 S 型曲線也很難判斷。這裡要理解的是，文明進步這臺引擎本身也有一條進步定律。我們的進步很可能是飽和型的，跟大多數自然過程一樣，但我們其實不知道飽和發生在哪。技術和文明的成熟期可能很近，也可能很遠。我們正處在這樣一個歷史節點：一是我們幾乎還沒往進步上投什麼資源，但這一點正在飛快改變；二是我們正在自動化那臺直接產出更多進步的機器。我們身處一個有意思的時代。

24. 規模向上還是規模向外的未來。從零到一還是從一到 n。宇宙允許我們在廣度和深度上取得多少進步，是個開放問題。廣度好估一些，因為它大致就是「從現在起，物理定律還允許我們做多少步計算？」. 而那個計算能有多「深」——在這個詞最泛的意義上——是未知的。有些版本的未來裡，科技樹深到不可思議，可觸及的計算宇宙富饒到我們會一直髮明、一直髮現，直到物理擋住我們，如果它擋得住的話。另一些版本更平：我們很快就把一棵較淺的科技樹點滿，相對輕鬆地抵達技術成熟期，然後把它規模化鋪開，直到心滿意足或物理擋路。

資本與生產

25. 更多資本加更多智能，意味著一個更強化的資本主義，意味著我們更快地衝向市場均衡。長期看這自然應該導致通縮，導致大多數重要商品競爭到接近零邊際成本，包括 AI、食物、住房、醫藥、電子產品、娛樂和旅行。前提是我們不讓人擋路。有些情況下他們大概會擋。

26. 採礦會被自動化。海陸空運輸會被自動化。工廠會被自動化。工人會被自動化。配送中心會被自動化。整條供應鏈的維護、改進和擴張都會被自動化。

27. 會有人類保有工作，保有很長很長時間。這部分人占人類的比例是多少，是個開放問題。說這個數會很高的人過於自信，說這個數會是零的人同樣如此。不過確實很難想象，在知識工作裡那個「知識」的部分，人類還能在邊際上貢獻多久。有些需求，比如醫生，可能會大幅下降——如果我們有 20 美元一個月的超人 AI 醫生，加上按需檢測，加上醫療技術進步帶來的健康大幅改善。但因為我們現在把醫生卡特爾化了，我們可能會繼續這麼幹，當醫生仍會是個好職業。娛樂的需求大概會上升，但生產成本會下降，娛樂對人類的技術性需求本就已經大幅減少。不過我們很在乎其他人類，所以也許我們會繼續在乎他們，當演員會變得更賺錢。有一種思路能幫你想清楚這事怎麼演變：從今天的一個勞動者到消費者之間，供應鏈裡隔著多少中間層。對一個 TikTok 網紅來說，零層。對一個醫生來說，零層。對一個工廠工人來說，很多層。一份工作能不能被去中介化、能不能被競爭淘汰、可不可替代，大概會很大程度決定它的結局。這套分析相當微妙，這一段遠遠說不透，但最後要提一句：這一切的前提是我們沒遇上需求端的斷崖式崩塌——如果太多人不工作，而生產率或政府效率又撐不起全民基本收入或全民基本醫療，那種崩塌就可能發生。

28. 跟上面幾點相關但不矛盾：「永久底層階級」可能真會存在。在它成真的那些較好的世界裡，它看起來更像是能動性被高度限制，而不是收入被害慘。對大多數人來說這最終是能接受的，我們的能動性早就被現代社會高度限制了，但它需要心理上的適應，這可能要花時間，也可能很痛苦。

文化與心理

29. 人類心智現在成長和適應得很慢，但這會變。關鍵在於往好的方向變，對有些人來說這不容易。豐裕的智能和自動化會讓我們工程出遠比今天更持久的心理結構——今天這套是不適配我們環境的進化遺留物。精神病學和心理學會在不超過幾十年裡，走完一千年的創新。人類會從根本上變好。粗糙、墮落的「爽感直連」被高估成了風險，因為我們會有更精巧、更多樣的心智工程可用。

30. 在一個極度不確定的世界裡，人們會比以往任何時候都更兇狠地爭奪權力、地位、財富，過程中會心安理得地背叛同類。他們會發明各種理由說明自己的行為是好的，甚至是偉大的。看看四周。

31. 你會活著看到你無法相信的尷尬。

32. 現在有一種明顯的雙重話語在上演：那些即將、或已經是最富的 0.01% 的人，一邊說 AI 會造福所有人、別擔心工作，一邊又不肯放棄自己的財富，去當一個地球上、哪怕是美國的隨機一員，無論期限是一年、五年還是二十年。人們看得見這一點，已經開始反應。說清楚，我也不會放棄我的位置，但我也沒說一切都會完美（我也不是最富的 0.01%）。結果就是，我們有建成一個不公世界的風險。有些人在乎這個，我覺得這事應該被更頻繁地討論。而且說得再直白點，美國政治在處理這類問題上的方式爛透了。

33. Elon 看起來很可能成為第一個千萬億富翁。寬泛地說，不難想象芯片、機器人、飛船的需求還會漲到現在的一千倍以上，而這裡面很大一塊他大概能吃下。

協調

34. 社會各個尺度都需要更好的協調，這一點很明顯。以我們現在對協調的理解，它有弱點也有風險，但很可能我們連它的表面都還沒刮到。會不會有一個 Satoshi 級別的人物，來幹掉 Moloch（象徵所有人被迫參與、誰都無法退出的惡性競爭）？

35. 在 AI 上搞一些國際協調，大概是個好主意。我們也許會想要條約和 GPU 計數。這套東西可以設計成：一是拖慢軍事和政府權力那種螺旋上升的對抗性積累，二是對科學和其他重要進步領域的影響降到最低。我們可能得不到這個，因為 GPU 太普遍地強大了。核武器上我們做到了，是因為除了瘋子沒人真的想用核彈。

36. 一次 AI 實驗室協調的暫停或減速，現在看起來比 2023 年更有可能。這裡權衡很多，但我覺得暫停的可爭辯價值，今天比 2023 年略高了一點。「暫停會被浪費掉」這個論點更難成立了，因為我們有了自動化研究——雖然還沒完全有（我們有的是自動化工程）。說句實在的，我個人現在並不支持暫停，主要是因為它會打斷穿越奇點那根鋼絲上太多別的部分，科技樹裡可能藏著龍，而對手是真實存在的。

權力、暴力、安全、自由

37. 我很遺憾地告訴你，我們的宇宙可能在 Bostrom 意義上是脆弱的（哲學家 Bostrom 的「脆弱世界假說」：技術進步可能掏出某種一旦被發現就足以毀滅文明的能力）。有可能當前世界存在一些自由度，我們沒法在保住治理和自由那套規範（這套規範對我們世界的真相是充分的、除了全景監獄之外）的同時，快速協調把它們控制住。注意在這樣的世界裡，權力積累是個滑坡。這類世界很多最後對大多數人來說都很糟。要是這不是真的就好了，但它可能是真的。

38. AI 擴散會以某個大於零的速度發生，不管有多少潛在的限速因素。世界上有太多計算機，而 FLOP 換智能的匯率處在有史以來最低點。別賭事情會陷入停滯。

39.「永久底層階級」這個概念，隱含著「永久上層階級」的存在。這預設了一群人因為某種相對沒有正當性的理由，擁有更多權利。這個理由歸根到底永遠是暗含的或已兌現的、由暴力支撐的支配。但也許一個有先進 AI 的世界，是一個人類不再有正當理由去統治的世界，沒有任何公認的、超越其他人類的能力或地位。這永遠不會 100% 成真，但它可能會變得越來越重要，值得去想。我懷疑在實踐中，道德層面的論證和實用層面的論證會分岔得相當厲害，也許這樣反倒是對的。

40. 各種方向的力量都會逼著機構轉型，而這些力量可能通向暴政。通往那裡的路有很多，有些打著安全的旗號，有些是良性的權力蔓延——天花板是強大 AI 加全自動軍事供應鏈加全自動武器。我們需要更好的機構。

41. 外面可能有大量零日漏洞。在網絡、生物、基礎設施、神經、模因、物理等領域。我們根本不理解算法深度和一致性在這些領域裡的回報，無論是防禦和魯棒性那一側，還是破壞那一側。核武器的算法深度，對世界上最聰明的人類來說並非夠不著。明天我們的機器會夠到下一級，再下一級。現在我們對算法上很淺的那種隨機災難率知道一點，而對一個算法上很深的文明裡會發生什麼，幾乎一無所知。

42. 相關的一句：科技樹裡可能有些真的很操蛋的東西。我們真的不知道。

43. 規模化的機器人能力，帶來了超越純計算機模型的、真實的接管和政變式風險，也帶來更平常的東西，比如網絡攻擊的新表面和新向量。我們應該認真對待這些風險，努力去降低它們。

44. 相互確保摧毀建立在 20 世紀和 21 世紀初的技術之上。我們將經歷急劇的技術變革，可能是一千年份量的變革壓縮在很短的時間裡。這意味著 MAD 不是理所當然的。這個問題是可解的，但既不是完全確定、也不是乾淨利落的顛覆，因為要拿到決定性優勢，容錯率極低，可能根本不可行。過去有些人用相當不嚴肅的方式提過這個話題，我覺得那是錯的，也是不負責任的。這是我們能討論的最嚴肅的話題之一。人們對它感到緊張是對的，但我覺得是時候談了。

45. 軍隊、警察、以及政府執法的主要機制，都會被自動化，並且比人類更聰明。你自己看著辦怎麼理解。

46. 最後：AI 實驗室最終可能會被強意義上的國有化。在我看來，美國的體制其實不太兼容這個，但通往國有化的路有很多條，在保守或自由的政治環境裡，看起來都不算被禁區擋死。原則上，實驗室似乎可以在後端和軍方、情報部門保持協調，而不用比現在已經擺出的姿態更張揚。聯邦政府擁有我們說的這種單邊權力，也極其危險。私營公司擁有這種權力是另一回事，因為它們通常不會直接實施暴力，法律上也不被允許。我不太待見國有化，但這個世界令人困惑，而且看起來正變得越來越兇險。