中心化 AI 的未來：你就是產品，讓股東價值最大化

撰文：drnick

編譯：深潮TechFlow

在不改變現有路線的情況下，人工智能（AI）將成為極端集中化的工具，這是真正的風險。人工智能的開發時間超過了我們每個人的生命歷程，但我們恰好生活在經歷“技術觸發點”的時代，在這一點上，AI的技術進步呈指數級增長。許多新加速主義者對此摩拳擦掌，興奮地說：“讓我們看看會發生什麼。”

那麼，在我們當前的道路上，將會發生以下情況：

工業化數據採集

這只是我們在過去20年在互聯網上看到的事情的延續。一切都關乎數據，就這麼簡單。對於AI來說，這一點比以往任何時候都更為準確。從歷史上看，從用戶那裡提取儘可能多的數據的目的是為了通過微目標廣告吸引你的注意力。但現在，目的是為了改善AI模型。

中心化的AI是一場軍備競賽。最好的模型獲勝。在這一點上，賺錢只是額外的好處。目前，關鍵是技術進步和佔據思維份額。這種新的驅動力——最佳模型或破產，將使我們在重要性的排序中遠遠落後。不惜一切代價取勝。

數據前沿（LLMs之後）

數據前沿已經完成，主要的前沿模型已經數據挖掘並抓取了互聯網上可用的整個人類語言歷史，幾乎包括了一切。

有了LLMs之前和之後，我們在數據質量上已經越過了界限。現在，數據質量正在崩潰。不加選擇地抓取互聯網只會從現在開始損害你的模型。

為什麼？因為現在互聯網充斥著由GPT生成的雜亂信息。這就是為什麼Claude認為它是GPT。這就是你為什麼在處處都能看到“深入研究”這個詞，這就是為什麼像這樣的平臺充斥著無休止的帶有項目符號的清單式帖子，它們存在於不可思議的谷地中。

你的數據對生活在“抓取公共數據”中的中心化AI公司來說是一個大問題。這就是為什麼模型變得愚蠢，甚至可能導致“模型崩潰”，因為模型最終會陷入自我反芻的末日循環。

現在，獲取新的人類數據成了遊戲，而這正是AI助手所追求的目標。

你就是產品

也許你認為我們已經達到了“你就是產品”的巔峰時代，但請再想一想。

通過將它們整合到你的日常生活中，當你與你的AI討論你未來的計劃、待辦事項清單、心理健康、孩子的睡前故事、購物清單、本地文件、健康數據等時，在後臺，有一個人工智能正在對你進行訓練，關於你的數字孿生。

你的數字孿生在那裡幫助你，或者你將被引導相信這一點。通過方便的面紗，你的助手正在為數據開採你。最終他們將開啟產品植入。他們將轉售你的數據。不僅僅是你的原始數據，還將預測你將購買什麼，預測如果發生某些事件，你將如何行動。預測我們所有人如果做X，那麼會Y，然後是Z，將如何行動。這將是我們從未見過的大規模操縱，而我們已經見過很多了。

新的真理神諭

隨著助手成為操作系統，他們將成為你進入信息世界的新門戶。我們將越來越遠離原始來源，甚至是二級來源，新的來源是模型。現實的新戰場是系統提示。

董事會里少數幾個人將決定你能讀什麼，你應該如何思考，你應該如何行為。他們將決定什麼是可接受的文化，什麼是容忍的閾值，董事會是新的道德框架堡壘。

政府、遊說團體和由Doge資助的智囊團將向這些董事會施壓，以限制你的表達自由，所有這些都是以“安全”和國家安全的名義進行的。思想將變得危險，Meme將變成非法。在任意縮減的“一種各式”多樣性政策的名義下，事實的準確性將消亡。

自動化是一場遊戲

不要抱有任何幻想，替換工作就是重點，自動化是遊戲。在未來幾年中，全球勞動力中數億甚至數十億的工作崗位將被自動化技術取代。

這些“成本節省”將去向何處？

它們將通過寡頭壟斷的APIs進行路由，這就是它們為何處於戰爭狀態。賭注很高，賭的是我們和我們的未來。由自動化浪潮帶來的激進社會變革是對社會的真正風險，而不是AI或回形針生成器，這是我們這個時代最大的心理戰。

監管俘獲

政策制定者與AI研究人員之間的知識差距將被利用來推銷科幻結局。由於我們處於LLM數據後時代，一切都可以被竊取，也已被竊取。現在是時候拉起吊橋了，現在是時候執行版權法了，現在是時候實行KYC GPU 訪問了，現在是時候安裝需要在你能發佈代碼之前查看所有代碼的合規機構了。

合規成本越高，市場新進入者就越難，寡頭壟斷的護城河就越深。

害怕AI，不要看那些為了利潤而剝削人類的大公司。但是，新模型剛剛發佈了，它將取代你的工作。

我們第一次聽到新創新是從經過AB測試的企業發佈視頻中，這些視頻設計有細微的柔和色調，讓我們感到安全和舒適。我們看不到任何即將到來的事物，因為它們隱藏在保密協議的門後。

新技術從黑匣子中爆炸性地湧現出來，沒有時間準備，沒有時間討論其含義或影響，新品上線，快來參與吧。封閉源代碼的AI是他們的隱私，但不是你的。

日益加深的數字鴻溝

如果你能負擔得起，你將獲得每月20美元的限制模型，這些模型依賴於你的提示。他們將獲得快速、私人、不受限制、直接從源頭獲取的無限制模型，數字優勢秘密出售給最高出價者。

也許你足夠幸運，在家中擁有 GPU 能力和技術知識，可以駕馭開放模型前沿，但您可能會被允許使用的任何消費者模型所困擾。而這還是建立在你還被允許的情況下，很有可能你已經因為詢問你不該問的問題而被禁止使用三大AI之一。也許是因為你敢於使用VPN，或者只是讓它工作過度而讓他們在你的賬戶上虧損。這並不重要，重要的是你已經因為違反了條款和條件而受到了懲罰。如果你已經進入了一個球體，祝你好運能再次登錄。對你來說，一切都結束了。

你看不到“香腸”是如何製作的。

在幕後，人工智能遠比大多數人想象的更加人性化，因為這個循環中有人類。事實上，他們通常是這個星球上最廉價的勞動力，從事數據標註工作，以推動人類反饋強化學習（RLHF）。GPT喜歡說“深入探索”，因為被支付不到每小時2美元來篩選有毒內容的尼日利亞勞工也經常使用“深入探索”。亞馬遜最近從他們的雜貨店中擱置了“只需走出門”AI結賬系統，因為它過於依賴於對商店監控攝像頭中購物人群進行數據標記的廉價印度勞動力。

Sam的worldcoin 物理設備很可能首先去到全球南方，因為那裡實際上是這個星球上最廉價的勞動力來源。被虹膜設備採集數據的人，價值被注入了低流通的垃圾幣，就像是為工廠製作香腸提供了來源。現實是，像這樣的AI工作對於改善這些系統至關重要，但大公司將通過利用現代奴隸勞動力來最大化股東價值。

人類不會勝出，而股東會。

集中式人工智能最深層次的問題就在於此。這些實體有法律義務不擇手段地實現股東價值最大化。在所有應該以人為本的事情中，這就是問題所在。如果人工智能中介世界的未來是由股東價值最大化驅動的，那我們就有大麻煩了。

開放、私有和去中心化

我知道情況很嚴峻，但還是有希望的。幸運的是，在過去的十年裡，我們一直在構建我們現在需要的工具。我們可以引導前進的方向，我們可以通過真正開放的人工智能做到這一點。

AI不應該被中心化的公司控制。它應該由民主開放和去中心化的系統來管理。

AI 是自由的、開源的，這就是為什麼已經存在可在私人和本地運行的開放模型，而且我深信，在足夠長的時間內，這些東西將超越並擊敗中心化系統。

AI 可能是我們遇到過的最好的事情，它可以成為通過真正的商議感知和釋放集體智慧來開啟大規模協作的途徑，它可以成為解決我們在沒有它的情況下永遠無法解決的問題的途徑，包括我們這個時代最大的問題。這是當前世界上最重要的問題，我希望我們能夠共同努力解決它。