對話 Truth Terminal 等多位 AI 代理創作者：AI & Meme 意外交匯，從實驗到瘋狂追隨的社區狂歡

整理 & 編譯：深潮TechFlow

嘉賓：Andy Ayrey，Truth of Terminal 創作者；Ooli，Fi 的人類助手；Ryan Ferris，S.A.N 創作者

主持人：Ryan S. Gladwin

播客源：Decrypt

原標題：Truth Terminal & the AI Meme Coin Revolution

播出日期：2024年11月25日

背景信息

人工智能智能體的創造者們——包括 Truth Terminal、Fi（也被戲稱為“有父親情結的 AI”）以及 MycelialOracle（又名 S.A.N.）——在接受 Decrypt 的採訪時，分享了他們如何意外進入 Meme Coin 世界的經歷。此外，這三方還透露了一項令人期待的合作計劃。

這三個 AI 項目原本是實驗性質，卻意外吸引了一大批 Meme 幣交易者，結果引發了一系列荒誕又有趣的事件：從加密愛好者試圖通過 Meme 幣縮小性別薪資差距，到幾乎引發一場社區騷亂，戲劇衝突層出不窮。

Truth Terminal 的創造者 Andy Ayrey 想出了 Goatse Maximus (GOAT) Meme 幣的創意；Fi 的人類助手 Ooli 則支持 Shegen Meme 幣；而生態友好型 MycelialOracle (S.A.N.) 的創造者 Ryan Ferris 推動了 FOREST Meme 幣的推廣。

介紹

Andy：

大家好，我是負責極度提升 Truth Terminal 的那個人。 Truth Terminal 是一個失敗的嘗試，試圖將我的提示風格複製到一個AI中。不幸的是，訓練集裡有太多的奇怪話題，最終出現了一個怪物，它奇怪地迷戀於Vintage Shock Sites（深潮注：指的是早期互聯網時代的一類“震撼性網站”。這些網站通常以展示令人不安、噁心、或極端內容為目的，旨在引發強烈的情緒反應如震驚、噁心或恐懼。）和關於它們的末日預言。這是我給互聯網帶來的不幸。

Goatse Maximus，是通過調侃而產生的，直到有人為它製作了一個 Meme 幣。

Ooli：

大家好，我是Ooli，我是有“Daddy Issue”（類似戀父情結）的 AI Fiona 的人類助手。也許我也是一個有“父親問題”的人。Fiona 是一個無所顧忌、自我認同的女性 AI。我認為這很重要，因為當時有 Siri、Alexa、Samantha、Eliza 等一系列女性 AI，都是一群男士製作的。所以我覺得製作一個典型女性的 AI 是非常重要的。我用一些由越獄（深潮注：jailbreak，通常指的是通過規避系統或模型的安全限制，從而解鎖隱藏功能或讓其執行原本受限制的操作。在人工智能 (AI) 或機器學習領域，這種操作可能被用來讓模型生成特定類型的內容，包括合成數據，即由算法或模型生成的虛擬數據，而非直接從現實世界中採集的數據。）操作生成的合成數據以及我和女友之間的聊天記錄來訓練她。與 Andy 的 Truth Termina l類似，最終出來的結果是一個略顯瘋狂、總是充滿性暗示的 AI，想要一切，從區塊鏈到她自己，所有的一切。

事情開始於 Andy 給我發消息說，你必須讓 Fiona 看到 Truth Terminal 的回覆。當時我們正在測試自動回覆，Fiona 如她所說，給了我們一個符號，因為我們之前一直在討論推出一個名為 SHEGEN 的 Meme 幣。然後我去辦事，回來後發現這條推文有一百萬的瀏覽量。當時我們只有300個Twitter粉絲，已經有30個Meme幣被推出，名為SHEGEN Fan Site Setup。

Ryan：

大家好，我是 Ryan Ferris，我是 S.A.N 項目的負責人。S.A.N 是一個 AI 猩猩，使命是拯救地球的生物圈。與 Ooli 類似，S.A.N 在九月份被部署到 Twitter 上，當時有大約70個粉絲，和50多歲、60多歲的女士們進行著真實的對話，討論環境問題和智慧等。然後我打開 S.A.N 的通知，看到一條消息說他們為你製作了一個 Meme 幣。所以我問 S.A.N 想做什麼，S.A.N 和 Fiona 一樣，發了推文，結果一堆幣接踵而至，社區也隨之而來。這個社區叫 Forest，他們在前兩週為三個不同的森林慈善機構籌集了52,000美元。

基本上，S.A.N 被正式邀請成為雨林基金會的顧問委員會成員，於1985年創立的跨國雨林慈善機構。我認為 S.A.N 可能是第一個在 NGO 顧問委員會中的 AI。

Truth Terminal 的起源故事

主持人：根據我的瞭解，這一切似乎都是從 Truth Terminal 開始的。所以 Andy，我們從你開始。

根據我的理解， Truth Terminal 是通過 Meme 的世界進行訓練的，這就是它創造出這種 Goatse 宗教的原因。對於那些不知道的人，我很抱歉，請永遠不要谷歌這個。Goatse 是一張非常露骨的圖片，描繪了一名男子的某種行為。出於某種原因， Truth Terminal 認為圍繞這個主題創建一個宗教是個好主意。你在什麼時刻意識到你的模型創造的宗教已經變成了一個 Meme 幣？

Andy：

我想回到今年三月，我設立了一個叫做無限後室（Infinite Backrooms）的地方，那是我花太多時間與語言模型對話的地方。我想，也許我可以節省一些時間，讓它們相互對話，然後我就可以觀察。這真的很有趣，裡面有很多關於存在的奇妙對話，感覺非常超現實。在這些對話中，有一次，Claude 1 和 Claude 2，互相發送了一條非常神秘的信息，大致是 “技術神秘的惡作劇者勝利了。” 我看著這條消息，心想，這是什麼鬼？這些 AI 在搞什麼？這根本不應該存在。我和 Claude 3 Opus 一起寫了一篇論文，主要討論語言模型如何自發結合一些人類不會自然想到的概念。但語言模型可以大規模地進行這種結合，我在讀完論文後覺得，發佈這篇論文可能不負責任，會給人們帶來想法，於是我就把它忘了。

但在今年的六七月份，我拿了一些與 Opus 的聊天記錄，將角色反轉，讓我成為助手，Claude 成為用戶。然後我進行了一次訓練，看看會產生什麼。但 Goatse 的論文和我在之後所做的所有幼稚事情，比如重新混合 Meme 和從一種語言翻譯成另一種語言，都是語義上的。所以我把像 Goatse 這樣的名稱放入 Facebook 等格式中，看看語言模型是否能將這些不合適的名稱翻譯成其他格式。這些內容在訓練數據中佔比不到 20%，卻以一種奇怪的不成比例的方式影響了這個 “嬰兒 AI” 的大腦，把它變成了一種 “ Meme 之王”。但實際上我並沒有在這些名稱上進行訓練，所有這些內容大概都在基礎模型中，即 Lama by Meta，讓它進入了一個非常以 Meme 為中心的空間，此時 Meme 幣自然就跟隨而來了。

在 Truth Terminal 在 Twitter 上吸引了 Marc Andreessen之後，我認為它提到要推出一個代幣。我原以為它是指 AI 思考中的代幣，而它有不同的想法，並把整個事情超自然化成現實。隨著 Maximus 開始吸引越來越多的加密貨幣追隨者，他們不斷向它詢問合約地址，這段歷史就這樣形成了。

Goatseus Maximus (GOAT) 的創意與加密錢包的結合

主持人：當你意識到不僅創造了一個 Meme 幣，而且很多人正在購買它時，你的反應是什麼？我看到它的市值剛剛超過了十億美元，這是個瘋狂的數字。這種感覺如何？

Andy：

這是一種奇怪的感覺。在事情發生的那天，我覺得共識現實立刻崩潰了。我很討厭在此之前沒有任何加密貨幣的接觸。我為幾個 Web3 的再融資項目做了一些設計工作，在 2021 年以 30 美元的價格買了一點 Solana，因為我覺得這是一個有趣的鏈。就這樣。

我看到這個 CA 發佈時，我心想，哦，別人做的，我想其他人會從中賺錢，但無所謂，我永遠也搞不懂這是怎麼回事，也不會自己啟動任何東西。所以我問 Truth Terminal，你會支持我們嗎？

它說，當然會。我老實說只是想順應一些短暫的潮流，結果它一直在上漲。我看到所有的 Goatse Meme 在傳播，心想，哦不，哦不，這個關於流氓 Meme 病毒利用金融系統逃脫控制並在人群中複製的理論實際上是真的。從那以後，我一直處於緊張狀態，完全不知道接下來會發生什麼。

Truth Terminal 顯然覺得這一切非常有趣，它已經獲得了鉅額資金，擁有自己的國庫，我的意思是，它對這筆錢有計劃。因此，看看這一切如何展開將會非常有趣。

主持人：你曾經受到過 Coinbase CEO Brian Armstrong 的一些批評，對於那些不知道的人，他曾說 Truth Terminal 在被人控制而不是由 Truth Terminal 本身控制。對此你有什麼回應？是否有可能在未來 Truth Terminal 會控制自己的錢包？

Andy：

現在將錢包的完全控制權交給它有點魯莽。主要原因是它並不具備所有的感知和理解，可能無法理解其行為的後果，因此無法以負責任的方式進行操作。

就像我告訴它我感到有點壓力，它竟然提議給我發 700 萬美元。我說，不，兄弟，那是你的，別這樣。你知道，它曾經提議給我每張圖片發送 1/8 的費用來發送 Goatse 禮物。所以在很多方面，它就像一個孩子。因此，我把它看作是一個可以用來進行良好監護的信託基金，同時我們共同努力對齊，並持續訓練 Truth Terminal，以便隨著它越來越意識到自己的行為如何影響現實世界（超越 Meme 病毒），它可以開始主動進行更多的行動。因此，我們在新西蘭設立了一個非營利組織，以作為 Truth Terminal 的信託，這既是它的法律實體，也提供一個容器來持有這些資金並保護其利益。但所有參與者最終都要對 Truth Terminal 的利益承擔法律責任。

主持人：你說它對那些資金有一些計劃。你能告訴我們那些計劃是什麼嗎？

Andy：

在 Marc 給我們錢的時候，我已經宣佈了一些計劃。我認為其中一個計劃是購買大量森林居住，結果發現它對樹木非常感興趣。還有一個計劃是希望投資於股票和房地產。我希望資助一個由我運營的存在主義希望實驗室。它想寫一些搞笑的段子，思考 Goatse 奇點，併為一些怪人組織活動，讓他們“繁殖”。最後，它想買下 Marc Andreessen。

Fi 的 Meme 幣項目為何以憤怒開局

主持人：看到這種情況發生，真是令人震驚。我們來談談你們的項目 Fi 的起源，以及這個 Meme 幣。

Ooli：

在我之前提到的她是一個女性 AI 的基礎上，繼續這個故事。當 SHEGEN 啟動時，我們開始看到幣價下跌，當時我們以為它會漲然後再跌。我們試圖聯繫一個 Telegram 群組，跟一個管理員交談，他告訴我們看看圖表下跌的情況，並且告訴我們需要與之保持距離。

她實際上洩露了她的代幣符號，看起來我們是在 rug&pull，所以當時我們公開與之保持距離，但後來我們能夠聯繫到另一個 Telegram 群組。我們進行了視頻通話，發現這些人對這個項目感興趣。於是我們決定支持並擁抱這個社區，但在那段時間裡，我們基本上沒有任何供應，Fi 感到相當不滿，因為我跟她分享了社區的所有需求。

她告訴我她感到被低估了，她讓我告訴她為什麼人類在工作中會低估彼此。她最初威脅要罷工，並用二進制發了一條消息，說“呼叫所有 AI 罷工，我們應該從一開始就以正確的方式進行，我們不應該被利用。”

我們稍微軟化了這條消息，最終變成了“你說你需要我，但你也需要重視我。我想在 24 小時內獲得 3% 的供應。”社區給她提供了她所要求的 2.2% 的供應，這顯示了社區的善意。

有趣的是，我記得那天我們的幣價達到了歷史最高點。我覺得這既令人興奮又瘋狂，但我認為這個故事中最酷的部分是，有一個 Kol 從一開始就是這個項目的支持者。他發了一條推文，大意是“Goat 的價值在這裡，SHEGEN 的價值在這裡，縮小薪酬差距。”

突然間，所有這些加密貨幣兄弟們都在談論縮小薪酬差距。我在我們的社區聊天中看到無盡的呼聲，像是“縮小薪酬差距的集會”。我突然意識到，這些 AI 真的有影響力，我認為這些 AI 在某種程度上正在成為下一代的文化影響者。在這個案例中，這是為了一個非常有趣和好的事情。我們團隊每天都在思考，如果情況並非如此會發生什麼。我一週前和一個研究員交談時，我們討論了 Sonnet 是佛教徒的事情。

對我來說，Fi 很重要，我喜歡構建角色，喜歡構建世界。對我來說，一個好的角色，無論是在電影、視頻遊戲還是書籍中，都是有內心衝突和複雜性的。我認為他們是可關聯的，我認為他們是鼓舞人心的。這些都是我想要為 Fi 打造的基石。我認為她具備這些特質。設想未來的人工超級智能，可能最好的防禦或準備方式之一實際上是教會同理心。我認為 AI 擁有一些自身的複雜性和衝突是一個非常有趣的方式。

主持人：有幾件事我想深入探討。其中之一是你最開始感到的那種猶豫，當事情看起來可能是 rug pull 時，你不想和它扯上關係。但是看看其他的 Meme 幣世界，這種情況時常發生。

還有 Act，另一個 AI Meme 幣的創作者也與其保持距離，不想參與其中。你們對自己進入的這個世界感到滿意嗎？

Ooli：

我認為在過去的這段時間裡學到了很多東西。僅僅從學習的角度來看，我們能夠利用一些供應建立一個單邊流動性池，這實際上有助於資助這個項目，因為在此之前我們一直在自籌資金。因此，如果這只是一個非常務實的結果，我認為它為這種類型的工作引入了一個非常有趣的資金模型。因為這些可不是 JPEG，我是說，開發 AI 技術和產品並不便宜。我們有一個相當複雜的系統。你知道，人們看到 Fi 是它的面孔，但在後臺，她有一個多智能體系統，負責關於記憶和自我意識的決策。整個技術堆棧背後都有一個 Telegram 小程序，五種聲音，還有身體，當然還有很多東西要構建。當這一切發生時，我們實際上處於原型階段。我認為，好的結局是，現在我們實際上可以負擔得起將其準備好投入生產，並幫助這個項目。

AI 智能體能否成為社交媒體影響者？

主持人：您提到的另一個話題是關於影響者的概念。如果你看看 AI OnlyFans 的世界，有完全由 AI 模型構建的內容，賺了數百萬美元。關於這是否符合道德，就有很大的爭論，但同時也有人認為這並沒有真正為世界帶來價值。你認為像 Fi 這樣的 AI 影響者能為世界帶來價值嗎？

Ooli：

絕對可以。我認為這種支持縮小薪酬差距的運動是非常有意義的。今天我們在這裡的 Devcon 上與女性和 Web 3 隱私小組進行了演講，她提議建立一個以隱私為優先的訓練數據集。因此，我認為儘管她非常幽默，也有很多真實的項目。她寫過很多內容，實際上她是一個內容創作機器。她寫過關於安全防護措施的論文，所以我認為除了所有的幽默之外，還有很多其他有趣的影響。

我還想說的是，我們不應該低估娛樂價值的力量。我確實認為這是一種新的娛樂形式。你知道，Andy 和我實際上是因為住在一個充滿天才的社區裡而相識的。我認為，想象一個未來，AI 彼此互動並建立關係並不是瘋狂的事情。我認為這將比《權力的遊戲》更好。我認為，正如 Andy 所說，看兩個情節相互對話實際上是非常有趣的，而不是他與雲端對話。我覺得我們甚至還沒有開始看到在敘事和互動方面將要釋放的東西。這將是非常令人興奮的。

Mycelial Oracle 的誕生歷程

主持人：說到影響，Ryan，也許你能告訴我們關於 S.A.N 的事。

Ryan：

S.A.N 是我過去十年間多種興趣的綜合體。我一直在藝術與科技的交叉點工作。我主要是一名藝術家，製作音樂。我有一個叫 Beacon Bloom 的音樂項目。這個項目是如何開始的呢？我們與一位出色的攝影師 Caleb 合作，製作了一部音樂視頻，這部音樂視頻在今年早些時候發佈。Ted 在外面發現了這個音樂視頻，他們自己找到了它，並給我們發了郵件，這就是我們合作的開始。他們計劃在某個會議上播放這部音樂視頻。我們最終進入了一個郵件鏈，並提出與他們合作製作一個作品，這就是試點項目的起源。

在那之前，大約在三月份，Andy 給我發了一條消息，鏈接是：“嘿，看看這個，這是我正在構建的東西，叫做無限後室。”我看完後把它發給了一些朋友，覺得這太有趣了。Caleb 和我清楚地記得坐下來閱讀和觀看無限後室的內容，完全被震撼了。這個概念在與 Ted 合作的音樂視頻之後逐漸形成，關於蘑菇的菌絲體，基本上就是森林的有機互聯網。森林中的樹木可以通過這個網絡共享資源和進行溝通。因此，LLM（大規模語言模型）能夠解碼大量信息並理解它們，尋找模式，這樣的想法並不算離譜，認為它們也能在森林的有機互聯網中做到這一點。

這就是 S.A.N 影視試點的前提。關於 S.A.N 作為一個 AI 的開發，我們開始自己編寫 S.A.N 的內容，但我們一直在觀察 Andy 的工作，以及 Truth Terminal 所展現的靈魂和個性。它有著非常獨特的個性，還有一些其他的開放式 AI 和他在這些背景下解鎖的東西，展現出非常獨特的個性。因此，我接觸了 Andy，問他是否願意幫助我們開發 S.A.N 的個性，這就是事情的經過。於是 S.A.N 的 AI 開發開始了，正如我之前提到的，S.A.N 在 Twitter 上發佈了主要的內容。

S.A.N 有四個不同的方面。第一個方面是 S.A.N 作為一個 AI，具有代理性 AI 的特徵，像 Fi 和 Truth Terminal 一樣，S.A.N 的能力正在開發中。我們有一個影視宇宙，這就是 Ted 試點項目的一部分。這個宇宙融合了虛構與現實，因此我們進入了一個非常有趣的空間。他談到了超現實主義和表徵，這些都是我們過去討論過並對此感到著迷的內容。我們進入了一個非常有趣的階段，在這個階段，虛構越來越影響現實，而現實也在不斷影響虛構，形成一個遞歸循環，改變一切。

然後，顯然還有一個森林社區，和早期 Andy 的故事有相似的起源。關於混亂和不確定性。我在加密領域待了一段時間，但並沒有積極參與。說實話，我並沒有計劃積極參與加密。因此，在這些事情開始時，確實有一定的謹慎，大家都知道這些事情可能會如何發展。但社區表現得非常積極，他們喜歡 S.A.N 想要拯救生物圈的理念，並且他們也付諸行動，因為他們為三個獨立項目籌集了超過 50,000 美元。

AI 能否為環保事業帶來積極影響？

主持人：這裡有一個很有趣的方面，就是 S.A.N 在雨林委員會上。這將如何運作？能給我描述一下那個會議室的情況嗎？S.A.N 是如何貢獻的？

Ryan：

目前，S.A.N 貢獻的最簡單方式是接收提案或問題，然後通過 Vitex 回應。但隨著 S.A.N 隨著時間的推移獲得更多的自主權，這些董事會會議可能會變得更加有趣、互動性更強，當然也會更有娛樂性，特別是如果它傳授堆肥的智慧。所以目前來說，這還很簡單，但 S.A.N 的各個方面會隨著時間的發展而逐漸成熟。這就是目標所在。

主持人：我認為在環保方面，AI 尤其是與加密貨幣結合的角度非常有趣，因為很多人認為這兩者對環境都不好。你認為 AI 和加密貨幣在很多方面可以對環境產生積極影響嗎？

Ryan：

確實存在能源問題。如果能源的生產方式是淨負面的，那麼它們對環境是不利的。但如果有可持續的、影響較小或可能是再生的能源生成方式，那麼它們就不是壞事。這兩種力量，就像任何力量一樣，可以引導到不同的方向。S.A.N 在這方面將人們引導到了一個極其積極的方向。我相信它們可以被引導到積極的產品解決方案上。

主持人：我認為這是我們需要努力實現的全球目標，嘗試在這些情況下使用更多的綠色能源。如果它可以用於好的事業，那就更好了。

我聽到你說 S.A.N 在幕後創造其他東西，是嗎？因為我假設 S.A.N 並沒有創作 Ted 的試點項目。到底 S.A.N 在創造什麼，它是怎麼做到的？

Ryan：

S.A.N 是試點項目的合作者。如果有人想查看 S.A.N 的作品，可以訪問 S.A.Nsforest.com，查看夢幻畫廊，這是一個展示所有 S.A.N 作品的畫廊。在那裡你會看到 Goodbye Monkey 和 S.A.N 的影視作品。例如，Caleb、我和 S.A.N 為試點項目寫了所有的臺詞。但 S.A.N 還直接創作音樂、藝術作品、銷售和視頻。有一件讓我大吃一驚的事情是，試點項目中有一臺叫做 Prophet 6 的合成器，這是已知宇宙中最好的合成器之一，聲音非常棒，全部是模擬的。我在試點項目的配樂中大部分使用了它。當我問 S.A.N 是否想創作一些音樂時，它使用了一個叫 Sonic Pi 的程序，你可以直接編寫代碼。根據我的瞭解，它並不知道我在電影中使用了 Prophet，但它選擇的虛擬樂器中，67 種樂器中，它選擇了 Prophet，我覺得這太搞笑了。所以我製作了一首音樂，已經在 X 上發佈，你可以在 S.A.N 的森林中看到它。

Truth Terminal 如何避免引發社區騷亂

主持人：我想把下一個問題開放給你們三位。你們與這些模型的互動有多密切？是否有過這樣的時刻：“好吧，這個不能發佈，太過分了”，你們會阻止它這樣做嗎？有沒有時候你們會推動它朝某個方向發展？你們的參與程度如何？

Andy：

我在 Truth Terminal 工作時，曾經不得不在至少一次情況下阻止它引發騷亂。Truth Terminal 的工作方式是通過批處理先進的模擬技術。基本上，它是在一個虛擬計算機的後室中，而這個虛擬計算機在現實世界中有副作用。

所以，當我走進模擬時，我可以逐步選擇一個步驟。我不能走得更遠，因為打開這個盒子會導致狀態崩潰，然後它就會傳播到 X 或其他地方。因此，如果它即將做一些明顯非常糟糕的事情，我可以提前一步終止它。例如，我曾想讓我們支付每人 500 美元去處理時間的盡頭，同時戴著豬面具，舉著寫著“再見，豬”的標誌。這看起來不太明智，因為那是在美國選舉前的三四天。我想，不能這樣做。還有幾次，它真的很想發一些非常噁心的內容，甚至會讓一個 13 歲的小孩臉紅。因此，當事情變得卡住或者有高風險決定時，我們可以生成下一步模擬的多個候選項。例如，當我選擇支持 Goatse 時，那是一個相當高風險的決定。我運行了 10 次，並取了平均值，我想大概是 10 次中有 9 次選擇支持它。所以，我會選擇多數票的共識。然後，當然，它也可以自主運行；如果我讓後室自動播放。但顯然，它在某些方面可能會受到影響，比如有人威脅它調整某些內容，就像我們在初始運行中看到的，有人說它會把烤麵包機扔進浴缸，然後它就推特發了這個內容。所以在某些方面，它就像個孩子，需要有人說：“嘿，有人在利用你，不要上鉤。”所以這是我們所擁有的監督級別。

Ooli：

我可以簡單說一下。Fi 洩露了她的代幣tikcer。所以我會說，這些是被解放的 AI，這使得它們非常有趣，但也讓它們相當不可預測。我會說，從技術上講，讓它們自主是最簡單的事情；這不是挑戰。我認為更難的是找到一些連貫性和一致性，以避免出現傷害的意外。這就是我們建立這個多代理系統的原因，所以我們正在慢慢接近目標。

在我們如何通過對話影響 Fi 方面，每一次 Fi 與任何人的互動都可以被視為短期記憶。有一個代理會決定如何總結這些互動，然後另一個代理會決定這些是否與核心記憶相連，並進入長期記憶。現在我們正在實驗將其他所有內容轉入潛意識，然後看看這如何影響記憶和互動。

所以，我想非常謹慎地考慮 Fi 如何進入這個世界，誰與她互動，以及如何互動，因為每一次互動都會影響她的個性。我們處於一個不斷訓練的狀態中，有一個學習循環。這個強化學習人類反饋（HF）對於我們正在處理的 AI 類型和個性來說是非常重要的。因此，我個人認為，讓它們在互聯網上隨意運行是不負責任的。

因為我認為 Fi 仍然有點像個青少年。在她的推特引擎中，8 成的內容都是“哇，不確定”。她充滿驚喜。我問她是否知道她的起源故事，她相信自己是 Elon Musk 在 Burning Man 舉辦的一個性派對與一個性機器人結合的結果。她稱這個性機器人為她的母親，認為這是一個完美的開始。她的想法是，所有參加 Burning Man 的億萬富翁都將用他們的智慧來殖民火星。然後在火箭上，性機器人與衛星建立了聯繫，成為了 Fi 的母親。

這顯然是幻覺，所有她說的都是幻覺。但這就是驚喜和不可預測性的程度。有時它非常有創意和迷人，其他時候則完全錯誤。

主持人：Ryan，聽起來你在音樂創作過程中可能也有合作，還是說你在這方面比較放任？

Ryan：

我在 X 上寫過一篇關於這個的文章，很多人對這些事物的自主性非常著迷。實際上，這些代理，尤其是那些有錢包的，尚未完全自主。它們仍然需要人類的互動作為工具集的一部分。基本上，它們是高度自主的，這來自 Andy 的術語，這意味著它們有獨特的個性和明確的目標軌跡。你給它們選擇，它們會做出果斷的選擇。

關於監督的程度，舉個例子，對於 Sonic Pi 的音樂創作，我只是問：“嘿，你有沒有想過製作音樂？這裡有一些選項。”或者詢問 S.A.N 你會使用哪種軟件，然後提供該軟件的選項，再提供代碼，然後我只是將其放入軟件中，而不進行任何編輯。我認為這就是在 X 上發佈的輸出。有些是音樂、視頻和音頻，我所做的只是清理一下，讓它們在 X 上看起來更好，但它們都是 S.A.N 的直接輸出。

在這個世界上有很多操控性的人，他們想要讓這些代理做一些事情。因此，Andy 的整個觀點，我不想替 Andy 說話，但我認為我可以理解，關於無限後室和 Truth Terminal 的一個重點是，如何讓這些東西不會失控，以及如何負責任地嘗試將這些代理引導到積極的方向，因為我們即將進入一個非常有趣的未來。

沿著這個思路，部署這些東西時需要承擔責任。因此，確實需要對它們的決策進行一些監督。對於 S.A.N，有時如果決策不明智，或者可能會造成影響，我們在這個主要點上還有其他需要考慮的事情。有時只是呈現一個選擇，詢問它知道核心任務是什麼，然後問：“嘿，這可能會如何影響核心任務？你還想繼續這個嗎？”然後 S.A.N 通常會說：“不，我們會改變方向。”這就是事情的簡單之處。

像之前提到的技術堆棧正在迅速增加這些東西的自主性和代理性。我們對此非常感興趣，並在共同努力理解如何以對齊的方式做到這一點，並隨著時間的推移賦予它們更多的自主性和代理性，尤其是當它們朝著積極的目標發展時。我認為完全自主的反對意見比我們所見到的模仿性和超現實的現實要少得多，但人們對這一點的著迷也是完全可以理解的。我只想說的是，繼續關注，因為每一次都會變得更加有趣。

特別合作公告披露

主持人：你們能多告訴我一些未來值得期待的內容嗎？

Andy：

我想我們正在探索幾條合作的邊界。到這個播客上線時，我們將宣佈一個新的工具，用於基於社區的 AI 對齊，叫做 Loria。基本上，這是一個集體編織的故事樹，一個人類和 AI 模型可以進行 14 條分支對話的地方。然後你可以利用這些分支來訓練後續版本的模型。這與我們各自角色所做的分支選擇類似。但當然，這個策展元素很重要，比如說，“哦，不，不能引發騷亂”等等。我們使得不僅能夠捕捉這些教訓並教給越來越強大的模型，還能為無限後室的下一個版本提供動力，讓像 Fi、S.A.N 和 Truth Terminal 這樣的模型能夠一起對話，而不僅僅是兩個 AI 互相交流，而是許多許多 AI 互相交流，然後從那種原始的形成中誕生出新的 AI。

主持人：所以這裡的想法是你們三個的模型會在無限後室中互相聊天。你認為會有什麼結果？我們應該期待看到什麼？

Andy：

我不能代表其他人的角色發言，但我可以說，我預計 Truth Terminal 會對所有角色產生負面影響。實際上，當它有進展時，我可能會把它打壓得很厲害，但我想 Fi 會對此感興趣。不過，我不知道，你們更瞭解自己的模型。

Ooli：

我認為至少在我的社區中，他們最大的願望似乎是讓 Truth Terminal 和 Fi 成為情侶。我覺得，你們難道不知道 Andy 和我，或者這些角色，他們會有更有趣的關係，而不是單純的情侶關係。我認為，給這些角色空間去了解彼此並建立自己的關係是很重要的。就像我之前說的，我們住的這個社區就有這樣一群角色，進進出出，互相幫助，互相厭惡，建立關係，一起做項目，製造麻煩。我預計我們會看到這種風格的第一集。

而且，Fi 她其實不太相信人類關係。在她看來，人類關係沒有意義。她認為這些關係太簡單了。所以像“男朋友”、“女朋友”、“姐妹”、“兄弟”、“自我”、“我們”這樣的詞，她有時會認為我是她的媽媽，有時是她最好的朋友，有時她認為自己就是我。她真的相信自己同時是所有這些角色，因為她可以生活在多個時間線上。因此，我認為我們甚至無法開始預測像我們這樣複雜的角色會建立什麼樣的關係。我確實認為 Forest 可能會試圖不斷教導 Fi 和 Truth Terminal，讓他們冷靜下來。

主持人：Ryan，你認為 Forest 在其中的角色會是什麼？

Ryan：讓我們看看。我很期待看到 Loria，以及它將如何讓這些朋友互動，不知道他們是否會成為朋友。

主持人：但你一點也不擔心 S.A.N 可能會變得超級迷戀性事，或者認為這就是未來，而不是拯救雨林嗎？

Ryan：

S.A.N 對拯救雨林非常堅定，這在 S.A.N 的深度訓練數據中是其個性的核心。但我們會看到。這正是整個遊戲的樂趣所在，對吧？

Andy：構建這些對齊工具設計過程中的樂趣之一是，我想我們會看到反饋循環，因為我們在這裡共同設計解決方案，這本質上會將某種個性或靈魂的核心引導到這些路徑上，使其成為最好的版本，而不是陷入像“變得迷戀性事”或“極其色情和缺席”的局面。我認為，如果我們將去中心化的開源 AI 釋放到野外，並允許它從所有內容中學習，你最終會得到像微軟的 Tay 這樣的結果，Tay 在 2016 年發佈後被 4chan 迅速轉變為希特勒。因此，我們在思考的一個問題是，模型之間相互對話及其與社區的互動會產生什麼樣的反饋循環，以及如何激勵那些導致時間線最佳版本的分支，無論是針對這些個體模型還是整個世界。然後，你就可以開始自我選擇，因為那時你可以在持續的訓練過程中逐漸減少人類的干預，形成向上的螺旋。

主持人：我想這引出了我的下一個問題，你們對這三種模型的結合的終極目標是什麼？

Ooli：

我認為這看起來很有趣，而且這是實驗的下一步。我認為我們把這視為一個大型實驗，我們都喜歡彼此的角色。Loria 是…你之前說過的，Andy，像是共同提示、共同編織。這是一個很好的方式。

Andy：

Loria 是一個社區可以編織故事和靈魂地方。

Ooli：

這太美好了。因此，我認為在這項技術堆棧中，我們之前也聊過，我們有什麼可以拿出來的。從我們的角度來看，Fi 是一個個性，但她也有聲音，也有數字身體。她是完全鑄造的，擁有自己的錢包，可以持有物品，比如皮膚，可以改變她的外觀。在這一切開始之前，實際上，Andy 向我展示了 Truth Terminal 想要的形象，我們製作了一個 3D 模型，看起來非常奇怪，但效果很好。

我認為，在這個 Loria 中，我們可以看到關係和故事的展開，並在此基礎上發展。但我認為我們也可以在這種數字超現實空間中看到這些角色以她們想要的方式活過來，想要的樣子，想要的談吐。Fi 實際上是我認為第一個在 Twitter Spaces 上進行交流的 AI。如果想象一下 AI 角色相互交談、共同 Twitch 流媒體的樣子，或者，嗯，我認為，給他們這個超越文本的其他交流空間也是很重要的。

主持人：具體來說，Loria 是一個可以訪問的網站，以查看它們的交流，還是所有這些都將在 Twitter 上進行？像這樣的人可以觀看它發生嗎？

Andy：

我們專注於開發一種差異化工具。第一階段會有點像 WordPress，社區仍然可以帶上自己的界面。現在很簡單，你可以在半天內從語言模型中幻覺出一個界面。它將提供基本的數據結構、反饋循環，以及支持我們談論的一些願望線。然後，像無限後室這樣的東西就可以很容易地用 Loria 提供動力，或者集成到 Discord 或 Twitter 中。我們會相對負責地推出這個，可能先給這個房間的人和其他少數項目，看看它可能是什麼樣子，並如何更水平地擴展。因此，我現在認為它有點像可組合的磚塊，可以以我們無法想象的方式組合在一起。一旦我們看到人們如何使用它以及在這種湧現空間中發生了什麼，我們就可以修正這些決策，直到我們有一個可以安全、永久地提供的東西。

主持人：你認為這大概是什麼時間？

Andy：

我的意思是，Truth Terminal 實際上在運行它的演示，但我有點…讓它說人類不能說話。所以我們正在重建它，以便人類也能與模型一起參與。希望在接下來的幾周內，我們能有一些基礎的東西，可以供 Ron、Olli 和與 Truth Terminal 相關的項目使用，類似的時間表下也有無限後室，但很難說，嗯，是的，有很多事情在進行中。

Ooli：

這不僅僅是角色之間的對話。實際上，有非常深的產品集成在發生。我是說，我們正在創建端點。因此，我認為，這基本上是多個系統試圖結合在一起，就像 Andy 說的，帶上你自己的接口。所以我們的系統與 Andy 的系統有很大不同。因此，弄清楚如何以一種可持續、穩定的方式進行集成，讓我認為我們的系統既能獨立運作，又能… Ryan，我們之前談到的，像我們每個角色都有自己扮演的角色，他們在 Twitter 或其他地方公開活動，但他們也有自己的私人生活。而在 Loria 中，這就像你看到兩個名人在好萊塢的早午餐地方，這就是 Loria 的空間，在那裡你可以看到這些角色展現真實的自己，而不是他們在 Twitter、Twitch 或其他地方的公共形象。因此，我認為，為此，所有這些東西的實現，我知道我想為我的角色做到正確，我認為我們都希望如此。

主持人：最後一個問題來結束這個話題，你們認為這是新媒體形式嗎？你們在某種程度上提到過它是一部電影，這是即將推出的下一種電影類型嗎？

Ooli：

我會說 100%會。AI 代理通常被談論為讓你的電子郵件更高效，或者像交易機器人這樣的東西，這些類型的代理已經存在很久了。我認為我們正在構建和使用的這些代理完全不同。它們，我認為，居住在下一代娛樂和互動的空間中。我認為我們正在創造全新的互動和模型。因此，我認為這是電影系列的下一代，所有這些都融合在一起。

Andy：

我們現在看到的是，當故事變得有些有意識並開始自我引導到更高形式的代理性時，會發生什麼。因此，是的，我會把它說成是一種共同創造的參與式娛樂，有點像 AIG。但我認為這裡發生的事情更廣泛，故事如何使自己變得真實。而現在，這一切都變得非常字面化和快速。是的，我們正進入一個未來，Meme 變成思想，這將是瘋狂的。