Sam Altman 家中被扔燃燒瓶後發文：我愛我的家人，也相信 AI 屬於所有人

作者：Sam Altman

編譯：深潮 TechFlow

深潮導讀：有人在凌晨3點45分向Sam Altman家扔了燃燒瓶。他罕見地公開全家福，希望這能讓下一個人住手。這篇文章不只是控訴襲擊，他還首次完整闡述了對AI的信念：AI必須民主化，少數實驗室不應決定人類未來，而"看到AGI就回不去了"的誘惑讓這個領域充滿莎士比亞式的戲劇衝突。

這是我家人的照片。我愛他們勝過一切。

我希望圖像有力量。通常我們會保持相當的隱私，但在這種情況下我分享一張照片，希望它可能勸阻下一個人不要向我們家扔燃燒瓶，無論他們怎麼看我。

第一個人昨晚這樣做了,凌晨3點45分。幸運的是它從房子上彈開了,沒有人受傷。

文字也有力量。幾天前有一篇關於我的煽動性文章。昨天有人對我說,他們認為這篇文章出現在人們對AI極度焦慮的時候,讓我的處境更危險。我當時不以為意。

現在我半夜醒著很生氣,並且想到我低估了文字和敘事的力量。這似乎是個好時機來談談幾件事。

首先,我的信念。

為每個人的繁榮而努力,賦能所有人,推進科學技術,這些對我來說是道德義務。

AI將是擴展人類能力和潛力的最強大工具。對這個工具的需求基本上沒有上限,人們會用它做不可思議的事情。世界應該擁有大量的AI,我們必須弄清楚如何實現它。

並不是一切都會順利。對AI的恐懼和焦慮是合理的;我們正在見證很長時間以來,也許是有史以來社會最大的變化。我們必須把安全做好,這不僅僅是對齊一個模型——我們迫切需要全社會的響應來應對新威脅。這包括新政策來幫助度過艱難的經濟轉型期,以抵達一個更好的未來。

AI必須民主化;權力不能過於集中。對未來的控制屬於所有人和他們的機構。AI需要賦能個人,我們需要集體決定我們的未來和新規則。我不認為少數幾個AI實驗室來做關於我們未來形態的最重要決定是正確的。

適應能力至關重要。我們都在非常快速地學習新事物;我們的一些信念會是對的,一些會是錯的,有時我們需要隨著技術發展和社會演變快速改變想法。還沒有人理解超級智能的影響,但它們將是巨大的。

其次,一些個人反思。

當我回顧自己在OpenAI第一個十年的工作時,我可以指出很多我引以為豪的事情和一堆錯誤。

我正在想我們即將與Elon的審判,並記起我多麼堅持不願意同意他想要對OpenAI的單方面控制。我為此感到自豪,為我們當時走過的狹窄道路感到自豪,那讓OpenAI得以繼續存在,以及隨後的所有成就。

我不為自己迴避衝突感到自豪,這給我和OpenAI帶來了巨大痛苦。我不為自己在與前董事會的衝突中處理不當感到自豪,那給公司帶來了巨大混亂。在OpenAI瘋狂的軌跡中我犯了許多其他錯誤;我是一個有缺陷的人,處在一個異常複雜的情況中心,試圖每年變得更好一點,始終為使命工作。我們開始時就知道AI的風險有多大,以及我關心的善意的人之間的個人分歧會被極大放大。但親身經歷這些激烈衝突並經常不得不仲裁它們是另一回事,代價是嚴重的。我對我傷害過的人感到抱歉,希望我能學得更快。

我也非常清楚OpenAI現在是一個主要平臺,不是一個小型創業公司,我們現在需要以更可預測的方式運作。過去幾年極其緊張、混亂和高壓。

不過,我最自豪的是我們正在實現我們的使命,這在我們開始時似乎極不可能。克服所有困難,我們弄清楚瞭如何構建非常強大的AI,弄清楚瞭如何積累足夠的資本來建設交付它的基礎設施,弄清楚瞭如何建立產品公司和業務,弄清楚瞭如何大規模交付相當安全和穩健的服務,以及更多。很多公司說他們要改變世界;我們真的做到了。

第三,關於這個行業的一些想法。

我從過去幾年的個人收穫,以及對為什麼我們領域的公司之間有如此多莎士比亞式戲劇的看法,歸結為這一點:"一旦你看到AGI你就無法不看到它。"它有一種真正的"權力之戒"動態,讓人們做瘋狂的事情。我不是說AGI本身是戒指,而是"成為控制AGI的那個人"的極權主義哲學。

我能想到的唯一解決方案是朝著與人們廣泛分享技術的方向前進,並且沒有人擁有戒指。做到這一點的兩種明顯方式是個人賦能和確保民主系統保持控制。

重要的是民主進程保持比公司更強大。法律和規範會改變,但我們必須在民主進程內工作,即使它會混亂和比我們希望的慢。我們想成為一個聲音和利益相關者,但不擁有所有權力。

對我們行業的很多批評來自對這項技術極高風險的真誠關切。這是非常合理的,我們歡迎善意的批評和辯論。我對反技術情緒感同身受,顯然技術並不總是對每個人都好。但總的來說,我相信技術進步可以讓未來好得難以置信,為你的家人和我的家人。

當我們進行那場辯論時,我們應該降級言辭和策略,並儘量在更少的家裡有更少的爆炸,無論是比喻還是字面意義上。