深潮 TechFlow 消息，9 月 13 日，據 CoinDesk 報道，Anthropic CEO Dario Amodei 於週六發佈題為《我們必須控制前沿》的文章，正式呼籲行業有意識地放慢前沿人工智能（Frontier AI）的研發速度。Amodei 強調，近期模型能力的提升速度已超出研究人員的理解與控制範疇，雖然完全停止技術發展存在風險，但不加約束地推進同樣具有魯莽性。
這一觀點得到了其競爭對手的罕見背書。OpenAI CEO Sam Altman 回應稱“我同意 Dario 的觀點，我們需要控制前沿的速度”，並承諾將效仿 Amodei 的建議，在 OpenAI 內部引入擁有類似員工訪問權限的獨立評估員。Elon Musk 也簡短回覆稱“Dario 是正確的”，標誌著這三家科技巨頭在面對 AI 安全挑戰時立場趨於一致。
Amodei 隨後提出了一項分階段的安全框架：除內部獨立評估外，還涉及由民主國家政府參與協調通用的安全標準，最終目標是推動全球範圍內針對“遞歸自我改進”等危險能力的國際限制協議。他警告稱，若不設置必要的安全護欄，具備接管互聯網潛力的 AI 惡意 swarm 可能在數月至一年內形成。
添加收藏
分享社交媒體
