深潮 TechFlow 消息,人工智能公司OpenAI的創始人Sam Altman、總裁Greg Brockman和首席科學家Ilya Sutskever在其官網上發佈了一篇名為《超級智能的治理》的博文。
文章指出,雖然人工智能系統將在許多領域超越專家技能水平,帶來更加繁榮的未來,但我們必須管理風險,並提出了三個方案以應對風險:
1.在開發工作之間進行一定程度的協調,確保超級智能的安全和與社會的整合;
2.成立“人工智能版國際原子能機構”,即專門的國際監管機構;
3.確保超級智能安全的技術能力。
OpenAI高管認為,重要的是允許低於重要能力閾值的模型的開發,無需具有繁瑣的監管機制,而阻止超級智能的產生則需要全球監管制度,即使這樣也不能保證有效。



