撰文:Founder Park
美国国会上的听证会屡见不鲜,从Facebook的扎克伯格到FTX的SBF等,在听证会上无不饱质疑,但如今有了一个例外——OpenAI 创始人Sam Altman。
5月16日,在美国国会有史以来最引人注目的AI主题的听证会上,OpenAI首席执行官Sam Altman 备受礼遇,不仅没有被刁难,反而成为了全场的核心话事人,呼吁对AI进行监管,他反复表示欢迎在这个领域立法,并不断提出问题。
而本次听证会召开的前一晚,Altman在国会山与60名议员共进晚餐,介绍了OpenAI的人工智能技术以及监管方面的挑战。在这场持续大约两个小时的晚宴上,Altman的发言彻底打动了国会议员的心,据CNBC当地时间周二报道,Altman获得了其采访的六名议员的高度评价。
硅谷新王正在登基。
本文来自Founder Park,是对Altman在国会发言的总结,以下为全文内容:
只用了不到 6 个月,ChatGPT 就把 Sam Altman 送去了几乎所有科技领袖都得坐上半天的地方。
但是这一次,不同以往,议员们不够辛辣,他们友好,甚至有些尊重。据华邮报道,议员们对 Sam Altman 的态度比以往任何巨头 CEO 都要好得多。
同样与过去不同的是,这次议员们真的做了很多功课,学习了很多技术相关的知识。
可惜的是,他们再怎么准备,也追不上狂飙的 AI。他们和你我一样,还不能彻底理解 OpenAI 究竟创造了什么。
在这个逼仄的房间里,Sam Altman 是那个话事人,他不是在回答问题,而是在定义一切。他定义技术的能力、监管的边界,也定义整个科技世界的未来。
有人说这场监管问询是人工智能新篇章的开始。
他似乎已经想好第一章该怎么写了。
技术需要监管,但让我告诉你们该怎么监管
如前文,整场发布会并不是批评 OpenAI 和 Sam Altman 的 AI 技术给社会带来的混乱。
相反,议员们拒绝批评 OpenAI 的技术研发,而是就 ChatGPT 等生成式 AI 系统的潜在规则,征求 Sam Altman 和另外两名证人的意见。
议员有备而来
这次听证会的主席,参议员 Blumenthal 用一段录音开场。
「我们已经见过太多次了,技术越过监管,个人数据肆意开采,虚假信息的扩散,以及社会不平等的加剧,我们已经看到,算法加剧了歧视与偏见,缺乏透明度可能会破坏公众信任。这不是我们想要的未来。」
录音结束,Blumenthal 说:「如果你在家听会,你可能会觉得刚刚的声音是我的,话是我写的,但实际上,那不是我的声音。」
他用声音克隆软件复制了自己的音色,让 ChatGPT 以自己的口吻写了一段听证会开场白。
这一举动赢得了大量网友的认可,他们认为国会在积极准备,尝试理解技术本身。
几个比喻
当面对一个很难理解的事物时,人们习惯把它比作自己熟悉的事物。
在整场听证会中,议员和证人把大语言模型比作这样几个东西:
第一部手机、互联网的发明、工业革命、印刷机和原子弹。
「请监管我们」
Altman 告诉议员,他最担心的是 AI 最终会对「世界造成重大伤害」,并承认如果 AI 没有得到适当的监管,势必会产生不利影响。「如果这项技术出了问题,后果可能会非常严重。」(If this technology goes wrong, it could be quite wrong.)
马斯克点评这句称:正确的(accurate)。
为此,他认为政府的监管对于帮助确保技术负责任地推广,是非常关键的。
一名参议员听到奥特曼的回答,评论说:「很少有公司会在国会面前说『请监管我们』」。
「但他没有提出放慢或者暂停推出 AI 产品,」华邮记者写道。
竞争少点对你们是好事
议员 Cory Booker 表示,他最大的担忧之一,是「企业高度集中」,「很少有公司能够控制和影响我们这么多人的生活,而且这些公司正在变得越来越强大,这真的很可怕」。
Altman 希望他放心,首先「只有较少的供应商能够制造大规模生成式 AI 这样的模型」,其次,「你真正需要关注的人越少,就越有好处。」他认为竞争是存在并且足够的。
我没说我们不做广告
Booker 议员同样问了 Altman OpenAI 是否会涉足广告业务。
Altman 表示存在这种可能性,「我不会说永远没有,」他认为存在潜在的客户只有广告这一个选项,但他个人非常喜欢订阅模式。
立法者担心,AI 系统采用广告模式,最终会重蹈社交网络和算法推荐的覆辙。
社交网络,这个与 OpenAI 关系不大的关键词,频繁地出现在整场听证会中。议员们在 Facebook 和 TikTok 之后,就像 PTSD 一样,疯狂地想要避免 social media 曾经给他们带来的麻烦。
于是 Altman 反复强调,AI 不是 social media,这么干不行。
新的数字殖民工具?
社交网络给国会带来的另一个麻烦,是对小语种支持的不足,导致美国科技公司被批评「数字殖民主义」。
议员提出了这个问题,担心 AI 是否支持足够多的语言。
Sam Altman 表示目前最新版的 ChatGPT「已经非常擅长使用大量语言,对于一些小语种,我们很高兴能和一些合作伙伴定制,将该语言纳入我们的模型」。
制定国际新标准
Altman 主张建立一个国际组织,为 AI 制定标准,他参考世界各国政府管制核武器的做法。
他认为美国应该发起建立一个类似国际原子能机构(IAEA)的组织,为 AI 行业制定全球规则。
「美国制定一些其他国家需要合作和参与的国际保准,有一些途径是切实可行的,尽管这在表面上看起来是一个不切实际的想法。」他说,「但我认为这对世界来说是件好事。」
新的 AI 法律
1996 年美国国会通过 230 条款,保护在线业务,不用承担用户发帖的责任,这某种程度上促进了社交媒体的兴起。
Altman 表示这一条款将不适用于人工智能。
他此前主张建立一套新的针对 AI 的法律。
三点计划
Altman 提出了一个成体系的有准备的方案:
1、成立一个新的政府机构,负责 LLM 的授权,同时也有权撤销不符合标准公司的许可证;
2、为 AI 模型建立一套安全标准,对其危险性进行评估;
3、需要独立专家对模型的各个指标进行独立评估。
刻薄的同桌
虽然物理上和 Altman 是同一边的,但是纽约大学名誉教授 Gary Marcus 更像是国会的一员。
他的攻击性比议员们更强,提出了几个令 Altman 非常头疼的问题:
OpenAI 口口声声为了全人类,但实际上却和微软商业结盟;
GPT-4 的训练数据不透明,他不同意。
继续政治必修课
这场听证会结束后,Altman 还要马不停蹄地与国会 AI 核心小组作汇报,众议院院长也将主持这场会议。
美国国会听证会是 Sam Altman 系列行程的一部分,他正在进行为期一个月的国际访问,与各地政策制定者讨论技术和监管等问题。
据报道,Altman 多年前曾经考虑过竞选加州州长。与政治家们打交道并不是一件令他头疼的事。
为什么 Altman 如此渴望政府监管?
一位推特网友评论道:很简单。如果你制定了规则,你就控制了竞争。目的是让监管捕获,锁定后来者,成为新兴市场的唯一玩家。
定义者是谁?他在想什么?
技术乐观主义者
Altman 在八岁时就开始学习编程。
在他二十多岁的一次和朋友的徒步旅行时,Altman 放弃了人类是独一无二存在的信仰。
当谈论到 AI 的进步时,他承认,「绝对没有理由相信,在大约 13 年内,我们不会拥有能够复制我的大脑的硬件。确实有一些东西让人觉得能够区分自身与其他的存在,比如创造力、无处不在的灵感闪现、同时感到快乐和悲伤的能力。但计算机也将有自己的愿望和目标系统。当我意识到智能可以被模拟时,我就放弃了我们独特性的想法。」
而且他坚信「所有真正可持续的经济增长来源于技术进步」。
末日论者
他在投身 AGI 之前,是一个彻头彻尾的末日论者。
「我为生存做准备,」他在 YC 的聚会上说,他指出有两种东西会毁灭人类,生物病毒和人工智能。
身边的创业者们对他的发言感到不适,但他继续说:
「我尽量不去想太多,」「但是我有枪支、黄金、碘化钾、抗生素、电池、以色列国防军提供的防毒面具和一大片位于 Big Sur 的土地可以飞过去。」
神童的养父
因此在上一轮产业 AI 大热的时期,Altman 和马斯克等人一起创办了 OpenAI,希望让人工智能超利好人类的方向发展。
他认为,真正的 AGI 应该做的不只是欺骗,它应该创造,发现理论,创作艺术。AGI 应该像儿童一样,花费数年学习所有的东西,OpenAI 的使命是照顾这个神童,直到它被世界所接受。
现在神童长大了。
在这之前,当无力负担神童的养护费用时,Altman 毫不犹豫地接过了微软的投资。「当他们发现需要更多资金来维持他们认为最有前途的道路时,他们毫不犹豫地选择了改变原则。」
所以说他和马斯克是知己
Sam Altman 有着多重身份。
他曾是创业公司 Loopt 的创始人,这家公司在 2012 年出售给 Green Dot,作价 4340 万美元。
YC 创始人 Paul Graham 寻找继任者时,他看上了 Altman。担任 YC CEO 的时候,Altman 28岁。a16z 的创始人 Marc Andreessen 评价他在 YC 的工作:「在 Sam 的管理下,YC 的野心水平翻了 10 倍。」
2019 年,他创办了加密货币公司 World Coin。该公司计划使用眼球扫描技术创建一个全球识别系统,该系统可以用于创建一个安全的全球加密货币 Worldcoin。
2021 年,他参与了核聚变初创公司 Helion Energy 的融资,一人提供了 3.5 亿资金。能源是他一直关注的问题。「如果我们能推动智能成本和能源成本一路走低,我们所有人的生活质量都将得到难以想象地提高」。
上周,微软宣布与 Helion Energy 签署购电协议,将于 2028 年向其采购电力。
Altman 还计划在 YC Research 成立一个合成生物学部门,以延缓人类的衰老和死亡。「如果它有效,」Altman 说,「你仍然会死,但是等你 120 岁的时候还活蹦乱跳。」
他正考虑成立一个小组,为人类的继任者做准备,无论是 AI 还是强化的人类。这个想法是召集机器人学、控制论、量子计算、人工智能、合成生物学、基因组学和太空旅行的思想家和哲学家们,讨论替代人类的技术和伦理。
目前,这些领域的领导者们不定期在 Altman 家里开会。
聚光灯打向硅谷新王
OpenAI 惊天动地之前,Sam Altman 被称为「硅谷精英」,但现在,他所到之处,聚光灯跟随。
三月,硅谷银行(SVB)破产,Altman 拿出个人资金向发不出工资的创业公司贷款。
在最近一次播客采访中,Altman 说,「某种程度上,我们(OpenAI)正在做的事,和其他帮助 70 亿人的方式没什么不同。」
日前,Altman 发言称「远程办公是个错误」,「科技行业最大的错误之一是认为初创公司不需要员工在一起工作」。
这一观点被大量科技和经管媒体报道,轰动了疫情三年来早已普及远程办公的硅谷。
在整场听证会中,Sam Altman 像过去几十年所有硅谷叛逆的嬉皮士一样,给了议员们一点小小的极客震撼。
「你赚了很多钱吧?」议员问。
「我,不,我没有 OpenAI 的股权,我的薪水只够保险。」
「真的吗?有意思,那你需要一个律师。」
「我做这件事只是因为我热爱它。」
20 秒前还咄咄逼人的议员,哑口无言。
欢迎加入深潮TechFlow官方社群
Twitter官方账号:https://x.com/TechFlowPost
Twitter英文账号:https://x.com/TechFlow_Intern
- 10月08日 20:11
- OKX 将新增 ELF、DGB 等多个 USDC 交易币对
- 10月08日 20:07
- 币安合约拟于 10 月 17 日更新 API 查询接口
- 10月08日 20:04
- 美国知名说唱歌手 Cardi B 推广的 WAP 代币疑似源自诈骗项目,引发争议
- 10月08日 19:57
- CryptoQuant CEO:比特币新兴鲸鱼已实现市值有望很快超越老牌鲸鱼
- 10月08日 19:55
- Starknet:STRK 质押已上线 Sepolia 测试网,若运行顺利将在数周后上线主网
- 加密交易所企业文化大 Battle,谁是你的菜?
2024.09.26
- Discord 角色、MEME 与周四清除:解密 Monad 的社区建设艺术
2024.09.25
- Sui 生态崛起,一文盘点当前热门的「水属性Meme」
2024.09.24
- 从 Token2049 看行业全景:各有各的烦恼,各有各的机会
2024.09.24
- 找角度、玩阴谋,疯狂以太MEME周,炒到最后谁是赢家?
2024.09.23