Sora 封「神」，仍在加速发展的 AI 会成为「天神」还是「魔鬼」？

撰文：博文，白露会客厅

Sora 的爆火，已经走上了央视。

从人到动物，从陆地到海底，从壮丽的自然风光到繁华的人流街市，从高度写实的车辆奔驰到充满想象的赛博朋克。Sora 如果保持这个势头发展下去，全民电影制作人的时代也不会太远。

前有 ChatGPT 一己之力挑战记者、翻译、程序员；现在 Sora 又再次杀出来，给了摄影、剪辑、特效、甚至演员狠狠的一记重拳。AI 会不会几年时间就淘汰百万、千万的从业者？包括笔者自己，每次想到都会胆寒。

事实上，如果全面仔细地收集 AI 相关信息。AI 早已不止是影响「白领」的工作机会那么简单，生物医疗、无人驾驶、气象预报、甚至军事行动，AI 早已参与人类生活的每个方面。

百花齐放的 AI 应用场景

生成式 AI 最广为人知，除了王炸 Sora，「巴德」、DALL-E、Runway 也不容小觑。

今年 2 月，谷歌公司宣布：人工智能模型「巴德」更名为「双子座」（Gemini）。这是一款多模态大模型，可理解和组合文本、代码、音频、图像和视频等不同类型的信息。目前，「巴德」可以根据你输入的多个词语迅速生成一篇短篇小说或诗歌。

恐怖之处在于，「巴德」用几个月的时间阅读了互联网上几乎所有内容。依靠自身语言模型的内容，写出的诗歌远高于很多平常人的水平。

DALL-E 的专长是生成艺术内容。通过超过 6 亿张图片的学习，DALL-E 已经可以熟练理解单个物体和不同物体间的关系，并通过几行文字联想出相应的艺术作品。Runway 的专长则在于视觉效果，有了 AI 的加持，为电影增加「百万后期」的门槛将会大幅降低。

生成内容只是冰山一角，AI 在其他方面的应用，更加具有想象力。1 月 29 日，Elon Musk 表示，旗下的脑机接口公司「神经连接」已经完成首例脑机接口设备人体移植，移植者状态良好，AI 已经达成了与人类大脑的同步。

1 月 30 日，清华大学官网发布消息称，该校医学院脑机接口研究团队与首都医科大学宣武医院联合，已于 2023 年 10 月成功进行全球首例无线微创脑机接口临床试验。有了 AI 的协助，瘫痪已 14 年的患者经过 3 个月训练后，已能实现自主抓握、喝水等人体功能。

美国 FDA 也早已批准约 420 种涉及 AI 成像的算法，用于癌症治疗，目前这些算法的准确率已高达 80% 至 90%。

印度已进入试验的「驾驶伴侣」机器人，欧洲中期天气预报官网上线的华为云盘股气象大模型。按照现在的发展速度，未来我们已经不再需要讨论 AI，因为 AI 将无处不在，习以为常。

与技术同步发展的，还有争议

技术的发展永远都是双刃剑，以 AI 来讲，生成式内容带来的版权争议和欺诈问题已经屡见不鲜。AI 创作的作品是否该受版权保护？出了问题应该找谁，怎样解决？这已经演变成讨论剧烈的监管问题。

早在 2018 年，计算机科学家史蒂芬·泰勒研发了一个名为 DABUS 的人工智能系统，并借此创作了艺术作品《天堂的新入口》。收获关注后，史蒂芬·泰勒在美国、英国、南非、澳大利亚、沙特等国家积极申请专利。

然而，美国版权局对此并不感兴趣，表示版权法只能保护人类创造的作品，而 AI 生成的内容到底有多少人类的贡献难以衡量。法官同样偏向美国版权局的观点，「基于几个世纪的以来的既定认识，人类作者身份是版权的一项基本要求」。

不过，史蒂芬·泰勒并不服气：「法律并没有明确要求作品必须拥有人类作者，美国宪法之所以推崇版权保护，目的是促进科学和实用艺术进步，AI 版权概念符合此目的。」

类似的问题并不是都有统一的答案，以我国发生的一起案件为例。2023 年 2 月，故事主人公李昀锴希望画出一幅在黄昏的光线条件下具有摄影风格的美女特写，随即在 Stable Diffusion 模型中输入了提示词，包括艺术类型为「超逼真照片」「彩色照片」，主体为「日本偶像」，并详细描绘了人物细节如皮肤状态、眼睛和辫子的颜色等，环境为「外景」「黄金时间」「动态灯光」，人物呈现方式为「酷姿势」「看着镜头」，风格为「胶片纹理」「胶片仿真」等，同时设置了相关参数。此后，他还根据初步生成的图片，又增加了提示词、调整了参数，最终选择了一幅自己满意的女性半身照写真图片。图片生成后，李昀锴将该图发布在小红书平台。

2023 年 3 月，被告人刘某在发布名为《三月的爱情，在桃花里》的文章时，使用了李昀锴生成的图片，文章末尾标注「诗文原创」「素材来自网络侵删致歉」。随后，李昀锴向北京互联网法院提起诉讼，请求法院判令刘某在涉案账号发布致歉声明，并赔偿经济损失 5000 元。

2023 年 11 月 27 日，中国首例「AI 文生图」侵权案一审宣判，法院肯定了 AI 绘画大模型生成的涉案图片属于著作权法上的美术作品，原告对其拥有著作权。法院坚守著作权主体认定的「人类中心主义」，明确「生成式人工智能模型不具备自由意志，不是法律上的主体。因此，人们利用人工智能模型生成图片时，不存在确定两个主体之间谁为创作者的问题。」法院表示，本质上，仍然是人利用工具进行创作，即整个创作过程中进行智力投入的是人，而非人工智能模型。

然而，这一判决是否真正依法办事还是值得商榷。我国的《著作权法》明确规定，「创作作品的自然人是作者」，如果严格执行，AI 生成的内容不是作品，也没不该有版权。

AI 会变成「天神」还是「魔鬼」？

版权争议只是最容易解决的部分，更明确的法律法规即可提供足够的保障。更难面对的是那些复杂的问题，例如欺诈、AI 理解错误造成的失误，以及我们最害怕的，AI 如果有了意识该怎么办？

2024 年 2 月，据香港媒体报道，香港发生了一起规模庞大的 AI「Deepfake」技术诈骗案，涉及的金额达 2 亿港元，不仅是香港历史上损失最惨重的「变脸」案例，而且也是首次涉及 AI「多人变脸」的诈骗案。

据介绍，报案人为一间跨国公司香港分行职员，1 月中旬收到该公司英国总部首席财务官的信息，声称要进行机密交易，分别邀请该公司数名财务职员进行多人的视频会议。由于对方各人在会议内均显示了与现实相同的容貌，职员不虞有诈，前后转账 15 次，合共 2 亿港元到 5 个本地银行户口，其后向总部查询方知受骗。

根据目前掌握的信息，诈骗者通过公司的 YouTube 视频和从其他公开渠道获取的媒体资料，成功地仿造了英国公司高层管理人员的形象和声音，再利用 Deepfake（深度伪造）技术制作伪冒视频，造成多人参与视频会议的效果，然而会议内只有参加的职员一人为「真人」。

由于是预制视频，会内主要以上司下属的关系向职员下达命令，其间职员没有机会与会议的参加者进行交流，整个视频会议只要求职员作一次简短的自我介绍，其后骗徒以借口完结会议，并在即时通讯软件继续下达命令。

AI 诈骗对选举也产生了影响。1 月 23 日，2024 年美国总统选举共和党党内初选在新罕布什尔州举行。很多美国选民都表示，选举之前接到了「来自美国总统拜登的电话」，以拜登的口头禅开头，建议选民不要给特朗普投票，而是把选票留到 11 月大选时投给民主党。

最可怕的是，这一技术的滥用已经蔓延的军事问题上。2023 年 11 月，以色列国防军在一份声明中表示，正在加沙地带的军事行动中使用 AI 系统来「快速生成目标」，从每年 50 个到每天 100 个，AI 系统的使用让以色列军队在寻找攻击目标上的效率提升了几百倍，而与攻击目标一同快速增长的还有加沙地带的死伤人数，令人玩味的是，这款 AI 系统被命名为「福音」。

然而，据新闻媒体《+972 杂志》的调查，以色列使用「福音」系统来选择轰炸目标，强调数量而非质量，对军事目标的定义非常宽松，也攻击民用设施中的人员，曾有报道指出，为了杀死一名哈马斯战士，AI 选定整栋居民住宅遭到轰炸。

更加令人担忧的是，由于 AI 应用于战场的性质难以界定，从而导致这样的行为也难以被介入制止。如果 AI 真的与现代武器完全结合，对目标造成误判产生的大规模后果，更是难以想象。

结语

Sora 给人带来的是震惊与狂热，但从笔者的角度看来，AI 这种「工业革命」级别的生产力变革，却最是需要冷静对待。AI 产业必然蕴藏着机遇，但是隐藏在技术突破背后的，是应用能否落地、应用能否可控、监管会怎样干涉、是否有重大缺陷等等一系列问题。Web3 是一片黑暗森林，而 AI 更像潘多拉的盒子，需要更冷静、更全面、更持续的学习，才能看清 AI 产业的未来面貌。