Sora 封「神」，仍在加速發展的 AI 會成為「天神」還是「魔鬼」？

撰文：博文，白露會客廳

Sora 的爆火，已經走上了央視。

從人到動物，從陸地到海底，從壯麗的自然風光到繁華的人流街市，從高度寫實的車輛奔馳到充滿想象的賽博朋克。Sora 如果保持這個勢頭髮展下去，全民電影製作人的時代也不會太遠。

前有 ChatGPT 一己之力挑戰記者、翻譯、程序員；現在 Sora 又再次殺出來，給了攝影、剪輯、特效、甚至演員狠狠的一記重拳。AI 會不會幾年時間就淘汰百萬、千萬的從業者？包括筆者自己，每次想到都會膽寒。

事實上，如果全面仔細地收集 AI 相關信息。AI 早已不止是影響「白領」的工作機會那麼簡單，生物醫療、無人駕駛、氣象預報、甚至軍事行動，AI 早已參與人類生活的每個方面。

百花齊放的 AI 應用場景

生成式 AI 最廣為人知，除了王炸 Sora，「巴德」、DALL-E、Runway 也不容小覷。

今年 2 月，谷歌公司宣佈：人工智能模型「巴德」更名為「雙子座」（Gemini）。這是一款多模態大模型，可理解和組合文本、代碼、音頻、圖像和視頻等不同類型的信息。目前，「巴德」可以根據你輸入的多個詞語迅速生成一篇短篇小說或詩歌。

恐怖之處在於，「巴德」用幾個月的時間閱讀了互聯網上幾乎所有內容。依靠自身語言模型的內容，寫出的詩歌遠高於很多平常人的水平。

DALL-E 的專長是生成藝術內容。通過超過 6 億張圖片的學習，DALL-E 已經可以熟練理解單個物體和不同物體間的關係，並通過幾行文字聯想出相應的藝術作品。Runway 的專長則在於視覺效果，有了 AI 的加持，為電影增加「百萬後期」的門檻將會大幅降低。

生成內容只是冰山一角，AI 在其他方面的應用，更加具有想象力。1 月 29 日，Elon Musk 表示，旗下的腦機接口公司「神經連接」已經完成首例腦機接口設備人體移植，移植者狀態良好，AI 已經達成了與人類大腦的同步。

1 月 30 日，清華大學官網發佈消息稱，該校醫學院腦機接口研究團隊與首都醫科大學宣武醫院聯合，已於 2023 年 10 月成功進行全球首例無線微創腦機接口臨床試驗。有了 AI 的協助，癱瘓已 14 年的患者經過 3 個月訓練後，已能實現自主抓握、喝水等人體功能。

美國 FDA 也早已批准約 420 種涉及 AI 成像的算法，用於癌症治療，目前這些算法的準確率已高達 80% 至 90%。

印度已進入試驗的「駕駛伴侶」機器人，歐洲中期天氣預報官網上線的華為雲盤股氣象大模型。按照現在的發展速度，未來我們已經不再需要討論 AI，因為 AI 將無處不在，習以為常。

與技術同步發展的，還有爭議

技術的發展永遠都是雙刃劍，以 AI 來講，生成式內容帶來的版權爭議和欺詐問題已經屢見不鮮。AI 創作的作品是否該受版權保護？出了問題應該找誰，怎樣解決？這已經演變成討論劇烈的監管問題。

早在 2018 年，計算機科學家史蒂芬·泰勒研發了一個名為 DABUS 的人工智能系統，並藉此創作了藝術作品《天堂的新入口》。收穫關注後，史蒂芬·泰勒在美國、英國、南非、澳大利亞、沙特等國家積極申請專利。

然而，美國版權局對此並不感興趣，表示版權法只能保護人類創造的作品，而 AI 生成的內容到底有多少人類的貢獻難以衡量。法官同樣偏向美國版權局的觀點，「基於幾個世紀的以來的既定認識，人類作者身份是版權的一項基本要求」。

不過，史蒂芬·泰勒並不服氣：「法律並沒有明確要求作品必須擁有人類作者，美國憲法之所以推崇版權保護，目的是促進科學和實用藝術進步，AI 版權概念符合此目的。」

類似的問題並不是都有統一的答案，以我國發生的一起案件為例。2023 年 2 月，故事主人公李昀鍇希望畫出一幅在黃昏的光線條件下具有攝影風格的美女特寫，隨即在 Stable Diffusion 模型中輸入了提示詞，包括藝術類型為「超逼真照片」「彩色照片」，主體為「日本偶像」，並詳細描繪了人物細節如皮膚狀態、眼睛和辮子的顏色等，環境為「外景」「黃金時間」「動態燈光」，人物呈現方式為「酷姿勢」「看著鏡頭」，風格為「膠片紋理」「膠片仿真」等，同時設置了相關參數。此後，他還根據初步生成的圖片，又增加了提示詞、調整了參數，最終選擇了一幅自己滿意的女性半身照寫真圖片。圖片生成後，李昀鍇將該圖發佈在小紅書平臺。

2023 年 3 月，被告人劉某在發佈名為《三月的愛情，在桃花裡》的文章時，使用了李昀鍇生成的圖片，文章末尾標註「詩文原創」「素材來自網絡侵刪致歉」。隨後，李昀鍇向北京互聯網法院提起訴訟，請求法院判令劉某在涉案賬號發佈致歉聲明，並賠償經濟損失 5000 元。

2023 年 11 月 27 日，中國首例「AI 文生圖」侵權案一審宣判，法院肯定了 AI 繪畫大模型生成的涉案圖片屬於著作權法上的美術作品，原告對其擁有著作權。法院堅守著作權主體認定的「人類中心主義」，明確「生成式人工智能模型不具備自由意志，不是法律上的主體。因此，人們利用人工智能模型生成圖片時，不存在確定兩個主體之間誰為創作者的問題。」法院表示，本質上，仍然是人利用工具進行創作，即整個創作過程中進行智力投入的是人，而非人工智能模型。

然而，這一判決是否真正依法辦事還是值得商榷。我國的《著作權法》明確規定，「創作作品的自然人是作者」，如果嚴格執行，AI 生成的內容不是作品，也沒不該有版權。

AI 會變成「天神」還是「魔鬼」？

版權爭議只是最容易解決的部分，更明確的法律法規即可提供足夠的保障。更難面對的是那些複雜的問題，例如欺詐、AI 理解錯誤造成的失誤，以及我們最害怕的，AI 如果有了意識該怎麼辦？

2024 年 2 月，據香港媒體報道，香港發生了一起規模龐大的 AI「Deepfake」技術詐騙案，涉及的金額達 2 億港元，不僅是香港歷史上損失最慘重的「變臉」案例，而且也是首次涉及 AI「多人變臉」的詐騙案。

據介紹，報案人為一間跨國公司香港分行職員，1 月中旬收到該公司英國總部首席財務官的信息，聲稱要進行機密交易，分別邀請該公司數名財務職員進行多人的視頻會議。由於對方各人在會議內均顯示了與現實相同的容貌，職員不虞有詐，前後轉賬 15 次，合共 2 億港元到 5 個本地銀行戶口，其後向總部查詢方知受騙。

根據目前掌握的信息，詐騙者通過公司的 YouTube 視頻和從其他公開渠道獲取的媒體資料，成功地仿造了英國公司高層管理人員的形象和聲音，再利用 Deepfake（深度偽造）技術製作偽冒視頻，造成多人參與視頻會議的效果，然而會議內只有參加的職員一人為「真人」。

由於是預製視頻，會內主要以上司下屬的關係向職員下達命令，其間職員沒有機會與會議的參加者進行交流，整個視頻會議只要求職員作一次簡短的自我介紹，其後騙徒以藉口完結會議，並在即時通訊軟件繼續下達命令。

AI 詐騙對選舉也產生了影響。1 月 23 日，2024 年美國總統選舉共和黨黨內初選在新罕布什爾州舉行。很多美國選民都表示，選舉之前接到了「來自美國總統拜登的電話」，以拜登的口頭禪開頭，建議選民不要給特朗普投票，而是把選票留到 11 月大選時投給民主黨。

最可怕的是，這一技術的濫用已經蔓延的軍事問題上。2023 年 11 月，以色列國防軍在一份聲明中表示，正在加沙地帶的軍事行動中使用 AI 系統來「快速生成目標」，從每年 50 個到每天 100 個，AI 系統的使用讓以色列軍隊在尋找攻擊目標上的效率提升了幾百倍，而與攻擊目標一同快速增長的還有加沙地帶的死傷人數，令人玩味的是，這款 AI 系統被命名為「福音」。

然而，據新聞媒體《+972 雜誌》的調查，以色列使用「福音」系統來選擇轟炸目標，強調數量而非質量，對軍事目標的定義非常寬鬆，也攻擊民用設施中的人員，曾有報道指出，為了殺死一名哈馬斯戰士，AI 選定整棟居民住宅遭到轟炸。

更加令人擔憂的是，由於 AI 應用於戰場的性質難以界定，從而導致這樣的行為也難以被介入制止。如果 AI 真的與現代武器完全結合，對目標造成誤判產生的大規模後果，更是難以想象。

結語

Sora 給人帶來的是震驚與狂熱，但從筆者的角度看來，AI 這種「工業革命」級別的生產力變革，卻最是需要冷靜對待。AI 產業必然蘊藏著機遇，但是隱藏在技術突破背後的，是應用能否落地、應用能否可控、監管會怎樣干涉、是否有重大缺陷等等一系列問題。Web3 是一片黑暗森林，而 AI 更像潘多拉的盒子，需要更冷靜、更全面、更持續的學習，才能看清 AI 產業的未來面貌。