某音整治 AI 創作，AI 虛擬人主播路在何方？

撰文：肖颯團隊

3 月 27 日，某音安全中心發佈了《關於不當利用 AI 生成虛擬人物的治理公告》，旨在進一步對其平臺內使用 AI 技術的生成物，尤其是以 AI 生成的虛擬人物作為主播進行短視頻和直播內容創作的管理。

鑑於本次發佈的公告中採用了嚴厲程度遠超以往的措辭，該公告發布後，引發了業內不少朋友對 AI 虛擬人主播在自媒體平臺應用前景的擔憂。那麼，本次具有代表性的平臺規則發佈對 AIGC 的發展究竟是福是禍？新「禁區」的劃定對於 AI 虛擬人主播未來應用又是好事還是壞事呢？

AI 生成虛擬人物主播，商機與風險並存

相較於早期通過實時動作捕捉，由「中之人」進行扮演的「套皮虛擬主播」，現階段藉助 AI 動畫生成和語音合成技術，以 AI 虛擬人為主角的「AI 虛擬主播」似乎在擴張勢頭上已有了前輩難以匹敵之勇。雖然目前該類技術在長視頻生成和實時交互等方面仍存在較大迭代進步的空間，但在短視頻和直播帶貨行業，由於播出內容和需求的場景相對固定，使用 AI 製作討好市場特定群體需求的專屬形象，並根據設置的提示詞自動生成一定時間的語音及視頻內容，這種成本更為低廉的內容生產方案越來越受到創作者的青睞。

較勞動成本日漸高昂、直播工時相對固定且主播形象塑造困難，稍不注意就會「塌房」的傳統真人直播，AI 虛擬主播已體現出了相當程度的先天優勢。尤其是在疫情時代後，電商平臺直播帶貨與自媒體引流的市場需求不斷攀升，產生了巨大的商機。許多自媒體平臺本身也提供，甚至可以說是鼓勵更多用戶使用 AIGC 的便捷方式增加內容創作量。以我們今天的主角——某音為例，其雖並不提供直接的 AI 虛擬人物生成服務，但也早已上線了具備「AI 圖生圖」和「AI 生成視頻」綜合功能的創作模塊。

可見，即使是剛剛在規範問題上重踩了一腳剎車的某音，也絕不可能有將 AI 創作「一禁了之」的想法。但不可否認的是，在當前，由於 AIGC 技術極大降低了內容創作者的入門門檻，使曾經屬於「藝術」領域的創作向著「技術」領域的機械操作轉移，大量技術水平與合規意識良莠不齊的創作者懷著擁抱這一商機的心理參與其中，也的確造成了相當程度的法律與合規風險。

首當其衝的即是應用 AI 技術進行欺詐所引發的法律和社會問題。根據相關安全報告，2023 年度基於 AI 的深度偽造欺詐案件增長率高達 3000%，驚人的增長趨勢背後，是不當使用 AI 所帶來的巨大法律風險。同時，由於 AI 生成虛擬人物以文字、圖像、聲音等多項 AIGC 為技術基礎，其亦始終難以完全擺脫當前 AIGC 領域在角色設計、背景音樂、直播文案等方面所可能存在的侵犯他人知識產權的問題。此外，虛擬人物的形象對他人肖像權、隱私權、個人信息權益也存在潛在的侵權風險；將 AIGC 用於誘導性的產品宣傳還可能引發的對消費者知情權和選擇權的危害等。

可以說，AI 虛擬人主播等技術在短視頻和直播帶貨領域中的應用，此刻處在的是龐大機遇與巨大風險相疊加的狀態。

從某音說起，AI 生成虛擬主播的合規要點分析

因此，似乎也就不難理解作為行業先行者之一的某音平臺，為什麼在 AI 創作的合規管理上採取較為謹慎的態度了。實際上在 AI 虛擬主播這一方面，某音經不是第一次給大家「潑冷水」了。早在 2023 年 5 月 9 日，其就發佈了《關於人工智能生成內容的平臺規範暨行業倡議》，首次明確了人工智能生成的視頻、圖片，和衍生的虛擬人直播在平臺內的行為規範，並根據《互聯網信息服務深度合成管理規定》制定了基於其平臺規則的《人工智能生成內容標識水印與元數據規範》，對包括顯著標識、避免混淆等要求做了進一步的細化。

而某音平臺的此次「禁令」主要針對的是在其平臺上「屢禁不止」且呈擴大趨勢的「使用 AI 生成虛擬人物發佈違背科學常識、弄虛作假、造謠傳謠的內容」的行為。具體而言提到了三種典型的情況：

其一，是生成虛假外國人形象，以境外虛假人設，消費愛國心理、博取關注的行為。

其二，是生成俊男美女虛假形象，騙取互動，或發佈情感誘導等表達虛假情感的內容，將用戶導流至私人交友聊天工具，甚至進行詐騙的行為。

其三，是生成精英人士虛假人設，發佈心靈雞湯、財商、偽國學、厚黑學、偽成功學等不良內容，低質吸粉，甚至引流到站外以賣課、入群等方式獲利的行為。

可以看出，上述情形均以利用 AI 生成的某一類虛擬人物形象，針對具有情感需求的特定社會群體，開展低質吸粉、騙取流量，甚至引流詐騙的違規違法活動。此類活動中，AI 虛擬人物本身並非用於直接欺騙，其是作為迎合特定群體喜好的引流媒介，充當後續欺詐等違法違規行為的「預備階段」，具有相當程度的隱蔽性。

因此，某音所禁止和限制的並非平臺用戶進行以 AI 虛擬主播為內容的創作，而是希望通過自身的合規構建，與其用戶一道，儘可能控制相關領域存在的違法、違規風險。將這一行為單純看作對用戶使用 AI 創作的限制，多少是有點兒冤枉某音平臺的意思，畢竟根本目標仍是規範可能存在風險的違規行為，用合規手段促進相關領域更好發展。

用戶 or 平臺，AI 虛擬主播合規是誰的責任？

某音平臺之所以這樣做，也是在履行其作為互聯網服務平臺，同時也是 AI 生成內容提供和傳播者的責任。當前，我國對生成式人工智能服務的管理規範大多傾向於規定平臺的責任。如在全國網絡安全標準化技術委員會發布的《生成式人工智能服務安全基本要求》中，對生成式 AI 的檢驗和評估責任，都主要針對相關服務的提供者。再如《生成式人工智能服務管理暫行辦法》第十四條中對服務提供者的「避風港原則」所做的限制，要求其發現違法行為後立即進行整改並向主管部門報告；第十五條中要求服務提供者建立健全投訴、舉報機制，以促進其對違規內容的及時處理。

從此次某音所發佈的公告中，也可看出其對相關規範的重申，在相對嚴厲的措辭之下，字裡行間中，實際都透露出希望用戶配合工作，共同監督，積極舉報不當使用人工智能生成內容的情況。而在當前，平臺與用戶在 AI 生成內容管理上的結合點，實際主要集中於其重審規範中的第一條，即對於 AI 生成內容的「顯著標識」。根據《生成式人工智能服務管理暫行辦法》第十二條的規定，提供者應當按照《互聯網信息服務深度合成管理規定》《網絡安全標準實踐指南——生成式人工智能服務內容標識方法》對圖片、視頻等生成內容進行標識。包括某音在內，大多數提供或接受 AI 生成物的自媒體平臺，都對其人工智能生成物的標識方法和要求進行了明確的規定。

某音官方目前採取的仍是由用戶配合申報 AI 創作內容，並由平臺添加相關提示文字的方式，這種模式在發佈較為逼真的 AI 虛擬人內容時，除非創作者自行在文案中添加「虛擬偶像 / 虛擬人」等標籤，否則在執行度上是存在缺陷的。本次公告中雖然對違規用戶的處罰措施進行了較為嚴厲的重申，但限於當前的處理模式，更像是希望在用戶和平臺間進一步達成某種先禮後兵的默契。雖然以平臺規則的構建，配合檢測算法等技術手段，看似已經是當前相關服務提供者能夠採取合規手段的最優解，但這種措施在這個機遇與風險並存的時代，其有效性仍有待實踐的檢驗。

需注意的是，虛擬人物形象從來不能成為其創作者責任的「擋箭牌」，AI 創作合規的構建確實也並非是平臺方的一廂情願。在本次某音的公告中，最為凸顯其規範嚴厲程度與平臺治理決心的，即在羅列了典型違規行為後，「半攤牌」似的表示其會針對違規使用 AI 生成虛擬人物的行為，進行下架視頻、封禁賬號等內部處罰。同時，對已掌握的部分黑產團伙不當使用 AI 生成虛擬人物用於犯罪的線索，將採取報警打擊的行為。誠然，上文提到的這種「默契」或許在用戶與平臺間也應當是客觀存在的。進行違規的創作行為的創作者所要承擔的當然不僅限於平臺規則的處罰，視其嚴重程度亦有可能承擔其他的法律後果，甚至是刑事責任。

寫在最後

我們總是在與大家強調，對新技術、新領域的規範並不一定會有阻礙發展的結果。「禁令」的頒佈，往往也有其通過合規促進發展的一面。畢竟，只有行得正，才能走得遠。