音声プラットフォームがAI創作を規制、AIバーチャル人間の配信者はどこへ向かう？

2024.04.08

共有先

TechFlow厳選深潮セレクト

音声プラットフォームがAI創作を規制、AIバーチャル人間の配信者はどこへ向かう？

新技術や新分野に関する規制が必ずしも発展を妨げる結果になるとは限らない。「禁令」の発出は、往々にしてコンプライアンスを通じて発展を促進する側面を持っている。

2024.04.08 - 09:37:02

Web3業界の深掘り報道に専念し潮流を洞察

執筆：肖飒チーム

3月27日、ある音声プラットフォームのセキュリティセンターは、「AIを不適切に利用してバーチャル人物を生成することに関する管理公告」を発表し、同プラットフォーム内におけるAI技術を用いたコンテンツ、特にAIで生成されたバーチャル人物を配信者として使用する短編動画やライブ配信の創作活動に対する管理を強化することを目的としています。

今回の公告ではこれまでよりも厳格な表現が用いられており、発表後、業界関係者の間で、AIバーチャル配信者がソーシャルメディアプラットフォーム上で今後どのように活用されていくのかについての懸念が広がっています。果たして今回の代表的なプラットフォームルールの策定は、AIGC（AI生成コンテンツ）の発展にとって吉と出るのか凶と出るのか？　新たな「禁止領域」の設定は、AIバーチャル配信者の将来の応用にとって良いことなのか悪いことなのでしょうか？

AI生成バーチャル配信者：ビジネスチャンスとリスクが共存

かつてリアルタイムモーションキャプチャー技術を使い、「中の人」が演じていた「仮初めのバーチャル配信者」と比べると、現在のAIアニメーション生成および音声合成技術を活用した「AIバーチャル配信者」は、勢いにおいて先駆者たちを凌ぐ存在になりつつあります。現時点では、長尺動画の生成やリアルタイムでの双方向コミュニケーションなどにおいてまだ改善の余地がありますが、短編動画やライブコマース分野では、放送内容やニーズのシナリオが比較的固定されているため、特定の市場層の要望に合致する専用キャラクターをAIで制作し、プロンプトに従って一定時間の音声・映像コンテンツを自動生成するという、コスト効率の高いコンテンツ制作手法が、ますます多くのクリエイターに支持されています。

労働コストが高騰し続け、配信時間も限られ、イメージ構築も困難であり、少しのミスで「炎上」してしまう可能性のある従来型の実在人物によるライブ配信と比較すると、AIバーチャル配信者は明らかに先天的な優位性を持っています。特にパンデミック以降、ECプラットフォームでのライブ販売や自媒体によるトラフィック誘導の需要が高まり、巨大なビジネスチャンスが生まれました。多くの自媒体プラットフォーム自体も、あるいはむしろ積極的に、ユーザーがAIGCツールを使って簡単にコンテンツ量を増やすことを推奨しています。本稿の主役である「ある音」の場合でも、直接的なAIバーチャル人物生成サービスは提供していませんが、「AI画像変換」や「AI動画生成」機能を備えた創作モジュールは既に導入済みです。

このように見ると、規制面で強くブレーキをかけた「ある音」であっても、AI創作を完全に禁止しようとする意図は全くないことがわかります。しかし一方で、AIGC技術によりコンテンツ制作のハードルが極端に下がった結果、かつて「芸術」の領域だった創造活動が「技術」による機械的操作へと移行しており、スキルレベルやコンプライアンス意識がまちまちな大量のクリエイターがビジネスチャンスを求めて参入したことで、確かに法的・コンプライアンス上のリスクも顕在化しています。

まず第一に挙げられるのは、AI技術を利用した詐欺行為によって引き起こされる法的・社会的問題です。関連するセキュリティ報告によると、2023年にAIを用いたディープフェイクによる詐欺事件は前年比で3000％も増加しており、その驚異的な伸びは、AIの不適切な使用がもたらす重大な法的リスクを示しています。また、AIバーチャル人物はテキスト、画像、音声といった複数のAIGC技術を基盤としているため、依然として現在のAIGC分野が抱える課題、すなわちキャラクターデザイン、BGM、ライブ配信の台本などで他人の知的財産権を侵害する可能性から完全に逃れることはできません。さらに、バーチャル人物の外見が他人の肖像権、プライバシー権、個人情報保護に関わる潜在的な侵害リスクを伴うほか、AIGCを用いて消費者を誘導するような商品宣伝を行うことは、消費者の知情権や選択権を損なう恐れもあります。

つまり、AIバーチャル配信者などの技術が短編動画やライブコマース分野で使われる現状は、巨大な機会と大きなリスクが同時に存在する状態にあると言えます。

「ある音」から考える、AIバーチャル配信者のコンプライアンス要件

こうした背景を踏まえれば、業界の先駆者である「ある音」プラットフォームが、AI創作のコンプライアンス管理に対して慎重な姿勢を取っていることも、理解できます。実際、「ある音」はAIバーチャル配信者に関して初めて注意喚起を行ったわけではありません。すでに2023年5月9日には、「人工知能生成コンテンツに関するプラットフォーム規範および業界提言」を発表し、AIによって生成された動画・画像およびそれらから派生するバーチャル人物のライブ配信について、プラットフォーム内の行動規範を明確にしています。また、『インターネット情報サービスにおけるディープシンセシス管理規定』に基づき、「人工知能生成コンテンツの識別ウォーターマークおよびメタデータ規範」を制定し、目立つ表示義務や混同防止などに関する要件をさらに細分化しています。

そして今回「ある音」が重点的に取り締まろうとしているのは、プラットフォーム内で「繰り返し禁止されてもなお横行し、拡大傾向にある」、AIで生成されたバーチャル人物を使って科学的常識に反する、虚偽の情報を捏造・流布するコンテンツを投稿する行為です。具体的には以下の三つの典型的なケースが指摘されています：

第一に、外国人の虚偽な外見を作り出し、海外在住という虚偽の設定で愛国心を利用し、注目を集める行為。

第二に、魅力的な男女の虚偽な外見を作成し、視聴者の感情を操作してエンゲージメントを得たり、恋愛感情を装ったコンテンツを発信することでユーザーを個人チャットツールへ誘導し、ひいては詐欺行為に及ぶケース。

第三に、エリート風の虚偽な人物設定を作り、心のサプリメント、金銭的成功学、ニセ国学、厚黒学、ニセ成功哲学などの低品質なコンテンツを発信し、フォロワー獲得や外部サイトへの誘導を目的として、有料講座販売やグループ加入などを通じて利益を得ようとする行為。

これらの事例はいずれも、AIで生成された特定タイプのバーチャル人物を通じて、感情的ニーズを持つ特定の社会層をターゲットに、低品質なフォロワー獲得、トラフィックの不正取得、さらには外部への誘導・詐欺といった違法・不正行為を行うものです。このような活動において、AIバーチャル人物そのものが直接的な詐欺手段ではなく、特定層の嗜好に迎合する誘導メディアとして機能し、その後の詐欺などの違法行為の「準備段階」として用いられており、非常に隠蔽性が高いと言えます。

したがって、「ある音」が禁止・制限しているのは、ユーザーによるAIバーチャル配信者を使ったコンテンツ創作そのものではなく、あくまで関連分野に潜む違法・不正リスクを可能な限りコントロールするために、自身のコンプライアンス体制を整備しようとしているのです。これを単なるAI創作利用の制限と捉えるのは、多少「ある音」を誤解していると言わざるを得ません。根本的な目的は、リスクを含む不正行為を是正し、コンプライアンス手段を通じて関連分野の健全な発展を促進することにあります。

ユーザーか、それともプラットフォームか──AIバーチャル配信者のコンプライアンス責任は誰にあるのか？

「ある音」がこのような対応を取るのは、インターネットサービスプロバイダーとして、またAI生成コンテンツの提供・流通主体としての責任を果たしているからです。現在、中国における生成系AIサービスの管理規制は、ほとんどがプラットフォーム側の責任を規定する方向に傾いています。たとえば、全国サイバーセキュリティ標準化技術委員会が発表した『生成式人工知能サービスのセキュリティ基本要求』では、生成AIに関する検証・評価の責任は、主にサービス提供者に課されています。また、『生成式人工知能サービス管理暫定措置』第14条では、「安全港原則（避風港原則）」の適用が限定され、違法行為を発見した場合、直ちに是正措置を講じ、主管部門に報告することが求められています。第15条では、サービス提供者が苦情・通報制度を整備し、違規コンテンツを迅速に対処できるようにすることが義務付けられています。

今回の「ある音」の公告にも、こうした規制の再確認が読み取れます。厳しい表現の裏には、ユーザーに協力を呼びかけ、共同で監督し、AI技術の不適切な利用を積極的に通報してほしいという願いが込められています。現時点では、プラットフォームとユーザーの間のAI生成コンテンツ管理の接点は、主に「明確な識別表示」の義務に集中しています。『生成式人工知能サービス管理暫定措置』第12条では、提供者は『インターネット情報サービスにおけるディープシンセシス管理規定』および『サイバーセキュリティ標準実践ガイドライン――生成式人工知能サービスのコンテンツ識別方法』に従い、画像・動画などの生成コンテンツに識別表示を行う必要があります。これに倣い、「ある音」を含む多くのメディアプラットフォームが、AI生成物の表示方法と要件を明確に定めています。

現在、「ある音」公式では、ユーザーがAI創作コンテンツを自主申报し、プラットフォームがそれに応じて警告文を追加する方式を採用しています。しかしこの方式では、特にリアルなAIバーチャル人物コンテンツを投稿する際に、クリエイターが自ら「バーチャルアイドル／バーチャル人物」などのタグを本文中に記載しない限り、実際の運用には欠陥があります。今回の公告では違反ユーザーに対する処罰措置を厳しく再確認していますが、現行の運用手順に限界がある以上、むしろユーザーとプラットフォームの間に、ある種の「了解」を形成したいという意図が見え隠れします。プラットフォームルールの整備と検出アルゴリズムなどの技術的手段を組み合わせることが、現時点でサービス提供者として可能な最善のコンプライアンス対策のように思われますが、この機会とリスクが共存する時代において、その有効性はまだ実践の中で検証される必要があるでしょう。

注意すべきは、バーチャル人物のイメージが創作者の責任を免れる「盾」となるべきではないということです。AI創作のコンプライアンス構築は、決してプラットフォーム側の一方的な思い込みではありません。今回の「ある音」の公告で最も規制の厳しさとプラットフォームの統治意志が明確に示されているのは、典型的な違反行為を列挙した後に、「半ば開示」する形で、AIによるバーチャル人物の不正使用に対して、動画の削除、アカウントの停止といった内部処分を行うと宣言したことでしょう。また、すでに把握している一部の悪質グループがAIバーチャル人物を犯罪に悪用している事案については、警察への通報・取り締まりも実施すると表明しています。確かに前述の「了解」は、ユーザーとプラットフォームの間に一定程度存在すべきものかもしれません。しかし、不正な創作行為を行うクリエイターが負う責任は、プラットフォームルールの処罰にとどまらず、その重大性に応じて他の法的責任、場合によっては刑事責任を問われることもあり得ます。