TikTok resserre la réglementation sur les créations par IA : quelle sera l'avenir des animateurs virtuels pilotés par l'IA ?
TechFlow SélectionTechFlow Sélection
TikTok resserre la réglementation sur les créations par IA : quelle sera l'avenir des animateurs virtuels pilotés par l'IA ?
La réglementation des nouvelles technologies et des nouveaux domaines ne conduit pas nécessairement à freiner le développement. L'adoption de « mesures interdiction » a souvent aussi pour objectif de favoriser un développement conforme aux règles.
Dédié à des analyses Web3 approfondiesRédaction : Équipe Xiao Sa
Le 27 mars, le centre de sécurité d'un célèbre réseau social chinois a publié un « Avis sur la régulation relative à l'utilisation inappropriée de l'IA pour générer des personnages virtuels », visant à renforcer davantage la gestion des contenus générés par intelligence artificielle (IA) sur sa plateforme, notamment les créations audiovisuelles et les directs animés par des personnalités virtuelles générées par IA.
Étant donné que le ton employé dans ce communiqué est nettement plus strict que par le passé, son annonce a suscité parmi les professionnels de nombreux questionnements quant aux perspectives d’avenir des animateurs virtuels alimentés par l’IA sur les plateformes de médias sociaux. Alors, cette mise à jour emblématique des règles de plateforme constitue-t-elle une bonne ou mauvaise nouvelle pour le développement de la technologie AIGC ? La définition de ces nouvelles zones interdites est-elle bénéfique ou préjudiciable au déploiement futur des animateurs virtuels basés sur l’IA ?
Animateurs virtuels générés par IA : opportunités commerciales et risques combinés
Contrairement aux premiers animateurs virtuels incarnés en temps réel par des opérateurs humains via capture de mouvement (« animateurs masqués »), les « animateurs virtuels IA » actuels, qui s'appuient sur des technologies de génération d'animation et de synthèse vocale par IA, semblent désormais bénéficier d'une dynamique expansionniste sans égale face à leurs prédécesseurs. Bien que ces technologies nécessitent encore d’importantes améliorations en matière de production de longs formats vidéo ou d’interactivité en temps réel, elles trouvent déjà un fort potentiel dans les secteurs du court métrage et du commerce en direct. En effet, les besoins et scénarios de diffusion étant relativement stables, la création d’images ciblées répondant à des attentes précises du marché, couplée à une génération automatique de contenus audiovisuels selon des prompts définis, offre une solution de production bien moins coûteuse qui séduit de plus en plus de créateurs.
Comparés aux animateurs humains traditionnels, dont les coûts salariaux augmentent, les heures de diffusion sont limitées et la construction d’image délicate — pouvant rapidement mener à un scandale —, les animateurs virtuels IA présentent indéniablement plusieurs avantages structurels. Surtout depuis l’ère post-pandémique, avec la demande croissante en marketing par diffusion en direct sur les plateformes e-commerce et en redirection via médias sociaux, d’immenses opportunités commerciales ont vu le jour. De nombreuses plateformes encouragent, voire incitent activement leurs utilisateurs à recourir à l’AIGC afin d’accroître la quantité de contenus produits. Prenons comme exemple notre sujet du jour — ce réseau social — bien qu’il ne propose pas directement un service de génération de personnages virtuels par IA, il dispose depuis longtemps d’un module de création intégré offrant des fonctions telles que « génération d’image par IA » et « génération vidéo par IA ».
Il est donc clair que même cette plateforme, qui vient justement d’appuyer fortement sur le frein en matière de conformité, n’a jamais eu l’intention de bannir purement et simplement les créations par IA. Cependant, il est indéniable qu’avec l’émergence de l’AIGC, le seuil d’entrée pour les créateurs de contenu a considérablement baissé, transformant ce qui relevait autrefois de « l’art » en une opération mécanique relevant désormais de la « technique ». Un grand nombre de créateurs, aux compétences techniques et niveaux de conscience juridique très variables, se sont rués vers cette manne commerciale, engendrant ainsi de réels risques juridiques et problèmes de conformité.
Premier problème en vue : les fraudes liées à l’utilisation de l’IA. Selon certains rapports de sécurité, les cas de fraude par deepfake fondés sur l’IA ont augmenté de 3000 % en 2023. Cette croissance spectaculaire reflète les risques juridiques majeurs liés à une utilisation inappropriée de l’IA. Par ailleurs, comme les personnages virtuels générés par IA reposent sur diverses formes de contenus AIGC (texte, image, son), ils peinent à éviter complètement les questions d’atteinte aux droits de propriété intellectuelle existantes dans des domaines tels que la conception de personnages, la musique d’accompagnement ou les scripts de diffusion. De plus, l’image du personnage virtuel peut poser des risques potentiels en matière de droit à l’image, de vie privée ou de protection des données personnelles. Enfin, l’utilisation de l’AIGC à des fins de promotion trompeuse peut également nuire au droit des consommateurs à l’information et au libre choix.
En somme, l’application des animateurs virtuels IA dans les courts métrages et la vente en direct se trouve actuellement à la croisée entre d’immenses opportunités et de graves risques.
À partir du cas de ce réseau social : analyse des exigences de conformité pour les animateurs virtuels générés par IA
Il devient donc compréhensible que cette plateforme, pionnière du secteur, adopte une approche prudente en matière de gestion de la conformité des créations par IA. D’ailleurs, ce n’est pas la première fois que cette plateforme « refroidit » l’enthousiasme autour des animateurs virtuels IA. Dès le 9 mai 2023, elle avait publié les « Normes de plateforme et initiative sectorielle concernant les contenus générés par intelligence artificielle », précisant pour la première fois les règles applicables aux vidéos, images et diffusions en direct générées par IA. Conformément aux « Dispositions administratives sur les services d'internet impliquant des synthèses profondes », elle avait également établi ses propres « Spécifications relatives au filigrane et aux métadonnées des contenus générés par IA », précisant davantage les exigences telles que l’identification visible et l’évitement de toute confusion.
La présente « interdiction » vise principalement les comportements persistants et en croissance sur la plateforme consistant à utiliser des personnages virtuels générés par IA pour publier des contenus contraires au bon sens scientifique, trompeurs, mensongers ou propagateurs de rumeurs. Trois cas typiques sont spécifiquement mentionnés :
Premièrement, créer de faux profils d’étrangers, en incarnant des personnages fictifs à l’étranger afin d’exploiter le patriotisme et capter l’attention.
Deuxièmement, produire de fausses images de beaux hommes ou belles femmes pour obtenir des interactions, publier des contenus émotionnels trompeurs, rediriger les utilisateurs vers des outils privés de messagerie, voire commettre des escroqueries.
Troisièmement, construire de fausses identités d’élites, diffuser des contenus toxiques tels que des pensées positives creuses, des conseils financiers fallacieux, des pseudo-connaissances traditionnelles, des théories machiavéliques ou des fausses théories de réussite, afin d’attirer un public peu exigeant et finalement le rediriger hors plateforme pour vendre des formations ou des accès à des groupes payants.
On constate que ces situations exploitent des personnages virtuels générés par IA pour cibler des groupes sociaux particuliers ayant des besoins émotionnels, afin d’attirer de la popularité de manière peu qualitative, capter du trafic ou même perpétrer des fraudes. Dans ces cas, le personnage virtuel IA n’est pas utilisé directement pour tromper, mais plutôt comme un médium attractif destiné à plaire à certains publics, servant de phase préparatoire à des activités illégales ultérieures, rendant ces pratiques particulièrement insidieuses.
Par conséquent, la plateforme n’interdit pas la création de contenus mettant en scène des animateurs virtuels IA, mais cherche plutôt, par le biais d’une régulation responsable, à limiter ensemble avec ses utilisateurs les risques juridiques ou réglementaires existants. Considérer cette mesure comme une simple restriction à l’usage de l’IA par les créateurs reviendrait à mal interpréter l’intention de la plateforme. L’objectif reste bien de normaliser les comportements à risque afin de favoriser un développement sain du domaine.
Utilisateur ou plateforme : à qui incombe la conformité des animateurs virtuels IA ?
Cette démarche de la plateforme s’inscrit dans l’accomplissement de sa responsabilité en tant que prestataire de services internet, mais aussi fournisseur et diffuseur de contenus générés par IA. Actuellement, la réglementation chinoise sur les services d’intelligence artificielle générative tend à charger principalement les plateformes de responsabilités. Par exemple, dans les « Exigences fondamentales de sécurité pour les services d’intelligence artificielle générative » publiées par le comité national de standardisation de la cybersécurité, les obligations de vérification et d’évaluation incombent essentiellement aux fournisseurs de services. De même, l’article 14 du « Règlement provisoire sur la gestion des services d’intelligence artificielle générative » limite le principe du « port d’attache » (safe harbor), obligeant les fournisseurs à corriger immédiatement tout contenu illégal détecté et à en informer les autorités. L’article 15 exige en outre la mise en place de mécanismes efficaces de plaintes et de signalements, afin d’assurer un traitement rapide des contenus non conformes.
Dans le communiqué récent de cette plateforme, on retrouve clairement cette volonté de rappeler les normes en vigueur. Derrière un langage ferme, transparaît surtout l’espoir d’une coopération active des utilisateurs, appelés à collaborer, surveiller et signaler promptement toute utilisation inappropriée de l’IA pour générer du contenu. À l’heure actuelle, le point de convergence entre la plateforme et les utilisateurs dans la gestion des contenus IA réside principalement dans la première exigence rappelée : l’« identification claire » des contenus générés par IA. Conformément à l’article 12 du « Règlement provisoire », les fournisseurs doivent identifier les images, vidéos et autres contenus générés conformément aux « Dispositions administratives sur les services d'internet impliquant des synthèses profondes » et au « Guide pratique de normalisation sur la méthode d’identification des contenus des services d’intelligence artificielle générative ». La plupart des plateformes de médias sociaux, y compris celle-ci, ont d’ailleurs établi des règles précises concernant la manière d’identifier les contenus générés par IA.
Actuellement, la plateforme adopte un modèle où l’utilisateur déclare lui-même avoir utilisé l’IA, après quoi la plateforme ajoute un libellé d’avertissement. Toutefois, ce système présente des lacunes, notamment lors de la diffusion de contenus très réalistes d’animeurs virtuels IA : à moins que le créateur n’ajoute lui-même des mentions telles que « idole virtuelle / personnage virtuel » dans sa description, la conformité effective reste limitée. Bien que le communiqué réaffirme fermement les sanctions contre les utilisateurs violant les règles, compte tenu du mode de traitement actuel, cela ressemble davantage à une tentative de créer une certaine entente tacite entre utilisateurs et plateforme. Même si la combinaison de règles internes et d’algorithmes de détection semble être la meilleure solution disponible aujourd’hui, son efficacité dans un contexte marqué par d’immenses opportunités et risques simultanés reste à confirmer par la pratique.
Il convient de noter que l’image d’un personnage virtuel ne saurait jamais servir de bouclier aux responsabilités de son créateur. La construction d’un cadre de conformité autour de l’IA ne relève pas uniquement de la volonté de la plateforme. Dans ce communiqué, ce qui illustre le mieux la rigueur des normes et la détermination de la plateforme, c’est l’annonce quasi explicite, après la liste des comportements interdits, qu’elle procédera au retrait de vidéos, au blocage de comptes et prendra des mesures internes contre les utilisateurs violant les règles. En outre, pour les indices avérés d’utilisation criminelle de personnages virtuels IA par certains groupes illégaux, la plateforme déposera plainte auprès des autorités. Certes, cette « entente » évoquée plus haut devrait aussi exister objectivement entre utilisateurs et plateforme. Les créateurs engageant des activités illégales encourent des conséquences allant bien au-delà des sanctions imposées par les règles de la plateforme ; selon la gravité des faits, ils peuvent aussi subir d’autres sanctions juridiques, voire pénales.
Conclusion
Nous insistons toujours auprès de nos lecteurs : réguler les nouvelles technologies et nouveaux domaines n’implique pas nécessairement de freiner leur développement. L’adoption de « mesures restrictives » peut aussi avoir pour but de promouvoir un développement sain par la conformité. Après tout, seul ce qui est bien fondé peut aller loin.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
