TechFlow rapporte, le 2 avril, qu’au moins 200 organisations et experts spécialisés dans la défense des droits de l’enfant, dont l’American Federation of Teachers et l’American Counseling Association, ont adressé une lettre commune au PDG de YouTube, Neal Mohan, ainsi qu’au PDG de Google, Sundar Pichai, demandant à la plateforme d’interdire catégoriquement sur YouTube Kids les vidéos de faible qualité générées par l’IA, qualifiées de « contenus dégradés » (« AI slop »), selon un article du magazine Fortune.
Cette lettre, initiée par l’organisation de défense des droits de l’enfant Fairplay, a également été signée par des universitaires renommés tels que Jonathan Haidt, auteur de La Génération Anxieuse. Elle souligne que YouTube Kids est inondé de contenus vidéo massivement produits par l’IA : ces vidéos, bon marché à produire, présentent des contenus absurdes ou dénués de sens, mais sont conçues par des algorithmes afin de capter et de « piéger » durablement l’attention des enfants. Une enquête menée par Fairplay révèle que les principaux chaînes de contenus dégradés destinés aux enfants génèrent annuellement plus de 4,25 millions de dollars américains de revenus, tandis que seuls environ 5 % des vidéos proposées sur YouTube Kids aux enfants âgés de moins de 8 ans sont de haute qualité.
Rachel Franz, responsable du projet chez Fairplay, affirme que les contenus générés par l’IA déforment la réalité et créent du chaos, nuisant ainsi au développement cognitif des enfants quant à leur perception du monde. En outre, les algorithmes de la plateforme continuent de recommander systématiquement ce type de contenus aux jeunes utilisateurs, rendant presque inévitable leur exposition. Cette coalition exige plusieurs réformes structurelles, notamment : l’interdiction totale des contenus générés par l’IA sur YouTube Kids ; l’apposition systématique d’une étiquette claire indiquant la nature générée par l’IA sur toutes les vidéos concernées, quelle que soit la plateforme ; l’interdiction pour les algorithmes de recommander des contenus générés par l’IA aux utilisateurs âgés de moins de 18 ans ; la mise en place, par défaut désactivée, d’un interrupteur parental permettant de bloquer l’accès aux contenus générés par l’IA ; et la cessation de tout investissement dans des projets de contenus générés par l’IA destinés aux enfants, tels que le studio de divertissement pour enfants Animaj, soutenu par le fonds Google AI Futures Fund.
Un porte-parole de YouTube a répondu que la plateforme applique des normes strictes aux contenus publiés sur YouTube Kids, limitant actuellement les contenus générés par l’IA à un petit nombre de chaînes de haute qualité, et qu’elle développe une fonctionnalité spécifique d’étiquetage des contenus IA, sans toutefois préciser de calendrier de déploiement. Par ailleurs, dans sa lettre annuelle publique, le PDG de YouTube, Neal Mohan, avait déjà identifié la « gestion des contenus dégradés générés par l’IA » comme l’une de ses priorités absolues.
