TechFlow が報じたところによると、4月2日、『フォーチュン』誌は、全米教育者協会（AFT）や米国カウンセリング協会（ACA）を含む200以上の児童権益団体および専門家が、YouTube CEOのニール・モハン氏およびGoogle CEOのサンダー・ピチャイ氏宛てに共同書簡を送付し、YouTube KidsにおけるAI生成の低品質「ゴミ動画（AI slop）」の全面禁止を求めたと伝えています。
この共同書簡は、児童権益団体「フェアプレイ（Fairplay）」が主導して発起したもので、『不安な世代（The Anxious Generation）』の著者であるジョナサン・ハイドト氏などの著名な学者も署名しています。書簡では、大量のAIによる一括生産動画がYouTube Kidsプラットフォームを埋め尽くしており、これらは製作コストが極めて低く、内容が荒唐無稽または全く意味をなさない一方で、アルゴリズムによって子供たちの注意を継続的に引きつけ、実質的に「乗っ取る」よう設計されていると指摘されています。フェアプレイの調査によれば、子供向けのトップクラスのAIゴミ動画チャンネルの年間収益は425万ドルを超え、YouTube Kidsにおいて8歳未満の子供を対象とした動画のうち、高品質と認められるものはわずか約5％に過ぎません。
フェアプレイのプロジェクト責任者レイチェル・フランツ氏は、「AI生成コンテンツは現実を歪め、混乱を招き、子供たちの世界に対する認識発達に悪影響を及ぼす。さらに、プラットフォームのアルゴリズムは、低年齢層のユーザーに対し、こうしたコンテンツを継続的に推奨しており、事実上、接触を回避することが不可能に近い」と述べています。この連合は、以下の構造的改革を求める要請を行っています：YouTube KidsにおけるAI生成コンテンツの全面禁止、全プラットフォームでのAI生成動画の明確なラベリング、18歳未満のユーザーに対するAIコンテンツのアルゴリズム推奨の禁止、保護者向けにデフォルトでオフ設定されるAIコンテンツフィルター機能の提供、そして子供向けAIコンテンツ事業（例：Google AI Futures Fundが支援する子供向けエンターテインメントスタジオ「アニマージ（Animaj）」など）への投資中止です。
YouTubeの広報担当者は、同社はYouTube Kidsのコンテンツに対して厳格な基準を設けており、AI生成コンテンツは少数の高品質チャンネルに限定していると説明するとともに、専用のAIラベル機能を開発中であると述べましたが、具体的な提供時期については明らかにしていません。また、YouTube CEOのニール・モハン氏は、先日の年次公開書簡において、「AIゴミ動画の管理」を最優先課題の一つとして位置づけています。
