TechFlow 보도에 따르면, 4월 2일 Fortune는 미국교사연합회(AFT)와 미국컨설팅협회(ACA)를 비롯한 200여 개의 아동 권리 단체 및 전문가들이 유튜브 CEO 닐 모한(Neil Mohan)과 구글 CEO 산다르 피차이(Sundar Pichai)에게 공동 서한을 보내, 유튜브 키즈(YouTube Kids)에서 AI가 생성한 저품질 ‘쓰레기 영상’(AI slop)의 전면 금지를 촉구했다고 보도했다.
이 공동 서한은 아동 권리 단체 ‘페어플레이(Fairplay)’가 주도했으며, 『불안의 세대(The Anxious Generation)』의 저자 조나단 하이트(Jonathan Haidt) 등 유명 학자들도 서명에 참여했다. 서한은 유튜브 키즈 플랫폼에 AI가 대량으로 생산한 영상 콘텐츠가 범람하고 있으며, 이들 영상은 제작 비용이 저렴하고 내용이 터무니없거나 무의미하지만, 알고리즘에 의해 어린이들의 주의를 지속적으로 끌고 ‘장악’하도록 설계되어 있다고 지적했다. 페어플레이의 조사에 따르면, 아동을 대상으로 한 상위 AI 쓰레기 콘텐츠 채널의 연간 수익은 425만 달러를 넘었고, 유튜브 키즈에서 8세 미만 아동을 대상으로 한 영상 중 고질적 콘텐츠는 약 5%에 불과하다.
페어플레이의 프로젝트 책임자 레이첼 프란츠(Rachel Franz)는 AI 생성 콘텐츠가 현실을 왜곡하고 혼란을 야기해 아동의 세계 인식 발달에 부정적인 영향을 미치며, 플랫폼 알고리즘이 낮은 연령층 사용자에게 이러한 콘텐츠를 지속적으로 추천함으로써 사실상 접촉을 피할 수 없게 만든다고 밝혔다. 이 연합은 다음과 같은 구조적 개혁을 요구했다: 유튜브 키즈에서 AI 생성 콘텐츠의 전면 금지; 전체 플랫폼에서 AI 생성 영상에 대한 명확한 표시; 18세 미만 사용자에게 AI 콘텐츠를 추천하는 알고리즘 금지; 부모가 기본 설정에서 끌 수 있는 AI 콘텐츠 차단 기능 도입; 구글 AI 퓨처스 펀드(Google AI Futures Fund)가 후원하는 아동 엔터테인먼트 스튜디오 애니메이(Animaj) 등 아동 대상 AI 콘텐츠 프로젝트에 대한 투자 중단.
유튜브 대변인은 플랫폼이 유튜브 키즈 콘텐츠에 대해 엄격한 기준을 적용하고 있으며, 현재 AI 생성 콘텐츠는 소수의 고품질 채널에만 제한하고 있으며, 전용 AI 태그 기능을 개발 중이라고 밝혔으나, 구체적인 출시 일정은 공개하지 않았다. 유튜브 CEO 닐 모한은 이전 연례 공개서한에서 ‘AI 쓰레기 콘텐츠 관리’를 최우선 과제 중 하나로 이미 명시한 바 있다.
