TechFlow đưa tin, ngày 02 tháng 04, theo báo cáo của tạp chí Fortune, hơn 200 tổ chức bảo vệ quyền trẻ em và chuyên gia—trong đó có Hiệp hội Giáo viên Hoa Kỳ (American Federation of Teachers) và Hiệp hội Tư vấn Hoa Kỳ (American Counseling Association)—đã cùng ký thư gửi Giám đốc điều hành (CEO) của YouTube, ông Neal Mohan, và CEO của Google, ông Sundar Pichai, yêu cầu nền tảng cấm hoàn toàn các video “rác” chất lượng thấp do AI tạo ra (AI slop) trên YouTube Kids.
Thư kiến nghị do tổ chức bảo vệ quyền trẻ em Fairplay đứng đầu phát động; nhà khoa học nổi tiếng Jonathan Haidt, tác giả cuốn sách “Thế hệ lo âu” (The Anxious Generation), cũng tham gia ký tên. Thư nêu rõ, một lượng lớn nội dung video được sản xuất hàng loạt bằng AI đang tràn ngập nền tảng YouTube Kids; những video này có chi phí sản xuất thấp, nội dung phi lý hoặc vô nghĩa, song lại được thiết kế bởi thuật toán nhằm liên tục thu hút và “chiếm đoạt” sự chú ý của trẻ em. Theo khảo sát của Fairplay, các kênh hàng đầu chuyên sản xuất nội dung “rác” do AI tạo ra nhắm vào trẻ em có doanh thu hàng năm vượt quá 4,25 triệu đô la Mỹ; trong khi chỉ khoảng 5% số video trên YouTube Kids dành cho trẻ dưới 8 tuổi được xếp vào loại nội dung chất lượng cao.
Bà Rachel Franz, người phụ trách dự án tại Fairplay, cho biết nội dung do AI tạo ra làm bóp méo thực tế, gây hỗn loạn và ảnh hưởng đến sự phát triển nhận thức của trẻ về thế giới; hơn nữa, thuật toán của nền tảng tiếp tục đề xuất những nội dung như vậy cho người dùng nhỏ tuổi, khiến việc tránh tiếp xúc gần như là bất khả thi. Liên minh này đưa ra nhiều yêu cầu cải cách mang tính cấu trúc, bao gồm: cấm hoàn toàn nội dung do AI tạo ra trên YouTube Kids; gắn nhãn rõ ràng cho mọi video do AI tạo ra trên toàn bộ nền tảng; cấm thuật toán đề xuất nội dung do AI tạo ra cho người dùng dưới 18 tuổi; cung cấp công tắc tắt nội dung do AI tạo ra dành riêng cho phụ huynh với chế độ mặc định là tắt; đồng thời chấm dứt mọi khoản đầu tư vào các dự án nội dung do AI tạo ra nhắm vào trẻ em (ví dụ như xưởng giải trí dành cho trẻ em Animaj, được Quỹ Tương lai AI của Google – Google AI Futures Fund – hỗ trợ).
Phát ngôn viên của YouTube phản hồi rằng nền tảng áp dụng các tiêu chuẩn nghiêm ngặt đối với nội dung trên YouTube Kids, hiện đã giới hạn nội dung do AI tạo ra trong một số ít kênh chất lượng cao, đồng thời đang phát triển tính năng gắn nhãn đặc biệt dành riêng cho nội dung AI, tuy nhiên chưa tiết lộ thời điểm cụ thể tính năng này sẽ chính thức ra mắt. Trước đó, trong thư công khai thường niên, CEO của YouTube, ông Neal Mohan, đã xác định “kiểm soát nội dung rác do AI tạo ra” là một trong những ưu tiên hàng đầu.
