Âm thanh nào đó chỉnh đốn sáng tạo AI,主播 ảo AI sẽ đi về đâu?
Tuyển chọn TechFlowTuyển chọn TechFlow
Âm thanh nào đó chỉnh đốn sáng tạo AI,主播 ảo AI sẽ đi về đâu?
Việc quy định các công nghệ và lĩnh vực mới không nhất thiết dẫn đến cản trở phát triển. Việc ban hành "lệnh cấm" thường cũng mang mặt thúc đẩy phát triển thông qua tuân thủ quy định.
Chuyên sâu báo cáo Web3Tác giả: Đội ngũ Xiao Sa
Ngày 27 tháng 3, Trung tâm An toàn của Douyin đã công bố "Thông báo về việc quản lý việc sử dụng sai mục đích AI để tạo nhân vật ảo", nhằm tăng cường kiểm soát nội dung được tạo ra bằng công nghệ AI trên nền tảng, đặc biệt là các chương trình phát trực tiếp và video ngắn do nhân vật ảo do AI tạo ra làm người dẫn chương trình.
Do thông báo lần này sử dụng ngôn từ nghiêm khắc hơn nhiều so với trước đây, nên ngay sau khi công bố đã khiến không ít người trong ngành lo ngại về triển vọng ứng dụng của người dẫn chương trình ảo AI trên các nền tảng truyền thông tự thân. Vậy, việc ban hành quy tắc mang tính biểu tượng này đối với sự phát triển của AIGC là phúc hay họa? Việc thiết lập "khu vực cấm" mới liệu có phải là điều tốt hay xấu đối với tương lai ứng dụng người dẫn chương trình ảo AI?
Người dẫn chương trình ảo do AI tạo ra: cơ hội và rủi ro song hành
So với các "người dẫn chương trình ảo mặc lớp vỏ" thời kỳ đầu sử dụng công nghệ bắt chuyển động thời gian thực do con người điều khiển, hiện nay nhờ vào công nghệ tạo hình ảnh động AI và tổng hợp giọng nói, các "người dẫn chương trình ảo AI" lấy nhân vật ảo do AI tạo ra làm trung tâm dường như đã thể hiện sức mạnh mở rộng mà thế hệ trước khó có thể sánh kịp. Dù hiện tại công nghệ loại này vẫn còn nhiều khoảng cách cần cải tiến trong việc tạo video dài và tương tác thời gian thực, nhưng trong lĩnh vực video ngắn và livestream bán hàng, do bối cảnh nội dung phát sóng và nhu cầu tương đối cố định, việc sử dụng AI tạo hình ảnh riêng biệt phù hợp với nhóm khách hàng cụ thể, đồng thời tự động tạo ra nội dung âm thanh và video trong một khoảng thời gian nhất định theo các gợi ý đã thiết lập, giải pháp sản xuất nội dung chi phí thấp này ngày càng được các nhà sáng tạo ưa chuộng.
So với hình thức livestream truyền thống với người thật - nơi chi phí lao động ngày càng cao, thời gian phát trực tiếp cố định và hình ảnh người dẫn chương trình khó xây dựng, chỉ sơ suất nhỏ cũng dễ bị "sập hình tượng", thì người dẫn chương trình ảo AI đã thể hiện rõ ưu thế vượt trội. Đặc biệt sau đại dịch, nhu cầu thị trường về livestream bán hàng trên các sàn thương mại điện tử và thu hút lưu lượng qua mạng xã hội không ngừng tăng cao, tạo ra cơ hội kinh doanh khổng lồ. Chính các nền tảng truyền thông tự thân cũng cung cấp, thậm chí có thể nói là khuyến khích người dùng sử dụng các phương thức thuận tiện của AIGC để gia tăng số lượng nội dung sáng tạo. Ví dụ điển hình chính là Douyin - nền tảng chủ đề hôm nay của chúng ta, dù không cung cấp dịch vụ tạo nhân vật ảo AI trực tiếp, nhưng đã sớm ra mắt mô-đun sáng tạo tích hợp chức năng "AI chuyển hình thành hình" và "AI tạo video".
Rõ ràng, ngay cả Douyin - vừa giẫm phanh mạnh về vấn đề quy chuẩn - cũng tuyệt nhiên không hề có ý định "cấm tiệt" sáng tạo bằng AI. Tuy nhiên, điều không thể phủ nhận là hiện nay do công nghệ AIGC đã giảm đáng kể ngưỡng tham gia cho người sáng tạo nội dung, khiến việc sáng tạo từng thuộc lĩnh vực "nghệ thuật" dần chuyển sang thao tác kỹ thuật mang tính máy móc, rất nhiều người sáng tạo với trình độ kỹ thuật và ý thức tuân thủ pháp luật khác nhau, ôm tâm lý tận dụng cơ hội kinh doanh này tham gia vào, thực tế đã gây ra không ít rủi ro pháp lý và tuân thủ.
Trước hết là các vấn đề pháp lý và xã hội phát sinh do sử dụng công nghệ AI để lừa đảo. Theo báo cáo an toàn liên quan, tỷ lệ tăng trưởng các vụ lừa đảo giả mạo sâu (deepfake) dựa trên AI trong năm 2023 lên tới 3000%, đằng sau xu hướng tăng đáng kinh ngạc này là rủi ro pháp lý to lớn do sử dụng sai mục đích AI. Đồng thời, do nhân vật ảo do AI tạo ra dựa trên nhiều nền tảng công nghệ AIGC như văn bản, hình ảnh, âm thanh, nên luôn khó tránh hoàn toàn các vấn đề xâm phạm quyền sở hữu trí tuệ của người khác trong thiết kế nhân vật, nhạc nền, kịch bản livestream... Ngoài ra, hình ảnh nhân vật ảo còn tiềm ẩn nguy cơ xâm phạm quyền hình ảnh, quyền riêng tư và quyền lợi thông tin cá nhân của người khác; việc sử dụng AIGC cho quảng cáo sản phẩm mang tính dụ dỗ cũng có thể gây hại đến quyền được biết và quyền lựa chọn của người tiêu dùng.
Có thể nói, việc ứng dụng công nghệ như người dẫn chương trình ảo AI trong lĩnh vực video ngắn và livestream bán hàng hiện đang ở trạng thái chồng chéo giữa cơ hội to lớn và rủi ro nghiêm trọng.
Từ Douyin phân tích các điểm then chốt về tuân thủ đối với người dẫn chương trình ảo do AI tạo ra
Vì vậy, cũng không khó hiểu vì sao Douyin - một trong những tiên phong ngành - lại có thái độ thận trọng trong quản lý tuân thủ sáng tạo bằng AI. Thực tế, đây không phải lần đầu Douyin "dội gáo nước lạnh" về vấn đề người dẫn chương trình ảo AI. Ngay từ ngày 9 tháng 5 năm 2023, nền tảng này đã công bố "Quy chuẩn nền tảng và sáng kiến ngành về nội dung do trí tuệ nhân tạo tạo ra", lần đầu tiên làm rõ quy phạm hành vi trên nền tảng đối với video, hình ảnh do trí tuệ nhân tạo tạo ra và livestream ảo phát sinh, đồng thời dựa theo "Quy định về quản lý dịch vụ thông tin Internet sử dụng tổng hợp độ sâu" để xây dựng "Quy phạm về đánh dấu hình mờ và siêu dữ liệu nội dung do trí tuệ nhân tạo tạo ra", chi tiết hóa các yêu cầu như đánh dấu rõ ràng, tránh gây nhầm lẫn.
Lệnh "cấm" lần này của Douyin chủ yếu nhắm vào hành vi "cấm mãi không ngừng, lan rộng" trên nền tảng là "sử dụng AI tạo nhân vật ảo đăng tải nội dung trái với tri thức khoa học, gian dối, tung tin thất thiệt". Cụ thể nêu ra ba tình huống điển hình:
Thứ nhất, tạo hình ảnh người nước ngoài giả mạo, xây dựng nhân设 giả ở nước ngoài, lợi dụng tâm lý yêu nước để thu hút sự chú ý.
Thứ hai, tạo hình ảnh nam thanh nữ tú giả mạo để lừa tương tác, hoặc đăng tải nội dung cảm xúc dụ dỗ, thể hiện cảm xúc giả tạo, dẫn dắt người dùng đến công cụ trò chuyện kết bạn riêng tư, thậm chí lừa đảo.
Thứ ba, tạo dựng hình tượng người tinh hoa giả mạo, đăng tải nội dung độc hại như gà giáo dục tinh thần, tài năng kinh doanh, quốc học giả, học thuyết dày mặt đen lòng, thành công học giả... để câu view chất lượng thấp, thậm chí dẫn lưu ra ngoài nền tảng để kiếm lời bằng cách bán khóa học, mời vào nhóm...
Có thể thấy, các trường hợp nêu trên đều lợi dụng hình ảnh nhân vật ảo do AI tạo ra để nhắm vào các nhóm xã hội có nhu cầu cảm xúc nhất định, tiến hành các hoạt động vi phạm pháp luật như câu view kém chất lượng, lừa lưu lượng, thậm chí dẫn lưu lừa đảo. Trong các hoạt động này, bản thân nhân vật ảo AI không trực tiếp dùng để lừa đảo, mà đóng vai trò phương tiện thu hút phù hợp thị hiếu nhóm mục tiêu, là "giai đoạn chuẩn bị" cho các hành vi sai phạm sau đó như lừa đảo, mang tính ẩn giấu khá cao.
Do đó, điều Douyin cấm và hạn chế không phải là sáng tạo nội dung có người dẫn chương trình ảo AI của người dùng trên nền tảng, mà hy vọng thông qua việc xây dựng tuân thủ, cùng người dùng kiểm soát tối đa các rủi ro vi phạm pháp luật trong lĩnh vực liên quan. Coi hành động này đơn thuần là hạn chế việc người dùng sử dụng AI sáng tạo, thì quả thực hơi oan cho nền tảng Douyin, bởi mục tiêu căn bản vẫn là chuẩn hóa các hành vi sai phạm tiềm ẩn rủi ro, dùng biện pháp tuân thủ thúc đẩy phát triển lành mạnh hơn cho lĩnh vực này.
Người dùng hay nền tảng - ai chịu trách nhiệm tuân thủ người dẫn chương trình ảo AI?
Lý do Douyin hành động như vậy cũng là để thực hiện trách nhiệm của mình với tư cách là nền tảng dịch vụ Internet, đồng thời là bên cung cấp và phổ biến nội dung do AI tạo ra. Hiện nay, các quy định quản lý dịch vụ trí tuệ nhân tạo tạo nội dung của Trung Quốc phần lớn thiên về quy định trách nhiệm của nền tảng. Ví dụ như trong "Yêu cầu cơ bản về an toàn dịch vụ trí tuệ nhân tạo tạo nội dung" do Ủy ban Tiêu chuẩn an ninh mạng quốc gia ban hành, trách nhiệm kiểm tra và đánh giá đối với trí tuệ nhân tạo tạo nội dung chủ yếu đặt lên nhà cung cấp dịch vụ liên quan. Hay như Điều 14 trong "Phương pháp tạm thời về quản lý dịch vụ trí tuệ nhân tạo tạo nội dung" giới hạn "nguyên tắc nơi trú ẩn an toàn" đối với nhà cung cấp dịch vụ, yêu cầu khi phát hiện hành vi vi phạm pháp luật phải lập tức chỉnh đốn và báo cáo lên cơ quan quản lý; Điều 15 yêu cầu nhà cung cấp dịch vụ xây dựng cơ chế khiếu nại, tố cáo để thúc đẩy xử lý kịp thời nội dung sai phạm.
Từ thông báo lần này của Douyin cũng có thể thấy sự nhắc lại các quy chuẩn liên quan, dưới ngôn từ tương đối nghiêm khắc, nhưng giữa các dòng chữ thực tế đều lộ rõ mong muốn người dùng phối hợp công việc, cùng giám sát, tích cực báo cáo tình hình sử dụng sai mục đích nội dung do trí tuệ nhân tạo tạo ra. Hiện nay, điểm kết nối giữa nền tảng và người dùng trong quản lý nội dung do AI tạo ra tập trung chủ yếu vào điều đầu tiên được nhắc lại trong quy phạm, đó là "đánh dấu rõ ràng" nội dung do AI tạo ra. Theo Điều 12 của "Phương pháp tạm thời về quản lý dịch vụ trí tuệ nhân tạo tạo nội dung", nhà cung cấp phải đánh dấu nội dung được tạo ra như hình ảnh, video theo "Quy định về quản lý dịch vụ thông tin Internet sử dụng tổng hợp độ sâu" và "Hướng dẫn thực hành tiêu chuẩn mạng lưới an toàn - Phương pháp đánh dấu nội dung dịch vụ trí tuệ nhân tạo tạo nội dung". Hầu hết các nền tảng truyền thông tự thân cung cấp hoặc chấp nhận sản phẩm do AI tạo ra, bao gồm cả Douyin, đều đã quy định rõ ràng phương pháp và yêu cầu đánh dấu đối với sản phẩm do trí tuệ nhân tạo tạo ra.
Hiện tại, cách thức Douyin áp dụng vẫn là người dùng phối hợp khai báo nội dung sáng tạo bằng AI, sau đó nền tảng thêm văn bản nhắc nhở tương ứng. Mô hình này khi đăng tải nội dung người dẫn chương trình ảo AI khá chân thực, nếu người sáng tạo không tự thêm các thẻ như "thần tượng ảo/người ảo" trong nội dung văn bản, thì về độ thực thi sẽ tồn tại khuyết điểm. Mặc dù thông báo lần này nhấn mạnh nghiêm khắc các biện pháp xử phạt đối với người dùng vi phạm, nhưng do giới hạn của mô hình xử lý hiện tại, giống như hy vọng đạt được một sự thấu hiểu "trước lễ sau binh" nào đó giữa người dùng và nền tảng. Dù việc xây dựng quy tắc nền tảng kết hợp các phương tiện kỹ thuật như thuật toán phát hiện dường như đã là giải pháp tối ưu nhất hiện nay đối với nhà cung cấp dịch vụ liên quan, nhưng hiệu quả của các biện pháp này trong thời đại song hành cơ hội và rủi ro này vẫn cần thực tiễn kiểm chứng.
Cần lưu ý rằng, hình ảnh nhân vật ảo không bao giờ có thể trở thành "lá chắn" cho trách nhiệm của người sáng tạo, việc xây dựng tuân thủ sáng tạo bằng AI thực sự cũng không phải là mong muốn một chiều của phía nền tảng. Trong thông báo lần này của Douyin, điểm nổi bật nhất thể hiện mức độ nghiêm khắc của quy phạm và quyết tâm quản trị nền tảng là sau khi liệt kê các hành vi vi phạm điển hình, nền tảng "bán minh bán ám" tuyên bố sẽ áp dụng các hình phạt nội bộ như gỡ video, phong tỏa tài khoản đối với hành vi sử dụng sai mục đích AI tạo nhân vật ảo. Đồng thời, đối với các manh mối đã nắm được về các nhóm tội phạm đen sử dụng sai mục đích nhân vật ảo do AI tạo ra để phạm tội, nền tảng sẽ thực hiện hành vi báo cảnh sát để trừng trị. Thật vậy, sự "thấu hiểu" như đã đề cập ở trên có lẽ cũng nên tồn tại khách quan giữa người dùng và nền tảng. Những người sáng tạo thực hiện hành vi sai phạm đương nhiên không chỉ phải chịu xử phạt theo quy tắc nền tảng, tùy theo mức độ nghiêm trọng còn có thể phải gánh chịu các hậu quả pháp lý khác, thậm chí trách nhiệm hình sự.
Viết cuối cùng
Chúng tôi luôn nhấn mạnh với mọi người rằng, việc quy chuẩn hóa công nghệ mới, lĩnh vực mới không nhất thiết dẫn đến cản trở phát triển. Việc ban hành "lệnh cấm" thường cũng mang mặt tích cực thúc đẩy phát triển thông qua tuân thủ. Bởi lẽ, chỉ khi đi đúng hướng, mới có thể đi xa được.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
