Substack ra mắt công cụ phát hiện AI, quét một lần là biết bài viết do người viết hay máy móc viết

Tác giả: Chris Best

Biên dịch: TechFlow

TechFlow Dẫn Đọc: Trên mạng xã hội, cao tới 40% nội dung đã được tạo bởi AI, nhưng độc giả thường không biết điều này. Substack cho rằng "Claudefishing" (mạo danh là con người viết) này đang phá vỡ niềm tin giữa độc giả và tác giả, đe dọa sinh kế của người sáng tạo nội dung. Cách đối phó của họ là: để độc giả tự phán đoán, thay vì nền tảng quyết định thay bạn.

Internet khó phân biệt thật giả

Giờ đây ngày càng khó để phân biệt đâu là nội dung thật trên Internet.

Vấn đề này trên Substack tương đối nhẹ, và chúng tôi hy vọng giữ nguyên như vậy. Như một bước đầu tiên, hôm nay chúng tôi ra mắt một tính năng hợp tác với Pangram trong ứng dụng Substack. Từ nay, bạn có thể quét văn bản để xem trong đó có bao nhiêu phần có thể là do con người viết, bao nhiêu phần được hoàn thành với sự hỗ trợ của AI. Tôi sẽ giải thích chi tiết hơn sau, nhưng trước hết hãy để tôi giải thích tại sao điều này lại quan trọng.

Khắp nơi là nước, nhưng không giọt nào uống được

Theo ước tính của Pangram, tỷ lệ văn bản do AI tạo ra trên một số nền tảng đang tăng lên, cao tới 40%. Đây là một thay đổi lớn. Nhiều người phàn nàn rằng nguồn cấp tin tức của họ tràn ngập nội dung rác vô hồn. Một số người thậm chí không nhận ra mình đang đọc những thứ không do con người tạo ra.

Vấn đề cốt lõi không nằm ở việc mọi người sử dụng AI, cũng không nằm ở chất lượng đầu ra của AI. Không phải tất cả nội dung làm bằng AI đều là rác, và cũng không phải tất cả rác đều do AI tạo ra. Vấn đề nằm ở khi kỳ vọng của độc giả không khớp với thực tế, đặc biệt là khi họ đầu tư sự chú ý vào nội dung đằng sau không có bất kỳ suy nghĩ nào của con người mà không hề hay biết. Đây chính là Claudefishing.

Freddie deBoer đã nói như sau:

Tôi tiếp cận nghệ thuật do con người sáng tạo, bởi vì tôi biết đằng sau đó có một con người, đây chính là điều tôi đang tìm kiếm — những người khác, thông qua nghệ thuật cho tôi thấy những thứ họ ẩn giấu trong bản thân. Lừa dối tôi trong quá trình này, chẳng qua chỉ là một trò lừa đảo.

Chúng tôi tại Substack quan tâm đến vấn đề này, bởi vì nó chạm đến cốt lõi công việc của chúng tôi: xây dựng động cơ kinh tế cho văn hóa. Điều này có nghĩa là giúp những con người thật — những người suy nghĩ, cảm nhận, quan sát, tranh luận, thử nghiệm, cân nhắc, vật lộn, khuyên bảo và quan tâm — kiếm tiền thông qua công việc mà họ tin tưởng. Mạng lưới này được xây dựng dựa trên niềm tin giữa người với người, đó là lý nó hoạt động hiệu quả.

Khi nội dung không do con người tạo ra chiếm lĩnh những phần của Internet vốn thuộc về con người, nó làm ô nhiễm không gian công cộng, khiến khó khăn hơn để phát hiện và lắng nghe tiếng nói của con người. Khi độc giả phải nghi ngờ liệu nội dung họ đang đọc có thật hay không, điều này phá vỡ niềm tin vào quyền tác giả và đe dọa sinh kế của các nhà văn — bao gồm những người sử dụng công cụ AI một cách cẩn trọng để tạo ra tác phẩm mà họ tin tưởng. Các nền tảng thưởng cho nội dung giả mạo sẽ kích hoạt một cuộc đua xuống đáy.

Chúng tôi đang làm gì

Đây là một lĩnh vực mới nổi, chúng tôi không dám nói có tất cả câu trả lời. Nhưng một điều chúng tôi biết chắc chắn là chúng tôi không muốn đợi đến khi ứng dụng Substack của bạn biến thành LinkedIn rồi mới bắt đầu học hỏi và tiến bộ. Vì vậy trước hết, chúng tôi ra mắt một số công cụ mới, hy vọng sẽ nâng cao tính minh bạch và đặt nền tảng để chúng tôi thu thập phản hồi từ bạn.

Chúng tôi đang hợp tác với công cụ phát hiện AI hàng đầu Pangram. Bạn sẽ có thể quét ghi chú, phản hồi, bình luận và bài đăng, xem có bao nhiêu văn bản là do con người viết hoặc ước tính được hoàn thành với sự hỗ trợ của AI. Điều này sẽ áp dụng cho văn bản có hơn 100 từ được đăng từ hôm nay trở đi, và chỉ hiển thị kết quả phân tích cho người yêu cầu xem.

Hình: Giao diện công cụ phát hiện AI hợp tác giữa Substack và Pangram, có thể hiển thị tỷ lệ văn bản do con người viết và hỗ trợ bởi AI. Nguồn: Substack

Xin lưu ý, Pangram chỉ có thể phát hiện xem liệu AI có được sử dụng để tạo văn bản hay không, mà không thể phát hiện liệu có đầu tư nhiều tâm huyết của con người vào quá trình sáng tạo hay không, cũng không thể phát hiện liệu có sử dụng công cụ AI làm nguồn hay không. Nó không hoàn hảo, nhưng các nghiên cứu độc lập cho thấy nó có thể phát hiện văn bản do AI tạo ra với độ chính xác cao. Chúng tôi tin rằng việc mọi người sử dụng các công cụ như vậy để giúp mình đưa ra phán đoán là có lợi.

Chúng tôi cũng đã ra mắt các công cụ cho người sáng tạo, bao gồm chức năng thêm tuyên bố "Tôi đã tạo ra cái này như thế nào", nơi bạn có thể giải thích quy trình của mình và thiết lập kỳ vọng cho độc giả. Bạn có thể chạy Pangram trên bản nháp trước khi đăng, cũng như báo cáo và xóa bất kỳ kết quả quét nào của riêng bạn mà bạn cho là không chính xác.

Các tính năng này hiện có sẵn trên web và iOS, và sẽ sớm có trên Android. Đây chỉ là điểm khởi đầu. Dựa trên phản hồi và sự quan tâm, chúng tôi đang xem xét các công cụ sau:

Cho phép bạn thiết lập sở thích về nội dung AI cho cộng đồng của mình trong quy tắc phản hồi

Cung cấp cho người sáng tạo nhiều cách hơn để thể hiện giá trị cá nhân mà họ mang lại, cho dù thông qua viết lách của con người hay sử dụng AI có suy nghĩ

Cho phép độc giả chọn thiết lập sở thích về loại nội dung nào được giới thiệu cho họ

Tiếp tục cải thiện hệ thống chống thư rác, bot và các trò lừa đảo khác nhau khi AI đẩy nhanh những vấn đề này

Chúng tôi không phản đối việc mọi người sử dụng AI để hỗ trợ công việc, chúng tôi cho rằng mọi người nên được tự do lựa chọn sử dụng công cụ nào để thể hiện bản thân. Một số người trên nền tảng là những người theo chủ nghĩa tối đa hóa viết lách của con người, một số khác thì công khai khám phá việc sử dụng các công cụ AI tiên tiến, đồng thời chú ý đến chi tiết để tạo ra các tác phẩm mà họ ủng hộ. Chúng tôi tại Substack luôn sử dụng AI để viết phần mềm, nghiên cứu, cũng như xây dựng các tính năng sản phẩm như clip, dịch thuật.

Nhưng mọi người nên biết họ nhận được gì. Ví dụ, bạn có thể không ngại đọc một phân tích sắc bén của ai đó, trong đó họ dựa nhiều vào AI để trình bày kết quả nghiên cứu, nhưng chỉ muốn dành thời gian tương tác với các phản hồi do con người viết. Dù bằng cách nào, bạn cũng nên có quyền lựa chọn.

Bạn muốn thấy gì?

Tất cả chúng ta cùng nhau bước vào thế giới mới kỳ lạ này, và chúng tôi không nghĩ ra cách nào tốt hơn để tìm ra các công cụ mới và chuẩn mực xã hội mới mà chúng ta cần ngoài việc tranh luận công khai. Chúng tôi muốn nghe ý kiến của bạn: Substack làm thế nào để giúp hỗ trợ sáng tạo của con người có giá trị trong thời đại AI? Khi nào việc sử dụng AI là Claudefishing? Khi nào thì tốt?

Dù AI có trở nên mạnh mẽ đến đâu, góc nhìn của con người luôn là yếu tố cơ bản của văn hóa, điều này sẽ luôn đúng. Trên thực tế, bạn càng mong đợi những công cụ này không ngừng cải thiện, thì việc hiểu nguồn gốc nội dung bạn đọc càng quan trọng. Claude có nhiều ưu điểm! Nhưng khi tôi muốn ý kiến của Claude, tôi sẽ hỏi trực tiếp Claude.