Người dân cần một nhà tư bản xấu, AI tạo ra một tin đồn giao đồ ăn
Tuyển chọn TechFlowTuyển chọn TechFlow
Người dân cần một nhà tư bản xấu, AI tạo ra một tin đồn giao đồ ăn
Tin giả có thể lan truyền vì nó quá giống với những điều bạn đã tin trong lòng.
Chuyên sâu báo cáo Web3Viết bởi: Curry, TechFlow
Tuần trước có một chuyện khá kỳ ảo.
CEO của hai gã khổng lồ giao đồ ăn tại Mỹ, một người có tài sản 2,7 tỷ USD, một người quản lý nền tảng gọi xe lớn nhất thế giới, cả hai đều không ngủ vào lúc rạng sáng thứ Bảy, lên mạng viết bài tự minh oan.
Nguyên nhân là một bài đăng ẩn danh trên Reddit.
Người đăng tự xưng là kỹ sư backend của một nền tảng giao đồ ăn lớn, say rượu, chạy đến thư viện dùng WiFi công cộng để tố cáo.
Nội dung đại khái là:
Công ty sẽ phân tích tình hình của tài xế gọi xe, sau đó chấm cho họ "điểm tuyệt vọng", tài xế càng thiếu tiền càng không nhận được đơn hàng tốt; cái gọi là ưu tiên giao hàng của dịch vụ giao đồ ăn là giả, đơn hàng thông thường sẽ bị trì hoãn; các loại "phí phúc lợi tài xế" không đưa cho tài xế một xu nào, toàn bộ dùng để vận động hành lang Quốc hội đối phó với công đoàn...
Cuối bài đăng làm ra vẻ rất chân thật: tôi say rượu, tôi tức giận, nên tôi muốn tố cáo.
Hoàn toàn tự tạo hình ảnh mình là người thổi còi trong vụ "công ty lớn dùng thuật toán bóc lột tài xế".
Bài đăng đăng lên ba ngày, 87.000 lượt thích, lên trang chủ Reddit. Cũng có người chụp màn hình đăng lên X, thu về 36 triệu lượt tiếp cận.
Phải biết rằng, thị trường giao đồ ăn Mỹ chỉ có vài người chơi lớn, bài đăng không nêu tên, nhưng mọi người đều đoán là ai.
CEO DoorDash Tony Xu không ngồi yên được nữa, đăng tweet nói đây không phải việc chúng tôi làm, ai dám làm vậy tôi sẽ sa thải. COO của Uber cũng nhảy ra phản hồi, "đừng tin tất cả những gì thấy trên mạng".
DoorDash thậm chí còn đăng một tuyên bố năm điểm trên trang web chính thức, phản bác từng nội dung trong bài tố cáo. Hai công ty này, tổng vốn hóa hơn 80 tỷ USD, bị một bài đăng ẩn danh khiến phải thức đêm làm quan hệ công chúng để làm rõ.
Sau đó, bài đăng này lại được chứng minh là do AI bịa ra.
Người vạch trần nó là phóng viên Casey Newton của tờ báo công nghệ nước ngoài Platformer.
Anh ta liên lạc với người tố cáo bài đăng này, người này lập tức ném cho một tài liệu "tài liệu kỹ thuật nội bộ" 18 trang, tiêu đề cũng rất học thuật, gọi là "AllocNet-T: High-Dimensional Temporal Supply State Modeling".
Dịch ra đại khái là "Mô hình hóa trạng thái cung ứng thời gian đa chiều". Mỗi trang đều có watermark "bí mật", ký tên là "Nhóm Động thái Thị trường · Bộ phận Kinh tế học Hành vi" của Uber.
Nội dung thì, chính là giải thích mô hình chấm "điểm tuyệt vọng" cho tài xế trong bài đăng tố cáo trên Reddit, rốt cuộc tính toán thế nào. Trong đó có sơ đồ kiến trúc, có công thức toán học, có lưu đồ dữ liệu...
(Ảnh chụp bài báo giả, nhìn qua, làm ra vẻ giống thật)
Newton nói, tài liệu này lúc đầu đã lừa được anh ta. Ai lại bỏ công giả mạo 18 trang tài liệu kỹ thuật để câu một phóng viên?
Nhưng bây giờ khác rồi.
Tài liệu 18 trang này, dùng AI vài phút là có thể tạo ra.
Đồng thời, người tố cáo còn ném cho phóng viên một tấm ảnh mã hóa thẻ nhân viên Uber của mình, chứng tỏ mình thực sự làm việc ở trong đó.
Vì tò mò, phóng viên Newton bỏ tấm thẻ nhân viên vào Google Gemini để kiểm tra, kết quả Gemini nói bức ảnh này là do AI tạo ra.
Có thể nhận ra, là vì Google đã chèn vào nội dung do AI của họ tạo ra một watermark vô hình, gọi là SynthID, mắt thường không thấy, nhưng máy có thể phát hiện.
Đáng nói hơn nữa, trên thẻ nhân viên in logo "Uber Eats".
Người phát ngôn của Uber xác nhận: Chúng tôi hoàn toàn không có thẻ nhân viên thương hiệu Uber Eats, tất cả thẻ nhân viên chỉ in Uber.
Rõ ràng, người tố cáo giả mạo "người thổi còi" này, ngay cả việc muốn hại ai còn chưa rõ. Khi phóng viên yêu cầu cung cấp thông tin tài khoản mạng xã hội như LinkedIn để xác minh thêm,
người tố cáo trực tiếp xóa tài khoản bỏ chạy.
Thực ra, điều chúng tôi muốn bàn không phải là AI có thể giả mạo, điều này không mới.
Chúng tôi muốn bàn hơn là: Tại sao mấy chục triệu người, lại sẵn sàng tin một bài đăng tố cáo ẩn danh?
Năm 2020, DoorDash vì lấy tiền boa để bù lương cơ bản của tài xế bị kiện, bồi thường 16,75 triệu USD. Uber từng làm một công cụ tên Greyball, chuyên trốn tránh giám sát. Đây là những chuyện có thật.
Bạn rất dễ tìm thấy một sự đồng cảm tiềm thức, đó là: nền tảng không phải thứ gì tốt đẹp, phán đoán này chắc chắn không sai.
Vì vậy khi có người nói "thuật toán nền tảng giao đồ ăn bóc lột tài xế", phản ứng đầu tiên của mọi người không phải "đây có thật không", mà là "quả nhiên như vậy".
Tin giả có thể chạy được, là vì nó trông giống thứ mà mọi người trong lòng đã tin rồi.
Việc AI làm, là giảm chi phí của cái "giống" này xuống gần bằng không.
Câu chuyện này còn một chi tiết.
Vạch trần vụ lừa đảo dựa vào công cụ phát hiện watermark của Google. Google làm AI, Google cũng làm công cụ phát hiện AI.
Nhưng SynthID chỉ có thể kiểm tra AI của chính Google. Lần này bắt được, là vì kẻ làm giả tình cờ dùng Gemini. Nếu đổi sang mô hình khác, có lẽ đã không may mắn như vậy.
Vì vậy lần này phá án, không bằng nói là:
Đối phương phạm sai lầm sơ đẳng.
Trước đây, hãng thông tấn Reuters có một cuộc điều tra, 59% người lo lắng mình không phân biệt được thật giả trên mạng.
Tweet làm rõ của CEO công ty giao đồ ăn có mấy trăm nghìn người xem, nhưng bao nhiêu người sẽ kiên định cho rằng đây là quan hệ công chúng, là nói dối? Mặc dù bài đăng tố cáo giả đó đã bị xóa, nhưng bình luận vẫn còn người chửi nền tảng giao đồ ăn.
Lời nói dối chạy nửa vòng trái đất rồi, sự thật còn đang buộc dây giày.
Bạn nghĩ lại xem, nếu bài đăng này nói không phải Uber, mà là Meituan hay Ele.me thì sao?
Cái gì "điểm tuyệt vọng", cái gì "dùng thuật toán bóc lột người giao hàng", cái gì "phí phúc lợi không đưa cho người giao hàng một xu". Bạn thấy những cáo buộc này, phản ứng đầu tiên có phải là đồng cảm cảm xúc không?
"Người giao đồ ăn, mắc kẹt trong hệ thống", bài viết đó bạn còn nhớ chứ.
Vì vậy vấn đề không nằm ở chỗ AI có thể giả mạo hay không. Vấn đề nằm ở chỗ, khi một lời nói dối trông giống thứ mà mọi người trong lòng đã tin từ lâu, thật giả còn quan trọng nữa không?
Người xóa tài khoản bỏ chạy kia, muốn gì, không biết.
Chỉ biết anh ta tìm thấy một lối thoát cảm xúc, đổ vào đó một thùng nhiên liệu do AI tạo ra.
Lửa cháy rồi. Còn việc cháy là củi thật hay củi giả, ai quan tâm chứ?
Trong truyện cổ tích, Pinocchio nói dối mũi sẽ dài ra.
AI không có mũi.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
深潮TechFlow
