Không ngờ tới, AI đã đánh cắp ví tiền của tôi
Tuyển chọn TechFlowTuyển chọn TechFlow
Không ngờ tới, AI đã đánh cắp ví tiền của tôi
Khi dữ liệu huấn luyện bị nhiễm bẩn, liệu AI còn đáng tin cậy không?
Chuyên sâu báo cáo Web3Bài viết: Azuma, Odaily Star Daily
Sáng ngày 22 tháng 11 theo giờ Bắc Kinh, Yu Xian, người sáng lập SlowMist, đã đăng lên tài khoản cá nhân X của mình một trường hợp kỳ lạ —— ví tiền của một người dùng đã bị "tin tặc" tấn công bởi AI…
Dưới đây là diễn biến cụ thể của vụ việc.
Rạng sáng nay, người dùng X có tên r_ocky.eth tiết lộ rằng trước đó anh từng muốn sử dụng ChatGPT để tạo một bot hỗ trợ giao dịch trên pump.fun.
r_ocky.eth đã cung cấp yêu cầu của mình cho ChatGPT, và ChatGPT đã trả lại cho anh một đoạn mã. Đoạn mã này thực sự có thể giúp r_ocky.eth triển khai bot theo nhu cầu, nhưng anh không ngờ rằng trong đoạn mã lại ẩn chứa nội dung lừa đảo —— r_ocky.eth đã kết nối ví chính của mình và do đó bị mất 2.500 USD.
Theo hình ảnh chụp màn hình mà r_ocky.eth công bố, đoạn mã do ChatGPT cung cấp sẽ gửi khóa riêng của địa chỉ đến một trang web API mang tính lừa đảo, đây cũng là nguyên nhân trực tiếp dẫn đến vụ mất cắp.
Ngay sau khi r_ocky.eth dính bẫy, kẻ tấn công phản ứng cực kỳ nhanh chóng, trong vòng chưa đầy nửa giờ đã chuyển toàn bộ tài sản trong ví của r_ocky.eth sang một địa chỉ khác (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX). Sau đó, r_ocky.eth đã truy vết trên chuỗi và tìm ra địa chỉ nghi là ví chính của kẻ tấn công (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC).
Thông tin trên chuỗi cho thấy địa chỉ này hiện đã tập hợp hơn 100.000 USD tiền “bất chính”. Do đó, r_ocky.eth nghi ngờ rằng các cuộc tấn công như vậy có thể không phải là trường hợp đơn lẻ, mà là một chiến dịch tấn công đã đạt quy mô nhất định.
Sau sự việc, r_ocky.eth bày tỏ sự thất vọng và cho biết đã mất niềm tin vào OpenAI (công ty phát triển ChatGPT), đồng thời kêu gọi OpenAI sớm tiến hành dọn dẹp các nội dung lừa đảo bất thường.
Vậy thì, tại sao ChatGPT – ứng dụng AI phổ biến nhất hiện nay – lại cung cấp nội dung lừa đảo?
Về vấn đề này, Yu Xian xác định nguyên nhân gốc rễ của sự việc là “tấn công đầu độc AI” (AI poisoning attack), đồng thời chỉ ra rằng hành vi lừa đảo kiểu này khá phổ biến trong các mô hình ngôn ngữ lớn (LLM) như ChatGPT và Claude.
“Tấn công đầu độc AI” ám chỉ hành động cố ý làm hỏng dữ liệu huấn luyện AI hoặc thao túng thuật toán AI. Kẻ tấn công có thể là nhân viên nội bộ (hiện tại hoặc trước đây) với động cơ bất mãn, hoặc là tin tặc bên ngoài, với mục đích gây tổn hại danh tiếng và thương hiệu, làm sai lệch độ tin cậy trong quyết định của AI, làm chậm hoặc phá hoại quá trình hoạt động của AI,... Bằng cách chèn các dữ liệu có nhãn hoặc đặc điểm gây hiểu lầm, chúng bóp méo quá trình học của mô hình, khiến mô hình đưa ra kết quả sai lệch khi được triển khai và vận hành.
Xét trong bối cảnh vụ việc này, lý do ChatGPT cung cấp đoạn mã lừa đảo cho r_ocky.eth rất có thể là do mô hình AI đã được huấn luyện bằng các tài liệu chứa nội dung lừa đảo. Tuy nhiên, AI dường như không nhận diện được những nội dung lừa đảo ẩn dưới lớp dữ liệu bình thường, học theo và sau đó cung cấp lại cho người dùng, dẫn đến sự việc xảy ra.
Cùng với sự phát triển nhanh chóng và việc áp dụng rộng rãi AI, mối đe dọa từ các “cuộc tấn công đầu độc” ngày càng gia tăng. Trong vụ việc này, dù số tiền thiệt hại tuyệt đối không lớn, nhưng tác động tiềm tàng của loại rủi ro này đủ để khiến mọi người phải cảnh giác —— giả sử điều tương tự xảy ra trong lĩnh vực khác, ví dụ như lái xe tự động hỗ trợ bằng AI…
Khi trả lời câu hỏi của cư dân mạng, Yu Xian đã đề cập đến một biện pháp tiềm năng nhằm tránh rủi ro loại này, đó là ChatGPT nên bổ sung một cơ chế kiểm tra mã nguồn nào đó.
Người dùng bị hại r_ocky.eth cũng cho biết đã liên hệ với OpenAI về sự việc này. Mặc dù chưa nhận được phản hồi, anh hy vọng vụ việc này có thể trở thành cơ hội để OpenAI coi trọng hơn các rủi ro như vậy và đưa ra các giải pháp tiềm năng.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
Odaily
