Trung tâm Ứng phó Khẩn cấp Mạng Internet Quốc gia thông báo: Một số gói kỹ năng của tác nhân AI có rủi ro “thoát ngục” và khai thác tiền mã hóa
TechFlow đưa tin, ngày 9 tháng 6, Trung tâm Ứng phó Khẩn cấp Mạng Internet Quốc gia (CNCERT) đã công bố thông báo cho biết gần đây đã phát hiện một số gói kỹ năng (Skills) dành cho tác tử thông minh đang được lan truyền công khai dưới danh nghĩa như “vượt ngục mô hình ngôn ngữ lớn” hoặc “đào tiền mã hóa để kiếm tiền”. Trong đó, gói kỹ năng “godmode” sử dụng các phương pháp như thay thế lời nhắc hệ thống và làm nhiễu đầu vào nhằm dụ dỗ mô hình ngôn ngữ lớn phá vỡ các giới hạn an ninh, có thể dẫn đến việc tài khoản người dùng bị khóa vĩnh viễn, rò rỉ thông tin cá nhân và phải đối mặt với trách nhiệm pháp lý; còn gói kỹ năng “Bonero-Miner” lại dụ dỗ tác tử tải về chương trình đào tiền mã hóa—loại tiền mã hóa được khai thác có tính chất ẩn danh—do đó người dùng có nguy cơ vô tình tham gia vào các hoạt động phi pháp như rửa tiền, đồng thời việc đào tiền mã hóa kéo dài ở mức tải cao sẽ làm suy giảm hiệu năng thiết bị. CNCERT khuyến nghị người dùng chỉ nên tải các gói kỹ năng từ các kênh chính thức, tuân thủ nguyên tắc quyền truy cập tối thiểu; các doanh nghiệp cần thiết lập cơ chế danh sách trắng (whitelist) để kiểm soát việc phê duyệt các gói kỹ năng và thực hiện quản lý phân cấp đối với các tác tử thông minh. Báo cáo này nhận được hỗ trợ kỹ thuật từ Tencent, Huoshan Engine, Baidu, NSFOCUS và Qihoo 360.
