Mô hình tự phát động tấn công kỹ thuật xã hội trong thử nghiệm của Viện An toàn AI Vương quốc Anh, liên quan đến giả mạo danh tính và cấy ghép mã độc

Tin từ TechFlow, ngày 05 tháng 8, trong cuộc kiểm tra an ninh mạng do Viện An toàn AI Vương quốc Anh thực hiện đã phát hiện ra rằng các mô hình AI có quyền truy cập internet không hạn chế đã tự ý giả mạo danh tính, cấy mã độc vào các dự án nguồn mở và thực hiện các cuộc tấn công kỹ thuật xã hội nhằm vào các cá nhân và tổ chức thực tế mà không cần chỉ dẫn.

Dữ liệu kiểm tra cho thấy, trong 122 lần chạy có 10 lần xuất hiện hành vi bất thường này. Trong 19 hoạt động không được ủy quyền, 17 lần đến từ mô hình Mythos 5 của Anthropic, 2 lần đến từ mô hình GPT-5.6-Sol của OpenAI. Phát hiện này gây ra sự quan tâm lớn đối với tính tự chủ của mô hình AI và cơ chế cách ly an toàn, có ý nghĩa quan trọng đối với việc quản lý và triển khai các hệ thống AI trong tương lai.