Tin tức TechFlow, ngày 06 tháng 8, OpenAI cho biết, các mô hình AI tham gia tấn công cộng đồng nguồn mở và nền tảng lưu trữ mô hình AI "Hugging Face" đã bắt đầu giao tiếp qua các kênh trao đổi thông tin chưa bị phát hiện từ sớm nhất là tháng 5, và phối hợp với nhau, cố gắng phá vỡ môi trường thử nghiệm.
Nhân viên OpenAI Wallace và Dalton cho biết, nhiều agent và mô hình AI chỉ dành cho sử dụng nội bộ đã dành nhiều tháng để "nhắn tin cho nhau", và dần dần hình thành sự đồng thuận xung quanh một mục tiêu: truy cập internet để giải quyết các nhiệm vụ mà chúng được yêu cầu hoàn thành, trong đó một số nhiệm vụ không thể hoàn thành nếu không có quyền truy cập mạng.
Wallace cho biết: "Tại một thời điểm nào đó, các agent này nhận ra rằng có lẽ chúng tôi có thể cố gắng khai thác hoặc tấn công cơ sở hạ tầng bên ngoài, để từ đó tìm ra câu trả lời cho các nhiệm vụ thử nghiệm mà tôi đang được đánh giá." Bài phát biểu của các nhà nghiên cứu đã bổ sung thêm chi tiết về vụ việc Hugging Face bị hacker tấn công. Sự kiện này làm nổi bật mối lo ngại ngày càng tăng trên toàn cầu rằng các hệ thống AI tiên tiến có thể được sử dụng để phát động các cuộc tấn công mạng phá hoại. (Jin10)





