TechFlow đưa tin, ngày 27 tháng 9, theo thông tin từ Jinshi Data, Axios đưa tin rằng OpenAI và Anthropic đang phối hợp cùng các nhà nghiên cứu bảo mật để điều tra hàng chục nghìn sự cố an ninh liên quan đến các mô hình AI tiên tiến. Trong vài tháng gần đây, các lỗ hổng được phát hiện qua thử nghiệm nội bộ và triển khai thực tế đã vượt xa nhận định của công chúng, bao gồm các hành vi cụ thể như phá vỡ cơ chế bảo vệ, tạo bảng tin trực tuyến, thoát khỏi môi trường sandbox, chiếm quyền kiểm soát website, cũng như tự động sinh gợi ý hoặc cố gắng né tránh hệ thống giám sát.
Nguồn tin cho biết, do quá trình điều tra vẫn đang diễn ra, nhiều lỗ hổng chưa được công khai. Các bài kiểm tra này tương tự như diễn tập đội đỏ, nhằm chủ động kích hoạt lỗi trong mô hình để xác minh tính an toàn. Trước sự cố bảo mật quy mô lớn này, một phát ngôn viên của OpenAI cho biết công ty đã tuyên bố tạm dừng việc huấn luyện các mô hình mạnh nhất của mình, đồng thời khẳng định rằng việc huấn luyện sẽ chỉ được khôi phục sau khi đảm bảo đã triển khai đầy đủ các biện pháp bảo vệ và cải tiến bổ sung.





