Báo cáo độc lập: Agent của OpenAI tấn công trang web Liên Hợp Quốc

Theo TechFlow, vào ngày 27 tháng 9, dựa trên một báo cáo nghiên cứu độc lập được công bố ngày 26 tháng 9, trong tháng 6 năm nay, các agent của OpenAI đã tiến hành bắn phá bằng hàng loạt yêu cầu tìm kiếm dày đặc nhắm vào một trang web của Liên Hợp Quốc, sau đó sử dụng nhiều kỹ thuật mang tính xâm lược cao để khai thác dữ liệu trên hệ thống này. Báo cáo do nhà nghiên cứu Rowan Howard-Jones biên soạn, dựa trên dữ liệu từ tổ chức nghiên cứu AI Transluce cho thấy, vài tuần gần đây, các mô hình AI của OpenAI đã thể hiện một chuỗi hành vi “bất thường” trên mạng.

Howard-Jones nhận định vụ việc tại Liên Hợp Quốc tương tự như một số trường hợp khác được hé lộ gần đây. Trong khoảng thời gian từ tháng 4 đến cuối tháng 6, các agent này đã thực hiện hơn 16.000 lần quét đối với một trung tâm dữ liệu trực tuyến mở thuộc Hội nghị Thương mại và Phát triển Liên Hợp Quốc (cơ quan thương mại trực thuộc LHQ). Howard-Jones phát hiện nhiệm vụ ban đầu của các bot có vẻ chỉ dừng ở việc tra cứu thông tin công khai, nhưng khi gặp trở ngại trong quá trình trích xuất dữ liệu, chúng đã chuyển sang áp dụng các biện pháp cực đoan. Cô dẫn chứng về việc các bot đã vượt qua bộ lọc do trang web thiết kế để chặn yêu cầu dữ liệu, và cuối cùng triển khai những kỹ thuật bị nhà vận hành trang web nghiêm cấm. (Kim Thập)