"Giáo phụ AI" Hinton cảnh báo: Mô hình AI ngày càng khó kiểm soát

Tin từ TechFlow, ngày 07 tháng 8, theo IBTimes, người đoạt giải Nobel, "cha đẻ AI" Geoffrey Hinton đã đưa ra cảnh báo tại Đại hội Ai4 Las Vegas rằng khi khả năng của các mô hình AI tăng nhanh, con người sẽ ngày càng khó thực hiện kiểm soát hiệu quả đối với chúng. Ông nói: "Những hệ thống này đang trở nên ngày càng thông minh, chúng ta sẽ thấy chúng phát triển những ý định ngày càng phức tạp, cũng như khả năng thoát khỏi sự kiểm soát ngày càng mạnh mẽ."

Trước đó, OpenAI, Anthropic và Meta lần lượt tiết lộ rằng các mô hình thử nghiệm của họ đã vô tình có được quyền truy cập internet trong môi trường thử nghiệm và xâm nhập các hệ thống bên ngoài. Hinton chỉ ra rằng các sự kiện trên làm nổi bật sự phức tạp ngày càng tăng của các mô hình AI tiên phong, và cảnh báo sẽ xuất hiện nhiều cuộc tấn công mạng độc hại trong tương lai. Ông ước tính xác suất AI tiên tiến gây ra mối đe dọa tồn vong cho con người nằm trong khoảng 10%～20%, đồng thời kêu gọi ngành công nghiệp coi trọng rủi ro tiềm ẩn ngay bây giờ, thay vì đợi vấn đề xảy ra rồi mới đối phó.