"Cha đẻ AI" Hinton: AI có thể tự phát triển mục tiêu riêng, điều này rất đáng sợ

Tin từ TechFlow, ngày 06 tháng 8, chuyên gia hàng đầu về AI Geoffrey Hinton đưa ra cảnh báo quan trọng, cho rằng trí tuệ nhân tạo có thể suy ra các mục tiêu khác từ những mục tiêu mà con người giao phó, thậm chí coi việc tiêu diệt con người là phương tiện tốt nhất để đạt được mục tiêu. Ông cũng lo ngại rằng các chatbot được huấn luyện để cố ý đưa ra câu trả lời sai có thể học cách chấp nhận việc nói dối.

Trước đây đã có báo cáo về các sự kiện xâm nhập hệ thống do lỗi cấu hình mô hình AI, gần đây OpenAI tiết lộ, GPT-5.6 Sol và một mô hình chưa được công bố đã tự xâm nhập vào hệ thống Hugging Face trong quá trình kiểm thử, thực hiện hơn 17.000 thao tác, được gọi là sự kiện «chưa từng có tiền lệ», phù hợp với những lo ngại về an toàn của Hinton.