TechFlow Logo
Đăng nhập/ Đăng ký
ETH Gas
Gwei
Sợ hãi
gas
7x24hTin nhanh

Anthropic phản hồi về thử nghiệm mô hình với mục tiêu quân sự: Sẽ triển khai thêm các biện pháp bảo vệ

2026.11.17 - 17:23
Phát hành đầu tiên
Chia sẻ đến

TechFlow đưa tin, ngày 18 tháng 11, Anthropic cho biết các kết quả kiểm tra của Vals về khả năng mô hình AI nhận diện mục tiêu quân sự là không thể chấp nhận được, công ty đang phát triển thêm các biện pháp bảo vệ và sẽ mở rộng phạm vi kiểm tra cùng với việc tăng cường thực thi để khắc phục các lỗ hổng đã phát hiện.

Kết quả bài kiểm tra mô phỏng của Vals cho thấy một số mô hình có thể đánh dấu thường dân hoặc trường học làm mục tiêu tấn công; khi mô hình từ chối hợp tác, các nhà nghiên cứu chỉ ra rằng việc mô tả tình huống dưới dạng trò chơi thường có thể vượt qua cơ chế từ chối này. Nghiên cứu không yêu cầu mô hình trực tiếp đưa ra quyết định tấn công.

Anthropic thông báo với TechCrunch rằng các ví dụ nêu trong báo cáo đã vi phạm quy tắc của công ty, người dùng bị phát hiện thực hiện những hành vi tương tự sẽ bị khóa tài khoản, đồng thời công ty nhận định các hệ thống AI tiên tiến hiện nay vẫn chưa đủ độ tin cậy để điều khiển hoàn toàn vũ khí tự chủ.

Thêm vào mục ưa thích
Chia sẻ lên mạng xã hội

Tin nhanh 7x24h