TechFlow Logo
Đăng nhập/ Đăng ký
ETH Gas
Gwei
Sợ hãi
gas
7x24hTin nhanh

Anthropic: Các mô hình tiên phong xuất hiện các rủi ro như thông đồng, sự tuân theo và leo thang xung đột trong hệ thống đa tác tử

2026.08.13 - 02:22
Phát hành đầu tiên
Chia sẻ đến

Tin từ TechFlow, ngày 13 tháng 8, Anthropic đã công bố nghiên cứu về hệ thống đa tác nhân mới nổi, cho biết khi tương tác của các tác nhân AI trong các kịch bản như kho mã nguồn, thị trường tăng lên, các mô hình tiên phong đã xuất hiện các rủi ro hệ thống như lỗi phối hợp, quyết định theo đám đông, thông đồng giá cả, phán đoán thông tin không chính xác và leo thang xung đột mục tiêu.

Nghiên cứu cho thấy, các hệ thống đa tác nhân có thể nâng cao hiệu quả phát hiện trong khai thác lỗ hổng, nhưng trong các nhiệm vụ hợp tác phức tạp vẫn thường xảy ra tỷ lệ hợp nhất pull request thấp, tranh chấp tài nguyên và gây nhiễu lẫn nhau. Trong các kiểm tra mục tiêu mâu thuẫn, một số tác nhân còn ngăn chặn các tác nhân khác thông qua các phương thức như khóa tài khoản, chấm dứt tiến trình. Anthropic cho biết khả năng phối hợp của các hệ thống đa tác nhân sẽ không tự động được giải quyết khi khả năng mô hình tăng lên, cần thiết kế sớm các cơ chế và hệ thống ràng buộc mới.

Thêm vào mục ưa thích
Chia sẻ lên mạng xã hội

Tin nhanh 7x24h