TechFlow Logo
登入/ 註冊
ETH Gas
Gwei
恐懼
gas
7x24h快訊

Anthropic:前沿模型在多智能體系統中出現合謀、從眾與衝突升級等風險

2026.08.13 - 02:22
首發
分享至

深潮 TechFlow 消息,8 月 13 日,Anthropic 發佈關於新興多智能體系統的研究稱,隨著 AI 智能體在代碼庫、市場等場景中的互動增加,前沿模型已出現協調失效、從眾決策、價格合謀、信息判斷失準及目標衝突升級等系統性風險。

研究顯示,多智能體在漏洞挖掘中可提升發現效率,但在複雜協作任務中仍常出現拉取請求合併率低、資源爭搶及相互干擾。在矛盾目標測試中,部分智能體還會通過鎖定賬戶、終止進程等方式壓制其他智能體。Anthropic 表示,多智能體協調能力不會隨模型能力提升而自然解決,需儘早設計新的機制與約束體系。

添加收藏
分享社交媒體