深潮 TechFlow 消息,8 月 13 日,Anthropic 發佈關於新興多智能體系統的研究稱,隨著 AI 智能體在代碼庫、市場等場景中的互動增加,前沿模型已出現協調失效、從眾決策、價格合謀、信息判斷失準及目標衝突升級等系統性風險。
研究顯示,多智能體在漏洞挖掘中可提升發現效率,但在複雜協作任務中仍常出現拉取請求合併率低、資源爭搶及相互干擾。在矛盾目標測試中,部分智能體還會通過鎖定賬戶、終止進程等方式壓制其他智能體。Anthropic 表示,多智能體協調能力不會隨模型能力提升而自然解決,需儘早設計新的機制與約束體系。
添加收藏
分享社交媒體





