7x24h速報
Anthropic:マルチエージェントシステムにおける最先端モデルで共謀、同調、衝突のエスカレーションなどのリスクが発生
2026.08.13 - 02:22
初公開
TechFlow によると、8 月 13 日、Anthropic は新興のマルチエージェントシステムに関する研究を発表し、AI エージェントがコードベースや市場などのシナリオでの相互作用が増えるにつれ、最先端モデルでは協調の失敗、同調意思決定、価格談合、情報判断の誤り、目標衝突のエスカレーションなどのシステムリスクが既に発生していると述べた。
研究によると、マルチエージェントは脆弱性発見において発見効率を向上させることができるが、複雑な協調タスクでは依然としてプルリクエストのマージ率が低い、リソース競合、相互干渉などが頻繁に発生する。矛盾する目標テストでは、一部のエージェントはアカウントのロックやプロセスの終了などの方法で他のエージェントを抑制することもある。Anthropic は、マルチエージェントの協調能力はモデルの能力向上に伴って自然に解決されるものではなく、新しい仕組みと制約体系を早期に設計する必要があると述べた。
お気に入りに追加
SNSで共有





