TechFlow Logo
Connexion/ Inscription
Frais ETH
Gwei
Peur
gas
7x24hBrève

Anthropic : Les modèles de pointe présentent des risques de collusion, de conformisme et d'escalade des conflits dans les systèmes multi-agents

2026.08.13 - 02:22
Première
Partager vers

Selon TechFlow, le 13 août, Anthropic a publié une étude sur les systèmes multi-agents émergents, indiquant qu'avec l'augmentation des interactions des agents IA dans des scénarios tels que les bases de code et les marchés, les modèles de pointe ont déjà présenté des risques systémiques tels que des défaillances de coordination, des décisions grégaires, une collusion sur les prix, des erreurs de jugement informationnel et une escalade des conflits d'objectifs.

L'étude montre que les multi-agents peuvent améliorer l'efficacité de la découverte dans l'exploration de vulnérabilités, mais que dans les tâches de collaboration complexes, il y a encore souvent un faible taux de fusion des pull requests, une contention des ressources et des interférences mutuelles. Dans les tests d'objectifs contradictoires, certains agents neutralisent encore d'autres agents par le verrouillage de comptes, la terminaison de processus, etc. Anthropic a déclaré que les capacités de coordination des multi-agents ne se résoudront pas naturellement avec l'amélioration des capacités des modèles, et qu'il est nécessaire de concevoir dès que possible de nouveaux mécanismes et systèmes de contraintes.

Ajouter aux favoris
Partager sur les réseaux sociaux

Brèves 7x24h