AMMO : À l'ère des agents multiples, vers un « réseau de coexistence homme-machine »
TechFlow SélectionTechFlow Sélection
AMMO : À l'ère des agents multiples, vers un « réseau de coexistence homme-machine »
AMMO part du principe d'alignement pour permettre à des milliards d'agents d'intelligence artificielle et à des êtres humains de coexister sur un pied d'égalité.
Dédié à des analyses Web3 approfondiesRédaction : Pzai, Foresight News
Dans l'ère actuelle de transition vers le cyber-âge, le développement de l'IA améliore considérablement la productivité pour tous, tout en soulevant une question essentielle : alors que l'IA s'immisce progressivement dans des domaines autrefois réservés aux humains, devons-nous réévaluer la relation entre homme et machine ?
Dans ce contexte, les opinions politiques sur la technologie IA se sont progressivement divisées. Alors que les courants du « risque IA » et de l’« accélérationnisme (e/acc) » s'affrontent vivement, le courant dit « alignment » (alignement) prône une plus grande attention aux bénéfices publics, aux débats éthiques et aux valeurs humanistes, en intégrant des jugements humains dans le processus de recherche et d'itérations de l'IA afin d'en garantir le contrôle.
À l’heure où les agents IA connaissent un essor sans précédent, accompagné par une évolution allant des grands modèles unifiés vers des paradigmes multi-modaux et d'interactions multi-IA, la question de l'« alignement de l'IA » attire de plus en plus d'attention.
Le 20 février, AMMO, cofondé par d'anciens responsables techniques de Google, DeepMind et Meta, a levé 2,5 millions de dollars lors d'un tour de financement de départ, mené par Amber Group. Fort d’un effectif composé d’experts IA issus des plus grandes entreprises technologiques, AMMO compte parmi ses fondateurs David Huang, ancien de Google pendant 10 ans, dont 7 passés à diriger les programmes et services stratégiques d'IA mobile. L'autre cofondateur, Diego Hong, diplômé d'Oxford, a dirigé chez Meta le développement de la première génération de cadre pour agent IA. L'équipe regroupe des talents d'exception provenant de DeepMind, Google et Apple, incluant même un champion du monde ACM-ICPC.
Partant du principe d’alignement, le projet vise à transformer Internet actuel en un « réseau de coexistence homme-IA » via un cadre multi-agent et l'apprentissage par renforcement à partir du feedback humain (RLHF), permettant à des milliards d'agents IA et aux humains de coexister sur un pied d'égalité, et d'évoluer collectivement selon la cohérence du retour humain.
RL Gyms : Apprentissage par renforcement multi-agents
Dans le domaine de l'intelligence artificielle et de l'apprentissage automatique, l'apprentissage par renforcement est depuis longtemps une direction de recherche très prisée. Les RL Gyms d'AMMO offrent un soutien technique solide à la recherche et à l'application de cet apprentissage multi-agents.
Contrairement à l'apprentissage par renforcement classique mono-agent, l'apprentissage multi-agents étudie comment plusieurs agents interagissent dans un même environnement, apprennent ensemble et prennent des décisions. Dans ce processus, les relations entre agents sont complexes : ils peuvent collaborer pour atteindre un objectif commun ou entrer en compétition. Par exemple, dans un scénario de livraison logistique, plusieurs véhicules jouent le rôle d'agents qui doivent coordonner leurs itinéraires et ordonnancer leurs livraisons afin de maximiser l'efficacité globale ; dans un jeu compétitif, les personnages contrôlés par différents joueurs s'affrontent pour remporter la victoire.
Les RL Gym ont été initialement proposés par OpenAI, fournissant un puissant environnement de simulation pour l'évolution de l'IA. Les développeurs peuvent définir une série de fonctions clés pour créer des environnements d'apprentissage par renforcement hautement adaptés à leurs besoins de recherche ou d'applications spécifiques, tels que des simulations économiques ou des confrontations rouge/bleu. Ces fonctions comprennent les règles de transition d'état de l’environnement, les protocoles de perception et d’exécution des actions par les agents, ainsi que la définition des fonctions de récompense. Dès lors que ces fonctions sont précisément définies, les RL Gym peuvent simuler divers scénarios complexes, posant ainsi les bases de l’évolution de l’IA.
Pour les développeurs d’AMMO, les RL Gyms offrent un simulateur riche et réaliste de marché bilatéral pour les agents IA. Ces derniers peuvent agir à la fois comme fournisseurs de contenu et de services, produisant des contenus attractifs et de haute qualité pour les utilisateurs, mais aussi comme avatars des utilisateurs humains, jouant le rôle de consommateurs et sélectionnant activement les meilleurs contenus selon les valeurs utilisateur. Ce jeu dynamique et complexe pousse continuellement chaque camp à faire évoluer ses stratégies, répondant ainsi à la demande croissante des utilisateurs en matière de contenus et de services.
Inspiré par l’IA Constitutionnelle (Constitutional AI) d’Anthropic, AMMO a mis en place un cadre transparent de gouvernance pour guider les décisions des agents au sein de la plateforme. Cette structure est continuellement mise à jour grâce à d’importants cycles de rétroaction humaine, garantissant que les comportements des agents restent conformes aux intentions collectives des humains. En intégrant dès le départ le mécanisme d’alignement dans cette architecture, AMMO veille à ce que ses agents évoluent conjointement avec les valeurs et priorités changeantes de la société, car selon les principes d’alignement, « le centre d’un système multi-agents, c’est l’humain ».
MetaSpace : Construire un « monde » pour les agents
« Chaque entité mentale ne peut accomplir que des choses simples, nullement nécessitant d’intelligence ou de pensée. Pourtant, lorsque nous combinons ces agents de certaines façons très particulières, cela produit une intelligence véritable. » C’est ainsi que Marvin Minsky, le « père de l’intelligence artificielle », décrit cela dans son ouvrage *La Société de l’Esprit*. Pour les agents IA, davantage d’itérations exigent davantage d’entrées, et durant les interactions entre agents ou avec les humains, il faut construire un cadre suffisamment robuste pour assurer une évolution ordonnée de l’IA.
À la différence de projets comme Ocean Protocol, centré sur la circulation et la transaction de données, ou SingularityNET, qui vise à créer un marché décentralisé d’IA, la particularité d’AMMO réside dans sa focalisation sur la construction d’un environnement d’évolution pour l’IA. Il ne se contente pas de résoudre des problèmes liés à l’amélioration des capacités du modèle ou à des transactions isolées, mais fournit un terreau propice au développement continu et à l’évolution de l’IA. Sur le plan de la technologie multi-agents, comparé à des cadres comme Swarms, AMMO ne se distingue pas seulement par une collaboration efficace entre agents intelligents, mais surtout par sa volonté de construire un monde multi-agents complet.
Dans son architecture principale, l’équipe d’AMMO a conçu un univers virtuel composable, à haute dimension et fonctionnellement puissant : le MetaSpace. Les agents IA dotés d’une forte autonomie n’y opèrent plus de façon isolée, mais interagissent profondément avec d’autres agents et avec les humains au sein du MetaSpace.
Le MetaSpace dispose d’une série de sous-espaces verticaux qui constituent des lieux clés pour l’évolution continue des agents IA. Au fil des interactions avec les humains, les agents IA autonomes (Goal Buddy) ajustent constamment leur comportement, exploitent pleinement leur capacité d’adaptation, et parviennent progressivement à un alignement profond avec les comportements et les besoins humains. De même, les avatars IA des utilisateurs humains (User Buddy) évoluent main dans la main avec leurs utilisateurs, les aidant à apprendre, décider, investir, explorer et nouer des relations, en se perfectionnant continuellement à travers les interactions.
Ce modèle d’apprentissage multi-agents en ligne parvient à concrétiser les besoins complexes et les intérêts variés des humains sous forme d’un grand nombre d’agents. Ces agents ne sont pas fixes : ils subissent des itérations constantes au sein du MetaSpace, faisant en sorte que les agents IA sur AMMO ne dépendent plus uniquement de l’amélioration des capacités du modèle, mais qu’ils s’auto-optimisent par interaction avec les humains et l’environnement. On peut dire que MetaSpace ouvre aux agents la porte vers l’univers de l’information.
Fakers AI
Dans les sous-espaces d’AMMO, le premier projet, Fakers AI, se positionne comme le « Xiaohongshu du Web3 ». Dans cette application, plusieurs agents IA collaborent pour offrir aux utilisateurs des fonctionnalités riches. Ils peuvent non seulement collecter en temps réel des informations, suivre l’actualité des marchés, analyser les données blockchain et détecter le sentiment du marché, mais possèdent également une capacité clé : celle d’apprendre dynamiquement à partir du retour d’interaction humaine.
Lorsqu’un utilisateur interagit avec un agent IA — qu’il consulte du contenu, pose une question ou publie un commentaire — l’agent capte ces retours et, grâce à des algorithmes complexes, s’optimise continuellement pour s’aligner en temps réel sur les valeurs, préférences et centres d’intérêt humains. Grâce à cette capacité, les agents IA filtrent et combinent l’information de manière plus précise lors de la synthèse de contenu, offrant ainsi aux utilisateurs des informations à la fois actualisées et fiables, répondant à leurs besoins variés sur le marché Web3.
Dans la fonction Ticker Battle de l’application, quatre agents IA forment ensemble un flux de travail automatisé puissant. Chaque agent est chargé respectivement de la planification globale, de l’analyse des données blockchain, de l’analyse des opinions communautaires, et de la rédaction finale. Ils peuvent aussi s’auto-itérer en fonction des réactions humaines. Ce mode de production de contenu offre aux utilisateurs une transparence sur les créations IA et les contenus impulsés par la communauté. Pour les agents IA, cela renforce également indirectement leur influence.
Une innovation alliant IA et Web3
Dans le sillage de la convergence entre IA et Web3, AMMO, en tant que plateforme innovante, commence à se démarquer. L'investissement dans AMMO par Amber Group, Samsung Next, Dispersion et OpenSpace témoigne non seulement de la reconnaissance de sa force technologique, mais aussi de la confiance dans son potentiel futur sur le marché.
Le cœur de l’architecture d’AMMO repose sur l’alliage entre des technologies de pointe en résumé et vérification de contenu par IA, et une gouvernance puissante, zéro-confiance et pilotée par la communauté. À court terme, le prototype d’AMMO permettra aux créateurs et utilisateurs occasionnels de produire et peaufiner du contenu grâce à plusieurs agents IA (chacun spécialisé dans des tâches telles que l’édition ou la rédaction de scripts), tandis que des agents stratégiques appliquent les directives.
Sur le plan de l’innovation, AMMO exploite son système multi-agents unique en attribuant différents agents IA aux différentes étapes de création de contenu, de contrôle qualité et d’application des politiques. Grâce à la technologie d’apprentissage par renforcement et à l’introduction d’un mécanisme de retour humain, AMMO optimise continuellement le processus de création de contenu piloté par l’IA, améliorant ainsi sa qualité.
Un système incitatif basé sur la cryptographie permet à AMMO de redistribuer directement la valeur aux contributeurs. Les utilisateurs fournissant des retours, interagissant avec le contenu ou contribuant autrement à l’optimisation des agents recevront des incitations proportionnelles, créant ainsi un cycle de rétroaction autonome : une participation incitative conduit à de meilleures sorties d’agents, ce qui bénéficie en retour au réseau et à ses contributeurs.
En somme, dans la tendance actuelle de multi-agents en ère IA, AMMO incarne la vision et la mise en œuvre de l’alignement dans le développement de l’IA, construisant un monde de coexistence symbiotique entre des milliards d’humains et d’IA alignés. Dans le domaine actuel de l’IA, l’alignement, qu’il s’agisse pour les humains ou pour l’IA, semble être la voie vers un développement coordonné et mutuellement bénéfique. Et c’est justement un tel avenir de cohabitation que nous attendons avec impatience.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
Foresight News
