Consensus multi-modèle + validation décentralisée : comment Mira Network construit une couche de confiance pour l'IA afin de lutter contre les hallucinations et les biais ?
TechFlow SélectionTechFlow Sélection
Consensus multi-modèle + validation décentralisée : comment Mira Network construit une couche de confiance pour l'IA afin de lutter contre les hallucinations et les biais ?
Le réseau Mira cherche à construire une couche de confiance pour l'IA. Pourquoi l'IA a-t-elle besoin d'être digne de confiance ? Et comment Mira résout-il ce problème ?
Dédié à des analyses Web3 approfondiesLe réseau Mira a lancé hier son testnet public. Il cherche à construire une couche de confiance pour l'IA. Alors, pourquoi l'IA a-t-elle besoin de confiance ? Et comment Mira entend-il résoudre ce problème ?
Lorsqu'on parle d'IA, on s'intéresse souvent davantage à ses capacités impressionnantes. Pourtant, un aspect curieux est souvent négligé : les « hallucinations » ou les biais de l'IA. Qu'entend-on par « hallucination » en IA ? En termes simples, il s'agit du fait que l'IA invente parfois des informations de toutes pièces, tout en paraissant parfaitement sérieuse. Par exemple, si vous demandez à une IA pourquoi la lune est rose, elle pourrait vous fournir plusieurs explications apparemment raisonnables.
Ces hallucinations ou biais sont liés à certaines approches technologiques actuelles de l'IA. Par exemple, les IA génératives produisent du contenu en prédisant ce qui est « le plus probable », afin d’assurer cohérence et plausibilité, mais sans toujours pouvoir vérifier la véracité. De plus, les données d'entraînement contiennent elles-mêmes des erreurs, des biais ou même des contenus fictifs, ce qui influence directement la sortie de l'IA. Autrement dit, l'IA apprend les modèles linguistiques humains, pas nécessairement les faits eux-mêmes.
En résumé, le mécanisme actuel basé sur les probabilités et les données entraîne presque inévitablement des hallucinations chez l'IA.
Si ces sorties biaisées ou erronées concernent uniquement des connaissances générales ou du divertissement, les conséquences restent limitées. Mais dans des domaines exigeants comme la médecine, le droit, l'aviation ou la finance, cela peut avoir des effets dramatiques. Ainsi, la résolution des hallucinations et des biais de l'IA constitue l’un des enjeux centraux de son évolution. Certaines solutions adoptent la technique de génération améliorée par récupération (RAG), combinant une base de données en temps réel pour prioriser des faits vérifiés ; d'autres introduisent des retours humains, corrigeant les erreurs du modèle via annotation et supervision humaine.
Le projet Mira tente également de résoudre les problèmes de biais et d'hallucinations de l'IA, en cherchant précisément à construire une couche de confiance pour l'IA, réduire ses biais et hallucinations, et ainsi améliorer sa fiabilité. Dans son ensemble, comment Mira parvient-il à réduire les biais et hallucinations de l'IA, et atteindre une IA fiable ?
Le cœur de la solution Mira repose sur la validation des sorties d'IA par consensus entre plusieurs modèles d'IA. Autrement dit, Mira est en soi un réseau de validation qui garantit la fiabilité des sorties d'IA grâce au consensus de multiples modèles. Un autre point clé : ce consensus est décentralisé.
Ainsi, l'élément central du réseau Mira est la validation par consensus décentralisé. Ce type de consensus relève du domaine cryptographique, qu’il maîtrise bien, tout en exploitant la synergie entre plusieurs modèles d'IA, utilisant un mode de vérification collective pour réduire biais et hallucinations.
Sur le plan de l'architecture de validation, il faut disposer d'énoncés pouvant être vérifiés indépendamment. Le protocole Mira permet de transformer des contenus complexes en énoncés vérifiables indépendamment. Ces énoncés doivent être validés par des opérateurs de nœuds. Pour garantir leur honnêteté, des incitations et pénalités économiques cryptographiques sont mises en œuvre. Plusieurs modèles d'IA combinés à des opérateurs de nœuds dispersés assurent ainsi la fiabilité des résultats de validation.
L'architecture du réseau Mira comprend trois composantes : la conversion de contenu, la validation distribuée et le mécanisme de consensus, assurant ensemble la fiabilité de la validation. La conversion de contenu joue ici un rôle crucial. Le réseau Mira commence par décomposer le contenu candidat (soumis par les clients) en énoncés distincts et vérifiables (afin que les modèles puissent les interpréter dans un contexte identique). Ces énoncés sont ensuite distribués aux nœuds pour validation de leur validité, puis les résultats sont agrégés pour former un consensus. Ce consensus est renvoyé au client. Par ailleurs, afin de protéger la confidentialité du client, les contenus candidats sont transformés en paires d'énoncés, puis envoyés de manière aléatoire et fragmentée à différents nœuds, empêchant toute fuite d'information durant la validation.
Les opérateurs de nœuds sont chargés d'exécuter des modèles validateurs, de traiter les énoncés et de soumettre les résultats de validation. Pourquoi acceptent-ils de participer ? Parce qu'ils en tirent des revenus. D'où proviennent ces revenus ? De la valeur créée pour les clients. L'objectif du réseau Mira est de réduire le taux d'erreur de l'IA (hallucinations et biais). Si cet objectif est atteint, cela crée de la valeur, notamment en abaissant les erreurs dans des secteurs comme la santé, le droit, l'aviation ou la finance — des gains considérables. Les clients sont donc prêts à payer. Bien sûr, la pérennité et l'ampleur de ces paiements dépendront de la capacité continue du réseau Mira à créer de la valeur (en réduisant effectivement les erreurs de l'IA). En outre, pour décourager les comportements opportunistes (réponses aléatoires), les nœuds s'écartant continuellement du consensus voient leurs jetons mis en gage réduits. En somme, c'est un jeu d'incitations économiques qui garantit que les opérateurs de nœuds participent honnêtement à la validation.
En résumé, Mira propose une nouvelle approche pour rendre l'IA plus fiable : construire un réseau de validation par consensus décentralisé, s'appuyant sur plusieurs modèles d'IA. Ce réseau apporte une fiabilité accrue aux services d'IA des clients, réduit les biais et hallucinations, répond ainsi à la demande croissante de précision et d'exactitude. En créant de la valeur pour les clients, il génère aussi des revenus pour les participants au réseau Mira. Pour résumer en une phrase : Mira cherche à construire une couche de confiance pour l'IA, ce qui favorise l'approfondissement des applications d'IA.
Actuellement, les frameworks d'agents d'IA avec lesquels Mira collabore incluent ai16z, ARC, etc. Le testnet public du réseau Mira a été lancé hier. Les utilisateurs peuvent y participer via Klok, une application de discussion LLM basée sur Mira. En utilisant Klok, on peut expérimenter les sorties d'IA validées (et comparer avec celles non validées), tout en accumulant des points Mira. L’utilisation future de ces points n’a pas encore été dévoilée.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
蓝狐笔记
