Vitalik : Un an de décentralisation accélérationniste et d'intelligence artificielle
TechFlow SélectionTechFlow Sélection
Vitalik : Un an de décentralisation accélérationniste et d'intelligence artificielle
L'idée centrale de d/acc est concise et claire : une accélération défensive décentralisée, démocratique et différentielle.
Dédié à des analyses Web3 approfondiesRédaction : Vitalik Buterin, fondateur d'Ethereum
Traduction : Leek, Foresight News
Résumé : Cet article explore la notion de « d/acc » (accélération décentralisée), en examinant son application au développement technologique ainsi que les défis auxquels elle fait face, notamment en matière de sécurité et de régulation de l’intelligence artificielle, de liens avec les cryptomonnaies, et de financement des biens publics. Il souligne l'importance de la d/acc pour construire un monde plus sûr et meilleur, tout en dressant un bilan des opportunités et des obstacles futurs. L'auteur approfondit le concept de d/acc, compare différentes stratégies afin d’évaluer leur efficacité face aux risques liés à l’IA, développe le rôle des cryptomonnaies dans ce cadre, examine les mécanismes de financement des biens publics, et conclut par une perspective optimiste sur l'avenir technologique : malgré les défis, l'humanité dispose des outils et des idées nécessaires pour façonner un monde supérieur.
Préambule
Merci particulièrement aux bénévoles Liraz Siri, Janine Leger et Balvi pour leurs retours et relectures.
Il y a environ un an, j'ai rédigé un texte sur l'optimisme technologique, exprimant mon enthousiasme général pour la technologie et ses immenses bénéfices potentiels, tout en manifestant une certaine prudence quant à certains sujets spécifiques — principalement l'intelligence artificielle superintelligente, et les risques de destruction ou de perte irréversible du pouvoir humain si cette technologie était mal conçue.
L'un des points centraux de cet article était de défendre une philosophie particulière : une accélération défensive, décentralisée, démocratique et différenciée. Accélérer le progrès technologique, certes, mais en se concentrant différemment sur les technologies qui renforcent nos capacités défensives plutôt que nos capacités offensives, tout en favorisant la dispersion du pouvoir plutôt que sa concentration entre les mains d'une élite décisionnelle. Le modèle de défense visé ressemble davantage à celui de la Suisse démocratique ou des zones historiquement quasi anarchistes comme la Zomia, qu’à celui du féodalisme médiéval basé sur seigneurs et châteaux.
Au cours de l'année écoulée, ces idées ont considérablement évolué et mûri. J’ai partagé ces réflexions sur la plateforme « 80,000 Hours » (une organisation centrée sur les choix de carrière), recevant de nombreuses réponses, majoritairement positives, bien que quelques critiques aient aussi été formulées.
Ce travail a également progressé concrètement : nous avons assisté à des avancées dans le domaine des vaccins open source vérifiables ; la prise de conscience croissante de l’importance de la qualité de l’air intérieur s’est renforcée ; les « Community Notes » continuent de jouer un rôle positif ; les marchés prédictifs ont connu une année de percée en tant qu’outil d’information ; les preuves succinctes non interactives à connaissance nulle (ZK-SNARKs) sont désormais utilisées dans l’identification gouvernementale et les réseaux sociaux (et garantissent la sécurité des portefeuilles Ethereum via l’abstraction de compte) ; les outils open source d’imagerie trouvent des applications en médecine et dans les interfaces cerveau-machine (BCI), etc.
L’automne dernier a vu le premier événement marquant de la d/acc : la « d/aDDy » (journée de découverte d/acc) organisée lors du Devcon, rassemblant des intervenants provenant des différents piliers de la d/acc (biologie, physique, cybersécurité, défense informationnelle, neurotechnologies). Des personnes travaillant depuis des années sur ces technologies ont pu mieux comprendre leurs domaines respectifs, tandis que des observateurs extérieurs ont pris conscience d’une vision plus vaste : les valeurs qui ont guidé Ethereum et les cryptomonnaies peuvent s’étendre à un champ bien plus large.
Signification et portée de la d/acc
Avançons jusqu’en 2042. Vous apprenez par les médias qu’une nouvelle épidémie pourrait toucher votre ville. Ce type d’annonce vous est familier : on réagit souvent de manière excessive à chaque mutation animale, même si la plupart ne débouchent jamais sur une crise réelle. Les deux dernières alertes potentielles ont été détectées tôt grâce à la surveillance des eaux usées et à l’analyse open source des réseaux sociaux, puis contenues rapidement. Mais cette fois-ci, la situation est différente : les marchés prédictifs indiquent une probabilité de 60 % qu’il y ait au moins 10 000 cas, ce qui vous inquiète.
Hier seulement, la séquence génétique du virus a été identifiée. Une mise à jour logicielle est déjà disponible pour votre dispositif portable de test de l’air, lui permettant désormais de détecter ce nouveau virus — soit après une seule respiration, soit après 15 minutes d’exposition dans un espace clos. Par ailleurs, les instructions open source et le code permettant de produire un vaccin à partir d’équipements accessibles dans toute structure médicale moderne devraient être publiés dans quelques semaines. La plupart des gens n’ont encore rien entrepris, comptant principalement sur des mesures largement adoptées de filtration et de ventilation de l’air.
En raison de problèmes immunitaires personnels, vous êtes plus prudent : votre assistant IA personnel open source, exécuté localement, qui gère habituellement navigation, recommandations de restaurants ou d’événements, prend désormais en compte en temps réel les données de test d’air et de taux de CO₂ pour ne vous suggérer que les lieux les plus sûrs. Ces données proviennent de milliers de participants et dispositifs, et grâce aux ZK-SNARKs et à la confidentialité différentielle, le risque de fuite ou de détournement à d’autres fins est minimisé (si vous souhaitez contribuer à ces jeux de données, d'autres assistants IA vérifieront que ces outils cryptographiques fonctionnent effectivement).
Deux mois plus tard, l’épidémie disparaît miraculeusement : environ 60 % des personnes ont respecté les protocoles de base — porter un masque lorsque le détecteur d’air signale la présence du virus, et rester chez soi en cas de test positif. Cette simple mesure suffit à faire passer un taux de transmission déjà fortement réduit par la filtration passive de l’air sous le seuil critique de 1. Une simulation avait montré que cette maladie aurait pu être cinq fois plus grave que la pandémie de Covid-19 d’il y a vingt ans ; aujourd’hui, elle n’a eu aucun impact notable.
La journée d/acc au Devcon
L’un des résultats positifs majeurs de l’événement d/acc au Devcon a été de réussir à rassembler des personnes issues de divers domaines, créant un véritable intérêt mutuel pour leurs travaux respectifs.
Organiser un événement « diversifié » n’est pas difficile, mais créer de véritables liens entre personnes aux origines et centres d’intérêt variés l’est beaucoup plus. Je me souviens encore des longues opéras imposés au collège et au lycée, que je trouvais profondément ennuyeux. Je savais que je « devais » les apprécier, sans quoi j’aurais été perçu comme un informaticien inculte, mais je n’arrivais pas à m’y connecter émotionnellement. En revanche, l’atmosphère de la journée d/acc était radicalement différente : les gens semblaient sincèrement passionnés par les projets des autres.
Si nous voulons bâtir un avenir plus lumineux que ceux dominés par la domination, la décélération ou la destruction, il nous faut impérativement construire de telles alliances larges. Sur ce point, la d/acc semble avoir obtenu des résultats significatifs — ce seul succès suffit à justifier pleinement cette philosophie.
L'idée centrale de la d/acc est simple : une accélération défensive, différenciée, décentralisée et démocratique. Développer des technologies qui rétablissent l'équilibre entre attaque et défense en faveur de cette dernière, sans pour autant accroître le pouvoir des autorités centrales. Ces deux dimensions sont étroitement liées : les structures politiques décentralisées, démocratiques ou libérales prospèrent généralement quand la défense est facile à mettre en œuvre, mais rencontrent de graves difficultés lorsque la défense est ardue — auquel cas, la société tend vers une période chaotique où chacun lutte contre tous, aboutissant à un ordre fondé sur la domination du plus fort.
Une façon d’appréhender l’importance de combiner décentralisation, caractère défensif et accélération consiste à les comparer aux visions qui sacrifient l’un de ces trois aspects.
Graphique de mon article précédent « Mon optimisme technologique »
Accélération décentralisée, mais négligeant la « différenciation défensive »
Fondamentalement, cela revient à adhérer à l’accélération effective (e/acc), tout en poursuivant la décentralisation. De nombreuses personnes adoptent cette approche, certaines se qualifiant elles-mêmes de d/acc, mais mettant utilement l’accent sur l’« attaque ». D’autres font preuve d’un enthousiasme plus modéré pour des notions comme « l’IA décentralisée », mais selon moi, ils accordent trop peu d’attention à la dimension défensive.
À mes yeux, cette voie peut certes éviter qu’un groupe spécifique instaure une dictature mondiale, mais elle ne résout pas le problème structurel sous-jacent : dans un environnement favorable à l’attaque, le risque de catastrophe demeure constant, ou alors quelqu’un s’autoproclamera « protecteur » et s’installera durablement au pouvoir. En ce qui concerne l’IA, elle ne traite pas non plus correctement le risque d’affaiblissement global du pouvoir humain face à l’intelligence artificielle.
Accélération différenciée défensive, mais ignorant la « décentralisation et la démocratie »
Accepter un contrôle centralisé au nom de la sécurité attire toujours certains groupes. Vous connaissez probablement déjà de nombreux exemples de ce type, ainsi que leurs inconvénients. Récemment, certains craignent que seul un contrôle extrêmement centralisé puisse maîtriser les technologies futures extrêmes : imaginez un scénario hypothétique où « tout le monde porte une balise de liberté — successeur des dispositifs portables actuels, similaires aux bracelets électroniques utilisés dans certains pays comme alternative à l’incarcération… Les vidéos et sons cryptés seraient constamment envoyés et analysés en temps réel par des machines ». Toutefois, le contrôle centralisé pose un problème de degré. Une forme relativement douce, souvent ignorée mais néanmoins nuisible, existe dans le domaine biotechnologique (alimentation, vaccins) : la résistance à la supervision publique et la tolérance de normes fermées qui la permettent.
Le risque de cette approche est évident : le centre de contrôle devient souvent lui-même une source de danger. Nous l’avons vu pendant la pandémie de Covid-19, où des recherches à gain de fonction financées par plusieurs grands gouvernements pourraient en être à l’origine, où une épistémologie centralisée a poussé l’OMS à nier pendant des années la transmission aérienne, et où les obligations de distanciation sociale et de vaccination ont déclenché une réaction politique durable. Des situations analogues pourraient aisément se reproduire avec l’IA ou d’autres technologies à risque. À l’inverse, une approche décentralisée serait plus efficace pour contrer les risques émanant précisément du centre de pouvoir.
Défense décentralisée, mais rejetant l’accélération
Fondamentalement, il s’agit ici de ralentir le progrès technologique ou de provoquer une récession économique.
Cette stratégie fait face à un double défi. Premièrement, globalement, la technologie et la croissance économique sont extrêmement bénéfiques pour l’humanité, et tout retard coûte des vies et du bien-être. Deuxièmement, dans un monde non totalitaire, la stagnation est instable : ceux qui « trichent » le plus, trouvant des moyens plausibles de continuer à avancer, finiront par dominer. Le décroissement peut fonctionner ponctuellement — par exemple, la nourriture européenne est souvent plus saine que celle des États-Unis, ou la non-prolifération nucléaire a connu jusqu’ici un certain succès. Mais ces stratégies ne peuvent pas durer indéfiniment.
La d/acc vise donc à :
-
Relever des principes dans un monde de plus en plus tribal, plutôt que de construire aveuglément — nous voulons construire des choses spécifiques qui rendront le monde plus sûr et meilleur.
-
Reconnaître que le progrès technologique exponentiel rendra le monde extrêmement étrange, et que notre empreinte collective dans l’univers augmentera nécessairement. Notre capacité à protéger les êtres vivants vulnérables doit progresser en conséquence, et la seule solution est d’avancer courageusement.
-
Construire des technologies qui nous protègent réellement, sans compter sur l’hypothèse que « les bons (ou les bonnes IA) contrôleront tout ». Nous y parvenons en développant des outils dont l’utilisation constructive est naturellement plus efficace que destructive.
Une autre façon de penser la d/acc est de revenir à un cadre issu du mouvement pirate européen des années 2000 : l’autonomisation.
Notre objectif est de construire un monde préservant l’agentivité humaine : liberté négative, c’est-à-dire l’absence d’intervention active par d’autres (citoyens ordinaires, gouvernements ou robots superintelligents) dans notre capacité à façonner notre destin ; et liberté positive, garantissant que nous disposions des connaissances et ressources nécessaires pour exercer cette capacité. Cela rejoint une tradition classique du libéralisme, incluant l’attention de Stewart Brand à l’accès aux outils, l’insistance de John Stuart Mill sur l’éducation et la liberté comme moteurs du progrès humain, et la vision de Buckminster Fuller d’un processus mondial de résolution des problèmes participatif et largement distribué. Compte tenu du paysage technologique du XXIe siècle, la d/acc apparaît comme une voie concrète pour atteindre ces mêmes buts.
Troisième dimension : synergie entre survie et prospérité
Dans mon article de l’an dernier, la d/acc se concentrait particulièrement sur les technologies défensives : défense physique, biologique, cybernétique et informationnelle. Pourtant, une simple défense décentralisée ne suffit pas à bâtir un monde formidable : nous avons besoin d’une vision positive prospective, clarifiant ce que l’humanité pourra accomplir une fois dotée de nouvelles capacités décentralisées et sécurisées.
L'article précédent contenait déjà deux éléments d’une vision positive :
1. En abordant le défi de la superintelligence, j’ai proposé une voie (non originale de ma part) pour atteindre la superintelligence sans perdre le contrôle :
-
Pour l’instant, développer l’IA comme un outil, non comme un agent hautement autonome.
-
À l’avenir, utiliser la réalité virtuelle, la myoélectricité et les interfaces cerveau-machine pour renforcer les boucles de rétroaction entre humains et IA.
-
Progressivement, aboutir à une superintelligence issue de la fusion étroite entre machine et humain.
2. En parlant de défense informationnelle, j’ai mentionné en passant qu’en plus des technologies sociales défensives (comme les Community Notes, aidant les communautés à rester cohérentes face aux attaquants), existent des technologies sociales progressistes facilitant de meilleurs jugements collectifs — Pol.is en est un exemple, tout comme les marchés prédictifs.
Mais à l’époque, ces deux points semblaient déconnectés du cœur de l’argument d/acc : « Voici quelques idées pour construire un monde plus démocratique et plus défensif en profondeur, et au fait, voici quelques idées non liées sur comment atteindre la superintelligence. »
Pourtant, je pense qu’il existe des liens cruciaux entre les technologies d/acc marquées comme « défensives » et « progressistes ». Élargissons le graphique initial de la d/acc en ajoutant cet axe (tout en le rebaptisant « survie et prospérité ») pour voir ce que cela donne :
Un schéma cohérent émerge dans tous les domaines : les sciences, idées et outils qui nous aident à « survivre » dans un domaine sont étroitement liés à ceux qui permettent de « prospérer ». Voici quelques exemples :
-
De nombreuses recherches récentes sur le Covid long se concentrent sur la persistance virale dans le corps, un mécanisme clé soupçonné. Récemment, des indices suggèrent que cette persistance pourrait aussi être impliquée dans la maladie d’Alzheimer — si c’est vrai, éradiquer la persistance virale dans tous les tissus pourrait être la clé du vieillissement.
-
Les outils d’imagerie miniaturisés et peu coûteux, comme ceux développés par Openwater, ont un fort potentiel contre les microthromboses, la persistance virale, le cancer, et peuvent aussi servir aux interfaces cerveau-machine.
-
Les principes derrière les outils sociaux pour environnements très conflictuels (ex : Community Notes) et coopératifs (ex : Pol.is) sont très proches.
-
Les marchés prédictifs sont précieux tant dans les contextes coopératifs qu’antagonistes.
-
Les preuves à connaissance nulle et technologies similaires permettent de calculer sur des données tout en protégeant la vie privée, augmentant ainsi la quantité de données disponibles pour la recherche scientifique tout en renforçant la confidentialité.
-
L’énergie solaire et les batteries sont essentielles pour la prochaine vague de croissance propre, tout en étant excellentes pour la décentralisation et la résilience physique.
De plus, des interdépendances importantes existent entre disciplines :
-
Les interfaces cerveau-machine sont cruciales pour la défense informationnelle et la collaboration, car elles permettent une communication plus fine de nos pensées et intentions. Elles ne sont pas juste un lien cerveau-robot, mais aussi un pont cerveau-robot-cerveau. Cela rejoint la valeur des BCI dans la philosophie de la pluralité.
-
Beaucoup de biotechnologies dépendent du partage d’informations, or les gens ne partagent que s’ils sont sûrs que les données seront utilisées uniquement à des fins spécifiques — ce qui nécessite des technologies de confidentialité (preuves à connaissance nulle, chiffrement homomorphe complet, obfuscation, etc.).
-
Les technologies de coopération peuvent coordonner le financement d’autres domaines technologiques.
Problèmes : sécurité de l’IA, chronologie urgente et dilemmes réglementaires
Les individus ont des calendriers très différents concernant l’IA
Graphique provenant de Zuzalu, Monténégro, 2023
La critique la plus convaincante que j’ai reçue l’an dernier venait de la communauté de la sécurité de l’IA. Son argument : « Bien sûr, si nous avions un demi-siècle pour développer une IA forte, nous pourrions nous concentrer sur toutes ces technologies bénéfiques. Mais en réalité, il semble que nous ayons seulement trois ans avant l’AGI, puis trois ans supplémentaires avant la superintelligence. Donc, si nous ne voulons pas que le monde soit détruit ou irréversiblement bloqué, nous ne pouvons pas simplement accélérer les technologies utiles — nous devons aussi ralentir celles qui sont dangereuses, ce qui implique des régulations strictes susceptibles de heurter les élites. » Dans mon article précédent, à part un appel flou à ne pas construire de formes risquées de superintelligence, je n’avais proposé aucune stratégie concrète de « ralentissement des technologies nocives ». Il est donc temps d’aborder directement cette question : si nous étions dans le pire des mondes — risque élevé d’IA, horizon temporel de cinq ans — quelles régulations soutiendrais-je ?
Raisons de prudence face à une nouvelle réglementation
L’an dernier, la principale proposition de régulation de l’IA était le projet de loi californien SB-1047. Ce texte exigeait que les développeurs des modèles les plus puissants (coût d’entraînement > 100 millions USD, ou coût de réglage fin > 10 millions USD) effectuent une série de tests de sécurité avant publication. En outre, les développeurs d’IA pourraient être tenus responsables en cas de négligence. Beaucoup de critiques ont estimé que ce projet « menaçait l’open source » ; je suis en désaccord, car le seuil de coût limite son application aux modèles les plus puissants : même Llama3 pourrait être en dessous. Cependant, en y repensant, je vois un problème plus grave : comme la plupart des régulations, elle s’adapte trop bien au présent. Se concentrer sur le coût d’entraînement s’est révélé fragile face aux nouveautés : le dernier modèle DeepSeek v3 coûte seulement 6 millions USD à entraîner, et chez des modèles comme o1, le coût passe davantage de l’entraînement à l’inférence.
Les acteurs les plus susceptibles d’être responsables d’un scénario de destruction par superintelligence
En réalité, les armées sont les plus susceptibles d’être à l’origine d’un scénario de destruction par superintelligence. Comme nous l’avons vu dans la biosécurité depuis un demi-siècle (et avant), les militaires sont prêts à commettre des actes terribles, et ils se trompent souvent. Aujourd’hui, l’IA militaire progresse vite (Ukraine, Gaza). Et toute régulation validée par un gouvernement exclut par défaut ses propres forces armées et entreprises partenaires.
Stratégies possibles
Néanmoins, ces arguments ne doivent pas nous paralyser. Au contraire, ils peuvent nous guider pour concevoir des règles minimisant ces inquiétudes.
Stratégie 1 : Responsabilité
Si une personne cause un préjudice identifiable, elle peut être poursuivie. Cela ne règle pas les risques liés aux armées ou aux acteurs « au-dessus des lois », mais c’est une méthode très générale, évitant le surajustement — c’est pourquoi les économistes libertariens y sont souvent favorables.
Les cibles principales envisagées jusqu’ici sont :
-
Utilisateurs : ceux qui utilisent l’IA.
-
Déploiement : intermédiaires fournissant des services d’IA.
-
Développeurs : ceux qui construisent l’IA.
Imputer la responsabilité aux utilisateurs semble le plus logique en termes d’incitations. Bien que le lien entre la conception du modèle et son usage final soit souvent flou, l’utilisateur décide de l’usage spécifique. Le rendre responsable exerce une pression forte pour utiliser l’IA correctement : construire des exosquelettes mentaux, non des entités autonomes. Ce premier cas répond régulièrement aux intentions humaines, donc ne cause pas de catastrophe sauf si voulu. Le second présente le plus grand risque de perte de contrôle, menant au scénario classique de « IA folle ». Placer la responsabilité près de l’usage final minimise aussi le risque que celle-ci pousse à des comportements nuisibles (fermeture du code, KYC, surveillance, collusion État-entreprise limitant secrètement les utilisateurs, refus bancaire, exclusion de régions entières).
Une objection classique à cette imputation exclusive est que l’utilisateur peut être un particulier anonyme sans ressources, rendant impossible le remboursement en cas de dommage. Cette objection peut être exagérée : même si certains utilisateurs sont trop petits, les clients habituels des développeurs d’IA ne le sont pas, donc ces derniers ont encore intérêt à concevoir des produits minimisant les risques juridiques. Néanmoins, c’est un point valide à traiter. Il faut inciter un acteur disposant des ressources nécessaires à agir avec prudence — le déploieur ou le développeur sont des cibles accessibles, ayant encore une grande influence sur la sécurité du modèle.
La responsabilité du déploieur semble raisonnable. On craint souvent qu’elle ne fonctionne pas pour les modèles open source, mais cela semble gérable, surtout si les modèles les plus puissants restent fermés (si jamais ils deviennent open source, la responsabilité du déploiteur pourrait devenir peu utile, mais pas nuisible). Même inquiétude pour les développeurs (bien que pour les modèles open source, ajuster un modèle pour faire quelque chose d’interdit comporte déjà une barrière), mais la même réponse s’applique. En règle générale, imposer une « taxe » sur le contrôle — « vous pouvez construire ce que vous ne contrôlez pas, ou ce que vous contrôlez, mais si vous contrôlez, 20 % du contrôle doit servir à nos objectifs » — semble une position légitime du système juridique.
Une idée peu explorée est d’imputer la responsabilité à d’autres acteurs du canal, plus susceptibles d’avoir des ressources. Une idée très conforme à la d/acc serait de tenir responsable tout propriétaire ou opérateur d’un appareil que l’IA aurait compromis (par piratage) durant une action catastrophique. Cela créerait une incitation massive à renforcer la sécurité des infrastructures (notamment informatiques et biologiques).
Stratégie 2 : Bouton de « pause douce » mondial sur le matériel à échelle industrielle
Si je devais choisir une mesure plus « forte » que la responsabilité, ce serait celle-ci. L’objectif serait de pouvoir réduire de 90 à 99 % la puissance de calcul mondiale disponible pendant 1 à 2 ans, donnant ainsi plus de temps à l’humanité. Ne sous-estimez pas la valeur d’un an : un an en « mode guerre » peut compenser facilement cent ans de travail normal dans un contexte d’autosatisfaction. Des pistes existent déjà, notamment des propositions concrètes comme l’enregistrement et la vérification géographique du matériel.
Une méthode plus sophistiquée utilise des techniques cryptographiques intelligentes : le matériel IA industriel (non grand public) pourrait intégrer une puce matérielle de confiance, ne permettant son fonctionnement que s’il reçoit chaque semaine une signature 3/3 d’institutions internationales majeures (dont au moins une non militaire). Les signatures seraient indépendantes des appareils (on pourrait même exiger une preuve à connaissance nulle publiée sur blockchain), rendant le système tout ou rien : impossible d’autoriser un appareil sans autoriser tous les autres.
Cette approche semble « correcte » en termes d’équilibre bénéfice/risque :
-
C’est une capacité utile : si des signes montrent qu’une IA proche de la superintelligence commence à causer des dommages catastrophiques, nous voulons ralentir la transition.
-
Avoir simplement la possibilité d’une pause douce nuit peu aux développeurs avant le moment critique.
-
Se concentrer sur le matériel industriel et viser une réduction de 90-99 % évite des pratiques dystopiques comme des puces espionnes dans les ordinateurs portables ou des interrupteurs obligatoires, ou forcer de petits pays à appliquer des mesures contre leur volonté.
-
Se focaliser sur le matériel semble robuste face aux changements technologiques. Dans plusieurs générations d’IA, la qualité dépend fortement de la puissance de calcul disponible, surtout aux débuts d’un nouveau paradigme. Réduire cette puissance de 10 à 100 fois peut facilement décider de la victoire ou de la défaite dans un combat rapide entre une IA incontrôlée et l’humanité tentant de l’arrêter.
-
La contrainte hebdomadaire de connexion pour obtenir la signature découragera fortement l’extension à l’échelle grand public.
-
Des vérifications aléatoires sont possibles, et le niveau matériel rend difficile l’exemption de certains utilisateurs (contrairement aux méthodes légales de coupure, qui n’ont pas cette propriété tout ou rien, et glissent plus facilement vers des exemptions militaires).
La régulation du matériel est déjà sérieusement envisagée, bien souvent dans le cadre des contrôles à l’exportation, qui repose sur une logique du type « nous faisons confiance à notre camp, pas à l’autre ». Leopold Aschenbrenner a notamment plaidé pour que les États-Unis prennent une avance décisive, puis forcent la Chine à signer un accord limitant le nombre de machines qu’elle peut exploiter. Cette approche me semble risquée, combinant les inconvénients d’une course multipolaire et d’une centralisation. Si nous devons limiter les gens, mieux vaut le faire équitablement pour tous, et chercher une coopération réelle, plutôt que de permettre à un camp de dominer.
Rôle des technologies d/acc dans les risques liés à l’IA
Ces deux stratégies (responsabilité et bouton de pause matériel) ont des failles et sont clairement des palliatifs temporaires : si une chose peut être faite sur un supercalculateur à l’instant T, elle pourra probablement l’être sur un ordinateur portable à T+5 ans. Nous avons donc besoin de mesures plus stables pour gagner du temps. Ici, de nombreuses technologies d/acc sont pertinentes. Comment une IA pourrait-elle prendre le contrôle du monde ?
-
Elle pirate nos ordinateurs → défense cybernétique
-
Elle crée une super-pandémie → défense biologique
-
Elle nous persuade (soit en gagnant notre confiance, soit en sapant la nôtre) → défense informationnelle
Comme brièvement mentionné plus haut, les règles de responsabilité sont une forme de régulation naturellement compatible avec la d/acc, car elles incitent efficacement à adopter ces défenses partout. Taïwan expérimente récemment la responsabilité pour les publicités mensongères, ce qui illustre l’usage de la responsabilité pour encourager la défense informationnelle. Nous ne devons pas trop multiplier les responsabilités, et garder à l’esprit que la liberté ordinaire permet aux petits acteurs d’innover sans craindre les poursuites. Mais là où nous voulons vraiment pousser la sécurité, la responsabilité peut être flexible et efficace.
Rôle des cryptomonnaies dans la d/acc
Beaucoup d’aspects de la d/acc vont bien au-delà des thèmes blockchain typiques : biosécurité, interfaces cerveau-machine, outils de discours collaboratif semblent éloignés des sujets habituels des adeptes des cryptos. Pourtant, je pense qu’il existe des liens importants entre cryptomonnaies et d/acc, notamment :
-
La d/acc prolonge les valeurs fondamentales des cryptomonnaies (décentralisation, résistance à la censure, économie et société globales ouvertes) vers d’autres domaines technologiques.
-
Les utilisateurs de cryptomonnaies sont des adopteurs précoces naturels, et partagent des valeurs communes. La communauté crypto est donc un utilisateur naturel des technologies d/acc. L’importance accordée aux communautés (en ligne et hors ligne, via événements et pop-ups), et le fait que ces communautés fassent réellement des choses à haut risque, plutôt que de simplement parler, en fait un incubateur et un terrain d’essai idéal pour les technologies d/acc qui reposent fondamentalement sur les groupes plutôt que sur les individus (la plupart des outils de défense informationnelle et biologique). Les adeptes des cryptos agissent ensemble.
-
De nombreuses technologies des cryptomonnaies servent aux thèmes d/acc : blockchains pour des infrastructures financières, de gouvernance et de réseaux sociaux plus solides et décentralisées, preuves à connaissance nulle pour la protection de la vie privée, etc. Aujourd’hui, les plus grands marchés prédictifs sont construits sur blockchain, et deviennent progressivement plus complexes, décentralisés et démocratiques.
-
Des synergies gagnant-gagnant existent avec des technologies adjacentes aux cryptomonnaies, utiles pour les projets crypto et essentielles pour la d/acc : vérification formelle, sécurité logicielle et matérielle, gouvernance robuste en environnement hostile. Ces outils rendent Ethereum, les portefeuilles et les organisations autonomes décentralisées (DAO) plus sûrs, tout en servant des objectifs civilisationnels clés, comme réduire notre vulnérabilité aux cyberattaques (y compris celles venant d’une IA superintelligente).
Cursive est une application utilisant le chiffrement homomorphe complet (FHE), permettant aux utilisateurs d’identifier des centres d’intérêt communs tout en préservant la vie privée. Elle est utilisée à Edge City, Chiang Mai (l’un des nombreux chapitres de Zuzalu).
d/acc et financement des biens publics
Un sujet qui m’intéresse depuis longtemps est la recherche de meilleurs mécanismes pour financer les biens publics : projets utiles à de très grands groupes, mais sans modèle commercial naturel. Mes travaux antérieurs incluent la finance quadratique, le financement rétrospectif des biens publics (retro PGF), et plus récemment, le financement en profondeur.
Beaucoup doutent du concept de bien public. Cette méfiance vient de deux sources :
-
Historiquement, les biens publics ont servi de justification à des plans sociaux et économiques centralisés rigides.
-
On pense souvent que leur financement manque de rigueur, fonctionnant par biais social — on finance ce qui « sonne bien », pas ce qui est vraiment bon — et favorise les initiés habiles aux jeux sociaux.
Ces critiques sont importantes et légitimes. Pourtant, je pense qu’un financement décentralisé et solide des biens publics est crucial pour la vision d/acc, car un objectif clé de celle-ci (minimiser les points de contrôle centralisés) entrave justement de nombreux modèles commerciaux traditionnels. Construire une entreprise réussie sur base open source est possible — plusieurs projets financés par Balvi le font — mais c’est parfois si difficile que des projets importants ont besoin d’un soutien continu supplémentaire. Nous devons donc relever le défi : trouver comment financer les biens publics tout en répondant à ces deux critiques.
La solution au premier problème est fondamentalement la neutralité de confiance et la décentralisation. La planification centrale est problématique car elle donne du pouvoir à une élite susceptible d’abus, et parce qu’elle s’adapte trop bien au présent, devenant inefficace avec le temps. La finance quadratique et mécanismes similaires visent justement à financer les biens publics de manière aussi neutre et décentralisée que possible, tant sur le plan architectural que politique.
Le deuxième problème est plus complexe. Un reproche courant à la finance quadratique est qu’elle devient vite une course à la popularité, forçant les porteurs de projets à consacrer beaucoup d’efforts à la promotion. De plus, les projets « visibles » (applications finales) sont financés, tandis que ceux en coulisses (typiquement, « la dépendance maintenue par une seule personne dans le Nebraska ») ne reçoivent rien.
Le financement rétrospectif optimiste repose sur un petit nombre d’experts accrédités ; l’effet de popularité diminue, mais les effets sociaux liés aux relations personnelles avec les détenteurs de badges s’amplifient.
Le financement en profondeur est mon effort le plus récent pour résoudre ce problème. Il introduit deux innovations majeures :
-
Le graphe des dépendances. Au lieu de demander à chaque juré une question globale (« quelle est la valeur du projet A pour l’humanité ? »), on pose une question locale (« le projet A ou B a-t-il plus de valeur pour le résultat C ? De combien ? »). Les humains sont mauvais pour les questions globales : dans une célèbre étude, les répondants étaient prêts à payer environ 80 dollars pour sauver N oiseaux, que N soit 2 000, 20 000 ou 200 000. Les questions locales sont plus faciles. Puis, on combine les réponses locales en une réponse globale via un « graphe des dépendances » : pour chaque projet, quels autres projets ont contribué à son succès, et à quel niveau ?
-
L’IA comme synthèse du jugement humain. Chaque juré ne reçoit qu’un petit échantillon aléatoire de toutes les questions. Un concours ouvert permet à quiconque de soumettre un modèle d’IA capable de remplir efficacement toutes les connexions du graphe. La réponse finale est une somme pondérée du modèle le plus compatible avec les réponses du jury. Voir ici pour des exemples de code. Cette méthode permet d’échelle à grande taille tout en demandant peu d’effort aux jurés. Cela réduit la corruption et assure la qualité de chaque contribution : les jurés peuvent passer longtemps sur chaque question, au lieu de cliquer rapidement sur des centaines. Grâce au concours ouvert sur l’IA, on réduit les biais d’un unique processus de formation et gestion. Le marché ouvert de l’IA est le moteur, l’humain reste le conducteur.
Mais le financement en profondeur n’est qu’un exemple récent ; d’autres mécanismes ont été proposés, d’autres viendront. allo.expert fait un excellent travail de catalogage. L’objectif fondamental est de créer un outil social capable de financer les biens publics avec une précision, une équité et un accès ouvert comparables à ceux du marché pour les biens privés. Il n’a pas besoin d’être parfait — le marché lui-même est loin de l’être. Mais il doit être assez efficace pour que les développeurs de projets open source de haute qualité, utiles à tous, puissent continuer sans compromis inacceptables.
Aujourd’hui, la plupart des projets leaders dans les domaines d/acc — vaccins, interfaces cerveau-machine, interfaces « périphériques » comme la myoélectricité au poignet ou le suivi oculaire, médicaments anti-vieillissement, matériel, etc. — sont propriétaires. Cela présente de gros inconvénients pour la confiance du public, comme nous l’avons vu dans de nombreux domaines. Cela détourne aussi l’attention vers des dynamiques concurrentielles (« notre équipe doit gagner dans ce secteur-clé ! »), au détriment de l’objectif plus large : faire apparaître ces technologies assez vite pour nous protéger dans un monde avec IA superintelligente. Pour ces raisons, un financement solide des biens publics peut devenir un puissant levier d’ouverture et de liberté. C’est une autre façon dont la communauté crypto peut aider la d/acc : en explorant sérieusement ces mécanismes de financement, et en les faisant bien fonctionner dans son propre contexte, elle prépare leur application plus large à la science et à la technologie open source.
Avenir
Les prochaines décennies posent des défis majeurs. Je réfléchis récemment à deux d’entre eux :
-
Une vague puissante de nouvelles technologies, surtout l’IA forte, arrive rapidement, accompagnée de pièges importants à éviter. La superintelligence artificielle pourrait arriver dans cinq ans, ou dans cinquante. Dans les deux cas, le résultat par défaut n’est pas clairement positif, comme décrit ici et dans l’article précédent, plusieurs pièges doivent être évités.
-
Le monde devient de plus en plus peu coopératif. De nombreux acteurs puissants, qui semblaient auparavant agir parfois selon des principes nobles (cosmopolitisme, liberté, humanité commune…), poursuivent désormais plus ouvertement leurs intérêts personnels ou tribaux.
Pourtant, chaque défi recèle une lueur d’espoir. D’abord, nous disposons maintenant d’outils très puissants pour achever plus vite nos tâches restantes :
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
@VitalikButerin
