Dernier message de Vitalik : l'open source, en tant que troisième voie pour atténuer la concentration technologique, est actuellement sous-estimé
TechFlow SélectionTechFlow Sélection
Dernier message de Vitalik : l'open source, en tant que troisième voie pour atténuer la concentration technologique, est actuellement sous-estimé
Avec le développement de la technologie, la centralisation du pouvoir technologique s'intensifie, tandis que l'open source constitue un moyen efficace de réduire cette concentration du pouvoir et les asymétries d'information.
Dédié à des analyses Web3 approfondiesRédaction : Vitalik Buterin
Compilation & traduction : Janna, ChainCatcher
ChainCatcher a compilé et traduit le contenu (avec des coupes).
Points clés :
-
Les technologies radicales pourraient aggraver les inégalités sociales car elles sont plus accessibles aux riches et puissants, élargissant l’écart entre riches et pauvres en espérance de vie et avantages, allant jusqu’à créer une classe inférieure mondiale.
-
Un autre risque d’abus technologique réside dans l’exercice du pouvoir par les fabricants via la collecte de données ou la dissimulation d’informations, ce qui diffère fondamentalement de l’inégalité d’accès.
-
L’open source constitue une troisième voie sous-estimée, capable d’améliorer l’égalité d’accès et de production, d’augmenter la vérifiabilité et d’éliminer le verrouillage fournisseur.
-
Certains s’opposent à l’open source en raison du risque d’abus, mais un contrôle centralisé par des gardiens peu fiables est vulnérable aux détournements militaires et ne garantit pas l’équité entre États.
-
S’il existe un fort risque d’abus généralisé, il vaut mieux peut-être ne pas développer la technologie ; si le problème relève des déséquilibres de pouvoir, l’open source peut rendre son usage plus juste.
-
L’open source ne signifie pas l’absence de règles : il peut s’accompagner de cadres juridiques. L’essentiel est de démocratiser la technologie et d’en assurer l’accessibilité.
On entend souvent dire que certaines technologies radicales pourraient accroître les inégalités de pouvoir, car elles seraient inévitablement réservées aux riches et aux élites.
Voici une citation d’une personne préoccupée par les conséquences du prolongement de la durée de vie :
« Certaines personnes vont-elles être laissées pour compte ? Allons-nous rendre la société encore plus inégale qu’elle ne l’est déjà ? », demande-t-il. Tuljapurkar prévoit que l’explosion de l’espérance de vie restera cantonnée aux pays riches, dont les citoyens peuvent s’offrir les technologies anti-vieillissement et dont les gouvernements financent la recherche scientifique. Cet écart complexifie davantage le débat actuel sur l’accès aux soins, car riches et pauvres se distancient non seulement en qualité de vie, mais aussi en longévité.
« Les grandes entreprises pharmaceutiques ont une longue histoire de rigueur extrême lorsqu’il s’agit de fournir leurs produits à ceux qui ne peuvent pas payer », affirme Tuljapurkar.
Si les technologies anti-vieillissement étaient distribuées dans un marché libre non régulé, « il est tout à fait possible, selon moi, que nous finissions par former une classe inférieure mondiale permanente, ces pays étant bloqués aux conditions de mortalité actuelles », dit Tuljapurkar. « Si cela arrive, cela créera un effet de rétroaction négative, un cercle vicieux. Ces pays exclus seront exclus pour toujours. »
Voici un autre propos similaire, tiré d’un article s’inquiétant des conséquences de l’amélioration génétique humaine :
Il y a quelques semaines, des scientifiques ont annoncé avoir modifié génétiquement des embryons humains afin d’éliminer une mutation pathogène. Ce travail, impressionnant, répond aux prières de nombreux parents. Qui ne voudrait pas éviter à ses enfants des souffrances aujourd’hui évitables ?
Mais ce ne sera pas la fin. De nombreux parents souhaiteront utiliser la modification génétique pour offrir à leurs enfants les meilleurs avantages. Ceux qui en ont les moyens auront accès à ces technologies. Avec cette capacité apparaissent des questions éthiques allant au-delà de la sécurité finale de ces techniques. Le coût élevé des procédures engendrera une rareté et aggraverait les inégalités de revenus déjà croissantes.
D’autres domaines technologiques similaires :
-
Technologies numériques en général : https://www.amnestyusa.org/issues/technology/technology-and-inequality/
-
Voyages spatiaux : https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html
-
Géo-ingénierie solaire : https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57
Ce thème revient fréquemment dans les critiques des nouvelles technologies. Un thème connexe, mais fondamentalement différent, est celui où les produits technologiques servent d’outils de collecte de données, de verrouillage fournisseur, de dissimulation intentionnelle d’effets secondaires (comme on l’a reproché aux vaccins modernes), ou d’autres formes d’abus.
Les technologies émergentes créent souvent plus d’occasions d’obtenir quelque chose sans en accorder pleinement les droits ni l’information complète, rendant ainsi les anciennes technologies souvent perçues comme plus sûres. C’est également une manière dont la technologie renforce les élites au détriment des autres, mais ici, il s’agit du pouvoir exercé par les fabricants sur les utilisateurs, plutôt que de l’inégalité d’accès mentionnée précédemment.
Personnellement, je suis très favorable à la technologie. Dans un choix binaire entre « aller plus loin » ou « rester en l’état », malgré les risques, j’accepterais volontiers de pousser presque tous les projets, sauf quelques-uns (comme la recherche sur l’acquisition de fonctionnalités, les armes et l’IA super-intelligente).
Cela tient au fait que globalement, les bénéfices incluent des vies plus longues et plus saines, des sociétés plus prospères, un maintien de la pertinence humaine à l’ère de l’IA, et la préservation de la continuité culturelle grâce aux générations âgées vivantes plutôt qu’à des souvenirs dans des livres d’histoire.
Mais que se passerait-il si je me mettais à la place de ceux qui sont moins optimistes sur les effets positifs, ou qui craignent davantage que les élites exploitent les nouvelles technologies pour dominer économiquement et imposer leur contrôle, ou les deux à la fois ? Par exemple, c’est exactement ce que je ressens face aux produits domotiques : le bénéfice de pouvoir parler à une ampoule est compensé par mon refus de voir ma vie privée transiter vers Google ou Apple.
Avec des hypothèses plus pessimistes, je peux imaginer ressentir la même chose face à certaines technologies médiatiques : si elles permettent aux élites de diffuser l’information plus efficacement que les autres, elles peuvent servir à imposer un contrôle et noyer les voix minoritaires. Pour nombre de ces technologies, les gains en meilleure information ou divertissement ne compensent pas leur redistribution du pouvoir.
Open source comme troisième voie
Je pense qu’une idée fortement sous-estimée dans ces cas est de soutenir uniquement les technologies développées selon une approche open source.
L’argument selon lequel l’open source accélère le progrès est très crédible : il facilite la construction mutuelle sur les innovations. En revanche, l’argument selon lequel exiger l’open source ralentirait le progrès est tout aussi crédible : cela empêcherait l’utilisation de stratégies potentiellement très lucratives.
Mais les conséquences les plus intéressantes de l’open source sont celles qui ne concernent pas directement la vitesse du progrès :
-
L’open source améliore l’égalité d’accès. Si quelque chose est open source, il est naturellement accessible à toute personne, dans n’importe quel pays. Pour les biens physiques et services, le coût marginal doit encore être payé, mais dans de nombreux cas, le prix élevé des produits propriétaires vient du fait que le coût fixe de l’invention est trop élevé pour attirer la concurrence, donc le coût marginal est souvent très faible — comme dans l’industrie pharmaceutique.
-
L’open source améliore l’égalité d’accès à la production. Une critique est que donner gratuitement un produit final aux gens ne les aide pas à acquérir compétences et expérience nécessaires pour progresser dans l’économie mondiale et atteindre la prospérité — véritable garantie durable d’une vie de haute qualité. L’open source, lui, permet essentiellement à quiconque, partout dans le monde, de devenir producteur à tous les niveaux de la chaîne d’approvisionnement, et non simplement consommateur.
-
L’open source améliore la vérifiabilité. Si quelque chose est open source, idéalement, non seulement la sortie est disponible, mais aussi le processus d’invention, les choix de paramètres, etc., ce qui rend plus facile de vérifier que ce que vous obtenez correspond bien à ce que le fournisseur prétend, et permet à des tiers d’identifier des défauts cachés.
-
L’open source élimine les risques de verrouillage fournisseur. Si quelque chose est open source, un fabricant ne peut pas rendre le produit inutilisable en supprimant à distance des fonctions ou simplement en faisant faillite — comme des voitures hautement informatisées/connectées cessant de fonctionner après la fermeture du constructeur. Vous conservez toujours le droit de le réparer vous-même ou de faire appel à un autre prestataire.
Nous pouvons analyser cela à travers les exemples des technologies radicales mentionnés en début d’article :
-
Si nous avions des technologies de prolongation de vie propriétaires, elles pourraient être limitées aux milliardaires et dirigeants politiques. Bien que personnellement, je m’attende à une baisse rapide de leur prix. Mais si elles étaient open source, chacun pourrait les utiliser et les offrir à moindre coût.
-
Si nous avions des technologies d’amélioration génétique humaine propriétaires, elles pourraient être réservées aux milliardaires et dirigeants politiques, créant une classe supérieure. Là encore, je pense que ces technologies se diffuseraient, mais il y aurait inévitablement un écart entre ce que les riches et les autres obtiennent. En version open source, cet écart serait beaucoup plus faible.
-
Pour les biotechnologies en général, un écosystème open source de tests scientifiques sécurisés pourrait être plus efficace et honnête que des entreprises parrainant leurs propres produits avec l’aval de régulateurs complaisants.
-
Si seules quelques personnes peuvent aller dans l’espace, selon l’évolution politique, certains pourraient monopoliser une planète entière ou une lune. Si la technologie était plus largement répartie, cette possibilité serait bien moindre.
-
Si les voitures intelligentes sont open source, vous pouvez vérifier que le fabricant ne vous espionne pas, et vous n’êtes pas dépendant de lui pour continuer à utiliser votre véhicule.
Nous pouvons résumer l’argument dans un schéma :
Notez que la bulle « construire uniquement s’il est open source » est plus large, reflétant une plus grande incertitude quant au rythme de progrès permis par l’open source et à son efficacité contre la concentration du pouvoir. Mais même ainsi, dans de nombreux cas, elle reste globalement un bon compromis.
Open source et risques d’abus
Un argument principal parfois opposé à l’open source pour les technologies puissantes est le risque d’abus de type zéro somme ou non hiérarchique. Donner des armes nucléaires à tout le monde mettrait certes fin à l’inégalité nucléaire. C’est un vrai problème : nous voyons plusieurs États puissants exploiter leur asymétrie d’accès pour intimider d’autres, mais cela entraînerait presque certainement des dizaines de milliards de morts.
Comme exemple de conséquence sociale négative sans intention de nuire, donner à chacun la possibilité de chirurgie esthétique pourrait mener à un jeu compétitif zéro somme : chacun dépenserait d’importantes ressources, voire prendrait des risques sanitaires, pour être plus beau que les autres, mais au final, nous nous habituerions à un niveau supérieur de beauté, sans que la société ne soit réellement améliorée. Certaines formes de biotechnologie pourraient produire de tels effets à grande échelle. Beaucoup de technologies, y compris nombre de biotechnologies, se situent entre ces deux extrêmes.
« Je ne soutiendrais cela que si un gardien digne de confiance exerce un contrôle strict. » C’est un argument valable en faveur d’une direction opposée. Un gardien peut autoriser les usages positifs tout en excluant les usages négatifs. Il pourrait même avoir une mission publique garantissant un accès non discriminatoire à tous ceux qui respectent certaines règles.
Cependant, j’ai une forte méfiance par défaut envers cette approche. La raison principale est que je doute qu’il existe vraiment, dans le monde moderne, des gardiens dignes de confiance. Nombre des usages les plus zéro somme et les plus risqués sont militaires, et l’histoire montre que les armées ont une piètre capacité à s’autoréguler.
Un bon exemple est le programme d’armes biologiques soviétique :
Étant donné la retenue de Gorbatchev sur le SDI et les armes nucléaires, ses actions liées au programme illégal d’armes bactériennes soviétiques sont déroutantes, note Hoffman. À son arrivée au pouvoir en 1985, bien que signataire de la Convention sur les armes biologiques, l’URSS disposait déjà d’un vaste programme d’armes biologiques lancé par Brejnev. Outre l’anthrax, l’URSS étudiait la variole, la peste et la fièvre des lapins, mais les intentions et objectifs de ces armes restaient flous.
« Les documents de Kateyev montrent qu’il y eut plusieurs résolutions du Comité central sur le programme de guerre biologique au milieu et à la fin des années 80. Il est difficile de croire qu’elles aient toutes été signées et publiées sans que Gorbatchev en ait eu connaissance », dit Hoffman.
« Il existe même un mémorandum de mai 1990 adressé à Gorbatchev sur le programme d’armes biologiques — ce mémorandum ne raconte pas toute l’histoire. L’URSS a trompé le monde, mais aussi ses propres dirigeants. »
The Russian Biological Weapons Program: Vanished or Disappeared? avance que, après la chute de l’URSS, ce programme aurait pu être transféré à d’autres pays.
D’autres pays ont aussi de graves erreurs à expliquer. Je n’ai pas besoin de mentionner tous les pays impliqués dans la recherche sur l’acquisition de fonctionnalités et ses risques implicites. Dans le domaine numérique, comme la finance, l’histoire de l’interdépendance weaponisée montre que ce qui est censé prévenir l’abus glisse facilement vers l’exercice unilatéral du pouvoir par l’opérateur.
Voici une autre faiblesse des gardiens : par défaut, ils sont contrôlés par des gouvernements nationaux, dont les systèmes politiques peuvent avoir des motivations pour assurer une égalité d’accès interne, mais aucun acteur fort n’a la mission d’assurer une égalité d’accès entre États.
Pour clarifier, je ne dis pas que les gardiens sont mauvais, donc passons au laissez-faire, surtout pas pour la recherche sur l’acquisition de fonctionnalités. Au contraire, je dis deux choses :
Si quelque chose comporte un risque suffisant d’« abus de tous contre tous » pour que vous ne vous sentiez à l’aise que sous contrôle centralisé par un gardien, envisagez que la bonne solution pourrait être de ne pas le faire du tout, et d’investir plutôt dans des alternatives technologiques moins risquées.
Si quelque chose comporte un risque suffisant de « déséquilibre de pouvoir » pour que vous ne vous sentiez absolument pas à l’aise de le voir réalisé, envisagez que la bonne solution est de le faire, mais de le faire en open source, afin que chacun ait une chance équitable de comprendre et de participer.
Notons aussi que l’open source ne signifie pas l’absence de règles. Par exemple, je suis favorable à une géo-ingénierie menée en open source et science ouverte. Mais cela diffère totalement de « n’importe qui peut dévier des rivières et pulvériser ce qu’il veut dans l’atmosphère ». En pratique, cela ne se produira pas : des lois et une diplomatie internationale existent, de telles actions sont faciles à détecter, rendant tout accord assez exécutable.
La valeur de l’ouverture est d’assurer la démocratisation de la technologie, son accessibilité à de nombreux pays plutôt qu’à un seul ; et d’augmenter l’accessibilité de l’information, afin que les gens puissent mieux juger eux-mêmes de l’efficacité et de la sécurité de ce qui est fait.
Fondamentalement, je vois l’open source comme le point de Schelling le plus fort pour réaliser la technologie avec moins de risques de concentration de richesse, de pouvoir et d’asymétrie d’information. Peut-être pouvons-nous essayer de concevoir des institutions plus ingénieuses pour séparer les effets positifs et négatifs, mais dans le monde réel chaotique, la méthode la plus susceptible de tenir est la garantie du droit du public à l’information : que les choses se passent ouvertement, que chacun puisse comprendre ce qui se passe et y participer.
Dans de nombreux cas, la valeur énorme d’un développement technologique accéléré dépasse largement ces inquiétudes. Dans quelques cas rares, il est crucial de ralentir autant que possible le développement technologique, jusqu’à ce que des contre-mesures ou des alternatives atteignant les mêmes objectifs soient disponibles.
Cependant, dans le cadre actuel du développement technologique, choisir l’open source comme mode de progrès offre une amélioration incrémentielle : une troisième option, moins centrée sur la vitesse du progrès, plus sur son style, et utilisant l’attente d’un modèle open source comme levier pour orienter les choses vers le mieux — une méthode sous-estimée.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
@VitalikButerin
