Le nouveau lauréat du prix Nobel, Daron Acemoglu : quelle vision a-t-il sur le développement actuel de l'IA et ses risques ?
TechFlow SélectionTechFlow Sélection
Le nouveau lauréat du prix Nobel, Daron Acemoglu : quelle vision a-t-il sur le développement actuel de l'IA et ses risques ?
La technologie et la société, l'actif le plus précieux est l'humain.
Dédié à des analyses Web3 approfondiesAuteur original : Chen Qinhuan, journaliste de The Paper
Le 14 octobre, l'Académie royale des sciences de Suède a annoncé à Stockholm que le prix Nobel d'économie 2024 était attribué à Daron Acemoglu, Simon Johnson et James A. Robinson « pour leurs travaux sur la manière dont les institutions se forment et influencent la prospérité ».
Dans son communiqué, le comité du jury a déclaré que ces trois économistes ont montré combien les institutions sociales sont cruciales pour la prospérité d’un pays. « Les sociétés caractérisées par un État de droit faible et des institutions qui exploitent la population ne peuvent ni croître ni évoluer positivement. Leurs recherches nous aident à comprendre pourquoi. »
Né en 1967 à Istanbul, capitale de la Turquie, Daron Acemoglu enseigne au Massachusetts Institute of Technology (MIT) depuis 1993. Il a reçu le prix Clark en 2005. Ses domaines de recherche couvrent largement l’économie politique, le développement économique, la croissance, les mutations technologiques, les inégalités, l’économie du travail et l’économie des réseaux. Il a publié de nombreux articles scientifiques avec les deux autres lauréats, et coécrit avec James Robinson des ouvrages à succès comme *Pourquoi les nations échouent* et *Le Couloir étroit*.
Récemment, l'un des principaux axes de recherche d'Acemoglu concerne l’impact des technologies d’automatisation telles que les robots industriels sur le marché du travail. En 2023, il a publié avec Simon Johnson *Power and Progress*, un ouvrage analysant les dilemmes posés par l’intelligence artificielle, considérée comme la technologie la plus importante de notre époque.
« Une grande partie de mes recherches porte sur l’interaction entre l’économie politique et les changements technologiques, deux forces majeures qui façonnent nos capacités et nos opportunités de croissance, tout en influençant nos choix politiques et économiques », a-t-il déclaré en juin lors d’un entretien exclusif accordé à The Paper.
Selon ses analyses, la trajectoire actuelle du développement de l’IA répète et amplifie certains des pires erreurs techniques commises ces dernières décennies. Par exemple, une focalisation excessive sur l’automatisation, accompagnée d’insuffisances dans les investissements visant à créer de nouvelles tâches. Il estime que les dirigeants d’entreprise doivent prendre conscience que leur principal atout est constitué par leurs salariés. Plutôt que de se concentrer uniquement sur la réduction des coûts, ils devraient chercher à améliorer la productivité, les compétences et l’influence des travailleurs.
Acemoglu craint profondément que l’IA devienne un moyen de transférer richesse et pouvoir d’une majorité vers un petit groupe d’entrepreneurs technologiques. Pour briser l’influence politique des grandes entreprises technologiques, il affirme que « se fier uniquement à la lutte contre les monopoles ne suffit pas ; nous devons rediriger la technologie vers des objectifs socialement bénéfiques ».
Il propose trois principes pour guider le développement de l’IA : premièrement, privilégier l’utilité des machines ; deuxièmement, renforcer le pouvoir des travailleurs et des citoyens plutôt que de chercher à les manipuler ; troisièmement, instaurer un cadre réglementaire plus robuste afin de responsabiliser les entreprises technologiques.
*Ci-dessous l'interview exclusive accordée par Daron Acemoglu à The Paper le 16 juin 2024, dont le titre original était « Interview | Professeur du MIT : craindre que l’IA devienne un outil de transfert de richesse et de pouvoir vers quelques entrepreneurs technologiques ».
Le site China News cite CNN selon lequel Apple a dépassé Microsoft le 13 juin pour devenir la société cotée la plus valorisée aux États-Unis. L’action de l’entreprise a grimpé en flèche après avoir annoncé lors de sa conférence mondiale annuelle pour développeurs une série de nouveautés, notamment des fonctions d’intelligence artificielle générative pour l’iPhone.
Apple, Nvidia et Microsoft s’affrontent âprement pour occuper la première place mondiale en termes de capitalisation boursière. Après avoir redéfini l’« IA » sous le nom d’« Apple Intelligence », Apple a surpassé Nvidia, dont la valeur avait explosé grâce à ses puces IA, puis rattrapé Microsoft pour retrouver la tête du classement. La capitalisation actuelle d’Apple atteint 3,29 billions de dollars, légèrement supérieure aux 3,28 billions de Microsoft. L’intelligence artificielle générative constitue désormais le moteur central de la hausse de la valorisation de ces trois géants technologiques.
Faisant face à cet engouement pour l’IA, le National Bureau of Economic Research (NBER) aux États-Unis a récemment publié un article rédigé par le professeur du MIT Daron Acemoglu, selon lequel les gains de productivité découlant des progrès futurs de l’intelligence artificielle pourraient être limités. L’étude prévoit qu’au cours des dix prochaines années, la croissance du taux de croissance de la productivité totale des facteurs (PTF) attribuable à l’IA ne dépassera pas 0,66 %.
Acemoglu souligne que l’intelligence artificielle générative est une technologie prometteuse, mais que sa contribution à la productivité restera modeste à moins d’un recentrage fondamental du secteur, incluant des modifications importantes de l’architecture des modèles d’IA générative (comme les grands modèles linguistiques LLM), afin de se concentrer sur la fourniture d’informations fiables capables d’améliorer la productivité marginale des travailleurs dans divers secteurs, plutôt que de privilégier le développement d’outils conversationnels généraux imitant l’humain.
Face aux prévisions excessivement optimistes concernant l’impact de l’IA sur la productivité et la croissance économique, Acemoglu adopte une posture sceptique. Économiste américain d’origine turque, il est surtout connu pour ses travaux en économie politique et étudie depuis longtemps l’interaction entre cette dernière et les mutations technologiques.
L’année dernière, il a publié avec l’économiste anglo-américain Simon Johnson un nouvel ouvrage intitulé *Power and Progress*, abordant la révolution de l’IA susceptible de bouleverser la société humaine. Selon eux, le développement actuel de l’IA s’est égaré : de nombreux algorithmes sont conçus dans le but de remplacer autant que possible les êtres humains. Or, « la voie véritable du progrès technologique consiste à rendre les machines utiles aux humains, et non à les remplacer ».
Mira Murati, directrice technique d’OpenAI, a déclaré lors d’un événement en mai que, concernant la controverse autour du développement de l’intelligence artificielle générale (AGI), l’entreprise concentre ses efforts non seulement sur l’amélioration des fonctionnalités et de l’utilité des modèles, mais aussi sur leur sécurité, afin de garantir qu’ils restent alignés avec les valeurs humaines et n’échappent jamais à tout contrôle, dans le but de construire une AGI bénéfique pour l’humanité.
« Plus j’étudie en profondeur les capacités et la direction de l’IA, plus je suis convaincu que sa trajectoire actuelle répète et aggrave certaines des pires erreurs techniques des dernières décennies », a affirmé le professeur Acemoglu lors d’un entretien avec The Paper (www.thepaper.cn). La plupart des acteurs dominants du secteur sont, selon lui, motivés par un rêve irréaliste et dangereux : réaliser l’intelligence artificielle générale. « Cela revient à placer les machines et les algorithmes au-dessus des êtres humains. »
Certains analystes considèrent Acemoglu comme un pessimiste en matière d’IA. Il répond à The Paper qu’en tant que chercheur en sciences sociales, il accorde naturellement plus d’attention aux effets négatifs sur la société.
Acemoglu collabore souvent avec sa femme, la professeure Asu Ozdaglar, responsable du département de génie électrique et informatique au MIT. Bien que leurs domaines soient différents, le couple partage globalement la même vision du développement de l’IA. Toutefois, Acemoglu reconnaît que ses propres opinions sont probablement plus pessimistes que celles de son épouse.
Avec l’accélération de la commercialisation de l’IA, les grands modèles font l’objet d’une course effrénée. Mais sans conteste, des géants technologiques comme OpenAI, Microsoft, Google et Nvidia ont déjà pris une longueur d’avance. « Je crains profondément que l’IA devienne un moyen de transférer richesse et pouvoir de la majorité vers un petit groupe d’entrepreneurs technologiques », déclare Acemoglu. Ce que nous observons aujourd’hui sous forme d’« inégalités » est, selon lui, « le canari dans la mine de charbon ».
Technologie et société : l’être humain, notre plus grand atout
Q1 : Vos recherches couvrent de nombreux domaines comme l’économie politique, les mutations technologiques ou encore les inégalités. Dans quel contexte et à quelle occasion avez-vous commencé à vous intéresser à l’impact du développement technologique sur les inégalités ? Quelle était votre vision initiale de la technologie, et comment en êtes-vous arrivé à affirmer aujourd’hui que « la trajectoire actuelle du développement de l’intelligence artificielle nuit à la fois à l’économie et à la démocratie » ?
Acemoglu :
Une grande partie de mes recherches porte précisément sur l’interaction entre l’économie politique et les mutations technologiques, deux forces majeures qui façonnent nos capacités et nos opportunités de croissance, tout en influençant nos choix politiques et économiques.
L’IA est devenue la technologie la plus importante de notre époque, d’abord parce qu’elle attire une attention et des investissements considérables, ensuite parce qu’elle a accompli des progrès remarquables, notamment grâce à l’amélioration des performances des GPU. Enfin, son impact omniprésent joue également un rôle. Ces facteurs m’ont poussé à m’engager dans ce domaine de recherche.
Plus j’étudie en profondeur les capacités et la direction de l’IA, plus je suis convaincu que sa trajectoire actuelle répète et aggrave certaines des pires erreurs techniques des dernières décennies — notamment une focalisation excessive sur l’automatisation, comme si nous privilégions l’automatisation et d’autres technologies numériques sans investir suffisamment dans la création de nouvelles tâches ; ainsi que toutes les erreurs commises par les plateformes sociales en cherchant à tirer profit des données personnelles et des centres d’intérêt des utilisateurs.
Je prête également une attention particulière au fait que la plupart des grands acteurs du secteur de l’IA sont guidés par un rêve irréaliste et dangereux : celui de réaliser l’intelligence artificielle générale. Cela signifie placer les machines et les algorithmes au-dessus des êtres humains, ce qui constitue souvent aussi une manière pour ces acteurs dominants de s’imposer sur les autres.
Q2 : Les technologies informatiques avancées et Internet ont permis à de nombreux milliardaires d’accumuler une immense richesse et rendu les géants technologiques plus puissants que jamais. Malgré cela, nous acceptons ces innovations car elles apportent aussi des effets positifs. Les changements technologiques comportent toujours des aspects positifs et négatifs, et historiquement, la société a toujours trouvé des moyens de s’adapter aux nouvelles technologies. Avec l’arrivée d’une nouvelle vague technologique, pourquoi trouvez-vous particulièrement inquiétante la question des inégalités ?
Acemoglu :
Concernant les plateformes sociales et l’intelligence artificielle, je suis d’accord avec ce point de vue. Mais en ce qui concerne Internet, ma position est différente. Je pense qu’Internet a été mal utilisé dans certains domaines, bien que je ne nie pas qu’il s’agisse d’une technologie extrêmement bénéfique, ayant joué un rôle crucial dans la connexion entre les individus, la diffusion d’informations, et la création de nouveaux services et plateformes.
Pour ce qui est de l’intelligence artificielle, je crains profondément qu’elle devienne un moyen de transférer richesse et pouvoir des personnes ordinaires vers un petit groupe d’entrepreneurs technologiques. Le problème, c’est que nous ne disposons d’aucun mécanisme de contrôle nécessaire pour garantir que les personnes ordinaires tirent profit de l’IA, comme une régulation forte, la participation des travailleurs, la société civile ou la surveillance démocratique. Ce que nous observons sous forme d’« inégalités » est « le canari dans la mine de charbon », un signal avant-coureur de choses bien pires à venir.
Q3 : Vous avez souligné que les inégalités causées par l’automatisation sont « le résultat des choix faits par les entreprises et la société quant à l’utilisation de la technologie ». À mesure que les géants technologiques renforcent leur pouvoir de marché et leur influence, au point de devenir potentiellement incontrôlables, quel est le levier essentiel pour y faire face ? Si vous étiez PDG d’une grande entreprise technologique, comment utiliseriez-vous l’IA pour gérer cette entreprise ?
Acemoglu :
Mon conseil aux PDG est de prendre conscience que leur principal atout, ce sont leurs travailleurs. Plutôt que de se concentrer uniquement sur la réduction des coûts, ils devraient chercher à améliorer la productivité, les compétences et l’influence des travailleurs. Cela implique d’utiliser les nouvelles technologies pour créer de nouvelles tâches et développer de nouvelles compétences chez les employés.
Bien sûr, l’automatisation est bénéfique, et nous continuerons inévitablement à l’utiliser davantage à l’avenir. Mais ce n’est pas la seule chose possible pour améliorer la productivité. L’automatisation ne devrait pas être la seule priorité des PDG.
Q4 : Les autorités antitrust américaines ont publiquement exprimé plusieurs inquiétudes concernant l’IA. Le ministère de la Justice et la Federal Trade Commission auraient conclu un accord pour ouvrir la voie à des enquêtes antitrust contre Microsoft, OpenAI et Nvidia. De telles actions antitrust contre les grandes entreprises technologiques peuvent-elles réellement renforcer la concurrence et empêcher que le développement de l’IA ne soit dominé par quelques rares entreprises ?
Acemoglu :
Oui, cela peut certainement aider. La lutte contre les monopoles est essentielle. Une partie des problèmes du secteur technologique trouve sa racine dans l’absence de mise en œuvre efficace des lois antitrust aux États-Unis. Les cinq grandes entreprises technologiques ont établi des positions monopolistiques solides dans leurs domaines respectifs, car elles ont pu racheter sans entraves des concurrents potentiels. Dans certains cas, elles ont même acheté et désactivé des technologies concurrentes afin de consolider leur domination. Nous avons absolument besoin d’une politique antitrust pour briser le pouvoir politique des grandes entreprises technologiques, un pouvoir qui s’est considérablement accru au cours des trente dernières années.
Mais je tiens aussi à souligner que la seule lutte antitrust ne suffit pas ; nous devons surtout rediriger la technologie vers des orientations socialement bénéfiques. Même si Meta était scindée en Facebook, Instagram et WhatsApp, cela ne suffirait pas à augmenter la concurrence ni à empêcher que le développement de l’IA soit dominé par quelques entreprises. Dans le domaine de l’IA, si l’on craint que les technologies soient utilisées à des fins de manipulation, de surveillance ou d’autres usages malveillants, la seule action antitrust ne sera pas une solution. Elle doit être combinée à un programme réglementaire plus large.
Technologie et humains : comment éviter de répéter les erreurs du passé
Q5 : Vous insistez constamment sur le concept d’« utilité des machines » (machine usefulness), c’est-à-dire « rendre les machines plus utiles aux êtres humains ». Comment pensez-vous atteindre cet objectif ? Quelles en seraient les conséquences si cet objectif n’était pas atteint ?
Acemoglu :
Cela rejoint les recommandations que j’adresse aux PDG. Ce que nous voulons, ce sont des machines capables d’élargir les capacités humaines. Sur ce point, l’IA offre de grandes possibilités. L’IA est une technologie de l’information, donc nous devrions réfléchir à quels types d’outils d’IA peuvent fournir aux décideurs humains des informations instantanées, utiles et adaptées au contexte. Nous pouvons utiliser ces outils pour faire des humains de meilleurs résolveurs de problèmes, capables d’exécuter des tâches plus complexes. Cela concerne non seulement les créatifs, chercheurs ou journalistes, mais aussi les travailleurs manuels, électriciens, plombiers, professionnels de santé et tous les autres métiers. Un meilleur accès à l’information permettrait de prendre des décisions plus avisées et d’exécuter des tâches de niveau supérieur : c’est précisément là que réside l’idée d’utilité des machines.
Q6 : Vous préconisez une imposition équitable du travail. Taxer les équipements et logiciels comme on taxe les employés humains, ou mener une réforme fiscale encourageant l’emploi plutôt que l’automatisation, sont-elles des solutions réellement applicables ?
Acemoglu :
Oui, Simon Johnson et moi-même proposons conjointement dans *Power and Progress* qu’un système fiscal plus juste puisse faire partie de la solution. Aux États-Unis, le taux marginal d’imposition supporté par les entreprises lorsqu’elles embauchent de la main-d’œuvre dépasse 30 %. En revanche, lorsqu’elles utilisent des équipements informatiques ou d’autres machines pour effectuer les mêmes tâches, ce taux est inférieur à 5 %. Cela crée une incitation excessive à l’automatisation, tout en freinant l’emploi et les investissements dans la formation et le capital humain. Rapprocher les taux marginaux d’imposition du capital et du travail vers un niveau identique est une idée politique raisonnable.
Q7 : Vous proposez une réforme fiscale destinée à encourager l’emploi plutôt que l’automatisation. Comment une telle réforme affecterait-elle l’application et l’investissement des entreprises dans les technologies d’automatisation ?
Acemoglu :
Il faut ici faire preuve de prudence pour ne pas décourager l’investissement, notamment dans des pays où une forte croissance est nécessaire, et où de nouveaux investissements sont requis dans des domaines comme les énergies renouvelables ou les technologies de santé. Mais si nous parvenons à orienter correctement le développement technologique, cela bénéficiera aussi aux entreprises. Mon idée est donc de supprimer les incitations excessives à l’automatisation, tout en veillant à ce que cela ne nuise pas globalement à l’investissement privé.
Q8 : Le développement rapide des plateformes sociales a entraîné certains effets négatifs, comme les bulles informationnelles et la propagation de fausses informations. Comment pouvons-nous éviter de répéter les mêmes erreurs dans le développement futur de l’intelligence artificielle ?
Acemoglu :
Trois principes peuvent aider à éviter de réitérer ces erreurs : (1) Prioriser l’utilité des machines, comme je le préconise ; (2) Renforcer le pouvoir des travailleurs et des citoyens, plutôt que de chercher à les manipuler ; (3) Mettre en place un cadre réglementaire plus solide, afin de tenir les entreprises technologiques responsables.
Technologie et industrie : une taxe sur la publicité numérique pour plus de concurrence
Q9 : Le spécialiste technologique Jaron Lanier insiste sur la question de la propriété des données des utilisateurs d’Internet. Selon vous, comment les politiques publiques peuvent-elles mieux protéger la propriété et le contrôle des données personnelles ?
Acemoglu :
Je pense que c’est une orientation importante. Premièrement, nous aurons besoin de plus en plus de données de haute qualité, et la meilleure façon de produire ces données est de récompenser ceux qui les créent. Un marché des données pourrait servir cet objectif. Deuxièmement, les données sont actuellement pillées par les entreprises technologiques, ce qui est injuste et inefficace.
Cependant, un marché des données ne fonctionne pas comme un marché de fruits : mes données peuvent souvent remplacer facilement les vôtres. Ainsi, si les entreprises technologiques négociaient individuellement l’achat de données avec chaque utilisateur, cela entraînerait une « course vers le bas » (race to the bottom), avec des coûts administratifs très élevés. Je pense donc que un marché des données bien fonctionnel nécessite une forme de propriété collective des données, comme des syndicats des données, des associations sectorielles ou d’autres formes d’organisations collectives.
Q10 : Que pensez-vous de l’introduction d’une taxe sur la publicité numérique afin de limiter la rentabilité des contenus erronés alimentés par les algorithmes ? Quel impact une telle politique fiscale pourrait-elle avoir sur l’industrie de la publicité numérique et la diffusion de l’information ?
Acemoglu :
Je suis favorable à une taxe sur la publicité numérique, car le modèle économique fondé sur celle-ci est hautement manipulateur. Il va de pair avec des stratégies visant à susciter la colère émotionnelle, l’addiction numérique, la jalousie extrême et les bulles informationnelles. Il est aussi compatible avec les modèles commerciaux exploitant les données personnelles, conduisant à des problèmes de santé mentale, à la polarisation sociale, à la diminution de la citoyenneté démocratique, etc.
Encore pire, si nous voulons, comme je le propose, rediriger le développement de l’IA, nous devons introduire de nouveaux modèles économiques et de nouvelles plateformes. Or, le modèle actuel basé sur la publicité numérique rend cela impossible. Impossible de lancer une nouvelle plateforme sociale basée sur les abonnements, impossible de reproduire le succès de Wikipédia, car vous êtes en concurrence avec des entreprises offrant des services gratuits et possédant une base clientèle massive. Je vois donc la taxe sur la publicité numérique comme un moyen de rendre le secteur technologique plus concurrentiel : si les méthodes « basses » consistant à capter les données utilisateurs et à en tirer profit via la publicité numérique pouvaient être freinées, de nouveaux modèles économiques et des produits plus diversifiés émergeraient.
Q11 : Pouvez-vous partager quelques exemples de changements positifs que pourrait apporter le développement technologique à l’avenir, ainsi que les moyens par lesquels nous devrions nous préparer et favoriser ces évolutions ?
Acemoglu :
Si nous utilisons correctement l’intelligence artificielle, nous pouvons améliorer les compétences professionnelles des travailleurs dans tous les secteurs, et aussi améliorer le processus de découverte scientifique. Je pense également qu’il existe des façons d’utiliser l’IA de manière démocratique.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
@thepapercn
