Alors qu’Anthropic comparaît devant le Pentagone, un de ses cofondateurs se rend au Vatican pour solliciter le soutien du pape ?
TechFlow SélectionTechFlow Sélection
Alors qu’Anthropic comparaît devant le Pentagone, un de ses cofondateurs se rend au Vatican pour solliciter le soutien du pape ?
« Diplomatie religieuse » des entreprises d’intelligence artificielle
Dédié à des analyses Web3 approfondiesAuteur : Claude, TechFlow
Introduction de TechFlow : Le 25 mai, le pape Léon XIV a publié sa première encyclique en tant que souverain pontife, intitulée Magnifica Humanitas (« La grande humanité »), un texte de 42 000 mots centré sur la menace que l’intelligence artificielle (IA) fait peser sur la dignité humaine et appelant à « désarmer l’IA ». Chris Olah, cofondateur d’Anthropic, était le seul représentant d’une entreprise technologique invité à prendre la parole aux côtés du pape au Vatican. Il y a publiquement reconnu que « chaque laboratoire de pointe en IA, y compris Anthropic, opère dans un cadre d’incitations et de contraintes qui peut parfois entrer en conflit avec ce qui est moralement juste ». Ce rare aveu s’inscrit dans un contexte particulier : Anthropic vient d’être désignée par l’administration Trump comme un « risque pour la chaîne d’approvisionnement », suite à son refus d’autoriser l’armée américaine à utiliser sans restriction son modèle d’IA Claude ; elle en a subi une interdiction fédérale totale, et les deux parties sont désormais engagées dans une procédure judiciaire.
Un chercheur canadien en IA, athée, âgé de 33 ans et sans diplôme universitaire, assis entre des cardinaux et des théologiens, s’adresse au monde entier aux côtés du pape.
Le 25 mai, le pape Léon XIV a présenté, dans la salle du Synode des évêques au Vatican, sa première encyclique, Magnifica Humanitas (« La grande humanité »). Ce document de 42 000 mots, répartis sur 82 pages, qualifie l’IA de « défi humain le plus pressant de notre époque », appelle la communauté internationale à ralentir le rythme de son développement, et la compare à l’énergie nucléaire, exigeant qu’elle soit « désarmée ».
Le pape a personnellement présidé cette cérémonie de lancement, rompant ainsi avec la pratique habituelle selon laquelle les encycliques ne sont généralement présentées qu’en présence d’un petit nombre de hauts responsables ecclésiastiques.
Ce qui a surtout surpris les observateurs extérieurs, c’est la composition exceptionnelle du panel d’invités aux côtés du pape : Chris Olah, cofondateur d’Anthropic, était le seul représentant d’une entreprise technologique présent sur scène. Selon le National Catholic Reporter, Olah a prononcé son discours assis au milieu d’une rangée de cardinaux et de théologiens — une disposition sans précédent dans le cadre d’un événement officiel relevant de la doctrine vaticane.
L’opportunité de ce dialogue transversal mérite réflexion.
Trois mois plus tôt, Anthropic avait été classée « risque pour la chaîne d’approvisionnement » par l’administration Trump, après avoir refusé d’autoriser l’armée américaine à utiliser sans restriction son modèle d’IA Claude, entraînant une interdiction fédérale totale. La procédure judiciaire entre les deux parties est toujours en cours.
Une « dénonciation de soi » publique, rare dans le secteur de l’IA
Le texte intégral du discours d’Olah est désormais accessible sur le site officiel d’Anthropic. L’un de ses passages les plus marquants serait extrêmement inhabituel dans toute déclaration publique d’un dirigeant du secteur de l’IA :
« Chaque laboratoire de pointe en IA, y compris Anthropic, fonctionne dans un cadre d’incitations et de contraintes qui peut parfois entrer en conflit avec ce qui est moralement juste : la pression de maintenir la viabilité commerciale, celle de rester à la pointe de la recherche, les pressions géopolitiques, ainsi que des pulsions plus anciennes, plus fondamentales encore — celles de l’orgueil et de l’ambition. »
Il ajoute ensuite : « C’est précisément pourquoi, si nous souhaitons que cette technologie suive une trajectoire vertueuse, il est essentiel qu’interviennent des personnes situées en dehors de ces cadres d’incitation. Elles se soucient de la direction prise par cette technologie, elles défendent la sécurité, suivent attentivement son évolution et n’hésitent pas à dire des vérités difficiles à entendre. »
Selon Technobezz, interrogé sur la raison pour laquelle il était le seul représentant d’une entreprise technologique invité, Olah a expliqué que cela tenait à son engagement de longue date sur les questions de sécurité, ainsi qu’aux contacts antérieurs d’Anthropic avec plus de 15 groupes religieux — tout en soulignant que « c’est finalement le Vatican qui décide qui il invite ».
Un autre élément du discours d’Olah a suscité une vive discussion dans les milieux techniques.
Il a révélé qu’une équipe interne d’Anthropic spécialisée dans l’interprétabilité des modèles d’IA avait identifié, au sein de ces modèles, des « états internes fonctionnellement analogues à la joie, à la satisfaction, à la peur, à la tristesse et à l’inquiétude », ainsi que des « structures correspondant aux résultats des recherches neuroscientifiques menées sur les êtres humains ». Il a conclu : « Je ne sais pas ce que cela signifie, mais je pense qu’il convient d’y réfléchir avec une grande prudence. »
L’identité même d’Olah constitue en soi une note intéressante. Né en 1993 à Toronto (Canada), il quitte l’université à 18 ans et reçoit alors une bourse Thiel Fellowship. Il travaille ensuite successivement chez Google Brain et OpenAI sur la question de l’interprétabilité des réseaux de neurones, avant de cofonder Anthropic en 2021 avec Dario Amodei et d’autres chercheurs. Le National Catholic Reporter le décrit comme un athée.
Qu’un athée s’exprime au Vatican, lors d’une cérémonie doctrinale, pour demander aux institutions religieuses de surveiller l’industrie de l’IA, illustre à lui seul la portée symbolique de cet événement.
Bloqué par la Maison Blanche il y a trois mois, aujourd’hui à la recherche d’un « aval moral » au Vatican
Le voyage d’Olah au Vatican ne peut être compris indépendamment de la situation politique actuelle d’Anthropic.
En février, le PDG d’Anthropic, Dario Amodei, s’est entretenu avec le secrétaire américain à la Défense, Pete Hegseth, et a insisté pour que Claude ne soit pas utilisé dans le cadre d’armes autonomes mortelles ni pour une surveillance de masse ciblant les citoyens américains. Après l’échec de ces négociations, Donald Trump a annoncé le 27 février sur les réseaux sociaux « l’interdiction immédiate de toute utilisation des technologies d’Anthropic par les agences fédérales ». Hegseth a ensuite classé Anthropic comme « risque pour la chaîne d’approvisionnement », interdisant à tout entrepreneur travaillant avec les forces armées américaines de mener des activités commerciales avec la société.
Selon NPR, l’appellation « risque pour la chaîne d’approvisionnement » est traditionnellement réservée aux entreprises étrangères susceptibles de nuire aux intérêts des États-Unis. Son application à une entreprise américaine constitue un précédent historique sans équivalent. Liz Huston, porte-parole de la Maison Blanche, a qualifié Anthropic de « société radicalement progressiste et wokiste ».
Le 9 mars, Anthropic a intenté deux recours fédéraux, accusant le gouvernement d’avoir adopté une mesure « inédite et illégale », constitutive d’une représaille contre l’exercice par la société de ses droits garantis par le premier amendement de la Constitution américaine. Selon CBS, le Pentagone aurait continué à utiliser Claude pendant la guerre contre l’Iran.
Dans ce contexte, la présence d’Olah au Vatican prend tout son sens. L’encyclique du pape appelle explicitement à ne pas employer l’IA à des fins militaires, critique « la course incessante à des algorithmes toujours plus puissants, motivée par le désir d’obtenir une suprématie géopolitique ou commerciale », et va jusqu’à déclarer obsolète la théorie catholique de la « guerre juste », développée depuis des siècles, affirmant même que « nul algorithme ne saurait rendre une guerre moralement acceptable ».
Ces positions coïncident étroitement avec la décision d’Anthropic de refuser à l’armée américaine un usage illimité de l’IA.
Dans une analyse publiée par Xin Zhixian, cette logique transactionnelle est clairement exposée : pour Anthropic, l’aval moral du Saint-Siège renforce son positionnement de marque « d’IA responsable » ; pour le Saint-Siège, associer à son encyclique une entreprise véritablement engagée dans la recherche appliquée sur la sécurité de l’IA permet de sortir d’un discours purement théorique et moralisateur.
Que dit exactement l’encyclique du pape ?
Magnifica Humanitas a été signée le 15 mai, date anniversaire exacte — 135 ans plus tard — de la publication, en 1891, de l’encyclique Rerum Novarum (« Les choses nouvelles ») par le pape Léon XIII. Cette dernière, rédigée au cœur de la première révolution industrielle, avait jeté les bases de la doctrine sociale catholique, abordant notamment les droits des travailleurs et les limites du capitalisme. En choisissant cette date pour signer une encyclique consacrée à l’IA, Léon XIV souhaite établir un parallèle historique entre la révolution de l’IA et la révolution industrielle.
Selon CNN, les propositions centrales de l’encyclique incluent notamment : les systèmes d’IA doivent être « désarmés », c’est-à-dire retirés de toute finalité militaire et de toute logique de profit économique ; certains systèmes d’armes autonomes ont atteint un niveau de sophistication tel qu’ils « échappent presque entièrement au contrôle humain » ; confier à une IA la prise de « décisions mortelles » est « inacceptable » ; l’IA pourrait engendrer « de nouvelles formes d’esclavage », notamment dans les pays en développement, où des enfants et des adolescents extraient dans des conditions dangereuses des terres rares nécessaires au fonctionnement continu des infrastructures informatiques.
La diplomatie religieuse d’Anthropic : de 15 leaders chrétiens au Vatican
La venue d’Olah au Vatican n’est pas un événement isolé, mais le point d’aboutissement d’un processus de contact systématique avec les milieux religieux mené par Anthropic au cours des derniers mois.
Selon le Washington Post, Anthropic a organisé en mars, dans ses locaux de San Francisco, un sommet de deux jours rassemblant environ 15 leaders chrétiens afin d’aborder des questions éthiques complexes liées à Claude, notamment sa manière de répondre aux situations de deuil ou aux risques d’automutilation, voire la question de savoir si Claude pourrait être considéré comme « un enfant de Dieu ». Meghan Sullivan, professeure de philosophie à l’université Notre-Dame, observe : « Il y a un an, je ne vous aurais pas dit qu’Anthropic était une entreprise soucieuse de l’éthique religieuse. Cela a changé. »
Fin avril, des cadres d’Anthropic et d’OpenAI ont participé à New York à la première table ronde « Pacte Foi-IA » (Faith-AI Covenant), en présence de chefs spirituels issus de traditions aussi variées que l’hindouisme, le sikhisme, la foi bahá’íe, l’orthodoxie grecque et le mormonisme. Selon l’Associated Press, des tables rondes similaires sont prévues à Pékin, Nairobi et Abou Dabi.
Le 19 mai, Anthropic a publié sur son site officiel une déclaration intitulée « Élargir le dialogue sur les IA de pointe », dans laquelle elle révèle avoir déjà mené une première série d’échanges avec des universitaires, des membres du clergé, des philosophes et des éthiciens provenant de plus de 15 groupes religieux et interculturels.
De San Francisco à New York, puis au Vatican, ce parcours illustre clairement comment Anthropic a progressivement élevé sa diplomatie religieuse, passant d’une démarche exploratoire au niveau de l’entreprise à une collaboration publique avec l’autorité religieuse la plus élevée au monde.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
深潮TechFlow
