L’interdiction par le gouvernement américain des modèles d’Anthropic n’a absolument rien à voir avec une « évasion » (« jailbreak »).
TechFlow SélectionTechFlow Sélection
L’interdiction par le gouvernement américain des modèles d’Anthropic n’a absolument rien à voir avec une « évasion » (« jailbreak »).
Cet ordre du gouvernement Trump semble être une mesure de représailles.
Dédié à des analyses Web3 approfondiesAuteur : Zack Whittaker
Traduction et adaptation : TechFlow
Introduction de TechFlow : Vendredi dernier, une lettre du Département américain du Commerce a contraint Anthropic à retirer du marché ses deux modèles les plus puissants, Fable 5 et Mythos 5. Le motif invoqué par les autorités était la sécurité nationale ; l’opinion publique supposait qu’il s’agissait d’un contournement des dispositifs de sécurité intégrés aux modèles. Or, de plus en plus d’éléments convergent vers une autre explication : il s’agirait davantage d’une mesure de représailles suite à la rupture des relations entre Anthropic et l’administration Trump. Le fait qu’une entreprise technologique américaine soit contrainte, par simple injonction administrative et sans approbation judiciaire préalable, de retirer ses produits constitue un signal d’alerte pour l’ensemble du secteur technologique américain.
La lettre d’exécution émise par le gouvernement américain à l’encontre d’Anthropic, remise en fin de semaine, a forcé la société à désactiver immédiatement ses derniers modèles d’intelligence artificielle. Toute entreprise technologique américaine devrait considérer cet épisode comme une mise en garde — pas seulement les laboratoires spécialisés en IA.
Rappelons brièvement les faits récents. Vendredi après-midi, le Département américain du Commerce a adressé à Anthropic une lettre faisant référence à une disposition méconnue des réglementations sur les contrôles à l’exportation, interdisant tout accès aux modèles Fable 5 et Mythos 5 par des personnes non américaines (y compris les employés d’Anthropic eux-mêmes), au motif d’un « risque pour la sécurité nationale » dont la nature précise n’a pas été précisée. Anthropic estime que cette lettre pourrait être liée à un contournement présumé des dispositifs de sécurité des modèles, mais elle ne peut l’affirmer avec certitude, car la lettre ne fournit aucun détail concret. À ce jour, ce courrier n’a pas été rendu public.
En réponse, Anthropic a suspendu l’accès à ces deux modèles de pointe pour l’ensemble de ses clients, afin de se conformer strictement à la demande. Le résultat est qu’un acte rapide, unilatéral et apparemment exempt de toute validation judiciaire a permis au gouvernement américain de contraindre une entreprise technologique à retirer ses modèles du marché.
Cette intervention de l’administration Trump démontre clairement que le secteur de l’IA n’est pas à l’abri de l’ingérence gouvernementale. Pour le secteur technologique dans son ensemble, cela constitue également un avertissement sans équivoque : « Soit vous obéissez, soit nous pouvons vous neutraliser, vous et vos produits. »
Axios, citant des sources bien informées, décrit les tensions qui ont marqué ce week-end entre les deux principaux acteurs concernés, indiquant que la véritable cause de cette mesure d’interdiction à l’exportation n’est pas un problème technique inhérent aux produits d’IA, mais plutôt une « incompatibilité de tempérament » entre Anthropic et l’administration Trump.
De nouveaux éléments apparus durant le week-end affaiblissent encore davantage les justifications déjà fragiles avancées par le gouvernement.
Katie Moussouris, spécialiste chevronnée de la cybersécurité, chercheuse et fondatrice de Luta Security, explique dans un billet de blog qu’Anthropic lui a récemment présenté, de manière confidentielle, un article rédigé par plusieurs chercheurs en sécurité, décrivant le prétendu contournement des dispositifs de sécurité de Fable 5. (Selon le Wall Street Journal, les auteurs de cet article sont des chercheurs en sécurité d’Amazon.) Moussouris précise qu’Anthropic l’avait sollicitée afin d’obtenir son avis sur cet article.
Dans son billet, Moussouris décrit la méthode utilisée par les chercheurs pour déclencher ce contournement des dispositifs de sécurité, mais elle affirme que ce type de contournement « ne devrait en aucun cas entraîner l’application de mesures de contrôle à l’exportation ». La différence est minime : demander à une IA « d’identifier les failles de sécurité dans un code » ou de « corriger ce code » produit globalement le même résultat, selon elle.
« Le comportement décrit dans l’article ne peut pas être véritablement corrigé ; toute tentative dans ce sens ne ferait que réduire les capacités défensives du modèle », affirme Moussouris, qui critique violemment cette mesure de contrôle à l’exportation, qualifiée de « précipitée, brutale et fondamentalement mal ciblée ».
Par la suite, Moussouris, accompagnée de dizaines de chercheurs et experts de premier plan en cybersécurité, a appelé l’administration Trump à annuler cette mesure de contrôle à l’exportation, estimant qu’il serait « dangereux » de priver les défenseurs américains de la cybersécurité de capacités avancées dans ce domaine.
Au fil des administrations, des décisions trop simplistes ont souvent été prises dans des domaines où les décideurs manquaient de compétence technique. Par exemple, lors de la révision de la législation sur les exportations dans les années 2010, le gouvernement américain avait cherché à encadrer les outils de cybersécurité pouvant servir aussi bien à la défense qu’à l’attaque, mais la formulation trop large de la loi avait failli rendre illégales, par inadvertance, les recherches légitimes en matière de sécurité et d’identification de vulnérabilités.
Mais la décision de l’administration Trump semble bien relever d’une mesure de représailles.
Justin Hendrix, rédacteur en chef de Tech Policy Press, estime que cette manœuvre de l’administration Trump « risque fort de faire naître chez les gouvernements étrangers des doutes quant à la fiabilité des systèmes d’IA américains dans des scénarios critiques ». Le message implicite est le suivant : les entreprises américaines spécialisées en IA ne peuvent pas fonctionner sans subir l’ingérence directe du gouvernement américain.
L’administration Trump n’a pas précisé les motifs ayant conduit à l’application de cette mesure de contrôle à l’exportation. Des responsables auraient-ils mal interprété le rapport en question, provoquant ainsi une réaction disproportionnée ? Le PDG d’Amazon, Andy Jassy, aurait-il, par souci de prudence ou par animosité personnelle, alerté des hauts responsables gouvernementaux, déclenchant cette réaction ? S’agit-il d’un simple malentendu de traduction, ou cette mesure constitue-t-elle un moyen de pression exercé contre Anthropic — d’autant plus que les relations entre les deux parties étaient déjà très tendues ? Il est également possible que la Maison Blanche n’ait pas anticipé les répercussions en chaîne suscitées par cette lettre, et que ses responsables soient désormais en train de tenter de limiter les dégâts causés par leur propre initiative.
Pour reprendre les propos de Hendrix, « l’atmosphère actuelle est empreinte de suspicion, et les hauts responsables semblent choisir leurs favoris sur la base de critères personnels et politiques ». En conséquence, le gouvernement établit ainsi un précédent dangereux concernant « l’étendue du contrôle qu’il entend exercer sur les logiciels développés aux États-Unis ».
Cette fois, c’est Anthropic qui a été visée par le gouvernement ; demain, ce pourrait être n’importe quelle autre entreprise.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
TechCrunch
