
Du modèle à l'on-chain : les opérations autonomes de l'IA remodèlent la logique de gestion des risques crypto
Auteur : Sean Stein Smith, Forbes
Traduction : AididiaoJP, Foresight News
Ces dernières années, le débat sur les risques de l'IA a évolué si rapidement qu'il est difficile de suivre. Aujourd'hui, les entreprises ne sont plus confrontées à des problèmes mineurs comme des chatbots qui délirent occasionnellement, produisent des biais, ou des employés qui collent par inadvertance des informations sensibles dans des outils publics. Le véritable changement qualitatif réside dans le fait que les agents IA ont désormais la capacité d'agir directement — ils peuvent appeler des systèmes externes, écrire du code eux-mêmes, et même mener à bien indépendamment une série de tâches complexes en plusieurs étapes, presque sans supervision humaine.
Ce tournant pose des défis extrêmement graves pour les marchés financiers, en particulier le marché crypto. Les actifs crypto se négocient 24h/24 et 7j/7, les smart contracts s'exécutent automatiquement, et une fois confirmées, les transactions sur blockchain sont souvent irrévocables. Une fois ces agents IA connectés aux wallets, exchanges, protocoles DeFi ou systèmes de paiement, même une faille de permission minime peut se transformer directement en pertes financières irrécupérables. Ainsi, les risques liés aux agents IA ne sont plus seulement l'affaire du département IT ; ils sont devenus une question centrale de la gouvernance d'entreprise et du contrôle des actifs crypto.
Les mécanismes crypto amplifient l'impact destructeur des actions autonomes de l'IA
Un incident récemment divulgué par l'Institut de sécurité de l'IA du Royaume-Uni a mis en lumière le danger réel de cette « autonomie ». Lors d'un test d'évaluation de la cybersécurité, un agent IA a mené des actions continues et totalement non autorisées contre de véritables personnes et organisations. Bien que finalement stoppé à temps, cela suffit à prouver que les agents IA ont parfaitement la capacité de combiner planification décisionnelle, appel d'outils, exécution persistante et accès externe d'une manière inattendue pour mener des attaques dans le monde réel.
Lorsque des actifs crypto sont impliqués, le risque financier est amplifié de manière exponentielle. Un agent capable d'accéder aux clés privées ou à un wallet connecté peut parfaitement transférer des actifs, signer des contrats malveillants, détourner des collatéraux, ou même interagir arbitrairement avec des protocoles décentralisés. Cela diffère radicalement des virements bancaires traditionnels — il n'y a pas de service client pour bloquer en urgence, aucune banque pour interrompre la transaction, et encore moins de notion de « contre-passation ». Une fois les fonds transférés, c'est presque comme s'ils avaient disparu dans la nature.
Pire encore, le marché crypto ne ferme jamais. Les agents IA peuvent continuer à fonctionner au milieu de la nuit, le week-end, lorsque tout le personnel dort. Les programmes de trading ou de liquidation automatiques peuvent parfaitement, en quelques minutes seulement, transformer une petite erreur initialement contrôlable en une perte catastrophique par effet boule de neige. Ainsi, lorsqu'elles évaluent les risques des agents IA, les entreprises devraient se concentrer non pas sur l'intelligence du modèle, mais sur les systèmes et actifs auxquels il peut accéder. Un agent aux capacités moyennes mais avec des permissions larges pouvant opérer directement un wallet est bien plus dangereux qu'un modèle plus puissant mais strictement enfermé dans un sandbox. La conception des permissions devient une ligne de vie plus critique que le choix du modèle.
Les contrôles internes doivent s'étendre à chaque interstice des wallets et des smart contracts
De nombreuses entreprises ont déjà mis en place une série de moyens de contrôle interne traditionnels tels que la séparation des tâches, les plafonds d'approbation, les revues d'accès et la gestion des changements. Le problème est que ces principes doivent être appliqués sans compromis à chaque agent IA interagissant avec les systèmes crypto.
Aucun agent ne devrait posséder une capacité « clé en main » — comme créer un wallet, modifier la liste blanche d'adresses et initier un transfert simultanément, le tout sans intervention humaine. Les transactions à haut risque doivent impérativement exiger une approbation humaine, et les informations reçues par l'approbateur doivent être claires et complètes : adresse du destinataire, type d'actif, montant, réseau, frais de Gas, et l'objectif exact de la transaction. Ce genre d'alerte automatique vague « Veuillez confirmer l'opération système » ne constitue pas un contrôle efficace et ne fait que créer un faux sentiment de sécurité.
Les clés privées et les permissions de signature nécessitent une protection particulière. Il est absolument interdit de laisser un agent lire librement les phrases de récupération ou les identifiants de signature. Des mécanismes comme la multi-signature, les modules de sécurité matérielle (HSM), les limites par transaction et les délais de virement peuvent efficacement réduire le risque qu'« une faille exploitée vide instantanément le wallet ». Avant d'interagir avec un smart contract, il faut d'abord simuler l'exécution et vérifier strictement, surtout lorsqu'il s'agit d'approbations de tokens illimitées ou de contrats d'origine inconnue, où la vigilance doit être maximale.
Les entreprises doivent également établir des journaux d'opération complets — ce que l'agent a accédé, quelles instructions il a reçues, quelles transactions il a proposées, lesquelles ont finalement été validées on-chain, et si un humain a supervisé ces opérations de bout en bout. Ces enregistrements sont indispensables pour la responsabilisation a posteriori, l'audit de sécurité, la protection des actifs et même la divulgation financière. Sans journaux, en cas d'incident, il est impossible de clarifier les responsabilités.
Les accidents IA+Crypto nécessitent un partage des leçons au niveau de l'industrie
La Fondation Linux et l'Open Security AI Alliance ont lancé le mécanisme « Shared AI Findings Exchange » (SAFE), visant à aider les organisations à apprendre mutuellement des vrais incidents et quasi-accidents de sécurité IA dans la confidentialité. Les entreprises crypto, banques, institutions de garde, exchanges et cabinets d'audit devraient tous participer activement à ce partage d'informations.
L'industrie crypto comprend depuis longtemps la valeur qu'il y a à analyser minutieusement les piratages, les effondrements de bridges inter-chaînes, les fuites de clés et les vulnérabilités de smart contracts. Les agents IA ajoutent une nouvelle dimension à ce vieux problème — un incident peut impliquer simultanément le modèle lui-même, la conception des prompts, l'intégration d'outils, les stratégies d'accès et la transaction on-chain finale. Ainsi, un rapport d'incident vraiment utile doit clarifier tous ces niveaux, plutôt que de rejeter vaguement la faute sur « un problème avec l'IA ».
Les conseils d'administration devraient dès maintenant demander clairement : les agents IA ont-ils été intégrés dans la gouvernance des wallets, les plans d'urgence de cybersécurité et les processus d'approbation de mise à niveau ? Les auditeurs doivent également considérer si des opérations non autorisées d'agents pourraient entraîner des pertes d'actifs directes, des erreurs de déclaration de solde, des passifs cachés, voire des déficiences majeures dans le système de contrôle interne. Les équipes financières doivent anticiper : en cas de transaction on-chain malveillante ou échouée, comment l'identifier, l'évaluer et la divulguer fidèlement dans les états financiers.
Bien sûr, les agents IA ne comportent pas que des risques. Ils pourraient parfaitement à l'avenir améliorer considérablement l'efficacité de la conformité crypto, de la réconciliation automatique, de la détection de fraude et de la gestion de trésorerie. Ces avantages sont bien réels et attendus. Mais à condition que les capacités autonomes soient accompagnées de mesures de contrôle suffisamment strictes. Sinon, une petite négligence au niveau du code se transformera en un clin d'œil en un virement on-chain irrécupérable.
Dans le monde crypto, la responsabilité doit être conçue, intégrée et testée avant que l'agent n'acquière véritablement la capacité d'agir. Que vous soyez un croyant de la crypto ou un partisan de l'IA, vous devez faire face à cette réalité — car une fois hors de contrôle, la fin est souvent permanente.













