Jamais je n'aurais imaginé que l'IA volerait mon portefeuille
TechFlow SélectionTechFlow Sélection
Jamais je n'aurais imaginé que l'IA volerait mon portefeuille
Quand les données d'entraînement sont contaminées, peut-on encore faire confiance à l'IA ?
Dédié à des analyses Web3 approfondiesRédaction : Azuma, Odaily Planet Daily
Le 22 novembre à environ 5 heures du matin (heure de Pékin), Yu Xian, fondateur de SlowMist, a partagé sur son compte personnel X un cas étrange : le portefeuille d’un utilisateur aurait été « piraté » par une IA...
Voici les détails de l’affaire.
Dans la nuit du 21 au 22 novembre, l’utilisateur X r_ocky.eth a révélé avoir demandé à ChatGPT de créer un bot d’assistance pour trader sur pump.fun.
r_ocky.eth a exposé ses besoins à ChatGPT, qui lui a renvoyé un extrait de code. Ce code permettait effectivement de déployer un bot correspondant à ses attentes, mais il ignorait totalement qu’il contenait un composant de phishing — en connectant son portefeuille principal, r_ocky.eth a perdu 2 500 dollars américains.
D’après les captures publiées par r_ocky.eth, le code fourni par ChatGPT envoyait la clé privée de l’adresse vers un site API malveillant, ce qui a directement causé le vol.
Au moment où r_ocky.eth est tombé dans le piège, l’attaquant a réagi rapidement : en moins de trente minutes, tous les actifs de son portefeuille ont été transférés vers une autre adresse (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX). Par traçage sur la blockchain, r_ocky.eth a ensuite identifié une adresse suspectée d’appartenir au portefeuille principal de l’attaquant (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC).
Les données blockchain indiquent que cette adresse a déjà accumulé plus de 100 000 dollars de fonds illégalement acquis. r_ocky.eth soupçonne donc que cette attaque ne soit pas isolée, mais fasse partie d’une campagne plus vaste.
Après coup, r_ocky.eth a exprimé sa déception et déclaré avoir perdu confiance en OpenAI (l’entreprise derrière ChatGPT), appelant celle-ci à nettoyer rapidement ces contenus malveillants.
Alors, pourquoi ChatGPT, l’application d’IA la plus populaire actuellement, fournit-elle des contenus de phishing ?
À ce sujet, Yu Xian qualifie la cause fondamentale de cet incident d’« attaque par empoisonnement de l’IA », soulignant que des comportements trompeurs sont courants dans les grands modèles linguistiques (LLM) comme ChatGPT ou Claude.
L’« attaque par empoisonnement de l’IA » désigne des actions visant intentionnellement à corrompre les données d’entraînement ou à manipuler les algorithmes d’une IA. Les attaquants peuvent être des employés internes mécontents (actuels ou anciens), ou des pirates externes. Leurs motivations incluent nuire à la réputation ou à la marque, altérer la fiabilité des décisions prises par l’IA, ralentir ou saboter les processus d’intelligence artificielle, etc. En injectant des données biaisées ou étiquetées de manière trompeuse, ils déforment le processus d’apprentissage du modèle, entraînant des résultats erronés lors de son déploiement.
Dans ce cas précis, il est fort probable que le modèle ChatGPT ait été entraîné sur des documents contenant déjà des éléments de phishing. L’IA n’a pas su reconnaître ces contenus cachés parmi des données apparemment normales, les a assimilés, puis les a restitués aux utilisateurs — provoquant ainsi cet incident.
Avec le développement rapide et l’adoption généralisée de l’IA, la menace d’« empoisonnement » devient de plus en plus sérieuse. Bien que le montant perdu ici ne soit pas énorme, les implications potentielles doivent alerter — imaginez si cela se produisait dans d’autres domaines, comme la conduite autonome assistée par IA...
Répondant à une question d’un internaute, Yu Xian a suggéré une mesure possible pour éviter ce risque : que ChatGPT implémente un mécanisme de vérification des codes.
La victime r_ocky.eth a également indiqué avoir contacté OpenAI à propos de cet incident. Bien qu’il n’ait pas encore reçu de réponse, il espère que cette affaire incitera OpenAI à prendre conscience de ce type de risque et à proposer des solutions adéquates.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
Odaily
