Les infractions liées aux grands modèles pointeraient-elles vers la blockchain ? Il ne faut pas négliger les nouveaux types de criminalité
TechFlow SélectionTechFlow Sélection
Les infractions liées aux grands modèles pointeraient-elles vers la blockchain ? Il ne faut pas négliger les nouveaux types de criminalité
Le développement de l'IA et de la blockchain permet aux groupes de fraudeurs et aux pirates malveillants d'obtenir davantage de profits illégaux dans des conditions plus discrètes et avec des exigences réduites.
Dédié à des analyses Web3 approfondiesRédaction : Équipe de Xiao Sa
Avec le développement rapide des contenus générés par l'intelligence artificielle (AIGC) et des grands modèles linguistiques (LLMs), la technologie a profondément transformé notre vie quotidienne et nos méthodes de travail, augmentant considérablement notre efficacité dans des domaines tels que la programmation, l'analyse de données et la création de contenu. Toutefois, ces progrès ont également favorisé l'émergence de nouvelles formes de criminalité technologique, comme la technologie Deepfake, capable de synthétiser des visages et des voix réalistes pour tromper les systèmes d'authentification faciale. Désormais, grâce à l'avancée technologique, les groupes de fraude peuvent commettre des escroqueries plus sophistiquées, rentables et à moindre coût, telles que le vol de fonds par piratage malveillant ou le détournement de cryptomonnaies. En outre, l'utilisation de la technologie blockchain rend encore plus difficile le traçage et l'identification de ces criminels.
Dans ce contexte, nous pouvons entendre certains termes à la fois familiers et inquiétants, tels que « WormGPT » et « FraudGPT ». Ce sont des AIGC développés en même temps ou peu après ChatGPT, mais qui symbolisent des systèmes d'intelligence artificielle conçus à des fins malveillantes. Par exemple, « WormGPT » pourrait désigner un logiciel malveillant capable de s'auto-reproduire et de se propager, utilisant potentiellement des technologies similaires à celles des grands modèles linguistiques pour identifier et exploiter les vulnérabilités des systèmes. Quant à « FraudGPT », il représenterait un système d'intelligence artificielle spécialisé dans les activités frauduleuses, capable d'imiter le mode de communication humain afin de manipuler ses victimes. Ainsi, face à l'évolution technologique, nous devons redoubler de vigilance contre les abus et actes criminels potentiels.
Les nouveaux crimes nés des grands modèles
Le phishing (hameçonnage) constitue une méthode d'escroquerie relativement courante et peu coûteuse, étendue grâce à ces nouvelles technologies. Au début de cette année, un bureau hongkongais d'une entreprise multinationale a été victime d'une escroquerie sophistiquée par virement électronique. Des pirates informatiques ont utilisé une technique de falsification profonde (deepfake) basée sur l'intelligence artificielle de pointe pour détourner 200 millions de dollars HK (environ 25,6 millions de dollars US). Un employé du service financier de l'entreprise a reçu un e-mail de phishing semblant provenir du directeur financier basé au Royaume-Uni, lui demandant d'exécuter une transaction confidentielle. Bien que l'employé ait initialement eu des doutes, la participation lors d'une vidéoconférence collective d'un « directeur financier » et de plusieurs « collègues » a dissipé ses craintes. Il a alors effectué 15 virements vers cinq comptes bancaires différents à Hong Kong, totalisant 200 millions de dollars HK. Or, toutes ces vidéos étaient des synthèses réalisées via la technologie Deepfake. Ce n'est qu'après environ une semaine que les employés ont réalisé qu'ils avaient été victimes d'une escroquerie soigneusement planifiée.
Au-delà des escroqueries, les hackers surfent aussi sur la vague des grands modèles pour intensifier leurs attaques. Ces attaquants savent désormais qu'avoir le contrôle de la puissance de calcul de l'IA équivaut à détenir la clé du développement technologique futur. Les clusters de GPU haut de gamme sont donc devenus des cibles très convoitées, car ces ressources sont essentielles pour exécuter des tâches complexes de machine learning et de deep learning. Et pour combattre l'IA, il faut encore l'IA : en seulement un an, les attaquants ont développé, grâce aux grands modèles, des dizaines de méthodes d'attaque différentes, incluant notamment le phishing, les logiciels malveillants, les attaques par déni de service distribué (DDoS) ou encore les attaques de la chaîne d'approvisionnement, toutes visant à infiltrer et contrôler les infrastructures de calcul IA. Par exemple, au début de cette année, des milliers de serveurs appartenant à une entreprise américaine ont été piratés, et leur puissance de calcul a été utilisée par des hackers pour miner du Bitcoin, ralentissant considérablement la réponse aux requêtes normales des utilisateurs.
Prévention des nouveaux crimes
Face aux crimes liés aux grands modèles, les particuliers et les entreprises doivent adopter une série de mesures concrètes pour renforcer leur capacité de prévention. Pour les particuliers, il est essentiel de renforcer sa vigilance en matière de cybersécurité, de rester méfiant face à toute demande d'informations personnelles ou de transactions financières, d'éviter d'effectuer des opérations sensibles dans des environnements réseau non sécurisés, et de ne pas divulguer facilement des données traçables telles que le visage, les empreintes digitales, l'iris ou la voix. La semaine dernière, le projet de cryptomonnaie Worldcoin a suscité une controverse à Hong Kong concernant la protection de la vie privée. Porté notamment par Sam Altman, cofondateur d'OpenAI, ce projet vise à offrir des services financiers aux populations non bancarisées grâce à une technologie de numérisation de l'iris. Cependant, la Commission chargée de la protection des données personnelles de Hong Kong a constaté que Worldcoin avait violé la réglementation sur la vie privée en collectant des données personnelles sans suffisamment informer les participants des objectifs et des risques liés à cette collecte, et sans fournir de déclaration de confidentialité ni de formulaire de consentement aux données biométriques en chinois. Finalement, Worldcoin s'est vu interdire d'utiliser à Hong Kong des dispositifs de numérisation de l'iris pour collecter les images de l'iris et du visage des citoyens. Chaque individu doit donc traiter ses informations sensibles avec davantage de prudence et éviter de participer à des projets susceptibles d'atteindre à sa vie privée sans en comprendre clairement les politiques de confidentialité. Par ailleurs, les entreprises concevant ou mettant en œuvre des systèmes ou services impliquant la collecte de données personnelles doivent respecter strictement des lois telles que la « Loi sur la protection des informations personnelles », en garantissant transparence et conformité.
Pour les entreprises, il convient d'élaborer une stratégie complète de cybersécurité, incluant notamment le chiffrement des données, le contrôle des accès et la surveillance de sécurité réseau. Toutefois, avec l'évolution des grands modèles et la sophistication croissante des techniques d'escroquerie, il deviendra de plus en plus difficile de repérer manuellement les tentatives de fraude. Ainsi, les entreprises peuvent envisager d'utiliser l'IA contre elle-même, en déployant des technologies d'intelligence artificielle pour la surveillance de sécurité, par exemple en adoptant un « grand modèle anti-fraude » similaire à celui mis en place par Shanghai Telecom, capable d'analyser en temps réel et d'émettre des alertes précoces afin d'identifier rapidement et de répondre aux menaces potentielles. Par ailleurs, former régulièrement les employés à la cybersécurité pour améliorer leur capacité à reconnaître et à faire face aux escroqueries en ligne constitue également une étape cruciale dans la prévention des crimes liés aux grands modèles.
Pour conclure
Le développement de l'IA et de la blockchain permet aux groupes d'escrocs et aux hackers malveillants de tirer des profits illégaux plus importants, tout en étant plus discrets et moins dépendants de ressources élevées. Pour les particuliers, la prudence dans le monde numérique peut réduire dans une certaine mesure le risque d'être victime d'escroqueries. Pour les entreprises, en revanche, contrer avec précision les tentatives de fraude et d'intrusion devient de plus en plus complexe. Dans la pratique, tant les particuliers que les entreprises doivent continuellement surveiller l'évolution des menaces en cybersécurité, actualiser et améliorer leurs stratégies de prévention, et, si nécessaire, recourir à l'IA pour mener des opérations anti-fraude. Grâce à ces mesures intégrées, particuliers et entreprises peuvent significativement renforcer leur résilience face aux crimes liés aux grands modèles, réduire les risques potentiels et assurer la sécurité de leurs actifs informationnels.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
