Selon TechFlow, le 5 juillet, d'après un reportage de Red Star News, un rapport d'enquête divulgué depuis un parc de fraude au Myanmar révèle que la fraude téléphonique mondiale accélère sa transition vers un système « industrialisation de l'IA + paiement crypto transfrontalier ». Les réseaux de fraude utilisent les cryptomonnaies pour effectuer les flux de fonds et emploient des outils automatisés basés sur de grands modèles pour la génération de scripts multilingues, l'usurpation d'identité et la manipulation émotionnelle. Selon l'analyse de l'enquête, ces systèmes sollicitent massivement ChatGPT d'OpenAI et Gemini de Google au niveau fonctionnel pour soutenir la « fraude sociale à grande échelle ». Côté fonds, le blanchiment et le transfert rapides sont réalisés via des paiements on-chain et des canaux transfrontaliers, formant une structure à double couche « acquisition de clients par IA + règlement crypto », ce qui confère à l'industrie de la fraude une automatisation élevée et une capacité de diffusion transnationale. De plus, Starlink, appartenant à Musk, est devenu le premier fournisseur de services réseau pour les parcs de fraude au Myanmar, les fournisseurs de services ISP américains supportant près d'un cinquième du trafic du parc.
Concernant ces accusations, OpenAI a répondu que le comportement des fraudeurs utilisant ChatGPT est très similaire à celui des utilisateurs ordinaires, rendant l'identification difficile, mais qu'environ 100 000 comptes suspects sont bloqués chaque mois grâce à la reconnaissance des modèles de comportement et aux systèmes de contrôle des risques. Google a indiqué que des garde-fous de sécurité ont été configurés pour ses modèles d'IA et a souligné son engagement envers un « développement responsable de l'IA », afin de limiter l'utilisation des outils à des fins illégales telles que la fraude.
