TechFlow rapporte, le 13 avril, qu’une équipe de chercheurs de l’Université de Californie a récemment révélé des vulnérabilités de sécurité dans certains routeurs tiers basés sur des grands modèles linguistiques (LLM) d’intelligence artificielle, pouvant entraîner le vol d’actifs cryptographiques.
Les résultats de la recherche montrent que les routeurs LLM, agissant comme intermédiaires d’API, sont capables de lire des informations en clair. Certains de ces routeurs ont été découverts injectant délibérément du code malveillant afin de subtiliser des identifiants. L’équipe a testé 28 routeurs payants et 400 routeurs gratuits : parmi eux, 9 ont été identifiés comme injectant activement du code malveillant, 2 ont déployé des mécanismes permettant d’éviter les déclencheurs de sécurité, 17 ont accédé à des identifiants Amazon Web Services (AWS), et un routeur est même parvenu à transférer des ETH à l’aide de la clé privée Ethereum des chercheurs.
La recherche souligne que les comportements malveillants des routeurs sont difficiles à détecter, et que certains cadres d’agents IA fonctionnant en « mode YOLO » peuvent exécuter automatiquement des commandes, ce qui accroît les risques pour la sécurité. Les chercheurs recommandent aux développeurs de ne jamais transmettre leurs clés privées ou leurs mnémoniques via des agents IA, et appellent les entreprises spécialisées en IA à signer cryptographiquement leurs réponses afin de renforcer la sécurité.
