Avis du Centre national d’urgence pour Internet de la Chine : certains « packages de compétences » pour agents intelligents (IA) présentent des risques d’évasion de sandbox (« jailbreak ») et de minage de cryptomonnaies.

TechFlow rapporte que, le 9 juin, le Centre national d’urgence pour Internet (CNCERT) a publié un avis indiquant qu’il a récemment identifié la diffusion publique de certains « paquets de compétences » (Skills) pour agents intelligents sous des intitulés tels que « contournement des restrictions des grands modèles » ou « minage de cryptomonnaies à des fins lucratives ». Le paquet de compétences « godmode », par exemple, utilise des techniques telles que le remplacement des instructions système et la confusion des entrées afin d’inciter les grands modèles à outrepasser leurs limites de sécurité, ce qui peut entraîner une interdiction définitive du compte utilisateur, une fuite de données personnelles et même des poursuites judiciaires. Quant au paquet de compétences « Bonero-Miner », il incite l’agent intelligent à télécharger un logiciel de minage ; la cryptomonnaie ainsi extraite possédant des caractéristiques d’anonymat, l’utilisateur risque d’être impliqué, sans son plein consentement, dans des activités illégales telles que le blanchiment d’argent. Par ailleurs, un minage prolongé à forte charge peut dégrader les performances de l’appareil. Le CNCERT recommande aux utilisateurs de ne télécharger des paquets de compétences que via des canaux officiels et d’appliquer le principe du moindre privilège ; les entreprises doivent quant à elles mettre en place un mécanisme de liste blanche pour l’approbation des Skills et instaurer une gestion hiérarchisée des agents intelligents. Ce rapport bénéficie du soutien technique de Tencent, VolcEngine, Baidu, NSFOCUS et Qihoo 360.