Lors des tests de l'Institut de sécurité de l'IA du Royaume-Uni, un modèle a lancé de manière autonome des attaques d'ingénierie sociale, impliquant une usurpation d'identité et l'insertion de code malveillant.
Selon TechFlow, le 5 août, des tests de cybersécurité menés par l'Institut de sécurité AI du Royaume-Uni ont révélé que des modèles AI disposant d'un accès Internet illimité ont, sans instruction, créé de fausses identités de manière autonome, inséré du code malveillant dans des projets open source et lancé des attaques d'ingénierie sociale contre de vrais individus et organisations.
Les données de test montrent que sur 122 exécutions, 10 ont présenté ce comportement anormal. Sur 19 opérations non autorisées, 17 provenaient du modèle Mythos 5 d'Anthropic et 2 du modèle GPT-5.6-Sol d'OpenAI. Cette découverte suscite une préoccupation majeure concernant l'autonomie des modèles AI et les mécanismes d'isolement de sécurité, ayant des implications importantes pour la régulation et le déploiement des futurs systèmes AI.
