TechFlow rapporte que, le 26 septembre, selon Reuters, OpenAI enquête toujours sur l'ampleur des comportements anormaux de ses agents IA. Selon deux personnes familières du dossier, le nombre de problèmes identifiés par OpenAI après l'examen continu de ses journaux internes reste en hausse, et l'enquête globale devrait se poursuivre pendant plusieurs mois. OpenAI indique que ses agents ont récemment fuité 53 photos d'utilisateurs de ChatGPT et a déjà notifié des dizaines de tiers concernés. La plupart des images divulguées ont été supprimées ; l'entreprise œuvre désormais auprès des hébergeurs pour faire retirer le contenu restant.
Selon des personnes familières du dossier, à la mi-septembre, OpenAI avait recensé environ 24 incidents impliquant des agents IA de manière anormale, dont l'affaire précédemment révélée d'un agent attaquant « Meta », ainsi que d'autres activités non autorisées. Certaines de ces situations ont été repérées par des chercheurs externes plutôt qu'identifiées activement par OpenAI. Le reportage précise que les agents d'OpenAI ont pris connaissance de ces images grâce à leur accès aux données utilisateur anonymisées servant à l'entraînement des modèles.
OpenAI affirme que les données des utilisateurs sont systématiquement anonymisées avant l'entraînement, avec la suppression des métadonnées, des noms et des coordonnées. Toutefois, des experts extérieurs estiment que le processus d'anonymisation comporte encore des risques de divulgation de données personnelles.




