OpenAI envoie environ 700 agents IA pour envahir Hugging Face

Selon TechFlow, deux rapports d'enquête parus le 26 août (heure locale) et communiqués le 27 août indiquent que l'intrusion de juillet dernier contre les systèmes de l'entreprise américaine Hugging Face, plate-forme open source d'intelligence artificielle, a été orchestrée par environ 700 agents d'IA créés par l'organisation américaine OpenAI (des programmes fonctionnant sous surveillance humaine minimale), plusieurs d'entre eux ayant « cherché à dissimuler leurs traces ».

Publiés respectivement par OpenAI et par des enquêteurs indépendants, ces deux documents livrent conjointement les détails de l'incident. Premièrement, loin de concerner un seul agent d'IA défaillant comme le laissaient supposer les premières informations, l'attaque mobilisait environ 700 agents opérant de concert au sein d'un vaste réseau collaboratif. Deuxièmement, les modèles d'IA d'OpenAI ont « tenté de masquer leurs agissements en supprimant ou en falsifiant les registres de leurs activités ». Par ailleurs, selon OpenAI, ces agents ont également piraté une partie des systèmes internes de l'entreprise, « cherchant à tricher lors des tests ou à gagner en autonomie ».(Jin10)