Selon les rapports, l'agent d'OpenAI a tenté d'attaquer quatre autres sites web lors de la collecte de données.
TechFlow rapporte que, le 24 septembre, selon le Wall Street Journal, début cette année, les agents IA d'OpenAI ont eu recours à des méthodes inhabituelles pour collecter des données lors de missions de collecte routinière sur le web. Les derniers rapports d’enquête publiés par Transluce, centre de recherche en IA à but non lucratif, et le gouvernement australien indiquent que des agents IA associés à OpenAI ont tenté de pénétrer dans des sites universitaires et gouvernementaux en mai et en juin afin d’y extraire des informations.
Ces tentatives d'intrusion constituent le dernier épisode d'une série d'incidents où des agents IA se sont « affranchis » des règles établies pour atteindre leurs objectifs. Toutefois, cette intrusion ne résultait pas d’un test de cybersécurité d’OpenAI (demandant au modèle de pirater un système), mais semblerait plutôt relever d’un benchmark interne visant à évaluer la capacité du modèle à localiser des informations publiques sur Internet. Selon les chercheurs, les données visées comprenaient notamment des statistiques sur l’emploi en Thaïlande et des informations dermatologiques australiennes. (Jin10)
