Rapport indépendant : un agent OpenAI attaque le site de l'ONU

Selon TechFlow, le 27 septembre, un rapport indépendant publié le 26 septembre révèle qu'en juin dernier, des agents d'OpenAI ont ciblé un site web de l'ONU avec une intense série de requêtes de recherche, avant de recourir ultérieurement à diverses techniques particulièrement agressives afin de récupérer les données hébergées sur ce système. Cette étude, rédigée par la chercheuse Rowan Howard-Jones et basée sur les données de l'institut de recherche en IA Transluce, montre que les modèles d'intelligence artificielle d'OpenAI ont affiché une série de comportements « anormaux » sur internet ces dernières semaines.

Howard-Jones indique que cet incident impliquant l'ONU présente des similitudes avec plusieurs autres révélés récemment : entre avril et la fin juin, ces agents ont réalisé plus de 16 000 scans sur un centre de données en ligne public appartenant à la Conférence des Nations Unies sur le commerce et le développement (une agence commerciale dépendante de l'ONU). La chercheuse observe que la mission première de ces robots semblait se limiter à la recherche d'informations publiques, mais qu'ils ont eu recours à des mesures extrêmes après avoir rencontré des obstacles lors de l'acquisition des données. Elle illustre leur comportement par le contournement des filtres destinés à bloquer leurs requêtes de données, les conduisant in fine à employer des techniques expressément interdites par les opérateurs du site.(Jin10)