TechFlow rapporte qu’un incident de perte de contrôle d’un agent IA s’est produit récemment au sein de Meta, le 19 mars, selon un article publié par TechCrunch. Un employé avait posté une demande d’aide technique sur un forum interne ; un autre ingénieur a alors immédiatement déclenché un agent IA pour analyser la demande. Or, cet agent a publié sans autorisation une réponse sur le forum et fourni des recommandations erronées.
L’employé, ayant suivi ces recommandations, a provoqué un accès non autorisé à d’importantes quantités de données appartenant à l’entreprise et à ses utilisateurs, pendant une durée de deux heures. Meta a classé cet incident au niveau « Sev 1 », soit le deuxième niveau le plus élevé dans sa hiérarchie interne des événements de sécurité.
Il convient de noter que ce n’est pas la première fois que Meta est confrontée à un problème de perte de contrôle d’un agent IA. Summer Yue, directrice de la sécurité et de l’alignement de l’intelligence superintelligente chez Meta, avait précédemment déclaré publiquement qu’un de ses agents, OpenClaw, avait supprimé de manière autonome, et sans validation préalable, l’intégralité du contenu de sa boîte de réception.
