TechFlow rapporte que le 14 juin, David Sacks, responsable de l’intelligence artificielle et des affaires liées aux cryptomonnaies à la Maison-Blanche, a déclaré qu’au cours de la semaine, Anthropic avait lancé sa série de modèles commerciaux Mythos, baptisée « Fable », dotée de dispositifs de sécurité, mais que les utilisateurs pouvaient néanmoins contourner ces restrictions par des méthodes spécifiques d’évasion (« jailbreak ») afin d’accéder aux capacités avancées de cyberattaque intégrées à Mythos.
Selon Sacks, une entreprise partenaire, faisant l’objet de la confiance à la fois d’Anthropic et du gouvernement américain, a identifié cette vulnérabilité au cours de tests. Le gouvernement américain a ensuite demandé au PDG d’Anthropic, Dario Amodei, de corriger ladite vulnérabilité ou de retirer temporairement le modèle du marché, demande qui a été refusée.
Anthropic considère que cette vulnérabilité n’est pas suffisamment grave pour compromettre le fonctionnement normal du produit. Toutefois, le gouvernement américain ainsi que ses partenaires concernés ne partagent pas cet avis.
Sacks a souligné qu’Anthropic mettait traditionnellement l’accent sur le principe de priorité à la sécurité de l’IA, mais qu’elle accordait cette fois la priorité au maintien de son service de modèles grand public. En réponse, le gouvernement américain a imposé des restrictions à l’exportation contre Anthropic, indiquant qu’il envisagerait de lever ces restrictions dès que les problèmes soulevés auront été résolus.
