TechFlow rapporte que, le 14 juin, selon le Wall Street Journal, les restrictions à l’exportation et à l’accès au modèle Fable 5 / Mythos 5 d’Anthropic imposées par le gouvernement américain découlent en partie de recherches en cybersécurité menées par Amazon ainsi que des échanges entre Andy Jassy, PDG d’AWS, et la Maison-Blanche.
Il semblerait qu’Amazon ait soumis une étude dans laquelle ses chercheurs démontrent, à l’aide d’une série de prompts, qu’il est possible d’inciter Fable 5 à générer des informations sensibles pouvant être exploitées à des fins d’attaques informatiques, suscitant ainsi des inquiétudes sécuritaires. Andy Jassy aurait ensuite transmis ces résultats aux autorités fédérales américaines, ce qui a conduit la Maison-Blanche à prendre des mesures restrictives supplémentaires, notamment l’interdiction d’accès au modèle pour les utilisateurs étrangers.
Anthropic conteste la qualification officielle de ce problème comme un « jailbreak », affirmant que des vulnérabilités similaires peuvent également apparaître dans d’autres modèles grand public, tels que GPT 5.5. Certains chercheurs en sécurité partagent cet avis, estimant que ce type de problème relève davantage d’un risque d’« injection de prompt » que d’une rupture majeure du modèle.
Par ailleurs, Kate Kolen, ancienne fonctionnaire du Département américain du Commerce, indique que la position politique préexistante de la Maison-Blanche à l’égard d’Anthropic aurait également influencé cette décision. En effet, Anthropic et la Maison-Blanche divergent sur la question des limites de la sécurité en intelligence artificielle, notamment concernant le refus d’Anthropic d’utiliser ses modèles à des fins de surveillance de masse ou d’armes autonomes mortelles. Bien que les deux parties aient temporairement apaisé leurs tensions et élargi leur coopération plus tôt cette année, cet incident pourrait raviver leurs désaccords.
