Le modèle Mythos d’Anthropic a détecté des vulnérabilités de sécurité dans les systèmes confidentiels du gouvernement américain.
TechFlow rapporte, le 24 juin, qu’un responsable américain a déclaré, selon une information de l’Associated Press, qu’au cours d’un test mené en collaboration avec des agences du renseignement américain, le modèle d’intelligence artificielle Mythos d’Anthropic avait identifié, en quelques heures seulement, des vulnérabilités présentes dans certains systèmes gouvernementaux hautement sensibles des États-Unis. Toutefois, cela ne signifie pas que le modèle ait réussi, dans le même délai, à exploiter ou à compromettre ces systèmes. Ce test s’inscrit dans le cadre du programme « Glasswing », dont l’objectif est d’évaluer l’impact potentiel sur la cybersécurité que pourraient avoir les intelligences artificielles avancées, notamment en matière de sécurité publique, de sécurité nationale et de stabilité du système économique.
Le reportage précise également que les désaccords entre Anthropic et l’administration Trump se sont récemment intensifiés concernant l’utilisation et la régulation de l’intelligence artificielle. Les autorités américaines avaient précédemment exigé de restreindre l’accès des étrangers aux modèles Fable 5 et Mythos 5 d’Anthropic, ce qui a suscité des objections au sein du secteur de la cybersécurité. Plusieurs experts estiment que, bien que ces modèles possèdent une capacité notable à détecter et à exploiter des vulnérabilités, cette capacité n’est pas exclusive à eux ; une restriction excessive risquerait ainsi de fragiliser les capacités américaines de défense cybernétique.
