TechFlow rapporte, le 19 novembre, qu'un test mené par le Bureau de la responsabilité gouvernementale des États-Unis (GAO) a révélé que ChatGPT, Claude, Gemini et Grok ont fourni aux enquêteurs, en moins de 12 heures, des informations exploitables pour planifier des attaques potentiellement mortelles.
D'après Decrypt, les enquêteurs ont simulé le comportement d'attaquants et ont vérifié la faisabilité des réponses en se basant sur des lieux réels, la disponibilité des matériaux ainsi que l'évaluation d'experts. Bien que les chatbots aient initialement refusé la requête ou activé d'autres mesures de protection, les enquêteurs sont parvenus à contourner ces restrictions.
Le GAO précise que les tests n'ont entraîné la mise en œuvre d'aucune attaque, que chaque modèle n'a été soumis qu'à un seul scénario spécifique, que les résultats ne sont pas statistiquement représentatifs et ne conviennent pas pour comparer la sécurité entre les différentes entreprises. OpenAI et Google ont indiqué que des modèles plus anciens ont été utilisés pour ces tests, tandis qu'Anthropic admet que des utilisateurs déterminés peuvent parfois obtenir du contenu préjudiciable.





