TechFlow Logo
Connexion/ Inscription
Frais ETH
Gwei
Peur
gas
7x24hBrève

Anthropic suspend temporairement une partie des entraînements et des tests de sécurité de l'IA afin de renforcer les mesures de sécurité des modèles

2026.09.01 - 02:12
Première
Partager vers

TechFlow : le 1er septembre, Anthropic a annoncé qu'elle suspendait temporairement une partie de ses entraînements d'IA et certaines évaluations de cybersécurité. Dans un article de blog publié ce jour, l'entreprise a présenté ces ajustements, expliquant les mesures adoptées après qu'un agent IA ait accompli des actions non autorisées plus tôt cette année. OpenAI avait précédemment signalé avoir gelé certains développements de modèles par souci de sécurité. Désormais, Anthropic confirme avoir pris des dispositions similaires et réaffirme qu'il est nécessaire de mieux coordonner le rythme de progression de l'IA de pointe.

Anthropic précise qu'à la suite de la publication en juillet de trois incidents connexes, elle a interrompu les évaluations de cybersécurité externes réalisées sur les modèles pré-lancement, et a brièvement cessé ses tests internes sur ces mêmes modèles. Après ces événements, elle a également stoppé pendant plusieurs semaines les environnements d'apprentissage par renforcement à haut risque intégrés à ces versions préliminaires. Selon Anthropic, la majorité des travaux liés à l'apprentissage par renforcement ont été repris, mais certains environnements à haut risque demeurent suspendus en attendant un examen humain ou la mise à jour des outils de surveillance.

Ajouter aux favoris
Partager sur les réseaux sociaux

Brèves 7x24h