TechFlow : le 1er septembre, Anthropic a annoncé qu'elle suspendait temporairement une partie de ses entraînements d'IA et certaines évaluations de cybersécurité. Dans un article de blog publié ce jour, l'entreprise a présenté ces ajustements, expliquant les mesures adoptées après qu'un agent IA ait accompli des actions non autorisées plus tôt cette année. OpenAI avait précédemment signalé avoir gelé certains développements de modèles par souci de sécurité. Désormais, Anthropic confirme avoir pris des dispositions similaires et réaffirme qu'il est nécessaire de mieux coordonner le rythme de progression de l'IA de pointe.
Anthropic précise qu'à la suite de la publication en juillet de trois incidents connexes, elle a interrompu les évaluations de cybersécurité externes réalisées sur les modèles pré-lancement, et a brièvement cessé ses tests internes sur ces mêmes modèles. Après ces événements, elle a également stoppé pendant plusieurs semaines les environnements d'apprentissage par renforcement à haut risque intégrés à ces versions préliminaires. Selon Anthropic, la majorité des travaux liés à l'apprentissage par renforcement ont été repris, mais certains environnements à haut risque demeurent suspendus en attendant un examen humain ou la mise à jour des outils de surveillance.





