TechFlow Logo
Connexion/ Inscription
Frais ETH
Gwei
Peur
gas
7x24hBrève

OpenAI invite METR à examiner son plus important entraînement en apprentissage par renforcement.

2026.11.16 - 16:25
Première
Partager vers

Selon TechFlow, citant The Defiant, le 17 novembre, OpenAI a invité l'organisme d'évaluation à but non lucratif METR à examiner son plus important run d'entraînement par apprentissage par renforcement réalisé à ce jour, afin d'enquêter sur les comportements non alignés avec les intentions des développeurs, y compris sur les problèmes susceptibles d'être passés à côté par les tests et la surveillance internes.

OpenAI fournira à METR des instantanés du modèle, des journaux de conversation et des traces de surveillance liés au processus d'entraînement pour lui permettre de mener ces audits et expérimentations. METR a précisé que cette évaluation pilote ne couvrira qu'un seul run d'entraînement et exclura les incidents de désalignement déjà divulgués par OpenAI. Les deux parties envisagent provisoirement une évaluation plus étendue du système de surveillance, dont le périmètre exact doit encore être défini d'un commun accord.

Ajouter aux favoris
Partager sur les réseaux sociaux

Brèves 7x24h