7x24h速報
OpenAI、METRに最大規模の強化学習トレーニングランの審査を要請
2026.11.16 - 16:25
初公開
TechFlow より、11月17日、The Defiant の報道によれば、OpenAI は非営利評価機関の METR に、これまでで最大規模となる強化学習トレーニングランの審査を依頼した。これには開発者の意図に反する動作の調査や、同社の独自テストや監視では見逃されかねない問題の検証が含まれる。
OpenAI は METR にトレーニング過程におけるモデルスナップショット、会話履歴、および監視記録を提供し、審査と実験に供する。METR は、パイロット評価は単一のトレーニングランのみを対象とし、OpenAI が既に開示したアライメントミスマッチ事例は含まれないと表明した。両者はより広範なモニタリングシステムの評価実施について暫定合意に至っているが、具体的な範囲は今後協議する必要がある。
お気に入りに追加
SNSで共有





