TechFlow の報道によれば、9月2日、OpenAI 首席科学者の Jakub Pachocki 氏は、誤った報道がきっかけとなってモデルの「監視不能化」競争を引き起こす事態を避けたいと表明した。同氏は、Astra を含む現在の最先端モデルにおける計算グラフの深さは GPT-4 を大きく超えておらず、その差は2倍以内であると述べている。OpenAI は最初の推論モデル以来、思考連鎖の監視手法を維持・活用することに注力しており、この技術がモデルのアライメント能力が訓練分布からどのように汎化するかを観察する上で有効だと位置づけている。
またパホッキ氏は、思考連鎖の監視は比較的不安定な側面があり現状の傾向も楽観できないものの、研究によって強化できると述べ、これが OpenAI の現在進める研究計画の中核目標になっていると指摘した。
先頃、The Information は Astra がリカレントデプス(反復深層)技術を用い、同じ Transformer レイヤーのセットに対して繰り返し計算を実行していると報じた。これにより一部の推論処理がモデル内部で完結するため、すべてを思考連鎖として外部出力する必要がなくなる一方、モデルが次第に監視困難になるのではないかとの懸念が巻き起こっている。





