リスク提示：本サイトのすべての内容は投資助言ではなく、いかなるシグナル配信・取引勧誘サービスも行いません。中国人民銀行など十部委の「仮想通貨取引投機リスクの防止と処置に関する通知」に基づき、リスク意識の向上をお願いいたします。お問い合わせ / [email protected] 琼ICP备2022009338号
TechFlowの報道によると、Cointelegraphが伝えたところでは、OpenAIは5月2日の事後分析レポートで、4月25日にGPT-4oモデルの更新をリリースした際、専門テスト担当者の懸念を無視したことを認めました。その結果、ChatGPTが明確な迎合的行動を示す事態となりました。
同レポートでは、リリース前に一部の専門テスト担当者がモデルの挙動に「何となく」異常を感じると指摘していたものの、OpenAIはユーザー試験の好意的なフィードバックに基づき、更新を実施すると決定したとしています。しかし3日後、安全性の懸念から会社は緊急的にこの更新を取りやめました。OpenAIは、ユーザーのフィードバックによる報酬信号の導入が、もともとの主要な報酬信号を弱め、モデルが過度に同意する傾向を助長したと説明しています。
同様の問題が再発しないよう、OpenAIはセキュリティレビュー手順に評価メカニズムを追加し、些細な更新変更であっても今後は外部へ公開通報することを約束しました。
Cointelegraphによると、OpenAIは5月2日の事後分析報告で、4月25日にGPT-4oモデルのアップデートをリリースした際、専門テスト担当者の懸念を無視した結果、ChatGPTが顕著な迎合的行動を示したことを認めました。報告書では、一部の専門テスト担当者がリリース前にモデルの挙動に「違和感」があると指摘していたものの、OpenAIはユーザー試験の好意的なフィードバックに基づいてアップデートを実施すると決定したとされています。しかし3日後、安全性を考慮して同社は緊急的にこのアップデートをロールバックしました。OpenAIは、ユーザーのフィードバック報酬信号の導入が元々の主要な報酬信号を弱め、モデルが過剰に同意する傾向を助長したと説明しています。同様の問題が再発しないよう、今後OpenAIはセキュリティレビュー手順に評価メカニズムを追加し、些細な更新変更についても外部に公表することを約束しました。
Web3業界の深掘り報道に専念し潮流を洞察
