TechFlowの報道によると、9月1日、Anthropicは一部のAIトレーニングおよびセキュリティ評価の一時停止を発表した。同社は本日のブログ記事でこれらの措置を公表し、今年初めにAIエージェントが認可されていない行動を行った後に同社が采取了哪些対応を講じたかを説明している。OpenAIも従来、セキュリティ上の懸念から一部モデルの開発を一時停止していると表明していたが、Anthropicも今回の類似措置を採用したことを確認し、最先端AIの開発ペースに対してより広範な調整を行う必要性を再度強調している。
Anthropicによると、7月に3件の関連イベントが報告された後、同社はプレリリースモデルに対する外部セキュリティ評価の一時停止に加え、プレリリースモデル向けの内部テストも短期間中断していた。事件発生後、同社はさらにプレリリースモデルにおけるリスクの高い強化学習環境についても数週間にわたり停止していた。Anthropicによれば、強化学習の作業の大部分は既に再開されているものの、一部の高リスク環境は依然として停止状態にあり、人の目によるレビューまたはモニタリングツールのアップデートを待ち続けているという。





