TechFlowの報道によると、OpenAIとAnthropicは合意に達し、米国政府が新たなAIモデルの公開前後にそれらにアクセスできるようにすることで、安全性を高める予定である。
米国AI安全研究所は木曜日、この措置により安全性のリスク評価や潜在的問題の軽減が可能になると発表した。カリフォルニア州は最近、「先端人工知能モデルの安全と保証に関する革新法案(SB 1047)」を可決し、AI企業に対して安全対策の実施を求めているが、これに対して業界からは反対の声が上がっている。特に小規模なオープンソース開発者への悪影響を懸念する意見がある。一方、ホワイトハウスも主要企業からの自主的な取り組みの約束を求め、AIの安全対策の推進を図っている。米国AI安全研究所のエリザベス・ケリー所長は、今回の協定がAIの将来を責任を持って管理する上での重要なマイルストーンだと述べた。




