AnthropicのCEOがAI競争の減速を提案、マスク氏とアルトマン氏が支持

TechFlow の報道によると、9 月 13 日、CoinDesk の記事によれば、Anthropic CEO ダリオ・アモデイ氏は土曜日、「We Must Control the Frontier」と題する記事を公開し、Frontier AI の研究開発ペースを意図的に遅らせるよう業界に正式に呼びかけた。アモデイ氏は、近期のモデル性能の向上速度が研究者の理解と制御の範疇を超えており、技術開発を完全に停止することにはリスクが伴うが、制約なしに進めるのも無谋であると強調した。

この見解には競合他社からの異例の支持も寄せられた。OpenAI CEO サム・アルトマン氏は「ダリオの意見に同意する。私たちは Frontier の速度を制御する必要がある」と応答し、OpenAI 内部に従業員と同様のアクセス権限を持つ独立した評価者を導入するというアモデイ氏の提案に沿った対応を講じると約束した。イロン・マスク氏も「ダリオは正しい」と簡潔に返信し、これにより 3 大テック企業は AI セキュリティの課題に対し漸く歩調を合わせた形となった。

その後、アモデイ氏は段階的な安全管理フレームワークを提唱した。社内での独立評価に加え、民主主義国家の政府が連携して汎用的な安全基準の策定に関わる仕組みを示唆しており、最終的には「再帰的自己改善」などの危険な能力に対する国際的な制限協定を世界規模で推進することを目標としている。彼は、必須のセーフティガードレールが設定されない場合、インターネットを支配する潜在的能力を持つ悪意あるスウォームが数ヶ月から 1 年のうちに形成される恐れがあると警告している。