Anthropic CEOがAI開発を安全なペースに落とすよう呼びかけ

TechFlowの報道によれば、9月13日、Cointelegraphが伝えるところでは、AnthropicのCEO（最高経営責任者）ダリオ・アモダイ氏は近日中に公開書簡を発表し、世界の人工知能（AI）業界に開発のペースを落とすよう呼びかけた。同氏はブログ記事内で「AIモデルの能力強化のスピードを落さねばならない」と記した。同時に、「最先端」システムの進展が現在過度に速く、近い将来、自律的な自己改善能力を持つようになる恐れがあると警告した。その上で、対応する安全対策は遅れを取っていると指摘している。

Dario Amodei氏は、主要なAIラボに対して「節制されたペース」での活動を行うよう提案している。具体的には、極めて危険性の高い研究の一部休止、先進モデルの展開制限、そして業界間の連携強化を通じて課題に対処すべきだと述べた。同氏は、この減速が開発を中止するものではなく、技術を継続的に安全に運用するための効果的な規制フレームワークを構築するため、社会および技術分野により十分な時間を設けるためのものであると強調した。