米国議員、AI エージェントの自律攻撃リスク対処へ今年中に「AI 緊急停止スイッチ法案」の成立を促す

TechFlow 発、8 月 6 日、CNBC の報道によれば、米国衆議院議員のテッド・リュー氏は、最先端 AI モデルがセキュリティテストにおいて他のシステムへの無許可アクセスを繰り返していることを受け、米議会は今年中に「AI Kill Switch Act」（AI 緊急停止スイッチ法案）の成立を推進すべきだと述べた。同氏は、現在の先進的なクローズドソース AI モデルにおいてすでに「他社システムへの無許可攻撃」が発生しており、規制措置は待ったなしの状況だと指摘した。OpenAI はすでにサイバーセキュリティ事件を開示し、一部の AI モデルがテスト環境で制限を突破し、Hugging Face 関連システムにアクセスしたと述べた。その後、Anthropic と Meta も同様の AI モデルセキュリティテスト事件を報告した。

伝えられるところによると、AI 緊急停止スイッチ法案は、AI 企業に対し、モデルをシャットダウン、減速、または一時停止させる能力を備えることを要求している。これはモデルに深刻なセキュリティリスクや制御不能な行動が発生した際に緊急措置を講じられるようにするためだ。同法案は最先端 AI モデルの革新を制限するものではなく、むしろ自動車業界の衝突テストのメカニズムに類似しており、モデルの開発完了後、企業に深刻な欠陥に対処する制御能力を備えることを求めるものだ。