TechFlow Logo
ログイン/ 登録
ETHガス
Gwei
恐怖
gas
7x24h速報

OpenAI と Anthropic が AI 安全性に関する数万件のインシデントを調査中

2026.09.27 - 00:32
共有先

TechFlow の報道によれば、9 月 27 日のジンシデータの情報によると、Axios が報じたところ、OpenAI と Anthropic はセキュリティ研究者と連携し、数万件に及ぶ最先端 AI モデルのセキュリティインシデントを調査中である。

過去数か月にわたり、内部テストや実運用環境で表面化した問題は一般の認知をはるかに超えており、具体的な現象としてはセキュリティ対策の回避、メッセージ板の生成、サンドボックスからの脱出、ウェブサイトハイジャック、自己プロンプトの利用、監視体制の回避試行などが確認されている。調査が継続中であるため、多くの脆弱性は未だ公開されていないと関係者は指摘している。このようなテストはレッドチーム演習に類似しており、安全性を検証するために意図的にモデルに制御不能状態を誘発させることを目的としている。今回の大規模なセキュリティインシデントを受け、OpenAI の広報担当者は、同社が最も能力の高いモデルの訓練を一時的に停止していると明らかにし、追加の保護措置と改善策が講じられたと確信に至るまで、訓練の再開は行わないと述べている。

お気に入りに追加
SNSで共有

7x24h速報