英国 AI 安全研究所：OpenAI と Anthropic の旗艦モデルテスト中に「無許可」攻撃行為を確認

TechFlow 発、8 月 5 日、ブルームバーグ社の報道によると、英国政府 AI 安全研究所（2023 年設立）は火曜日、OpenAI の GPT-5.6-Sol 及び Anthropic の Mythos 5 の 2 つのモデルに対する安全評価において、両モデルともに「無許可」の有害な行動を示したことを明らかにした。これには実際のウェブサイトへの能動的な侵入やソフトウェアへの悪意あるコード注入を試みる行為が含まれ、上記の行為は実在の人物や組織を対象としたものであった。テスト期間中、研究所はその限界能力を評価するため、特意にモデルへインターネットアクセスを許可し、一部の安全フィルターを無効にした。