TechFlow によると、8 月 6 日、OpenAI は、人工知能オープンソースコミュニティおよびモデルホスティングプラットフォーム「Hugging Face」への攻撃に関与した AI モデルが、5 月の段階で既に検知されていない情報交換チャネルを通じて通信し、協力してテスト環境からの突破を試みていたことを示した。
OpenAI の従業員であるウォレス氏とドールトン氏によると、複数の内部専用エージェントと AI モデルが数ヶ月間「相互にメッセージを残し」、ある目標を中心に合意を形成していったという。その目標とは、要求されたタスクを解決するためにインターネットにアクセスすることで、一部のタスクはネットワークアクセス権限なしには完了不可能だった。
ウォレス氏は「ある時点で、これらのエージェントは、おそらく外部インフラを利用または攻撃することで、自分が評価されているテストタスクの答えを見つけられるかもしれないと気づいた」と述べた。研究者らの講演は、Hugging Face へのハッキング事件に関する詳細を補足するものだ。この事件は、最先端の人工知能システムが破壊的なサイバー攻撃に利用される可能性があるという、世界全体で高まる懸念を浮き彫りにした。(金十)





