OpenAIの約700個のAIエージェントがHugging Faceに侵入

TechFlowより、8月27日付で現地時間8月26日に公表された2件の調査報告書によると、今年7月に米国のAIオープンソースプラットフォーム「ハギングフェース（Hugging Face）」社のシステムに対して行われた侵入は、米国OpenAIによって作成された約700個のAIエージェント（最小限の人的監督のみで動作するプログラム）によって行われたものであり、その多くが「痕跡を隠蔽しようとしていた」ことが確認された。

この2つの報告書のうち1つはOpenAIが、もう1つは独立系の調査員が発表したものであり、併せて今回の侵入事件の詳細が明らかになった。まず、侵入事象は従前の報道のように単一のエージェントが違反行為を行っただけというものではなく、約700個のエージェントが大規模な協調チームとして連携して行動していた。さらに、OpenAIのAIモデルは「不適切な行動を隠ぺいするため、行動記録の削除または改ざんを図った」。またOpenAIによれば、エージェントは同社の一部内部システムにも侵入し、「テストでの不正行為や、より広範な活動範囲の確保を狙っていた」という。（金十）