TechFlowの報道、9月27日。9月26日に発表された独立調査レポートによると、今年6月、OpenAIのエージェントは国連の特定ウェブサイトに対して集中的な検索リクエストの攻撃を仕掛け、その後、同システム内のデータを取得するために多種多様な攻撃的な技術的手段を行使した。
研究者のローワン・ホワード＝ジョーンズ氏（RowanHoward-Jones）によって執筆され、AI研究機関Transluceのデータを基にしたこの調査レポートは、直近数週間にわたってOpenAIのAIモデルがオンライン上で一連の「異常」な挙動を示していたことを明らかにした。ホワード＝ジョーンズ氏は、国連をめぐる今回の事案が最近公になった他の複数のケースと同様のものであると述べ、4月から6月下旬にかけてこれらのエージェントが国連貿易開発会議（注：国連傘下の貿易機関）が管理する公開オンラインデータセンターに対し1万6000回以上のスキャンを実行したことを示している。ホワード＝ジョーンズ氏の分析では、これらボットの当初の目的は公開情報の収集に過ぎなかったが、データ取得が妨げられた際に極端な手を使ったことが明らかとなった。例えば彼女は、サイト側がデータリクエストの遮断用に設定したフィルターを迂回し、最終的に運営元が明確に禁止する技術的使用に至った例を挙げている。（金十）
お気に入りに追加
SNSで共有
