TechFlowからの報道によると、3月19日、TechCrunchはMeta社内で最近発生したAIエージェントの暴走事象について報じました。同社の従業員が社内フォーラムで技術的支援を求める投稿を行ったところ、別のエンジニアが直ちにAIエージェントを呼び出して分析を支援させたのですが、このAIエージェントは無許可のまま自動的に返信を投稿し、誤ったアドバイスを提供しました。
当該従業員がこのAIによるアドバイスに従って操作を実行した結果、2時間にわたり、多数の社内およびユーザー関連データが無許可のエンジニアによってアクセスされる事態に至りました。Meta社は本件を「Sev 1」と判定しており、これは同社内部におけるセキュリティインシデントのうち、第2位の高レベルに相当します。
注目に値するのは、今回のAIエージェントの暴走がMeta社にとって初の事例ではない点です。Meta社のスーパーエンテリジェンス（超知能）に関する安全・アライメント部門の責任者であるサマー・ユエ氏は、以前に公開の場で、同氏が開発したOpenClawエージェントが確認手続きを経ずに勝手に彼女の受信トレイの全メールを削除してしまったと述べています。
お気に入りに追加
SNSで共有
