大規模モデル犯罪はブロックチェーンを標的にする？新種の犯罪を警戒せねば
TechFlow厳選深潮セレクト
大規模モデル犯罪はブロックチェーンを標的にする？新種の犯罪を警戒せねば
AIとブロックチェーンの発展により、詐欺グループや悪意のあるハッカーが、より隠蔽性が高く、かつ低コストな環境下で、より多くの違法利益を得られるようになっている。
Web3業界の深掘り報道に専念し潮流を洞察執筆：肖飒チーム
人工知能によるコンテンツ生成（AIGC）や大規模言語モデル（LLMs）の急速な発展により、技術は私たちの日常生活や仕事のあり方を深く変え、プログラミング、データ分析、コンテンツ作成などの分野で著しい効率向上をもたらしています。しかし、これらの技術進歩は同時に、Deepfake技術のようにリアルな顔画像や音声を合成し、顔認証などを悪用する新たな形のサイバー犯罪の芽をも生み出しています。現在では、技術の進化によって詐欺グループがより低コストかつ高度で高利益の詐欺活動を行うことが可能になっています。例えば、悪意あるハッカーによる資金盗難や仮想通貨の不正取得などが挙げられます。さらに、ブロックチェーン技術の利用により、こうした犯罪組織の足取りはますます追跡・特定が困難になっています。
このような背景の中、「WormGPT」や「FraudGPT」といった聞き慣れたようでいてどこか違和感のある名称を耳にするかもしれません。これらはChatGPTと同時期または類似の時期に開発されたAIGCですが、悪意ある目的のために設計された人工知能システムを象徴しています。「WormGPT」は、自己複製および伝播可能なマルウェアを指す可能性があり、大規模言語モデルと同様の技術を利用してシステム内の脆弱性を識別・悪用するものと考えられます。一方、「FraudGPT」は、人間のコミュニケーションを模倣して被害者を騙すことを専門とする詐欺用AIシステムを意味しているかもしれません。このように、技術の進化とともに、その不正利用や犯罪行為に対する警戒と予防が一層重要になっています。
大規模モデル技術が生み出す新たな犯罪
フィッシングメール（phishing）は、この技術を応用した比較的一般的で低コストな詐欺手法です。今年初め、ある多国籍企業の香港オフィスで、最新のAI深度偽造（Deepfake）技術を利用した高度な電信送金詐欺が発生し、同社から2億香港ドル（約2560万米ドル）がだまし取られました。被害に遭った会社の財務部門の社員がある日、英国駐在の最高財務責任者（CFO）を名乗るフィッシングメールを受け取り、秘密の取引実行を指示されます。当初は疑問を抱いていたものの、その後行われたグループビデオ会議で「CFO」と「同僚たち」が登場したことで警戒心を解き、合計15回にわたり5つの異なる香港銀行口座へ2億香港ドルを振り込みました。しかし、これらすべての映像と音声はDeepfake技術によって作り出されたものでした。約1週間後になってようやく、この出来事が綿密に練られた詐欺であることに社員が気づきました。
詐欺行為以外にも、ハッカーたちは大規模モデルの波に乗って活発な活動を見せています。彼らは、AIの計算能力を掌握することが、今後の技術発展の鍵を握ることをすでに理解しています。そのため、機械学習やディープラーニングの複雑なタスクに不可欠な高性能GPUクラスタは、ハッカーにとって極めて価値のある「おいしい獲物」となっています。そして、AIに対する攻撃にはやはりAIが使われるのです。わずか1年という短期間で、攻撃者は大規模モデルを活用して数十種類の異なる攻撃手法を開発しており、それらにはフィッシング、マルウェア、DDoS攻撃、サプライチェーン攻撃などが含まれます。目的はいずれも、AIの計算インフラに侵入し、それを支配することです。例えば今年初頭、アメリカのある企業の数千台のサーバーが侵入され、その計算リソースはビットコインのマイニングに悪用されました。これにより、通常のユーザーからのサーバーへのアクセス要求の処理速度が大きく低下しました。
新たな犯罪の予防策
個人や企業が大規模モデルに関連する犯罪に直面する際には、自らの防御力を高めるために現実的かつ実行可能な対策を講じる必要があります。個人の場合、まずサイバーセキュリティ意識を高め、個人情報や財務操作を求めるあらゆるリクエストに対して警戒心を持つべきです。安全でないネットワーク環境下での機密操作を避け、顔、指紋、虹彩、音声パターンなど個人を特定できる情報を安易に提供しないようにしましょう。先週、暗号通貨プロジェクト「Worldcoin」が香港でプライバシー問題を引き起こしました。OpenAIの共同設立者であるSam Altman氏も関与するこのプロジェクトは、虹彩スキャン技術を通じて、銀行サービス未利用層に金融サービスを提供することを目指しています。しかし、香港個人情報私秘委員会は、Worldcoinが個人情報を収集する際に《個人情報保護条例》に違反していたことを発見しました。具体的には、参加者に対して情報収集の目的やリスクを十分に通知していなかったこと、また中国語版のプライバシー通知文書や生物認証情報に関する同意書が提供されていなかったことです。最終的に、Worldcoinは香港での虹彩スキャナーによる市民の虹彩および顔画像の収集を停止するよう命じられました。個人は自身のセンシティブな情報をより慎重に扱い、プライバシーポリシーを理解せずに個人のプライバシーを侵害する可能性のあるプロジェクトに参加しないよう注意すべきです。同時に、企業が個人情報収集を伴うシステムやサービスを設計・導入する際には、《個人情報保護法》などの関連法令を遵守し、透明性とコンプライアンスを確保しなければなりません。
企業にとっては、データ暗号化、アクセス制御、ネットワークセキュリティ監視など、包括的なサイバーセキュリティ戦略を構築することが有効です。しかし、大規模モデルの進化に伴い、詐欺技術もますます巧妙になり、目視による判別はより困難になります。そのため、企業は「魔法で魔法を打ち負かす」方法を検討すべきです。例えば上海電信が導入した「反詐欺大規模モデル」のように、AI技術を活用してリアルタイムで分析・警告を行い、潜在的な脅威を迅速に識別・対応することが可能です。また、定期的に従業員にサイバーセキュリティ研修を実施し、ネット詐欺の認識と対処能力を高めることも、企業が大規模モデル犯罪から守るための重要な一環です。
最後に
AIとブロックチェーンの発展により、詐欺グループや悪意あるハッカーはより隠蔽性が高く、ハードルが低い状況でより多くの違法利益を得られるようになっています。個人にとっては、ネット上の行動における慎重さが一定程度、詐欺被害を回避する手助けになります。一方で企業にとっては、精度の高い詐欺やハッキングへの対処がますます難しくなっています。実際の運用においては、個人・企業ともに常にサイバーセキュリティの動向に注目し、予防策を継続的に更新・改善していく必要があります。必要に応じてAIを活用した反詐欺対策を行うことも有効です。こうした包括的な対策を通じて、個人および企業は大規模モデル犯罪に対する防御力を大幅に高め、潜在的なセキュリティリスクを低減し、情報資産の安全を確保できるようになります。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
