大模型犯罪指向區塊鏈？新型犯罪不可不防

撰文：肖颯團隊

隨著人工智能生成內容（AIGC）和大型語言模型（LLMs）的快速發展，技術已經深刻地改變了我們的日常生活和工作方式，極大地提高了我們在編程、數據分析和內容創作等領域的效率。然而，這些技術的進步也滋生了新型科技犯罪的苗頭，比如 Deepfake 技術，它能夠合成逼真的人臉和聲音，進行人臉認證等。現在，隨著技術的發展，詐騙團伙能夠以更低成本實施更為智商更高、利潤更高的詐騙活動，如惡意黑客盜取資金、以及盜取虛擬貨幣等。此外，使用區塊鏈技術使得這些犯罪團伙的行蹤更加難以追蹤和識別。

在這一背景下，我們可能會聽到一些似乎耳熟又不耳熟的名詞，如「WormGPT」和「FraudGPT」。這些是和 ChatGPT 同時或者相近時間開發出的 AIGC，但它們象徵著那些被設計用於惡意目的的人工智能系統。例如，「WormGPT」可能指的是一種能夠自我複製和傳播的惡意軟件，它可能利用了類似於大型語言模型的技術來識別和利用系統中的漏洞。而「FraudGPT」則可能代表一種專門用於進行欺詐活動的人工智能系統，它能夠模仿人類的交流方式來誘騙受害者。因此，隨著技術的發展，我們必須更加警惕和防範潛在的濫用和犯罪行為。

大模型技術滋生的新型犯罪

釣魚郵件（phishing）是通過此技術延申出的相對普遍且成本較低的詐騙方式。 今年年初，一家跨國公司的香港辦事處遭遇了一起高端電匯欺詐騙局，黑客利用基於最新人工智能深度偽造技術的詐騙手段，從該公司騙走了高達 2 億港元（約合 2560 萬美元）。 受害公司的一名財務部員工收到了一條看似來自公司駐英國首席財務官的網絡釣魚郵件，指示其執行一項秘密交易。 儘管該員工起初有所懷疑，但在一次集體視頻通話會議中，「首席財務官」和其他「同事」的出現使他放下了戒心，導致他向五個不同的香港銀行賬戶進行了 15 筆轉賬，總計 2 億港元，然而這些視頻均是通過 Deepfake 深度合成的技術，生成的影像和聲音。 大約一週後，公司員工才意識到這是一個精心策劃的騙局。

拋開詐騙以外，黑客也乘上了大模型的浪潮，興風作浪。黑客攻擊者們已經意識到，控制了 AI 算力，就相當於掌握了未來技術發展的鑰匙。因此高價值的 GPU 集群成為了他們眼中的「香餑餑」，因為這些資源對於執行復雜的機器學習和深度學習任務至關重要。而擊破 AI 的還得是 AI，在短短一年的時間裡，攻擊者通過大模型已經開發出數十種不同的攻擊手段，這些手段可能包括但不限於網絡釣魚、惡意軟件、DDoS 攻擊、供應鏈攻擊等，目的都是為了滲透和控制 AI 算力基礎設施。例如今年年初，美國某公司數千臺服務器被攻破，其算力集群被黑客用來挖取比特幣，而其佔用的算力則大大影響了用戶對服務器正常請求信息的速率。

新型犯罪的預防

個人和企業在面對大模型犯罪時，必須採取一系列切實可行的措施來提高自身的防範能力。對於個人來說，首先應該提高對網絡安全的意識，對任何要求提供個人信息或財務操作的請求保持警惕，避免在不安全的網絡環境下進行敏感操作，並且不要輕易提供例如面孔、指紋、虹膜信息、聲紋等可以追溯鎖定到個人的信息。上週，名為 Worldcoin 的加密貨幣項目在香港引發了隱私權的爭議。該項目由 OpenAI 的創始人之一 Sam Altman 參與發起，旨在通過虹膜掃描技術為全球未銀行化人群提供金融服務。然而，香港私隱專員公署發現 Worldcoin 在收集個人資料時違反了《私隱條例》，包括未經充分告知參與者信息收集的目的和風險，以及未提供中文版的私隱聲明和生物辨識資料同意書等。最終，Worldcoin 被要求停止在香港使用虹膜掃描設備收集市民的虹膜及面容影像。個人應更加審慎地處理自己的敏感信息，避免在不瞭解隱私政策的情況下參與可能侵犯個人隱私的項目。同時，企業在設計和實施涉及個人信息收集的系統或服務時，必須依照《個人信息保護法》等收集個人信息，確保透明度和合規性。

對於企業來說，可以建立全面的網絡安全策略，包括但不限於數據加密、訪問控制、網絡安全監控等措施。然而隨著大模型發展、詐騙技術日益爐火純青，肉眼辨別詐騙會將變得更難。因此，企業可以考慮利用魔法打敗魔法，利用 AI 技術進行安全監控，比如採用類似於上海電信的「反詐大模型」進行實時分析和預警，以快速識別並響應潛在的安全威脅。同時，定期對員工進行網絡安全培訓，提高他們識別和應對網絡詐騙的能力，也是企業防範大模型犯罪的重要一環。

寫在最後

AI 和區塊鏈的發展，使得詐騙團伙和惡意黑客能夠在更隱秘、要求更低的情況下，獲得更多的非法利益。對於個人來說，在網絡世界的謹慎能夠一定程度上避免被詐騙的風險，而對於企業來說，高精度的狙擊詐騙和駭入會更加難以防範。在實際操作中，個人和企業都需要持續關注網絡安全動態，不斷更新和完善防範策略，必要時可以通過 AI 進行反詐操作。通過這些綜合性措施，個人和企業可以顯著提高對大模型犯罪的防範能力，減少潛在的安全風險，確保信息資產的安全。