대규모 모델 범죄가 블록체인을 겨냥하다? 새로운 형태의 범죄, 각별한 주의 필요
글: 샤오샤 팀
인공지능 생성 콘텐츠(AIGC)와 대규모 언어 모델(LLMs)의 급속한 발전과 함께 기술은 우리의 일상생활과 업무 방식에 깊은 영향을 미치며 프로그래밍, 데이터 분석, 콘텐츠 제작 등 다양한 분야에서 효율성을 크게 높이고 있다. 그러나 이러한 기술 발전은 동시에 Deepfake 기술과 같은 새로운 형태의 과학기술 범죄를 낳기도 한다. 예를 들어 Deepfake는 사실감 있는 얼굴 이미지와 음성을 합성하여 얼굴 인식 인증 등을 수행할 수 있다. 현재 기술이 발전함에 따라 사기 조직은 더 낮은 비용으로 지능 수준이 높고 수익도 더 큰 사기 활동을 수행할 수 있게 되었으며, 악성 해커가 자금을 도난하거나 가상화폐를 탈취하는 등의 행위도 증가하고 있다. 또한 블록체인 기술의 사용으로 인해 이러한 범죄 조직의 행적을 추적하고 식별하기가 더욱 어려워졌다.
이러한 맥락 속에서 우리는 "WormGPT", "FraudGPT"와 같이 익숙하면서도 생소한 용어들을 접하게 된다. 이들은 ChatGPT와 거의 동시 또는 유사한 시기에 개발된 AIGC이지만, 악의적인 목적을 위해 설계된 인공지능 시스템을 상징한다. 예를 들어 'WormGPT'는 시스템 내 취약점을 식별하고 이용하기 위해 대규모 언어 모델과 유사한 기술을 활용할 수 있는 자기 복제 및 전파 기능을 갖춘 악성 소프트웨어일 수 있으며, 'FraudGPT'는 인간의 의사소통 방식을 모방해 피해자를 속이는 사기 활동에 특화된 인공지능 시스템을 의미할 수 있다. 따라서 기술 발전과 함께 이러한 기술의 남용과 범죄 가능성을 보다 경계하고 예방해야 한다.
대규모 모델 기술이 낳은 새로운 범죄 양상
피싱 메일(phishing)은 이러한 기술이 파생시킨 비교적 일반적이면서도 저비용의 사기 수법이다. 올해 초, 한 다국적 기업의 홍콩 지사에서는 최첨단 AI 기반 딥페이크 기술을 이용한 고급 전신송금 사기가 발생했는데, 해커는 이 기술을 통해 회사로부터 2억 홍콩달러(약 2560만 달러)를 사기로 빼앗아갔다. 해당 기업 재무부 직원은 영국 본사의 최고재무책임자(CFO)로부터 온 듯한 피싱 메일을 받고 비밀 거래를 실행하라는 지시를 받았다. 직원은 처음에는 의심했으나, 그 후 열린 집단 화상회의에서 'CFO'와 다른 '동료들'이 등장하자 경계를 풀었고, 결국 5개의 서로 다른 홍콩 은행 계좌로 15차례에 걸쳐 총 2억 홍콩달러를 송금했다. 그러나 이 모든 화상회의 영상은 딥페이크 기술로 생성된 위조된 영상과 음성이었다. 약 일주일 후에야 직원들은 이 모든 것이 치밀하게 기획된 사기였음을 깨달았다.
사기 외에도 해커들은 대규모 모델의 물결을 타고 활개를 치고 있다. 해킹 공격자들은 AI 컴퓨팅 능력을 장악하는 것이 곧 미래 기술 발전의 열쇠를 쥐는 것임을 깨닫고 있다. 따라서 복잡한 머신러닝 및 딥러닝 작업에 필수적인 고가치 GPU 클러스터는 그들에게 있어 '황금알을 낳는 거위'가 되었다. 그리고 AI를 무너뜨리는 데에도 역시 AI가 필요하다. 단 1년 만에 공격자들은 대규모 모델을 활용해 피싱, 악성코드, DDoS 공격, 공급망 공격 등 수십 가지의 다양한 공격 수단을 개발했다. 이러한 수단들은 모두 AI 컴퓨팅 인프라에 침투하고 이를 장악하려는 목적을 가지고 있다. 예를 들어 올해 초 미국의 한 기업 수천 대 서버가 해킹당했으며, 그들의 컴퓨팅 리소스 클러스터는 해커들이 비트코인을 채굴하는 데 사용되었다. 이로 인해 정상적인 사용자의 서버 요청 처리 속도가 크게 저하되는 문제가 발생했다.
신종 범죄 예방 대책
개인과 기업은 대규모 모델 범죄에 직면했을 때 자체 방어 능력을 강화하기 위해 실질적으로 가능한 일련의 조치를 취해야 한다. 개인의 경우 사이버 보안에 대한 인식을 높이고, 개인정보 제공이나 금융 거래를 요구하는 요청에는 항상 경계를 유지해야 하며, 불안전한 네트워크 환경에서 민감한 작업을 수행하지 말아야 하고, 얼굴, 지문, 홍채 정보, 음성 인식 정보 등 개인을 특정할 수 있는 생체정보를 쉽게 제공해서는 안 된다. 지난주, OpenAI의 공동 설립자 중 한 명인 샘 알트먼(Sam Altman)이 참여해 설립한 암호화폐 프로젝트 Worldcoin이 홍콩에서 개인정보 보호 논란을 일으켰다. 이 프로젝트는 홍채 스캔 기술을 활용해 세계적으로 은행 서비스를 이용하지 못하는 사람들에게 금융 서비스를 제공하는 것을 목표로 한다. 그러나 홍콩 개인정보보호위원회는 Worldcoin이 개인정보를 수집하는 과정에서 개인정보 보호 규정을 위반했다고 밝혔다. 구체적으로는 참가자들에게 정보 수집 목적과 위험을 충분히 고지하지 않았으며, 개인정보 고지서 및 생체인식 정보 동의서의 중국어 버전을 제공하지 않았다는 점이다. 결국 Worldcoin은 홍콩에서 시민의 홍채 및 얼굴 이미지를 수집하기 위한 홍채 스캐너 사용을 중단하라는 조치를 받았다. 개인은 자신의 민감한 정보를 더욱 신중하게 관리하고, 개인정보 정책을 제대로 이해하지 않은 상태에서 개인정보 침해 가능성이 있는 프로젝트에 참여하지 않도록 주의해야 한다. 동시에 기업은 개인정보 수집을 포함하는 시스템이나 서비스를 설계하고 운영할 때 반드시 『개인정보 보호법』 등의 법률을 준수하며 투명성과 법적 규제 준수를 확보해야 한다.
기업의 경우 데이터 암호화, 접근 통제, 사이버 보안 모니터링 등 포괄적인 사이버 보안 전략을 수립할 수 있다. 그러나 대규모 모델의 발전과 함께 사기 기술이 점점 더 정교해짐에 따라 사람의 눈으로 사기를 판단하는 것은 점점 더 어려워지고 있다. 따라서 기업은 마법으로 마법을 물리치듯 AI 기술을 활용한 보안 감시를 고려할 수 있다. 예를 들어 상하이 전신(中国电信)이 개발한 '사기 방지 대규모 모델'과 유사한 기술을 도입해 잠재적인 보안 위협을 실시간으로 분석하고 조기에 경고하는 방식이다. 또한 정기적으로 직원들에게 사이버 보안 교육을 실시해 사이버 사기 식별 및 대응 능력을 높이는 것도 기업이 대규모 모델 범죄를 예방하는 중요한 요소이다.
마치며
AI와 블록체인의 발전은 사기 조직과 악성 해커들이 더 은밀하게, 더 낮은 조건에서도 더 많은 불법 이득을 얻을 수 있게 만들었다. 개인의 경우 사이버 공간에서의 주의가 어느 정도 사기 위험을 줄일 수 있지만, 기업 입장에서는 정교한 사기 및 해킹 공격을 막는 것이 훨씬 더 어렵다. 실제 운영에서 개인과 기업 모두 사이버 보안 동향을 지속적으로 주목하고 방어 전략을 끊임없이 업데이트하고 보완해야 하며, 필요한 경우 AI 기술을 활용한 사기 방지 조치를 취할 수도 있다. 이러한 종합적인 조치를 통해 개인과 기업은 대규모 모델 범죄에 대한 방어 능력을 크게 향상시켜 잠재적 보안 위험을 줄이고 정보 자산의 안전을 확보할 수 있다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
