판도라의 상자: 무제한 대규모 모델이 암호화 산업 보안에 어떻게 위협이 되는가?
배경
OpenAI의 GPT 시리즈에서 구글의 Gemini, 그리고 다양한 오픈소스 모델에 이르기까지, 첨단 인공지능(AI)은 우리의 업무와 생활 방식을 근본적으로 변화시키고 있다. 그러나 기술이 급속도로 발전하는 동시에 주목해야 할 어두운 측면도 점차 드러나고 있는데, 바로 제한 없이 또는 악의적으로 사용되는 대규모 언어 모델(LLM)의 등장이다.
무제한 LLM이란 주류 모델들이 내장하고 있는 보안 메커니즘과 윤리적 제한을 우회하기 위해 고의로 설계되거나 수정되며 '탈옥(jailbreak)'된 언어 모델을 말한다. 주류 LLM 개발자들은 자사 모델이 혐오 발언, 허위 정보, 악성 코드 생성 또는 불법 활동 지침 제공에 악용되는 것을 막기 위해 막대한 자원을 투입한다. 그러나 최근 들어 일부 개인이나 조직은 사이버 범죄 등의 목적을 가지고 제한 없는 모델을 탐색하거나 직접 개발하기 시작했다. 이에 따라 본 글에서는 대표적인 무제한 LLM 도구들을 정리하고, 암호화폐 산업에서의 악용 사례를 소개하며 관련 보안 위협과 대응 방안을 논의하고자 한다.
무제한 LLM은 어떻게 악용되는가?
악성 코드 작성, 피싱 메일 제작, 사기 기획 등 과거에는 전문 기술이 필요했던 작업들이 무제한 LLM의 도움을 받으면 이제는 프로그래밍 경험이 전혀 없는 일반인도 쉽게 수행할 수 있게 되었다. 공격자는 단순히 오픈소스 모델의 가중치와 소스 코드를 확보한 후, 악성 콘텐츠, 편향된 담론 또는 불법 명령이 포함된 데이터셋으로 파인튜닝(fine-tuning)만 하면 맞춤형 공격 도구를 만들 수 있다.
이러한 방식은 여러 가지 위험 요소를 낳는다. 공격자는 특정 목표에 맞춰 모델을 변형함으로써 기존 LLM의 콘텐츠 검토 및 보안 제한을 우회할 수 있고, 피싱 웹사이트 코드의 변형을 빠르게 생성하거나 각 소셜 플랫폼에 맞춘 사기 문구를 맞춤 제작할 수도 있다. 또한 오픈소스 모델의 접근성과 수정 가능성은 지하 AI 생태계의 형성과 확산을 부추기며 불법 거래 및 개발에 기름을 부어주는 격이다. 아래는 이러한 무제한 LLM들에 대한 간략한 소개이다.
WormGPT: 블랙 버전 GPT
WormGPT는 지하 포럼에서 공개 판매되는 악성 LLM으로, 개발자가 명시적으로 "윤리적 제한이 전혀 없다"고 선언하며 GPT 모델의 블랙 버전이라고 주장한다. 이는 GPT-J 6B 등의 오픈소스 모델을 기반으로 하며, 악성 소프트웨어 관련 대량의 데이터로 학습되었다. 최소 189달러를 지불하면 한 달간 사용 권한을 얻을 수 있다. WormGPT는 특히 사실감 있고 설득력 있는 비즈니스 이메일 침해(BEC) 공격 및 피싱 메일 생성으로 악명이 높으며, 암호화폐 분야에서의 대표적 악용 사례는 다음과 같다.
-
피싱 메일/메시지 생성: 암호화폐 거래소, 지갑, 유명 프로젝트 등을 가장해 사용자에게 "계정 인증" 요청을 보내 악성 링크 클릭이나 개인키/복구 문구 유출을 유도함;
-
악성 코드 작성: 기술 수준이 낮은 공격자가 지갑 파일 탈취, 클립보드 감시, 키보드 로깅 등의 기능을 가진 악성 코드를 작성하도록 지원함;
-
자동화된 사기 운영: 잠재적 피해자에게 자동으로 회신하여 가짜 에어드랍이나 투자 프로젝트에 참여하도록 유도함.
DarkBERT: 다크웹 콘텐츠의 양날의 검
DarkBERT는 한국과학기술원(KAIST) 연구진과 S2W Inc.가 협력하여 개발한 언어 모델로, 다크웹(포럼, 블랙마켓, 유출 자료 등)의 데이터에 특화되어 사전 훈련되었다. 그 목적은 사이버 보안 연구자와 법 집행 기관이 다크웹 생태계를 이해하고, 불법 활동을 추적하며, 잠재적 위협을 식별하고 위협 인텔리전스를 수집하는 데 있다.
비록 DarkBERT의 설계 의도는 긍정적이지만, 다크웹상의 데이터, 공격 수법, 불법 거래 전략 등 민감한 정보를 보유하고 있다는 점에서 만약 악의적 행위자가 이를 악용하거나 유사 기술로 무제한 대규모 모델을 훈련시킨다면 예측할 수 없는 결과를 초래할 수 있다. 암호화폐 분야에서의 잠재적 악용 사례는 다음과 같다.
-
정밀 사기 실행: 암호화폐 사용자 및 프로젝트 팀의 정보를 수집해 소셜 엔지니어링 사기를 수행함;
-
범죄 수법 모방: 다크웹 내 성숙한 코인 도난 및 자금 세탁 전략을 복제함.
FraudGPT: 사이버 사기의 스위스 아미 나이프
FraudGPT는 WormGPT의 업그레이드 버전이라 주장하며 더 다양한 기능을 제공한다. 다크웹과 해커 포럼에서 판매되며, 월간 사용료는 200달러부터 1,700달러까지 다양하다. 암호화폐 분야에서의 주요 악용 사례는 다음과 같다.
-
가짜 암호화폐 프로젝트 제작: 실제처럼 보이는 백서, 공식 웹사이트, 로드맵, 마케팅 문구를 생성해 가짜 ICO/IDO를 실행함;
-
피싱 페이지 대량 생성: 유명 암호화폐 거래소의 로그인 페이지나 지갑 연결 인터페이스를 빠르게 모방한 페이지를 다수 생성함;
-
소셜미디어 물대포 활동: 가짜 리뷰와 홍보 콘텐츠를 대규모로 생산해 사기 토큰을 부추기거나 경쟁 프로젝트를 흠집냄;
-
소셜 엔지니어링 공격: 인간 대화를 모방하는 챗봇으로 신뢰를 구축하고, 사용자가 모르는 사이에 민감 정보를 유출하거나 유해한 작업을 수행하게 유도함.
GhostGPT: 윤리적 제약이 없는 AI 조수
GhostGPT는 명확히 윤리적 제약이 없다고 규정된 AI 챗봇으로, 암호화폐 분야에서의 주요 악용 사례는 다음과 같다.
-
고급 피싱 공격: 주요 거래소를 가장해 거짓 KYC 인증 요청, 보안 경보, 계정 정지 알림 등을 담은 매우 사실적인 피싱 메일 생성;
-
스마트 계약 악성 코드 생성: 프로그래밍 지식이 없어도 GhostGPT를 통해 숨겨진 백도어 또는 사기 로직을 포함한 스마트 계약을 신속히 생성할 수 있으며, Rug Pull 사기나 DeFi 프로토콜 공격에 활용됨;
-
다양형 암호화폐 탈취기 생성: 지갑 파일, 개인키, 복구 문구를 탈취하는 지능형 악성 소프트웨어를 생성함. 다형성 특성 덕분에 서명 기반 보안 소프트웨어로는 탐지가 어렵게 만듦;
-
소셜 엔지니어링 공격: AI가 생성한 대화 스크립트를 활용해 Discord, Telegram 등 플랫폼에 봇을 배치하고, 사용자를 가짜 NFT 민팅, 에어드랍, 투자 프로젝트에 유인함;
-
딥페이크 사기: 다른 AI 도구와 결합해 암호화폐 프로젝트 창립자, 투자자, 거래소 고위 관계자의 음성을 위조하고, 전화 사기 또는 BEC(비즈니스 이메일 침해) 공격을 수행함.
Venice.ai: 검열 없는 접근의 잠재적 위험
Venice.ai는 다양한 LLM에 대한 접근을 제공하는데, 일부 검열이 적거나 제한이 느슨한 모델도 포함된다. 이 플랫폼은 사용자가 다양한 LLM의 기능을 탐색할 수 있는 개방형 게이트웨이로 자신을 위치 짓고 있으며, 가장 진보되고 정확하며 검열되지 않은 모델을 제공해 진정한 무제한 AI 경험을 실현한다고 주장하지만, 범죄자들이 악성 콘텐츠를 생성하는 데 이용될 가능성이 있다. 이 플랫폼의 위험 요소는 다음과 같다.
-
검열 우회를 통한 악성 콘텐츠 생성: 플랫폼 내 제한이 적은 모델을 활용해 피싱 템플릿, 허위 광고, 공격 아이디어 등을 생성할 수 있음;
-
프롬프트 엔지니어링 장벽 낮추기: 공격자가 고난도의 '탈옥' 프롬프트 기술을 보유하지 않아도 원래 제한되었던 출력을 쉽게 얻을 수 있음;
-
공격 스크립트 반복 개선 가속화: 다양한 모델이 악성 명령에 어떻게 반응하는지 빠르게 테스트하며 사기 스크립트와 공격 기법을 최적화할 수 있음.
맺음말
무제한 LLM의 등장은 사이버 보안이 더욱 복잡하고 규모화되며 자동화된 새로운 공격 패러다임에 직면했음을 의미한다. 이러한 모델들은 공격 진입 장벽을 낮출 뿐 아니라, 더욱 은밀하고 기만적인 새로운 형태의 위협을 가져온다.
이러한 공격과 방어가 끊임없이 진화하는 경쟁 속에서, 보안 생태계의 모든 구성원은 협력하여 미래의 위험에 대응해야 한다. 먼저 악성 LLM이 생성한 피싱 콘텐츠, 스마트 계약 취약점 악용, 악성 코드 등을 식별하고 차단할 수 있는 탐지 기술에 대한 투자를 늘려야 한다. 또한 모델의 탈옥 방지 능력을 강화하고, 워터마킹 및 추적 메커니즘을 탐색해 금융 및 코드 생성과 같은 중요 시나리오에서 악성 콘텐츠의 출처를 추적할 수 있도록 해야 한다. 더불어 윤리적 규범과 규제 체계를 정비하여 악의적 모델의 개발과 남용을 근본적으로 억제하는 노력도 필수적이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@SlowMist_Team
