이 ‘돼지 사기’에서 AI는 연애를 담당할 뿐만 아니라 위조 변호사 자격증도 제작한다.
작가: 쿠리, TechFlow
OpenAI는 이틀 전 보고서를 발표했는데, 그 내용은 누군가 ChatGPT를 악용해 범죄를 저질렀고, OpenAI가 이를 적발했다는 것이다.
보고서 분량이 상당히 길며, AI의 악용 사례를 다수 열거하고 있다. 러시아 출신 자들이 허위 선전을 벌인 사례도 있고, 간첩으로 의심되는 인물이 사회공학 기법을 동원한 사례도 있지만, 오늘 필자가 집중해서 다루고자 하는 건 바로 다음 사례이다:
캄보디아 ‘돼지 사육’ 사기.
‘돼지 사육’ 사기 자체는 새로울 게 없다. 캄보디아의 사기 단지 이야기는 이미 너무나 많이 들었다. 진짜 특이한 점은 바로 이 사기 과정에서 AI가 맡은 역할이다.
이 사기단 내부에서는 ChatGPT가 연애 상대 역할을 맡았고, 관리자의 지시사항을 번역했으며, 매일 업무 보고서를 작성했고, 피해자 한 명 한 명에 대해 ‘가치 평가’까지 수행했다.
‘돼지 사육’ 사기 용어로는 ‘kill value’라고 부르는데, 이는 당신에게서 최종적으로 갈취할 수 있는 금액을 예측하는 것이다.
전체 사기 라인업에서 ChatGPT는 아마도 가장 바쁜 직원일지도 모른다.
OpenAI는 이 사건에 ‘Operation Date Bait(데이트 낚시 작전)’이라는 코드명을 붙였다.
그 절차는 다음과 같다.
사기단은 먼저 ‘Klub Romantis’라는 가상의 고급 데이트 서비스를 만들었는데, 로고는 ChatGPT로 제작했다. 이후 소셜미디어에 골프, 요트, 고급 레스토랑 등을 키워드로 유료 광고를 집행해 인도네시아의 젊은 남성들을 타깃으로 삼았다.
광고를 클릭하면 먼저 AI 챗봇과 대화하게 된다. 이 챗봇은 매력적인 프론트데스크 직원을 연기하며, 당신이 선호하는 여성 유형을 선택하게 하고, 선택 후에는 Telegram 링크와 전용 초대코드를 제공한다.
Telegram으로 넘어가면 실제 사람이 접수를 맡는다.
접수 담당자는 계속해서 ChatGPT로 애매모호한 메시지를 생성하여 점점 더 노골적인 대화를 유도한 후, 당신을 두 개의 가상 데이트 플랫폼—‘LoveCode’와 ‘SexAction’—으로 유도한다.
이 플랫폼에는 다수의 허위 여성 프로필이 등록되어 있으며, ‘OOO 님이 미션을 완료하여 보너스를 해제했습니다’라는 문구가 끊임없이 스크롤되는 실시간 알림창도 존재한다. 이 모든 정보는 조작된 것이며, 인터넷 서핑 경험이 풍부한 독자라면 금방 눈치 챌 수 있을 것이다. 하지만 모든 타깃층이 그렇게 민첩하지는 않다.
대화가 어느 정도 진전되면, 접수 담당자는 당신을 ‘멘토’에게 넘긴다. 멘토는 이제 당신에게 여러 가지 ‘미션’을 부여하는데, 각 미션마다 입금해야 하며, 금액은 점차 커진다. VIP 카드 구매, ‘좋아하는 여자’에게 투표하기, 호텔 예약금 지불 등 명목은 다양하다.
마지막 단계는 내부 용어로 ‘kill’이라 부른다.
데이터 처리 오류, 검증 보증금 등 다양한 이유를 들어 일시에 큰 금액을 송금하도록 유도한다. OpenAI 보고서에는 사기단이 피해자에게 보낸 편지가 실려 있는데, 여기서 요구된 금액은 인도네시아 루피아 2,050만 원(약 1만 2,000달러)이며, 지불 후 35%의 보너스를 돌려준다고 한다.
입금이 완료되면 Telegram에서 사기꾼은 당신을 차단하고, 내부 시스템에 ‘사건 종결’이라고 메모한다.
이쯤 되면 별 감흥이 없을 수도 있다.
사기 수법 자체는 새롭지 않다. ‘돼지 사육’ 사기의 패턴은 지난 몇 년간 수차례 밝혀지고 분석되어 왔다. 진짜 충격적인 건 바로 그 배후 운영 체계이다.
OpenAI 조사관들은 관련 ChatGPT 계정의 사용 기록을 분석해, 완전한 기업 조직도를 재구성했다:
사기 단지는 세 개의 부서로 구성되어 있다: 유입팀, 접수팀, 관리팀. 유입팀은 광고 집행 및 고객 유입을 담당하고, 접수팀은 대화를 통해 신뢰를 구축하며, 관리팀은 최종 수익 회수를 책임진다.
매일 업무 보고서가 작성된다. 보고서에는 현재 처리 중인 피해자 목록과 함께 담당자, 진행 단계, 그리고 그 숫자가 표시된다:
kill value.
이는 관리자가 해당 피해자로부터 최종적으로 갈취할 것으로 예측한 금액이다.
그들은 또 ChatGPT를 이용해 재무 장부를 분석하고, 업무 보고서를 작성했으며, 심지어 API 연동 방법이나 데이트 웹사이트 코드 수정법까지 ChatGPT에 물어보았다. 관리자는 중국어를 하고, 직원은 인도네시아어를 사용하는 경우도 있었는데, 이때는 ChatGPT가 양측 간 통역을 맡았다.
재미있는 사실은, 한 사기단 직원이 ChatGPT에 “소득 발생 후 세금 문제는 어떻게 해결하나요?”라고 질문하면서, 직업란에 ‘scammer(사기꾼)’이라고 솔직하게 적었다는 점이다.
OpenAI 보고서의 어조는 매우 절제되어 있다. 보고서는 사기단의 자체 입력 기록을 근거로, 그들이 동시에 수백 명의 타깃을 상대하고 하루 수천 달러의 수익을 올리고 있을 가능성이 있다고 언급한다. 다만 보고서는 이러한 수치가 실제로 검증되지 않았음을 분명히 밝히기도 한다.
하지만 필자는 수치의 진위 여부보다는, 이처럼 체계화된 운영 프로세스 자체에 주목할 필요가 있다고 본다:
유입, 전환, 고객당 평균 매출, 일일 보고서, 부서별 업무 분담—용어만 바꿔보면, 어느 SaaS 기업의 운영 매뉴얼을 읽는 듯하다.
연애, 번역, 보고서 작성, 코드 수정, 회계 처리… 이 사기 단지에서 대부분의 업무는 단 하나의 ChatGPT 계정으로 처리된다.
이 이야기는 여기서 끝나지 않는다.
OpenAI는 동일한 보고서 내에서 두 번째 사례를 공개했는데, 이는 ‘Operation False Witness(가짜 피해자 사기)’라는 코드명을 가진 캄보디아 발 사기이다.
이 사기의 타깃은 일반인이 아니라, 이미 사기를 당한 사람이다.
논리는 아주 단순하다: 당신은 ‘돼지 사육’ 사기에 속아 돈을 잃었고, 이를 되찾고 싶어 인터넷에서 해결 방법을 검색한다.
그러면 ‘사기 피해자 손실 회수 전문 법률사무소’를 소개하는 광고를 보게 된다. 당신은 광고를 클릭한다.
웹사이트는 매우 진짜처럼 꾸며져 있다. 변호사 사진은 소셜미디어에서 훔친 실제 인물의 프로필 사진이거나, AI가 생성한 가짜 이미지이다. 각 법률사무소는 실제 주소, 변호사 자격증, 소개글을 모두 갖추고 있다. ChatGPT는 뉴욕주 변호사 협회 회원증과 가짜 변호사 등록 기록까지 생성했다.
OpenAI는 최소 6개의 가짜 법률사무소를 발견했다.
또 다른 웹사이트는 FBI 인터넷 범죄 신고센터(IC3)를 그대로 모방한 것이다. 페이지 상단에는 ‘신고 제출’ 버튼이 있으며, 이를 클릭하면 Telegram 계정으로 연결된다.
Telegram에 접속하면 ‘변호사’가 당신과 대화를 시작한다. 대화 내용은 모두 ChatGPT가 생성했으며, 특히 ‘미국식 영어’로 작성되도록 요청했고, 전문 변호사의 어조를 정확히 모방했다. 그들은 “국제형사재판소와 협력 중이며, 자금 회수 전에는 수수료를 받지 않는다”고 말한다.
다만 계좌 활성화를 위해 먼저 15%의 서비스비를 암호화폐로 지불해야 한다.
또한 비밀유지계약서에 서명하도록 요구한다. 이 계약서 역시 ChatGPT가 작성했는데, 목적은 당신이 다른 사람에게 사실 여부를 확인하지 못하게 하기 위함이다.
FBI는 이 사기에 대해 별도의 공식 경고를 발표했는데, 이 사기는 주로 고령층을 타깃으로 하며, 피해자가 손실 회복을 간절히 바라는 심리를 악용한다는 것이다.
이 두 사례를 살펴본 후, 지금처럼 AI가 기본 인프라가 된 환경에서 가장 씁쓸하게 느껴지는 부분은 바로 다음과 같다:
첫 번째 사기 때 당신은 단순한 ‘타깃’이었다. 두 번째 사기 때 당신은 훨씬 ‘더 나은 타깃’이 된다.왜냐하면 당신이 이미 속을 수 있다는 것을 스스로 증명해 보였기 때문이다.
끝으로, OpenAI는 보고서에서 사기 절차를 세 단계로 요약했다.
첫 번째 단계는 ‘ping’—차가운 초기 접촉, 즉 타깃이 당신을 인지하도록 만드는 단계이다. 두 번째 단계는 ‘zing’—감정을 자극해 설레게 하거나 흥분하게 하거나 두렵게 만드는 단계이다. 세 번째 단계는 ‘sting’—최종 수익을 거두는 단계이다.
이 프레임워크는 매우 잘 정리된 것인데, 자세히 보면 이 세 단계 중 어느 하나라도 AI가 수행할 수 없는 단계가 있는가?
과거 ‘돼지 사육’ 사기의 가장 큰 비용은 인간이었다. 수십 명의 직원을 고용해 컴퓨터 앞에 앉혀 대화를 나누게 해야 했고, 반드시 타깃 언어를 구사할 수 있어야 했다. 캄보디아 사기 단지는 초기에는 영어 실력이 뛰어난 인력을 채용했으며, 그에 상응하는 높은 급여도 지불했다.
하지만 이번 보고서에 등장하는 데이트 사기 사례를 보면, 관리자는 중국어를 하고, 직원은 인도네시아어를 하며, 타깃도 인도네시아인이다. 세 주체 간 언어가 서로 통하지 않아, 과거에는 이런 작업이 불가능했다. 그런데 ChatGPT 하나가 추가되자 모든 문제가 해결되었다.
언어는 그저 하나의 예일 뿐이다.
보고서에는 흥미로운 세부 사항이 하나 더 있다. 사기단 직원이 ChatGPT에 “OpenAI API를 어떻게 연동하나요?”라고 직접 질문한 것이다. 그들은 챗팅 단계 자체를 완전히 자동화하려는 의도였다.
즉, AI는 사기 수법을 ‘더 교묘하게’ 만들지 않았다. 사기 수법은 여전히 똑같다.AI는 사기 수법을 ‘더 저렴하게’ 만들었다.
현재 OpenAI의 설명에 따르면, 이 사기단은 동시에 수백 건의 사기 사건을 처리하고 있을 가능성이 있다. 규모가 커짐에 따라, 개별 피해자에게 할당되는 인건비는 오히려 줄어들고, 따라서 단가가 낮은 더 많은 피해자를 상대할 수 있게 된다.
또 한 가지 더 깊이 생각해볼 가치가 있는 문제가 있다.
OpenAI가 이 사기단을 적발할 수 있었던 이유는, 그들이 ChatGPT를 사용했고, 채팅 기록이 OpenAI 서버에 남아 있었기 때문이다.
그렇다면 로컬에 자체 배포된 오픈소스 모델을 사용하는 사기단은 어떠한가?
이 보고서가 보여주는 것은, 전체 퍼즐 중 OpenAI가 조명할 수 있었던 극소부분일 뿐일 수 있다. 조명되지 않은 나머지 부분은 얼마나 클까? 아무도 모른다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
深潮TechFlow
