Vitalik의 새 글: 딥페이크 시대가 가져온 보안 도전
저자: Vitalik
편역: BlockBeats
서문:
2월 4일, 한 다국적 기업의 재무 담당 직원이 영상 회의 중 심층 위조(딥페이크) 기술을 이용해 자사의 최고재무책임자(CFO)를 가장한 사기범에게 2500만 달러를 송금하는 피해를 입었다. 처음에는 해당 직원이 영국 지사에 있는 CFO로부터 온 것으로 보이는 메시지를 받았을 때 피싱 이메일일 것이라 의심했지만, 메시지가 비밀 거래를 언급하고 있었기 때문이다. 그러나 이후 열린 영상 통화 후 그는 처음의 의심을 풀어버렸다. 왜냐하면 회의에 참석한 사람들은 모두 그가 알고 있던 동료들과 똑같이 보이고 들렸기 때문이다. 하지만 실제로는 모든 인물들이 심층 위조로 만들어진 가짜였다.
이와 관련해 비탈릭(Vitalik)은 암호화 기술만으로는 모든 문제를 해결할 수 없다고 주장하며, 인간이 본능적으로 기억하기 쉬운 정보를 기반으로 한 '보안 질문'을 다른 보호 장치들과 함께 업무 프로세스에 포함시키는 것이 중요하다고 지적했다. 다만 그는 동시에 보안 질문이 유용하긴 하지만 현재로서는 여전히 충분히 사용자 친화적이지 않다고 말했다.
다음은 원문의 편역 내용이다:
본문 작성에 있어 Hudson Jameson, OfficerCIA, samczsun의 피드백과 검토에 특별히 감사드립니다.
최근 기사 하나가 화제를 모았는데, 한 기업의 재무 담당자가 자신을 위장한 사기꾼에게 송금하면서 2500만 달러를 잃어버렸다는 내용이었다. 이는 매우 사실감 있는 심층 위조(Deepfake) 영상 통화를 통해 실행된 것으로 보인다.
최근 들어 심층 위조 기술(인공지능이 생성한 가짜 오디오 및 영상)은 암호화폐 분야뿐 아니라 여러 분야에서 점점 더 빈번하게 등장하고 있다. 지난 몇 달간 나의 심층 위조 영상이 각종 사기와 도지코인 판매에 악용되기도 했다. 심층 위조의 품질은 빠르게 향상되고 있으며, 2020년대 초반의 어색했던 영상과 달리 최근에는 점점 구분하기 어려워지고 있다. 나를 잘 아는 사람이라면 내가 도지코인을 홍보하는 영상이 가짜라는 것을 금방 알아챌 수 있지만, 예를 들어 영상 속의 나는 "let's f***ing go"라고 말하지만 나는 오직 'LFG(Looking for Group)'라는 표현만 사용하기 때문이다. 그러나 나의 목소리를 몇 차례만 들은 사람은 쉽게 속을 수 있다.
나는 보안 전문가들에게 이 2500만 달러 사건을 언급했고, 그들은 일제히 기업 운영 보안이 여러 층위에서 이상하고도 부끄러운 실패를 겪었다고 평가했다. 일반적인 관행은 이 정도 규모의 송금을 승인하기 전에 여러 단계의 서명을 요구하는 것이다. 하지만 여전히 중요한 사실은 2024년 현재,一个人의 오디오 혹은 영상 스트림만으로는 더 이상 그 사람의 신원을 확인하는 안전한 방법이 아니라는 점이다.
이제 다음과 같은 질문이 제기된다. 과연 무엇이 안전한 신원 인증 방식일까?
암호화 기법만으로는 문제를 해결할 수 없다
다양한 상황과 다양한 사람들에게 신원을 안전하게 인증할 수 있는 능력은 중요하다. 개인은 멀티시그 또는 소셜 리커버리 지갑을 복구해야 하고, 기업은 사업 거래를 승인해야 하며, 개인은 창업 투자, 주택 구입, 송금 등 대규모 거래를 승인해야 한다. 암호화폐를 사용하든 법정화폐를 사용하든 상관없으며, 가족 구성원이 비상 상황에서 서로를 인증해야 할 수도 있다. 따라서 우리는 심층 위조 영상 시대를 맞아 효과적으로 대응할 수 있는 좋은 해결책이 필요하다.
암호화폐 커뮤니티에서는 이 문제에 대한 답변으로 자주 듣는 말이 있다. "ENS 주소, 인간 증명 프로필, 공개 PGP 키 등을 사용해 암호화 서명을 제공함으로써 자신을 인증할 수 있다"는 것이다. 매력적인 답변처럼 들릴 수 있지만, 이는 거래 승인 과정에서 타인의 참여가 왜 유용한지에 대한 핵심을 완전히 간과한다. 당신이 멀티시그 지갑을 가진 개인 사용자를 대표하고, 공동 서명자들의 승인이 필요한 거래를 보내고 있다고 가정하자. 그들은 언제 승인할까? 바로 당신이 진정으로 거래를 원하는 사람임을 확신할 때다. 만약 그들이 거래자가 당신의 키를 훔친 해커이거나 납치범이라고 판단한다면 거래를 승인하지 않을 것이다. 기업 환경에서는 일반적으로 더 많은 방어 단계가 존재하지만, 공격자가 관리자를 가장해 최종 요청뿐 아니라 승인 과정 초기부터 개입할 수도 있다. 심지어 진행 중인 정당한 요청을 가로채 잘못된 주소를 제공함으로써 악용할 수도 있다.
따라서 많은 경우,다른 서명자가 당신의 키로 서명한 것을 보고 "당신이 당신임"을 인정하는 것은 오히려 전체 목적을 무너뜨리는 결과를 낳는다. 이는 계약을 실질적으로 1 대 1 멀티시그로 만들며, 당신의 단일 키만 장악하면 자금을 훔쳐갈 수 있게 되기 때문이다!
이렇게 해서 우리가 도달한 실질적으로 의미 있는 답이 하나 있다. 바로 보안 질문(security questions)이다.
보안 질문
당신의 친구 A씨가 새로운 계정으로 문자를 보내며 자신이라며 연락을 해왔다고 하자. 그리고 모든 기기를 잃어버렸다고 말한다. 어떻게 그가 진짜인지 확인할 수 있을까?
명백한 답이 있다. 오직 그만이 알 수 있는 것을 묻는 것이다. 이는 다음 조건들을 만족해야 한다:
-
당신이 알고 있는 것
-
그가 기억하고 있을 것이라 기대되는 것
-
인터넷이 모르는 것
-
추측하기 어려운 것
-
이상적으로는 기업이나 정부 데이터베이스까지 해킹한 자들도 모르는 것
자연스럽게 공동 경험에 대해 물어보는 것이 좋다. 예를 들어:
-
우리가 마지막으로 만났을 때 어느 레스토랑에서 저녁을 먹었고, 너는 무엇을 먹었지?
-
우리 친구들 중 누가 고대 정치가에 대한 농담을 했었지? 누구였고 어떤 정치가였어?
-
최근 본 영화 중 네가 마음에 들지 않았던 건 뭐였지?
-
지난주 너가 나보고 XXX 연구에 도움이 될 수 있을지 보기 위해 누구와 대화해보라고 했었지?
내 신원을 확인하기 위해 실제로 사용된 보안 질문의 예시
질문이 더 독특할수록 좋다. 상대가 잠시 생각하거나 심지어 잊어버릴 수도 있는 선에서 질문하는 것이 이상적이다. 하지만 상대가 잊었다고 말하면 반드시 추가로 세 가지 질문을 더 던져야 한다. 특정 음식이나 농담 같은 미시적 세부사항을 묻는 것이 일반적으로 거시적 세부사항보다 낫다. 왜냐하면 후자는 제3자가 우연히 알게 될 가능성이 더 크기 때문이다. 예를 들어 저녁 사진을 인스타그램에 올린 사람이 한 명이라도 있다면, 현대의 대규모 언어 모델(LLM)은 위치 정보를 금방 추출해 실시간으로 제공할 수 있다. 질문의 가능한 답이 몇 개밖에 없어 추측 가능성이 있다면, 엔트로피를 늘리기 위해 추가 질문을 더 포함해야 한다.
보안 질문이 지루하고 따분하다면 사람들은 보안 절차를 따르는 것을 포기하기 쉽다. 따라서 보안 질문은 흥미롭게 만들어야 한다. 긍정적인 공동 경험을 떠올리는 수단이 되게 하고, 그런 경험을 실제로 갖도록 유도하는 동기 부여 수단이 되어야 한다.
보안 질문 보완 전략
-
단일한 보안 전략은 완벽할 수 없으므로 항상 여러 기술을 결합하는 것이 가장 좋다.
-
사전 약속 암호: 함께 있을 때 고의로 공통의 암호를 정해두고, 나중에 서로 신원을 확인할 때 사용한다.
-
심지어 비상 키를 정할 수도 있다. 강압이나 위협 상황에서 문장 속에 자연스럽게 삽입할 수 있는 단어를 정해 두는 것이다. 이 단어는 사용할 때 자연스럽게 느껴질 만큼 흔해야 하지만, 동시에 실수로 말하지 않을 만큼 드물어야 한다.
-
누군가 당신에게 ETH 주소를 보낼 때, 여러 채널에서 확인하도록 요청한다(Signal과 트위터 DM, 회사 웹사이트, 혹은 공통 지인을 통해).
-
중간자 공격 방지: Signal의 '보안 번호', Telegram의 이모지 비교 등의 기능은 이해하고 주의 깊게 활용할 가치가 있다.
-
일일 한도 및 지연: 매우 중요하고 돌이킬 수 없는 작업에는 단순히 지연 시간을 두는 것이 효과적이다. 정책적으로 서명자와 미리 N시간 또는 며칠간의 대기 시간을 약속할 수 있고, 코드 수준에서도 스마트 계약에 제한과 지연을 설정할 수 있다.
잠재적인 고급 공격으로는 공격자가 승인 과정의 여러 단계에서 고위 임원과 수혜자를 모두 위조하는 경우가 있다. 보안 질문과 지연은 이런 상황을 모두 방지할 수 있으며, 가능하면 두 가지를 동시에 사용하는 것이 가장 좋다.
보안 질문은 유용하다. 왜냐하면 다른 많은 기술들과 달리 실패 이유가 사용성 부족이 아니라, 오히려 너무 '사람다워서' 실패하기 때문이다. 보안 질문은 인간이 본능적으로 잘 기억하는 정보를 기반으로 한다. 나는 이미 오랫동안 보안 질문을 사용해왔고, 실제로 매우 자연스럽고 어색하지 않은 습관이며, 다른 보호 장치들과 함께 업무 프로세스에 포함시킬 가치가 있다.
앞서 설명한 '개인 대 개인' 보안 질문과 '기업 대 개인' 보안 질문은 매우 다른 용도라는 점에 주목할 필요가 있다. 예를 들어 해외 여행 중 신용카드가 반복적으로 정지되어 은행에 전화해 재활성화를 요청한 후 40분간의 대기 음악을 듣고 직원과 연결되면, 이름과 생일을 묻고 최근 3건의 거래 내역을 확인하는 식이다. 개인이 알고 있는 질문의 종류와 기업이 알고 있는 질문의 종류는 매우 다르다. 따라서 이 두 상황은 별도로 고려할 가치가 있다.
모든 사람의 상황은 독특하므로, 신원을 확인해야 하는 사이에 공유되는 고유한 정보의 종류도 각각 다르다. 일반적으로 사람들의 상황에 따라 기술을 조정하는 것이 가장 좋으며, 사람을 기술에 맞추려고 애쓰는 것은 바람직하지 않다. 어떤 기술이 완벽하지 않더라도 작동할 수 있으며, 이상적인 접근법은 여러 기술을 동시에 조합하고 자신에게 가장 적합한 것을 선택하는 것이다. 딥페이크 이후(post-deepfake) 시대에 우리는 지금은 위조하기 쉬운 것과 여전히 위조하기 어려운 것이라는 새로운 현실에 맞춰 전략을 조정해야 한다. 하지만 그렇게 한다면, 안전을 유지하는 것은 여전히 충분히 가능하다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@VitalikButerin
