텔레그램은 정말로 암호화 앱인가?
글: Matthew Green
번역: Block unicorn
저자인 Matthew Green는 암호학자이자 존스홉킨스 대학교 교수입니다. 무선 네트워크, 결제 시스템 및 디지털 콘텐츠 보호 플랫폼에서 사용되는 암호화 시스템의 설계 및 분석을 전문으로 하며, 연구를 통해 암호 기술을 활용해 사용자 개인정보를 보호하는 다양한 방법을 탐구하고 있습니다.
이 글은 텔레그램 CEO 파벨 두로프(Pavel Durov)가 콘텐츠 규제 부족을 이유로 프랑스 당국에 체포된 최근의 충격적인 소식에서 영감을 받았습니다. 저는 구체적인 사건의 전말을 알지 못하지만, 형사 고소를 통해 소셜미디어 기업을 압박하는 것은 매우 우려되는 상황이며, 이 사건은 겉보기보다 훨씬 복잡하게 진행되고 있습니다.
하지만 저는 오늘 이 체포 사건 자체에 대해 이야기하고 싶지는 않습니다.
제가 다루고 싶은 것은 보도의 특정한 한 가지 세부 사항입니다. 바로 거의 모든 관련 기사들이 텔레그램을 '암호화 앱'이라고 소개한다는 점입니다. 다음은 그 예시들입니다:
이러한 표현은 제 입장에서는 참을 수 없습니다. 아주 제한된 기술적 관점에서 보면 틀린 말은 아닙니다. 하지만 중요한 모든 측면에서, 이 표현은 텔레그램의 본질과 실제 작동 방식을 근본적으로 오도합니다. 이러한 오해는 기자뿐 아니라 텔레그램 사용자들에게도 해롭고, 특히 심각한 피해를 입을 가능성이 있는 사용자들에게 특히 위험합니다.
자, 이제 세부 사항으로 들어가 봅시다.
텔레그램에는 암호화가 정말 있는가?
많은 시스템이 어떤 형태로든 암호화를 사용하지만, 현대의 개인 메시징 서비스 맥락에서 "암호화"라는 용어는 일반적으로 매우 구체적인 의미를 가집니다. 즉, 사용자 간 메시지 내용을 보호하기 위해 기본적으로 종단 간 암호화(End-to-End Encryption)를 사용해야 한다는 뜻입니다. 업계 표준에 따라 적용할 경우, 이 기능은 각 메시지가 통신 당사자 외에는 누구도 알 수 없는 암호화 키로 암호화되도록 보장하며, 서비스 제공자는 해당 키를 알 수 없습니다.
사용자의 입장에서 볼 때, '암호화된 메시지 앱'이라 함은 대화를 시작할 때마다, 메시지를 오직 당신과 대화 중인 사람만 읽을 수 있어야 한다는 것을 의미합니다. 메시징 서비스 운영자가 당신의 메시지를 확인하려 해도, 그들은 무의미한 암호화된 데이터만 볼 수 있을 것입니다. 동일한 보안은 서비스 제공자의 서버를 해킹하려는 자나, 제공업체에 소환장을 발부하는 법 집행 기관에도 적용됩니다. 이것이 좋은 일인지 나쁜 일인지 여부와는 관계없이 말입니다.
텔레그램은 이런 더 엄격한 정의에 명백히 부합하지 않습니다. 단순한 이유 하나 때문인데요, 바로 종단 간 암호화가 기본 설정으로 활성화되어 있지 않기 때문입니다. 텔레그램에서 종단 간 암호화를 사용하려면, 사용자가 수동으로 각 개별 대화에 대해 '비밀 채팅(Secret Chat)'이라는 선택적 기능을 활성화해야 합니다. 이 기능은 대부분의 대화에서 비활성화되어 있으며, 일대일 대화에만 적용되며, 절대로 3명 이상의 그룹 채팅에서는 사용되지 않습니다.
이상하게도 이 기능은 '추가 옵션'처럼 취급되며, 비전문 사용자에게는 실제로 활성화하기가 매우 번거롭습니다.
우선, 텔레그램의 암호화 기능을 켜는 버튼은 기본 대화 창이나 메인 화면에 전혀 보이지 않습니다. iOS 앱에서 이를 찾으려면 최소 네 번 클릭해야 합니다. 사용자 프로필 페이지로 이동하고, 숨겨진 메뉴를 띄워 옵션을 표시한 후, 비밀 채팅을 시작하겠다는 확정을 눌러야 합니다. 그리고 그렇게 해도 암호화된 대화를 바로 시작할 수 없습니다. 왜냐하면 텔레그램의 비밀 채팅 기능은 상대방이 온라인 상태일 때만 작동하기 때문입니다.
최신 텔레그램 iOS 앱에서 친구 Michael과 '비밀 채팅'을 시작하려면, 일반 채팅 화면에서는 해당 옵션이 직접 보이지 않습니다. 이를 활성화하려면 네 번의 클릭이 필요합니다:
(1) Michael의 프로필 페이지로 이동 (왼쪽 이미지),
(2) 숨겨진 옵션 목록을 표시하기 위해 '...' 버튼 클릭 (가운데 이미지),
(3) '비밀 채팅 시작' 선택,
(4) '계속하시겠습니까?' 확인 대화창에서 확인 클릭. 이후에도 Michael에게 메시지를 보낼 수 없습니다. 텔레그램의 비밀 채팅 기능은 상대방도 온라인일 때만 활성화되기 때문입니다.
전반적으로 이 경험은 현대의 표준 암호화 메시징 앱에서 새로운 암호화 채팅을 시작하는 것과는 크게 다릅니다. 표준 앱에서는 단순히 새 채팅 창을 열기만 하면 됩니다.
이것이 지나치게 까다롭게 느껴질 수도 있지만, 기본 종단 간 암호화와 텔레그램의 사용자 경험 사이의 차이는 실제로 매우 큽니다. 결과적으로 대부분의 일대일 텔레그램 대화와 모든 그룹 채팅은 텔레그램 서버에서 볼 수 있고 기록될 수 있으며, 사용자 간에 주고받는 모든 메시지 내용을 서버가 확인하고 저장할 수 있다는 뜻입니다. 이것이 모든 텔레그램 사용자에게 문제인지 아닌지는 모르지만, 분명히 특별히 안전한 암호화라고 홍보해서는 안 됩니다.
(자세한 정보나 텔레그램 암호화 프로토콜에 대한 추가적인 비판이 궁금하다면 아래에서 설명하겠습니다.)
기본 암호화가 정말 중요할까?
아마 중요할 수도 있고, 아닐 수도 있습니다! 이 질문은 두 가지 서로 다른 관점에서 바라볼 수 있습니다.
첫 번째 관점은, 텔레그램이 기본 암호화를 갖추지 않았다는 것이 많은 사람들에게는 전혀 문제가 되지 않는다는 것입니다. 현실적으로 많은 사용자들이 텔레그램을 암호화된 개인 메시징 도구로 사용하지 않기 때문입니다. 많은 이들에게 텔레그램은 개인 메시징 앱이라기보다는 소셜미디어 네트워크에 더 가깝습니다.
특히 텔레그램에는 이러한 목적에 적합한 두 가지 인기 기능이 있습니다. 하나는 '채널(Channel)'을 만들고 구독할 수 있는 기능인데, 각 채널은 방송국처럼 한 명 또는 소수의 사람이 수백만 명의 구독자에게 콘텐츠를 배포할 수 있게 해줍니다. 수천 명의 낯선 사람들에게 메시지를 방송할 때, 채팅 내용의 기밀성을 유지하는 것은 그리 중요하지 않습니다.
또한 텔레그램은 수천 명의 사용자가 참여할 수 있는 대규모 공개 그룹 채팅을 지원합니다. 이러한 그룹은 공개되거나 초대제로 설정할 수 있습니다. 저 자신은 수천 명과 그룹 채팅을 하는 상상을 해본 적 없지만, 많은 사람들이 이 기능을 좋아한다고 들었습니다. 이렇게 대규모로 공개적인 그룹에서는 암호화되지 않은 채팅도 크게 문제되지 않습니다. 어쨌든 공공 장소에서 대화를 나누는 것과 마찬가지니까요.
하지만 텔레그램은 여기서 그치지 않고, 이러한 기능을 이용하는 많은 사용자들이 다른 용도로도 사용합니다.
여러분이 '공공 광장' 같은 곳에서 대규모 그룹 채팅을 하고 있다고 상상해 보세요. 이런 환경에서는 강력한 개인정보 보호를 기대하기 어렵고, 따라서 종단 간 암호화가 중요하지 않을 수 있습니다. 하지만 여러분과 다섯 명의 친구가 그 광장에서 벗어나 비밀 대화를 시작한다면 어떨까요? 이 대화는 강력한 개인정보 보호를 받을 가치가 있지 않을까요? 그런데 텔레그램은 그러한 보호를 제공하지 않습니다. 적어도 기본 설정에서는 말입니다. 텔레그램 서버가 콘텐츠를 공유할 수 있기 때문입니다.
비슷하게, 텔레그램의 소셜미디어 기능을 사용하면서 주로 콘텐츠를 소비하고 생성하지 않는다고 가정해 봅시다. 그런데 어느 날, 친구도 같은 이유로 텔레그램을 사용하게 되고 여러분을 발견해 개인 메시지를 보내기로 결정합니다. 이때 여러분은 개인정보가 걱정되지 않나요? 그리고 둘 다 오프라인이 될 수 있다는 점, 그리고 숨겨진 메뉴를 통해 네 번의 명확한 클릭을 해야 한다는 점에도 불구하고, 정말로 '비밀 채팅' 기능을 수동으로 활성화할 것인가요?
저는 많은 사람들이 텔레그램의 소셜미디어 기능 때문에 가입했지만, 결국에는 개인 대화에도 사용하게 된다고 생각합니다. 텔레그램은 이를 잘 알고 있으며, 자신의 플랫폼을 '안전한 메시징 앱'으로 홍보하고 암호화 기능을 강조하는 경향이 있는데, 이는 사용자들이 더 안심하도록 만들기 위한 전략이라고 생각합니다. 하지만 실제로는 이 사용자들 중 극소수만이 텔레그램의 암호화 기능을 실제로 사용하고 있을 것이라고 의심합니다. 많은 사용자들은 암호화를 수동으로 켜야 한다는 사실조차 모를 수 있으며, 이미 암호화가 적용되고 있다고 착각할 수 있습니다.
이제 제가 다음 주장으로 넘어갑니다.
텔레그램은 자신의 암호화 기능이 사용하기 어렵다는 것을 알고 있으면서도, 여전히 자사 제품을 '안전한 메시징 앱'으로 홍보하고 있습니다.
2016년부터(아마 그 이전부터) 텔레그램의 암호화 기능은 제가 이 글에서 언급한 여러 이유로 인해 심각한 비판을 받아왔습니다. 사실 이러한 비판은 제가 포함한 전문가들이 오래전부터 트위터에서 파벨 두로프와 나눈 대화에서 제기된 것입니다.
두로프와의 교류가 때때로 날카로웠지만, 당시 저는 여전히 텔레그램이 선의로 움직이고 있다고 믿었습니다. 텔레그램이 네트워크 확장에 바쁘며, 시간이 지남에 따라 종단 간 암호화의 품질과 사용 편의성을 개선할 것이라고 생각했습니다. 예를 들어 기본 설정으로 변경하거나, 그룹 채팅을 지원하고, 오프라인 사용자와도 암호화된 채팅을 시작할 수 있도록 만드는 등의 조치 말입니다. 저는 텔레그램이 선구자가 아니라 추종자일지라도 결국 Signal이나 WhatsApp 수준의 기능을 달성할 것이라고 가정했습니다. 물론 다른 가능성은 암호화를 완전히 포기하고 소셜미디어 플랫폼에 집중하는 것이었죠.
하지만 실제로 일어난 일은 오히려 더 혼란스럽습니다.
텔레그램의 소유주는 종단 간 암호화의 사용 편의성을 개선하지 않았으며, 2016년 이후 이 기능의 사용자 경험은 거의 변화가 없습니다. 플랫폼의 기본 암호화 알고리즘은 일부 업그레이드되었지만, 2024년의 비밀 채팅 사용자 경험은 8년 전과 거의 동일합니다. 반면 이 기간 동안 텔레그램의 사용자 수는 7~9배 증가했습니다.
그럼에도 불구하고 텔레그램 CEO 파벨 두로프는 계속해서 텔레그램을 '안전한 메시징 앱'으로 적극적으로 홍보하고 있습니다. 최근 그는 자신의 텔레그램 채널에서 Signal과 WhatsApp를 날카롭게 비판하며, 이 시스템들이 미국 정부에 의해 백도어(backdoor)가 설치되었다고 암시하고, 오직 텔레그램의 독자적인 암호화 프로토콜만이 진정으로 신뢰할 수 있다고 주장했습니다.
둘 다 기본 종단 간 암호화를 지원하는 플랫폼 간의 합리적인 기술 논쟁이라면 이해할 수 있을지도 모릅니다. 그러나 텔레그램은 이 논의에서 설 자리가 없습니다. 사용자들이 기본 암호화를 제공하는 메시징 앱을 피하도록 유도하면서, 스스로는 사용자 메시지를 광범위하게 암호화할 수 있는 기본 기능을 거부하고 있는 현실은 더 이상 재미있지 않습니다. 오히려 악의적이라는 느낌마저 듭니다.
그 외 암호화 세부 사항은 무엇인가?
이곳은 암호학 블로그이므로, 지루한 암호화 프로토콜에 대해 잠깐 설명하지 않으면 제 역할을 다하지 못하는 셈입니다. 또한 텔레그램 암호화 내부의 세부사항을 감탄하며 살펴볼 좋은 기회이기도 합니다. 매번 이 세부사항을 볼 때마다 저는 거의 충격에 빠지니까요.
고통을 줄이기 위해 한 문단으로 요약하겠습니다. 관심 없다면 자유롭게 건너뛰셔도 좋습니다.
제가 파악하기로 가장 최신의 암호화 사양에 따르면, 텔레그램의 비밀 채팅 기능은 MTProto 2.0이라는 자체 프로토콜을 기반으로 합니다. 이 시스템은 서버가 선택하는 군 파라미터(제 생각에 그렇습니다)를 사용하는 2048비트 유한체 디피-헬먼(Diffie-Hellman) 키 교환을 기반으로 합니다. (디피-헬먼 키 교환은 두 사용자가 동시에 온라인 상태에서 상호작용해야 하므로, 한 사용자가 오프라인일 경우 암호화 채팅을 설정할 수 없습니다.) MITM(중간자 공격) 보호는 사용자가 직접 수행하며, 키 지문을 수동으로 비교해야 합니다. 서버는 제가 그 목적을 완전히 이해하지 못하는 이상한 랜덤 nonce(난수)를 제공합니다. *— 과거 이 난수들은 악의적인 서버 앞에서 키 교환을 완전히 불안전하게 만들었지만, 이 문제는 오래전에 해결되었습니다.* 생성된 키는 AES 기반의 '무한 혼란 확장'(IGE)이라는 매우 특이하고 비표준적인 인증 암호화 모드에 사용되며, 인증 처리에는 SHA2가 사용됩니다. **
주: 위 문단에서 '*'로 표시한 각 항목은 전문 암호학자들이 보안 감사와 같은 맥락에서 손을 들고 질문을 던질 지점들입니다. 깊이 파고들지는 않겠습니다. 요약하자면, 텔레그램의 암호화는 매우 특이합니다.
만약 제가 텔레그램 비밀 채팅의 프로토콜과 구현이 안전한지 추측해보라고 한다면, 아마 안전할 것이라고 말하겠습니다. 솔직히 말해서, 하지만 그것은 중요하지 않습니다. 사람들이 실제로 사용하지 않는다면 아무리 안전해도 의미가 없기 때문입니다.
Block unicorn 주석: 간단히 말해, 텔레그램의 암호화 시스템은 정보를 보호하기 위해 복잡한 기술을 사용하지만, 사용자 경험 측면에서는 설정과 사용이 복잡합니다. 특히 난수 사용과 키 보호 방식과 같은 일부 기술적 세부사항은 투명성이 떨어진다는 느낌을 줄 수 있습니다.
결론
종단 간 암호화는 데이터 유출을 방지하기 위한 최고의 도구 중 하나이지만, 이것이 개인정보 보호의 전부는 아닙니다. 메시징에서 가장 큰 개인정보 문제 중 하나는 방대한 양의 메타데이터입니다. 즉 누가 서비스를 사용하고, 누구와 대화하며, 언제 대화하는지에 대한 데이터 말입니다.
이러한 데이터는 일반적으로 종단 간 암호화의 보호를 받지 않습니다. 텔레그램의 채널처럼 순전히 방송 기능만 제공하는 앱에서도, 누가 방송을 듣고 있는지에 대한 유용한 메타데이터가 많이 존재합니다. 전통적인 방송 회사들이 이 데이터 수집에 막대한 자금을 투자하는 것으로 보아, 이 정보 자체가 사람들에게 매우 가치 있다는 것을 알 수 있습니다. 현재 이 모든 정보는 텔레그램 서버에 존재할 수 있으며, 원하는 사람은 누구나 접근할 수 있습니다.
저는 텔레그램만을 비판하고자 하는 것은 아닙니다. 거의 모든 다른 소셜미디어 네트워크와 개인 메시징 앱들도 동일한 문제를 안고 있기 때문입니다. 하지만 이 점을 언급하고 싶었고, 제가 이 문제를 언급하는 이유는 '암호화만 있다면 괜찮다'는 착각을 하지 않도록 하기 위해서입니다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
