Vitalik의 새 글: AI와 암호화가 프라이버시를 어떻게 변화시키고 있는가?
글: 비탈릭 부테린, 이더리움 창시자
번역: 백수, 금색재경
특별히 Balvi 자원봉사자인 Paul Dylan-Ennis, pcaversaccio, vectorized, Bruce Xu 및 Luozhu Zhang의 토론과 피드백에 감사드립니다.
최근 들어 저는 점점 더 이더리움 생태계의 프라이버시 상황 개선에 관심을 기울이고 있습니다. 프라이버시는 탈중앙화의 중요한 보장 수단입니다. 정보를 가진 자가 권력을 가지므로, 우리는 정보의 중심화된 통제를 피해야 합니다. 현실 세계에서 사람들은 중앙집중식 기술 인프라에 대해 두 가지 우려를 가지고 있는데, 하나는 운영자가 갑작스럽게 규칙을 바꾸거나 사용자를 차단할 수 있다는 점이며, 다른 하나는 데이터 수집에 대한 걱정입니다. 암호화폐 분야는 디지털 금융 프라이버시 보호를 최우선으로 하는 Chaum의 Ecash와 같은 프로젝트에서 시작되었지만, 최근에는 프라이버시를 과소평가하고 있습니다. 그 이유는 궁극적으로 나쁜 것입니다. ZK-SNARK 기술이 등장하기 전까지는 탈중앙화 방식으로 프라이버시를 제공할 방법이 없었기 때문에, 우리는 프라이버시의 중요성을 축소하고 당시 제공할 수 있었던 다른 보장을 우선시했습니다.
하지만 이제 프라이버시는 더 이상 무시할 수 없습니다. 인공지능(AI)은 중앙집중적 데이터 수집과 분석 능력을 크게 향상시키고 있으며, 동시에 우리가 자발적으로 공유하는 데이터의 범위도 급격히 확대하고 있습니다. 앞으로 뇌-컴퓨터 인터페이스(BCI)와 같은 새로운 기술은 더욱 큰 도전을 가져올 것입니다. 우리는 정말로 AI가 우리의 생각을 읽는다는 이야기를 하게 될지도 모릅니다. 동시에 1990년대 암호 펑크들이 상상했던 것보다 훨씬 강력한 프라이버시 보호 도구들을 이미 보유하고 있으며, 특히 디지털 영역에서는 더욱 그렇습니다. 효율적인 제로 난이도 증명(ZK-SNARK)은 우리를 신뢰할 만하다는 것을 입증하기 위해 필요한 정보만을 드러내면서도 정체성을 보호할 수 있으며, 완전 동형 암호화(FHE)는 데이터를 열람하지 않고도 데이터를 계산할 수 있게 해주며, 난독화 기술은 곧 더 많은 기능을 제공할 가능성이 있습니다.
프라이버시란 서로를 고립시키는 것이 아니라, 함께 단결하는 것을 의미한다.
이 시점에서 다시 한번 질문해볼 필요가 있습니다. 우리는 왜 프라이버시가 필요한가요? 사람마다 답은 다릅니다. 본 글에서는 제가 내리는 답변을 세 부분으로 나누어 설명하겠습니다.
-
프라이버시란 자유다: 프라이버시는 우리가 자신의 행동이 다양한 정치적·사회적 게임에서 어떻게 평가될지 끊임없이 걱정하지 않아도 되는 공간을 제공합니다.
-
프라이버시란 질서다: 사회의 기본적인 작동을 가능하게 하는 많은 메커니즘이 프라이버시에 의존하여 제대로 기능합니다.
-
프라이버시란 진보다: 만약 우리가 정보를 선택적으로 공유하면서도 남용으로부터 보호할 수 있는 새로운 경로를 찾는다면, 우리는 엄청난 가치를 창출하고 기술 및 사회 발전을 가속화할 수 있습니다.
프라이버시란 자유다
21세기 초반, David Brin이 1998년 출간한 『투명사회(The Transparent Society)』에서 요약된 관점과 유사한 주장이 유행했습니다. 기술은 전 세계의 정보를 더욱 투명하게 만들 것이며, 비록 일부 부작용이 있어 지속적으로 조정이 필요하겠지만, 전체적으로는 매우 좋은 일이며, 시민들이 정부를 감시할 수 있도록 함으로써 이를 더욱 공평하게 만들 수 있다고 주장했습니다. 1999년 선 마이크로시스템즈(Sun Microsystems)의 CEO 스콧 맥닐리(Scott McNealy)는 "프라이버시는 죽었다. 받아들여라!"라는 유명한 말을 했습니다. 이러한 사고방식은 페이스북 초기 구상과 성장 과정에서도 널리 퍼져 있었으며, 당시 페이스북은 가명 사용을 금지했습니다. 저는 2015년 선전 화웨이 행사에서 한 명의(서양인) 연사가 "프라이버시는 죽었다"고 즉흥적으로 언급하는 것을 직접 겪으며, 이런 사고방식의 말기를 체험하기도 했습니다.
"투명사회"는 프라이버시가 사라졌다는 이데올로기가 제시할 수 있는 가장 밝고 긍정적인 미래상을 나타냅니다. 정부가 개인이나 소수 집단을 억압하는 대신, 투명성의 힘을 통해 책임을 묻도록 하여 더 나은, 더 정의롭고 공정한 세상을 약속합니다. 그러나 후견적으로 보면, 이 사고방식은 전 세계 협력과 평화, 그리고 '역사의 종말'에 대한 열광이 절정에 달했던 시대의 산물이며, 인간성에 대한 지나치게 낙관적인 가정들에 의존하고 있었습니다. 주로 다음과 같습니다.
-
글로벌 정치의 최상층은 일반적으로 선의를 갖고 이성적이어서, 수직적 프라이버시(권력자와 기관에게 정보를 숨기는 것)가 점점 덜 필요하게 된다. 권력 남용은 특정 지역에 국한되므로, 그러한 남용을 근절하는 최선의 방법은 그들을 햇빛 아래 노출시키는 것이다.
-
문화는 계속 발전하여 수평적 프라이버시(일반 대중에게 정보를 숨기는 것)마저 불필요하게 될 것이다. 괴짜, 동성애자, 그리고 궁극적으로 모든 사람들이 더 이상 '장 closet'에 숨지 않아도 되며, 사회는 사람들의 독특한 특성에 대해 덜 가혹하고 판단적이며, 더욱 개방적이고 포용적이 될 것이다.
오늘날 어떤 주요 국가도 첫 번째 가정이 옳다고 일반적으로 인정하지 않으며, 오히려 많은 국가들이 그것이 틀렸다고 생각하고 있습니다. 두 번째 측면에서도 문화적 포용도가 빠르게 후퇴하고 있습니다. 트위터에서 '괴롭힘은 좋다' 같은 문구를 검색하는 것만으로도 그 증거를 찾을 수 있으며, 쉽게 더 많은 사례를 찾아낼 수 있습니다.
저는 불행히도 자주 "투명사회"의 부작용을 경험하는데, 제가 외부에서 하는 모든 행동이 미디어에 의해 공개 보도되는 것으로 연결될 가능성이 있기 때문입니다.
최악의 경우는 치앙마이에서 제 노트북을 사용하는 장면을 누군가 1분간 촬영해 샤오허홍(Xiaohongshu)에 올렸고, 순식간에 수천 건의 좋아요와 공유를 받은 일입니다. 물론 제 상황은 일반적인 인간의 삶과는 거리가 멀지만, 프라이버시란 항상 그런 식입니다. 비교적 정상적인 삶을 사는 사람들은 프라이버시가 덜 필요하며, 반면 삶이 비정상적인 사람들—어떤 방향으로든—은 더 많은 프라이버시를 필요로 합니다. 중요한 모든 방향을 합산하면 실제로 프라이버시가 필요한 사람들의 수는 상당히 많아집니다. 언제 자신이 그 중 하나가 될지 모릅니다. 이것이 바로 프라이버시가 자주 과소평가되는 중요한 이유 중 하나입니다. 그것은 오늘날 당신의 처지와 정보뿐만 아니라, 그 정보가 미래에 어떤 일이 벌어질지(그리고 그것이 당신에게 어떤 영향을 줄지)에 대한 불확실성과도 관련되어 있기 때문입니다.
현재로서는 AI 옹호자들 사이에서도 기업 가격 책정 메커니즘의 프라이버시는 소수의 문제이지만, AI 기반 분석 도구의 등장과 함께 점점 더 심각한 문제가 될 수 있습니다. 회사가 당신에 대해 더 많이 알수록, 당신에게 맞춤형 가격을 제시할 가능성이 커지고, 그 결과 당신이 지불할 확률에 그들이 당신에게서 추출할 수 있는 이윤을 곱한 값을 극대화할 수 있습니다.
저는 "프라이버시란 자유다"라는 제 주장 전체를 다음 한 문장으로 표현할 수 있습니다.
프라이버시는 당신이 자신의 사적인 게임(당신의 필요)과 공적인 게임(다양한 타인들이 소셜미디어 폭풍, 상업적 유인, 정치, 기관 등을 통해 당신의 행동을 어떻게 보고 반응할지를 포함하여) 사이에서 매 행동마다 균형을 끊임없이 잡지 않아도 되도록 하여, 개인의 목표와 필요에 가장 적합한 방식으로 살아갈 자유를 제공합니다.
프라이버시가 없다면 모든 것이 "다른 사람들(또는 로봇들)이 내가 한 일을 어떻게 볼까?"라는 끊임없는 논쟁이 되어 버립니다. 권력자든, 기업이든, 동료든, 현재든 미래든 말입니다. 프라이버시가 있다면 우리는 균형을 유지할 수 있습니다. 그러나 지금 이 균형은 특히 물리적 영역에서 빠르게 무너지고 있습니다. 현대 기술 자본주의의 기본 경로는 사용자의 명시적 지불 없이도 사용자로부터 가치를 추출하는 비즈니스 모델을 찾고자 하며, 이는 균형을 더욱 파괴하고(심지어 우리 자신의 생각에까지 침투할 정도로) 있습니다. 따라서 우리는 이러한 영향을 상쇄하고, 특히 우리가 실질적으로 할 수 있는 영역—디지털 영역—에서 프라이버시를 더욱 명확하게 지지할 필요가 있습니다.
하지만 정부에게 후문(backdoor)을 허용하면 안 되는가?
위의 논리를 반박하는 흔한 주장이 있습니다. 제가 설명한 프라이버시의 부작용은 대부분 일반 대중이 우리의 사생활을 너무 많이 알게 되는 데서 오며, 권력 남용이 발생한다면 기업, 상사, 정치인들이 우리에 대해 너무 많이 아는 데서 옵니다. 하지만 우리는 일반 대중, 기업, 상사, 정치인들에게 모든 데이터를 주지 않을 것입니다. 대신 소수의 훈련되고 철저히 검증된 법 집행 전문가들에게만 접근을 허용하고, 철저한 책임 제도를 시행하여 다른 누구도 그 데이터를 알 수 없도록 하겠다는 것입니다.
이것은 조용히 널리 퍼져 있지만 명확히 다뤄야 할 중요한 입장입니다. 선의로 고품질 기준으로 시행된다 하더라도 이러한 전략은 다음과 같은 이유로 내재적인 불안정성을 가지고 있습니다.
-
정부뿐 아니라 다양한 기업들도 데이터 유출 위험에 직면해 있으며, 그 수준은 다양합니다. 전통 금융 시스템에서 KYC 및 결제 정보는 결제 처리업체, 은행, 다양한 중개기관들이 보유하고 있습니다. 이메일 제공업체는 방대한 양의 데이터를 확인합니다. 통신사는 당신의 위치를 알고 있으며 정기적으로 불법 재판매를 합니다. 전반적으로 이러한 모든 기관을 충분히 엄격하게 규제하여 사용자 데이터를 진정으로 중요하게 여기도록 하려면, 감시자와 감시받는 자 모두에게 막대한 노력이 필요하며, 이는 경쟁적인 자유시장과 어울리지 않을 수 있습니다.
-
접근 권한을 가진 개인은 언제든지 데이터를 남용(제3자에게 판매 포함)하고 싶어 합니다. 2019년에는 트위터 직원 몇 명이 사우디아라비아에 이견자들의 개인정보를 팔다가 기소되어 유죄 판결을 받았습니다.
-
데이터는 언제든지 해킹될 수 있습니다. 2024년 미국 통신사가 법적으로 수집해야 하는 데이터가 중국 정부 소행으로 알려진 해커에게 공격을 당했습니다. 2025년에는 우크라이나 정부가 보유한 대량의 민감한 개인정보가 러시아 해커에게 공격을 당했습니다. 반대로 중국의 고도로 민감한 정부 및 기업 데이터베이스도 해킹된 바 있으며, 미국 정부도 그 중 하나였습니다.
-
정권이 교체될 수 있습니다. 오늘날 신뢰할 수 있는 정부도 내일은 그렇지 않을 수 있고, 오늘 권력을 잡은 자가 내일은 박해를 당할 수도 있습니다. 오늘날 완벽한 존중과 예절을 유지하는 경찰 조직도 10년 후에는 온갖 비열하고 잔혹한 행위의 도구가 될 수 있습니다.
개인의 입장에서 보면, 그들의 데이터가 도난당했을 때 미래에 어떻게 남용될지 예측할 수 없습니다. 지금까지 대규모 데이터를 처리하는 가장 안전한 방법은 처음부터 가능한 한 적게 데이터를 집중 수집하는 것입니다. 데이터는 사용자 스스로가 최대한 보유하고, 개인 프라이버시를 해치지 않으면서도 유용한 통계를 집계할 수 있는 암호화 수단을 활용해야 합니다.
정부는 수색 영장만 있으면 어떤 정보라도 접근할 권리가 있어야 한다는 주장은 역사적으로 그렇게 운영되어 왔기 때문이라는 점은 중요한 사실을 간과합니다. 역사적으로 수색 영장으로 획득할 수 있는 정보의 양은 오늘날보다 훨씬 적었으며, 심지어 가장 엄격한 인터넷 프라이버시 보호 조치를 널리 적용했을 때 가능한 정보량보다도 훨씬 적었습니다. 19세기에는 평균적으로 각 개인이 한 번의 음성 대화를 했고, 그 누구도 그것을 기록하지 않았습니다. 따라서 '정보 프라이버시'에 대한 도덕적 공포는 역사적 흐름과 전혀 맞지 않습니다. 일반적인 대화, 심지어 금융 거래조차 완전하고 무조건적으로 사적인 상태로 유지되는 것이 수천 년간의 역사적 평균이었습니다.
1950년의 일반적인 대화. 해당 대화에 참여한 사람들 외에, 어떤 시간에도 그 대화를 기록하거나 감시하거나 "합법적으로 가로채거나", 인공지능으로 분석하거나 다른 방식으로 확인한 사람은 아무도 없었다.
중앙화된 데이터 수집을 최소화해야 하는 또 다른 중요한 이유는 글로벌 통신과 경제적 상호작용의 상당 부분이 본질적으로 국제적이기 때문입니다. 만약 모든 사람이 같은 국가에 있다면, 적어도 '정부'가 그들의 상호작용 데이터에 접근할 권리를 가져야 한다고 말할 수 있습니다. 하지만 사람들이 서로 다른 국가에 있다면 어떨까요? 원칙적으로 각 개인의 데이터를 담당하는 법적 접근 기관에 매핑하는 '은하수 두뇌(Galaxy Brain)' 솔루션을 시도할 수 있을지도 모릅니다. 그러나 여전히 다수의 사람 데이터가 얽힌 에지 케이스(edge cases)를 처리해야 합니다. 설령 그렇게 할 수 있다 해도, 현실의 기본 설정은 아닙니다. 정부 후문의 현실적 기본 결과는 데이터가少数의 중앙 관할 지역에 집중되는 것이며, 이 지역들은 앱을 통제하기 때문에 본질적으로 전 세계 기술 패권을 가지게 됩니다. 강력한 프라이버시는 지금까지 가장 안정적인 대안입니다.
프라이버시란 질서다
수십 년 전부터 민주주의 제도가 효과적으로 작동하기 위한 핵심 기술적 요소는 비밀 투표임이 알려져 왔습니다. 누구도 당신이 누구에게 투표했는지 알 수 없으며, 설사 당신이 진짜로 증명하고 싶어도 누구에게도 증명할 수 없습니다. 비밀 투표가 기본 설정이 아니라면, 유권자들은 뇌물, 사후 보상 약속, 사회적 압력, 위협 등 자신이 투표하는 방식에 영향을 주는 다양한 부수적 유인이 존재하게 됩니다.
간단한 수학적 논증으로 이러한 부수적 유인이 민주주의를 완전히 파괴한다는 것을 알 수 있습니다. N명이 참여하는 선거에서 당신이 결과에 영향을 미칠 확률은 약 1/N밖에 되지 않으므로, 어느 후보가 더 낫고 못한지에 대한 모든 고려는 N으로 나누어져 약화됩니다. 반면에 '부수적 게임'(예: 유권자 뇌물, 협박, 사회적 압력)은 당신의 투표 방식(전체 투표 결과가 아니라)에 따라 직접적으로 당신에게 영향을 미치므로, N으로 나누어지지 않습니다. 따라서 부수적 게임이 철저히 통제되지 않는 한, 기본적으로 전체 게임을 압도하고, 어느 후보의 정책이 실제로 더 낫다는 고려를 완전히 묻어버릴 수 있습니다.
이것은 국가 수준의 민주주의에만 해당되는 것이 아닙니다. 이론적으로는 거의 모든 기업이나 정부의 위임-대리 문제(agent-principal problem)에 적용됩니다.
-
판사가 사건을 어떻게 판결할지 결정함
-
정부 공무원이 어느 기업과 계약하거나 보조금을 지급할지 결정함
-
이민 담당 공무원이 비자를 발급하거나 거부할지 결정함
-
소셜미디어 기업 직원이 콘텐츠 검토 정책을 어떻게 시행할지 결정함
-
기업 직원이 비즈니스 결정(예: 어느 공급업체에서 조달할지)에 참여함
모든 경우의 근본적인 문제는 동일합니다. 대리인이 성실히 행동하면, 그가 수행한 행동으로부터 자신이 대표하는 집단에 가져다주는 이익은 아주 일부에 불과합니다. 반면, 그가 특정 부수적 게임의 유인을 따르면, 그는 그 유인의 전부를 취득할 수 있습니다. 따라서 오늘날에도 우리는 모든 기관이 서로를 무너뜨리는 부수적 게임의 혼란 속에서 완전히 파괴되지 않도록 하기 위해 엄청난 도덕적 선의를 필요로 하고 있습니다. 프라이버시가 더욱 약화된다면, 이러한 부수적 게임은 더욱 강력해지고, 사회를 정상적으로 유지하기 위해 필요한 도덕적 선의는 실현 불가능할 정도로 높아질 수 있습니다.
사회 시스템을 재설계하여 이러한 문제를 피할 수 있을까요? 불행히도 게임 이론은 이것이 불가능하다는 것을 거의 명확하게 지적합니다(완전 독재라는 한 가지 예외를 제외하고). 각 참가자가 독립적으로 의사결정을 하고, 여러 주체들이 공동 이익을 위해 협력하는 가능성을 배제하는 게임 이론의 버전—즉, 비협력 게임 이론—에서는 메커니즘 설계자가 다양한 특정 결과를 실현하기 위해 게임을 '설계'할 수 있는 자유도가 큽니다. 실제로 모든 게임은 최소한 하나의 안정적인 내시 균형(Nash equilibrium)을 가져야 한다는 수학적 증명이 있으므로, 이러한 게임 분석은 다루기 쉬워집니다. 하지만 연합(즉, '공모')의 가능성을 허용하는 게임 이론의 버전, 즉 협력 게임 이론에서는, 안정적인 결과(핵심, core라고 함)가 없는 게임이 많다는 것을 증명할 수 있습니다. 이러한 게임에서는 현재 상황이 어떠하든, 항상 일부 연합이 이득을 볼 수 있는 여지가 있습니다.
수학을 진지하게 받아들인다면, 안정적인 사회 구조를 구축하는 유일한 방법은 참가자들 사이에 발생할 수 있는 조정의 양을 제한하는 것—즉, 높은 수준의 프라이버시(부인 가능성 포함)—라는 결론에 도달하게 됩니다. 수학 자체를 진지하게 받아들이지 않는다면, 현실 세계를 관찰하거나, 위의 위임-대리 상황 중 일부가 부수적 게임에 의해 장악된다면 어떻게 될지 생각해보는 것만으로도 동일한 결론에 도달할 수 있습니다.
이 점은 정부 후문이 위험한 이유에 대한 또 다른 논점을 제시합니다. 만약 모든 사람이 모든 일에서 다른 사람들과 무한한 조정 능력을 갖는다면, 그 결과는 혼란입니다. 하지만 소수의 사람들만 정보 접근 특권을 가지고 그 능력을 갖는다면, 그 결과는 그들이 지배하게 되는 것입니다. 한 정당이 다른 정당의 통신에 후문을 갖는 것은 다당제의 실현 가능성을 쉽게 끝낼 수 있습니다.
공모를 제한해야만 작동할 수 있는 사회 질서의 또 다른 중요한 예는 지식 및 문화 활동입니다. 지식 및 문화 활동에 참여하는 것은 본질적으로 내재적 동기에 의해 추진되는 공익 활동입니다. 사회에 긍정적인 기여를 하도록 유도하는 외재적 인센티브를 찾는 것은 어렵습니다. 왜냐하면 지식 및 문화 활동 자체가 어느 행동이 사회적으로 긍정적인지를 결정하는 활동 중 하나이기 때문입니다. 우리는 올바른 방향으로 이끄는 근사한 상업적·사회적 인센티브를 마련할 수 있지만, 이는 내재적 동기의 강력한 보완이 필요합니다. 그러나 이는 또한 이러한 활동이 외재적 동기 불균형, 특히 사회적 압력과 강요와 같은 부수적 게임의 영향을 특히 쉽게 받을 수 있음을 의미합니다. 이러한 불균형 외재적 동기의 영향을 제한하기 위해 프라이버시는 다시 필수적이 됩니다.
프라이버시는 진보다
공개키 암호화와 대칭키 암호화가 전혀 존재하지 않는 세계를 상상해 보십시오. 이 세계에서는 안전하게 원거리로 메시지를 보내는 것이 본질적으로 더 어려워집니다. 불가능한 것은 아니지만 매우 어렵습니다. 그 결과 국제 협력이 크게 줄어들고, 더 많은 협력은 오프라인 대면 채널을 통해 이루어질 것입니다. 이는 세계를 더 가난하고 더 불평등하게 만들 것입니다.
저는 우리가 현재 처한 상황이, 가상의 미래 세계에 비해 바로 그런 상황이라고 생각합니다. 그 미래에는 더 강력한 형태의 암호학—특히 프로그래머블 암호학(programmable cryptography)—이 널리 사용되며, 더 강력한 전체 스택 보안과 형식적 검증이 추가되어, 이러한 암호학이 올바르게 사용되고 있다는 강력한 보장을 제공합니다.
이집트 신 프로토콜: 데이터를 완전히 사적인 상태로 유지하면서도 데이터를 계산할 수 있게 해주는 세 가지 강력하고 매우 범용적인 구조.
의료 분야가 좋은 예입니다. 지난 10년간 장수, 전염병 퇴치 또는 기타 건강 분야에서 일했던 사람과 대화를 나눠보면, 모두 일치해서 미래의 치료와 예방은 개인화될 것이며, 효과적인 대응은 고품질의 데이터—개인 데이터와 환경 데이터—에 크게 의존한다고 말할 것입니다. 공기 전파 질병으로부터 사람들을 효과적으로 보호하려면 특정 시점에 병원체가 어디에 존재하는지, 그리고 어느 지역의 공기 질이 높고 낮은지를 알아야 합니다. 최첨단 장수 클리닉은 당신의 신체, 식습관, 생활 방식 데이터를 기반으로 맞춤형 조언과 치료 계획을 제공합니다.
그러나 이 모든 것은 동시에 엄청난 프라이버시 리스크를 구성합니다. 저는 회사가 '집으로 전화하는' 직원에게 공기질 모니터를 제공했는데, 수집된 데이터로 그 직원이 언제 성관계를 가졌는지를 알 수 있을 정도였다는 사건을 알고 있습니다. 비슷한 이유로, 저는 가장 가치 있는 데이터 중 상당수가 기본적으로 수집되지 않을 것이라고 예상합니다. 사람들이 프라이버시 리스크를 두려워하기 때문입니다. 데이터가 실제로 수집되더라도 연구자들에게 광범위하게 공유되거나 제공되지 않는 경우가 거의 대부분입니다. 부분적으로는 상업적 이유 때문이기도 하지만, 프라이버시를 고려한 경우도 마찬가지로 흔합니다.
같은 패턴이 다른 분야에서도 반복됩니다. 우리가 작성한 문서, 다양한 앱에서 보낸 메시지, 소셜미디어에서의 다양한 행동에는 우리 자신에 관한 방대한 정보가 담겨 있으며, 이 정보를 사용하면 우리의 일상생활에 필요한 것을 더 효과적으로 예측하고 제공할 수 있습니다. 또한 의료와 무관하게 우리가 물리적 환경과 어떻게 상호작용하는지에 관한 방대한 정보도 있습니다. 현재 우리는 이러한 정보를 효과적으로 활용하면서도 디스토피아적인 프라이버시 악몽을 초래하지 않는 도구를 갖추지 못했습니다. 하지만 미래에는 그러한 도구를 가질 수 있을지도 모릅니다.
이러한 도전 과제를 해결하는 최선의 방법은 공유 데이터의 이점을 얻으면서도 부작용을 초래하지 않는 강력한 암호화 기술을 사용하는 것입니다. 인공지능 시대에는 데이터(개인 데이터 포함)에 대한 수요는 더욱 중요해질 것입니다. 로컬에서 '디지털 트윈(digital twin)'을 훈련하고 실행함으로써, 우리의 선호도에 대한 고충실도 근사를 기반으로 의사결정을 대신해줄 수 있는 능력은 엄청난 가치를 제공할 것입니다. 궁극적으로 이것은 뇌-컴퓨터 인터페이스(BCI) 기술을 사용하여 뇌에서 고대역폭 입력을 읽는 것으로 이어질 것입니다. 고도로 집중된 글로벌 패권을 초래하지 않기 위해 우리는 프라이버시를 존중하면서 이를 실현하는 방법을 찾아야 합니다. 프로그래머블 암호화가 가장 신뢰할 수 있는 해결책입니다.
내 AirValent 공기질 모니터. 공기질 데이터를 수집하고, 집계된 통계를 오픈 데이터 지도에 공개하며, 데이터 제공에 보상을 주는 장치를 상상해 보세요. 이러한 모든 작업은 프로그래머블 암호화 기술을 사용하여 개인 위치 데이터를 유출하지 않으면서도 데이터의 진위를 검증합니다.
프라이버시는 사회적 안전의 진보를 촉진할 수 있다
제로 난이도 증명(ZKP)과 같은 프로그래머블 암호화 기술은 정보 흐름에서 마치 레고 블록처럼 매우 강력합니다. 누가 어떤 정보를 볼 수 있는지, 더 중요하게는 어떤 정보가 조회될 수 있는지를 세밀하게 제어할 수 있습니다. 예를 들어, 저는 캐나다 여권을 소지하고 있으며 18세 이상임을 증명할 수 있지만, 그 외의 어떤 개인정보도 공개하지 않을 수 있습니다.
이는 다양한 흥미로운 조합을 가능하게 합니다. 몇 가지 예를 들겠습니다.
-
제로 난이도 정체성 증명: 여권, 생체 인식 기술, 탈중앙화 소셜 그래프 기반의 신원 증명 등 다양한 신분증명 수단을 통해 귀하가 유일한 인간임을 증명하되, 그 외의 정체성 정보는 전혀 공개하지 않습니다. 이는 '로봇이 아님을 증명'하거나 다양한 '1인당 최대 N회' 용례 등에 사용할 수 있으며, 규칙이 위반되지 않았음을 입증하면서도 완전한 프라이버시를 보호합니다.
-
프라이버시 풀(Privacy Pools): 후문 없이도 악의적 행위자를 배제할 수 있는 금융 프라이버시 솔루션입니다. 소비 시, 사용자는 자신의 토큰이 공개된 해커 및 도난 목록에 포함되지 않았음을 증명할 수 있습니다. 오직 해커와 도둑만이 그러한 증명을 생성할 수 없으므로, 그들은 숨길 수 없습니다. Railgun과 privacypools.com은 현재 이러한 방식을 사용하고 있습니다.
-
디바이스 단말 반사기(scam detection) 스캔: 제로 난이도 증명(ZKP)에 의존하지는 않지만, 이 범주에 속한다고 느껴집니다. LLM을 포함한 디바이스 내장 필터를 사용하여 수신 메시지를 검사하고, 잠재적인 허위 정보와 사기 메시지를 자동으로 식별할 수 있습니다. 디바이스에서 이 작업을 수행하면 사용자 프라이버시를 해치지 않으며, 사용자 승인 하에 각 사용자가 어떤 필터를 구독할지 선택할 수 있습니다.
-
실물 출처 증명: 블록체인과 제로 난이도 증명을 결합하여 제조 체인에서 제품의 다양한 속성을 추적할 수 있습니다. 예를 들어, 공급망을 공개하지 않으면서도 환경 외부성을 가격 책정할 수 있습니다.
왼쪽: 프라이버시 풀 개념도. 오른쪽: Message Checker 앱, 사용자는 URL 검사, 암호화폐 주소 검사, 루머 검사 필터를 선택적으로 켜고 끌 수 있음
프라이버시와 인공지능
최근 ChatGPT는 사용자의 과거 대화를 AI에 입력하여 향후 대화의 맥락으로 사용하기 시작하겠다고 발표했습니다. 이 추세는 불가피하게 이 방향으로 나아갈 것입니다. AI가 당신의 과거 대화를 되돌아보고 통찰을 얻는 것은 근본적으로 매우 유용합니다. 머지않아 인터넷 서핑 패턴, 이메일 및 채팅 기록, 생체 데이터 등을 수동으로 수집하는 더 깊은 프라이버시 침해 AI 제품이 등장할지도 모릅니다.
이론적으로는 당신의 데이터는 당신에게만 사적인 것입니다. 하지만 실제 상황은 항상 그런 것 같지는 않습니다.
와! ChatGPT에 버그가 있어서 다른 사람이 한 질문을 내게 보여줬네! 이건 심각한 프라이버시 유출이다. 내가 질문을 했는데 오류가 나고, 다시 시도하니까 내가 절대 하지 않을 질문이 생성됐어.
프라이버시 보호 메커니즘이 잘 작동할 가능성도 있지만, 이 경우 AI가 환각을 일으켜 Bruce가 결코 하지 않은 질문을 생성하고 답변했을 수 있습니다. 그러나 현재로서는 이를 검증할 수 없습니다. 마찬가지로 우리의 대화가 훈련에 사용되었는지 여부도 검증할 수 없습니다.
이 모든 것은 매우 우려스럽습니다. 더욱 불쾌한 것은 사용자 동의 없이 대규모로 사용자의(물리적·디지털) 데이터를 수집하고 분석하는 AI의 명시적인 감시 용례입니다. 얼굴 인식 기술은 이미 독재 정권이 정치적 이견자들을 대규모로 탄압하는 데 도움을 주고 있습니다. 가장 우려되는 것은 AI 데이터 수집 및 분석의 궁극적 프론티어—인간의 사고입니다.
이론적으로 뇌-컴퓨터 인터페이스 기술은 인간의 잠재력을 향상시키는 놀라운 힘을 가지고 있습니다. 작년 Neuralink의 첫 번째 환자인 Nolan Arbaugh의 사례를 들어보겠습니다.
이 실험적 장치는 현재 30세인 Arbaugh에게 독립성을 되찾아주었습니다. 과거에는 입으로 조작하는 막대를 사용해야 했고, 누군가가 그를 똑바로 세워줘야 했습니다. 막대가 떨어지면 누군가捡起해야 했고, 장시간 사용하면 궤양이 생겼기 때문에 오래 사용할 수 없었습니다. Neuralink 장치를 사용하면 컴퓨터를 거의 완전히 제어할 수 있습니다. 그는 언제든지 웹서핑을 하고 컴퓨터 게임을 할 수 있으며, Neuralink는 그가 뇌-컴퓨터 인터페이스(BCI)로 커서를 제어하는 인간 최고 기록을 달성했다고 밝혔습니다.
현재 이러한 장치는 장애인과 병환자를 돕기에 충분히 강력합니다. 미래에는 완전히 건강한 사람도 컴퓨터와 협업하고, 상상할 수 없는 효율로 마음으로 소통할 수 있게 될 것입니다(!!). 하지만 이러한 소통을 가능하게 하기 위해서는 뇌 신호를 진정으로 해석해야 하며, 이는 인공지능이 필요합니다.
이러한 추세가 얽히며 자연스럽게 어두운 미래를 낳을 수 있습니다. 우리는 실리콘 슈퍼 에이전트가 모든 사람의 정보—그들의 글쓰기, 행동, 사고 방식—을 삼켜 분석하는 것을 보게 될 것입니다. 그러나 동시에 우리는 이러한 기술의 혜택을 누리면서도 자신의 프라이버시를 보호할 수 있는 더 밝은 미래도 존재합니다.
이는 여러 기술을 결합하여 실현할 수 있습니다.
-
계산을 가능한 한 로컬에서 실행하기: 많은 작업(기본 이미지 분석, 번역, 전사, BCI의 기본 뇌파 분석 등)은 완전히 로컬 계산에서 수행할 수 있을 정도로 간단합니다. 실제로 로컬 실행은 지연을 줄이고 검증 가능성을 높이는 장점도 있습니다. 인터넷 접속, 소셜미디어 계정 로그인 등 다양한 중간 단계를 포함하는 계산도 마찬가지입니다. 로컬에서 할 수 있는 일은 로컬에서 해야 합니다.
-
암호학을 사용하여 원격 계산을 완전히 사적으로 만들기: 전역 동형 암호화(FHE)는 원격 서버가 데이터나 결과를 볼 수 없도록 하면서 원격 AI 계산을 수행하는 데 사용할 수 있습니다. 역사적으로 FHE는 매우 비쌌지만, (i) 최근 효율성이 빠르게 향상되고 있으며, (ii) LLM은 독특하게 구조화된 계산 형태이며 점근적으로 거의 모든 연산이 선형이므로 초고효율 FHE 구현에 매우 적합합니다. 다자간의 사적 데이터를 포함하는 계산은 다자간 계산(MPC)을 통해 수행할 수 있으며, 일반적인 양자간 상황은 난해 회로(garbled circuits) 등의 기술로 매우 효율적으로 처리할 수 있습니다.
-
하드웨어 검증을 사용하여 물리 세계까지 보장을 확장하기: 우리의 생각을 읽을 수 있는 하드웨어(두개골 내부 또는 외부 모두)가 개방적이며 검증 가능해야 한다고 요구할 수 있으며, IRIS 등의 기술을 사용하여 이를 검증할 수 있습니다. 우리는 다른 분야에서도 이를 할 수 있습니다. 예를 들어, 로컬 LLM이 신체 폭력이나 의료 응급 상황으로 표시할 때만 영상 스트림을 저장하고 전송하며, 그 외 모든 경우에는 삭제하는 보안 카메라를 설치할 수 있으며, IRIS를 사용하여 커뮤니티 주도의 무작위 점검을 통해 카메라가 올바르게 구현되었는지 검증할 수 있습니다.
완성되지 않은 미래
2008년 자유주의 철학자 데이비드 프리드먼(David Friedman)은 『완성되지 않은 미래(The Future of Imperfection)』라는 책을 썼습니다. 이 책에서 그는 새로운 기술이 사회에 가져올 변화를 개괄했지만, 모든 변화가 그에게(또는 우리에게) 유리한 것은 아니었습니다. 그 중 한 절에서는 잠재적인 미래를 묘사합니다. 프라이버시와 감시 사이에 복잡한 상호작용이 있을 것이며, 디지털 프라이버시의 증가는 현실 세계 감시의 증가를 상쇄할 것입니다.
벽에 붙은 비디오 모기(videomosquito)가 내 타이핑을 보고 있다면, 내 이메일을 강력하게 암호화하는 것도 소용이 없습니다. 따라서 투명한 사회에서는 강력한 프라이버시를 보호하기 위해 현실 공간의 신체와 사이버 공간 사이의 인터페이스를 보호할 수 있는 어떤 방법이 필요합니다…… 저기술적인 해결책은 두건 아래에서 타이핑하는 것입니다. 고기술적인 해결책은 손가락을 통해서가 아니라—또는 외부 관찰자가 볼 수 있는 어떤 경로를 통해서도 아닌—마음과 기계 사이의 어떤 연결을 구축하는 것입니다.
현실 공간의 투명성과 사이버 공간의 프라이버시 사이의 갈등은 반대 방향에서도 나타납니다…… 내 팜톱 컴퓨터는 당신의 공개키로 내 메시지를 암호화하여 당신의 팜톱 컴퓨터로 전송하고, 당신의 컴퓨터는 이를 해독하여 VR 안경을 통해 표시합니다. 당신의 어깨 너머로 누군가가 안경을 읽지 못하도록 하기 위해, 안경은 화면을 통해 이미지를 표시하는 대신, 미니 레이저를 사용하여 당신의 망막에 이미지를 쓰는 방식입니다. 운이 좋다면, 당신의 눈알 내부는 여전히 사적인 공간일 것입니다.
우리는 결국 신체 활동은 완전히 공개되고 정보 거래는 완전히 사적인 세계에 살게 될지도 모릅니다. 이 세계는 매력적인 특징을 가지고 있습니다. 일반 시민은 강력한 프라이버시의 이점을 활용하여 살인자를 찾을 수 있지만, 고용 비용이 그들의 감당 능력을 초과할 수 있으므로, 충분히 투명한 세계에서는 모든 살인 사건이 해결되며, 각 살인범은 한 번의 임무 후 즉시 감옥에 가게 됩니다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@VitalikButerin
