
완전 동형 암호화 연구: 복호화 없이 계산이 가능하다면, Web3에 어떤 변화를 가져올 것인가?
시장이 약세장에 접어들며 침체되면 투자자와 프로젝트 관계자들은 언제나 새로운 성장 포인트를 찾기 시작한다.
지속적인 핫이슈가 부족한 공백 기간은 새로운 기술을 탐구하고 깊이 이해할 수 있는 절호의 기회다. 왜냐하면 이러한 신기술이 다음 시장 서사의 핵심이 될 수 있기 때문이다.
지난달 유명 암호화폐 벤처캐피탈 회사인 Portal Ventures는 공식 블로그를 통해 전형동형암호(FHE) 기술에 대해 자세히 다룬 글을 게시했다. 그러나 이처럼 심도 있는 기술 기사는 대중의 큰 관심을 끌지는 못한 것으로 보인다.

Portal Ventures의 저자는 이렇게 말했다. "전형동형암호는 암호화 방식의 성배(聖杯)다."
투자자에게 있어 VC가 주목하는 기술을 이해하는 것은 매우 중요하다. 이를 통해 다음 시장 사이클의 잠재적 트렌드를 예측하고 이해할 수 있기 때문이다. 실제로 동형암호, 제로지식 증명(ZKP), 다자간 안전계산(MPC) 등의 기술은 암호학 분야에서 깊은 영향력을 가지고 있으며, 특히 전형동형암호(FHE)는 암호화폐 및 Web3 영역에서도 엄청난 응용 가능성을 지닌다.
하지만 문제는 대부분의 사람들이 전형동형암호의 진정한 의미, 작동 원리, 그리고 다른 기술과의 차이점에 대해 거의 알지 못한다는 것이다. 시장이 침체되고 투자 심리가 위축된 상황일수록, 과열된 홍보와 소음에서 벗어나 이러한 첨단 기술들을 깊이 연구하고 이해하는 것은 현명한 선택이다.
마침 운좋게笔者는 몇 년 전 직장에서 FHE 관련 기술 솔루션을 접할 기회가 있었다. 그래서 본고에서는 Portal Ventures의 이 글을 심층적으로 해설하며 독자들에게 새로운 시각과 사고의 단서를 제공하고자 한다.
동형암호와 전형동형암호, 도대체 무엇인가?
Portal Ventures의 원문을 직접 보면 전형동형암호(FHE)의 복잡한 수학적 설명에 쉽게 혼란스러움을 느낄 수 있다.

사실 암호학 세계는 난해하고 기술적인 내용으로 가득하지만, 우리는 충분히 간단하고 쉬운 방법으로 이러한 개념을 설명할 수 있다. 이번 섹션에서는 좀 더 직관적이고 이해하기 쉬운 예시를 통해 전형동형암호를 깊이 있게 이해하도록 도와줄 것이다.
우선 “비밀 마법 상자”를 상상해보자. 당신은 어떤 물건이라도 이 상자에 넣고 잠글 수 있다. 한 번 잠그면 그 안의 내용물을 볼 수도, 만질 수도 없다. 하지만 놀랍게도 이 마법 상자는 상자를 열지 않고도 내부 물건의 색이나 형태를 바꾸는 것을 허용한다.

위 이미지에서 보듯, 전형동형암호(Fully Homomorphic Encryption)는 마법 상자로 비유할 수 있다:
-
당신의 봉투 (Your Envelope): 암호화하려는 원본 데이터를 나타낸다.
-
마법 상자 연산 (Magic Box Operation): 봉투를 열거나 해독하지 않더라도 봉투 안의 데이터에 대해 연산(예: 덧셈, 뺄셈 등 계산)을 수행할 수 있다.
-
새로운 봉투 (New Envelope): 마법 상자 연산 후 새롭게 암호화된 결과를 얻게 된다.
이것이 바로 동형암호의 기본 아이디어다. 데이터 자체를 알지 못하더라도 암호화된 데이터에 대해 연산을 수행할 수 있다는 것.
이런 쉬운 예시를 통해 "전형동형암호"가 무엇을 하는지 감을 잡을 수 있다. 그러나 여전히 이 개념 자체는 다소 모호하게 느껴질 수 있다. 그렇다면 ‘전(full)’과 ‘동형(homomorphic)’은 정확히 무엇을 의미하는가?
-
‘전(Fully)’이란 무엇인가?
-
암호학에서 암호화 방식은 덧셈, 곱셈 등 다양한 연산을 지원할 수 있다. 우리가 어떤 암호화 방식이 ‘전형동형’이라고 말할 때, 이는 해당 암호화 방식이 해독 없이도 암호화된 데이터에 대해 무제한의 기본 연산(예: 덧셈과 곱셈)을 수행할 수 있음을 의미한다. 이는 덧셈만 또는 곱셈만 지원하는 부분동형암호와 대조된다.
-
‘동형(Homomorphic)’이란 무엇인가?
-
“동형(homomorphic)”은 그리스어에서 유래했으며 “같은 형태 또는 구조”라는 의미를 가진다. 암호학에서 동형암호라고 할 때는, 평문(암호화되지 않은 데이터)에서 특정 연산을 수행한 결과와, 암호문(암호화된 데이터)에서 같은 연산을 수행한 후 복호화한 결과가 동일함을 의미한다. 즉, 암호화된 데이터에 연산을 수행한 후 복호화한 결과와, 먼저 데이터를 복호화한 후 같은 연산을 수행한 결과가 같다.
-
예를 들어, 동형 덧셈을 지원하는 암호화 방식을 생각해보자. 두 숫자 3과 4가 있다고 가정하자. 먼저 각각을 암호화한 후, 이 동형암호 방식을 사용하여 두 암호화된 숫자를 더한다. 마지막으로 더한 결과를 복호화하면, 그 결과는 7이 된다. 이것은 평문 상태의 3과 4를 직접 더한 결과와 동일하다.

하지만 의문이 생길 수 있다. 어떻게 숫자가 아닌 데이터에도 이런 사칙연산을 적용할 수 있을까? 사실 우리는 특정 인코딩 방식을 이용해 숫자가 아닌 데이터를 숫자 형태로 변환함으로써 덧셈과 곱셈 등의 연산을 수행할 수 있다. 이는 전형동형암호의 활용이 순수한 수학 계산에 국한되지 않고, 다른 분야로도 널리 확장될 수 있음을 의미한다.
이 개념을 더욱 직관적으로 설명하기 위해 의료 데이터 사례를 들어보겠다.
-
병원이 환자의 나이와 혈당치 같은 데이터를 보유하고 있다고 하자. 하지만 개인정보 보호를 이유로 클라우드 서비스 제공업체에 직접 데이터를 보내 분석하는 것을 원치 않는다.
-
전형동형암호(FHE)를 사용하면, 병원은 먼저 이러한 데이터를 암호화할 수 있다.
-
클라우드 서비스 제공업체가 모든 환자의 평균 나이를 계산해야 한다고 가정하자(이는 덧셈과 나눗셈을 필요로 함). 또한 혈당치 총합과 환자 수의 곱을 계산해야 할 수도 있다(덧셈과 곱셈 포함).
-
이 모든 계산은 데이터를 복호화하지 않고도 암호화된 상태에서 수행할 수 있다. 클라우드 제공업체는 데이터를 복호화하지 않고 계산을 완료한 후, 암호화된 결과를 병원에 반환한다. 이를 통해 데이터의 개인정보 보호를 유지하면서도 처리 요구사항을 충족시킬 수 있다.
이것이 바로 전형동형암호의 매력이다. 데이터 처리의 보안성과 유연성을 동시에 제공해주기 때문이다.
왜 FHE가 중요한가?
현재 암호화된 데이터를 계산하는 기존 방법은 이상적이지 않다. 리소스 사용량과 시간 소모 면에서 모두 상당히 비용이 많이 든다.
따라서 현재 산업 표준 프로세스는 제3자(기업)가 계산을 수행하기 전에 데이터를 복호화하는 것이다.
구체적인 예를 들어보자. 당신이 일부 유명 인사들의 재무 정보를 담은 데이터 파일을 갖고 있다고 상상해보자.
-
이 파일을 M이라고 하자. 우리는 어떤 기업이 이 데이터를 분석해주기를 원한다.
-
현재의 프로세스는 어떻게 되는가? 우선 나는 RSA나 AES 같은 암호화 함수를 사용해 M을 암호화한다. 이때 M은 E(M)이 되며, 여기서 E는 암호화 함수다.
-
다음으로 나는 E(M)을 기업 서버로 보낸다. 기업은 이제 관련 복호화 함수 D를 사용해 E(M)을 평문 D(E(M))으로 복호화한다.
-
기업은 파일 M에 대해 직접 평문 상태로 분석 작업을 수행한다.
-
작업이 끝난 후 다시 M을 암호화하여 E(M')을 생성한다.
-
기업은 암호화된 M'을 다시 나에게 보내고, 나는 그것을 다시 복호화한다.

여기서 핵심 문제가 무엇인지 보았는가? 기업이 M을 복호화하여 서버에 저장하고 계산을 수행할 때, 제3자가 원래 보호되어야 할 민감한 데이터에 접근할 수 있게 된다. 만약 이 기업이 해킹당하거나 악의적인 의도를 가진다면 문제가 발생한다.
전형동형암호(FHE)는 암호화된 데이터에 대한 계산을 허용함으로써 이 문제를 해결한다. 기업은 더 이상 E(M)을 복호화할 필요가 없다. 암호화된 데이터 위에서 직접 분석을 수행하면 된다. 복호화가 필요 없고, 신뢰 가정(trust assumption)도 필요 없다.

결론적으로, 전형동형암호(FHE)의 도입은 제3자가 데이터를 처리할 때 발생할 수 있는 개인정보 유출이라는 핵심 문제를 해결한다. FHE는 데이터의 개인정보를 보호하면서도 암호화된 데이터를 효과적으로 처리할 수 있는 방법을 제공한다.
FHE가 암호화 세계에서 어떻게 활용되는가?
전형동형암호(FHE)는 암호화 세계에 새로운 문을 열어주며, 이전에는 상상할 수 없었던 많은 응용 시나리오를 가능하게 한다. Poly Venture의 원문은 시나리오 설명이 비교적 간단하므로, 우리는 이를 좀 더 체계적으로 정리한 표를 통해 해설해보려 한다.

FHE vs ZK vs MPC, 헷갈리지 않도록!
전형동형암호(FHE)를 이해한 후, 제로지식 증명(ZK)과 다자간 안전계산(MPC) 같은 익숙한 기술들과 비교하기 쉽다. 겉보기에 이들 모두 비슷한 개인정보 보호 및 계산 문제를 해결하려는 목표를 가지고 있다. 하지만 이 세 기술 사이에는 어떤 연관성과 차이점이 있을까?
먼저 이 세 가지 기술의 기본 정의를 살펴보자:
-
FHE: 해독 없이도 암호화된 데이터에 대해 연산을 수행할 수 있도록 허용한다.
-
ZK: 어떤 진술이 참임을 입증하면서도 그 진술에 관한 구체적인 정보를 전혀 공개하지 않는 방식.
-
MPC: 여러 참여자가 자신의 개인정보를 다른 참여자에게 노출하지 않고 공동으로 계산을 수행할 수 있도록 한다.
이제 여러 차원에서 이들의 유사점, 차이점, 교차점을 살펴보자:
-
목적:
-
FHE의 주요 목적은 복호화하지 않고 계산을 수행하는 것이다.
-
ZK의 목표는 어떤 사실이 옳다는 것을 입증하면서도 그 사실에 대한 정보는 전혀 공개하지 않는 것이다.
-
MPC의 목표는 여러 당사자가 각자의 입력 정보를 노출하지 않고 공동으로 계산할 수 있도록 하는 것이다.
-
개인정보 보호와 계산:
-
ZK에서 계산이 반드시 개인정보를 보호하는 것은 아니다. 예를 들어, 은행 계좌 잔고가 10만 달러 이상인지 ZK로 검증할 수 있지만, 이 검증 과정 자체의 계산은 개인정보를 보호하지 않을 수 있다.
-
반대로 FHE는 모든 계산이 암호화된 데이터 위에서 수행되기 때문에 계산 자체의 개인정보 보호를 보장한다.
-
제약과 도전:
-
MPC는 적어도 하나의 정직한 서버를 필요로 하며, DDoS 공격, 묵시적 공모 공격, 통신 오버헤드의 영향을 받을 수 있다.
-
ZK는 주로 정확성 입증을 위한 것이지 개인정보 보호 기술은 아니다.
-
FHE는 강력한 개인정보 보호를 제공하지만 계산 효율성이 낮고 리소스 소모가 크다.
-
암호화 분야에서의 응용:
-
FHE는 보다 개인정보를 보호하는 스마트 계약 및 기타 블록체인 애플리케이션 구축에 활용될 수 있다.
-
ZK는 zk-rollup과 같은 확장 가능한 블록체인 솔루션 구축에 사용된다.
-
MPC는 주로 개인키 관리 및 위탁 보관에 사용된다.
-
기술 결합:
-
MPC와 FHE를 결합해 임계값 FHE(threshold FHE)를 만들 수 있다. FHE 암호화 키를 여러 조각으로 나누어 각 참여자에게 하나씩 배분함으로써 보안성을 강화하는 방식이다.
-
zkFHE는 제로지식 증명과 전형동형암호의 결합이며, FHE 스마트 계약 위에서 zk-rollup을 구현하기 위한 연구가 진행 중이다.
종합하면, FHE, ZK, MPC는 어느 정도 중첩되지만 각각 고유한 장점과 응용 분야를 가지고 있다. 암호화 세계에서 이 세 가지 기술은 개인정보 보호와 보안 강화에 큰 가능성을 제공하지만, 이들의 융합과 추가 연구는 여전히 암호화 커뮤니티의 활발한 연구 분야다.
마지막으로, 위 기술들을 한눈에 비교할 수 있는 요약판 표를 제공하며 독자들이 더욱 직관적으로 이해할 수 있도록 하겠다.

FHE의 미래 전망
앞서 살펴본 바와 같이 전형동형암호(FHE)는 명백히 강력한 기술이다.
그러나 왜 아직 널리 채택되지 않았으며, 암호화폐 커뮤니티(Crypto Twitter)에서도 거의 언급되지 않을까? 첫째로 기술 자체를 이해하는 데 일정한 진입 장벽이 있고, 둘째로 현재 FHE 기술은 여전히 몇 가지 도전 과제를 안고 있어 상업화 형태로 대중에게 쉽게 다가가기 어렵기 때문이다.
주요 도전 과제는 다음과 같다:
-
계산 집약적: 암호문끼리 상호작용할 때 보안을 유지하기 위해 노이즈(noise)가 추가된다. FHE 방식은 이 노이즈를 줄이기 위해 '부트스트래핑(bootstrapping)' 기술을 사용하지만, 이는 매우 계산 집약적이며 리소스 소모가 크다.
-
기능 제한: FHE의 계산은 덧셈, 곱셈 및 그 변형/조합에 국한된다. 예를 들어 if 문은 FHE 내에서 사용할 수 없는데, 데이터가 암호화되어 있어 조건 판단이 불가능하기 때문이다. 또한 비교나 나눗셈과 같은 상대적으로 복잡한 연산을 구성하려면 기본 로직을 세심하게 설계해야 하며, 이는 더 복잡한 프로그래밍 기술과 낮은 계산 효율을 초래한다.
-
호환성/통합성 문제: 기존 애플리케이션과 서비스 제공업체는 암호화된 데이터 위에서 계산을 수행하도록 설계되지 않았다. 이는 FHE와 기존 기술의 통합을 제한하며, FHE 호환 애플리케이션 개발에 필요한 노력과 시간을 증가시킨다.
가능한 해결책:
-
하드웨어 가속기: nuFHE나 cuFHE와 같은 일부 FHE 방식은 GPU 가속을 사용할 수 있지만, 가장 큰 돌파구는 더 빠른 FPGA와 ASIC에서 나올 것이다. 광자 기술과 같은 다른 기술들도 FHE의 하드웨어 활용 사례를 가속화하기 위해 연구되고 있다.
-
새로운 프로그래밍 패러다임: 파이썬에서 pandas, numpy와 같은 복잡한 수학 연산 패키지가 존재하듯, FHE용 라이브러리도 만들어질 것이다. 현재 Zama와 Sunscreen은 이러한 FHE 라이브러리 및 SDK를 개발 중인 프로젝트다. 또한 개발자가 FHE, ZKP, MPC를 통합할 수 있도록 전용 컴파일러 구축도 필요하다.
-
기존 솔루션과의 통합: 기존 도구와 FHE 암호화 데이터 사이의 중간 계층을 만들어 기존 도구를 FHE와 호환되도록 하는 솔루션이 개발될 것이다.
끝으로 Portal Ventures는 원문의 결론 부분에서 다시 한번 강조한다.
"FHE는 컴퓨팅의 성배이며, 우리는 그 상업화에 점점 더 가까워지고 있다. 가치와 계산은 오픈되고 허가가 필요 없는 네트워크로 전환되고 있으며, 우리는 FHE가 앞으로 필요한 대부분의 인프라와 애플리케이션을 떠받칠 것이라고 믿는다."
또한 그들은 현재 FHE를 연구하는 프로젝트들에 대한 관심을 표명했다. 따라서 우리는 VC가 FHE에 관심을 갖고 있음을 알 수 있으며, 더 나아가 VC들이 일반 대중에게 알려지지 않은 하드코어 기술에 가장 먼저 주목한다는 것을 알 수 있다.
역사적으로 새로운 기술 기반의 암호화 프로젝트는 종종 화려한 스포트라이트를 받으며 높은 평가를 받고, 다양한 자본의 추종을 받아왔다.
다음 번 큰 물결이 시작되기 전에 우리는 미리 입장할 게스트의 정체를 파악하기 위해 시간을 들여야 한다. 그래야 향연이 시작되었을 때 여유 있게 대응할 수 있을 것이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News














