
BitVM 심층 분석: 비트코인 프로그래밍 가능성의 새曙光
글: IOSG Ventures
*감사의 말: Momir, Xinshu 님께 이 글을 다듬는 데 소중한 조언을 주셔서 감사드립니다.

TL;DR
-
비트코인 코어의 변화는 일반적으로 다음 이유들로 인해 저항을 받는다. a) 화폐로서보다 가치 저장 수단으로서 비트코인을 선호하는 경향 b) 빠른 혁신보다 안정성과 예측 가능성을 중시함 c) 다양한 구성원이 있는 커뮤니티 내에서 합의를 이루기 어려움.
-
비트코인 체인 자체를 변경하지 않고도 확장성 문제를 해결할 수 있다고 주장하는 많은 프로젝트들이 등장했다. 최근 우리는 비트코인 'L2'들의 폭발적인 증가를 목격하고 있다.
-
많은 주장들이 단지 오해를 불러일으키는 마케팅에 불과하지만, 우리는 비트코인에 프로그래밍 가능성(programmability)을 가져올 수 있는 새로운 컴퓨팅 패러다임—BitVM—도 인식하게 되었다.
-
BitVM이 지원할 수 있는 최고의 확장 솔루션은 OP-Rollup 유형의 보안 가정에 근접한다(다만 추가적인 고려사항이 있음).
-
BitVM 및 유사 이니셔티브의 성공은 기술적 실현 가능성, 커뮤니티의 지지, 그리고 과도하게 마케팅된 다른 프로젝트들과의 차별화 여부에 달려 있다.
비트코인은 거래 중심 블록체인으로 설계되었으며, 공격 면을 최소화하고 네트워크 보안을 확보하기 위해 스크립트 언어를 의도적으로 상태 없음(Stateless)으로 제한했다. 튜링 완전성(Turing-completeness)이 부족하기 때문에, 하드포크와 비트코인 코어 업그레이드 없이는 블록체인 위에 스마트 계약을 직접 도입할 수 없다.
기존의 비트코인 커뮤니티는 다음과 같은 이유로 변경에 저항한다:
가치 저장 수단으로서의 서사가 유통 통화보다 우선시됨: 비트코인 커뮤니티는 보안성과 탈중앙화를 신속한 발전보다 우선시하며, 네트워크를 P2P 결제 시스템으로 유지하려는 데 집중한다. 유명한 비트코인 보유자 마이클 세일러(Michael Saylor)가 말했듯이, "다섯 번째 거리에 있는 건물의 일부분을 가지고 커피 한 잔을 사려는 사람은 아무도 없다." 이 말은 비트코인을 일상적인 화폐보다 가치 저장 수단으로 사용하려는 커뮤니티의 선호를 반영한다.
-
시스템 안정성이 혁신보다 중요: 우수한 가치 저장 자산으로 간주되기 위해서는 예측 가능성이 필수적이다. 예를 들어, 네트워크가 10번의 주요 업그레이드를 수행하고 각각의 성공률이 90%라고 해도, 실패가 발생할 확률은 약 65%에 달한다! 정상적 사고 이론(Normal Accident Theory)에 따르면, "복잡한 시스템에서는 보통 무시되는 작은 요인들이 때때로 우연히 중대한 사건을 유발할 수 있다"는 점을 인식하고 있으므로, 비트코인 커뮤니티의 목표는 잠재적 오류 경로를 최소화하는 것이다.
다양한 커뮤니티: 많은 비트코인 보유자들은 서로 다른 관점에서 비트코인을 이해하고 있으며, 다양한 이유로 이를 소중히 여긴다. 다양하고 탈중앙화된 커뮤니티 내에서 합의를 이루는 것은 본질적으로 어렵기 때문에 혁신의 속도가 더욱 느려진다. 비트코인 커뮤니티의 다양성을 설명하기 위해, 인스크립션(Inscriptions)과 오디널스(Ordinals)에 대한 반응을 살펴볼 수 있다. 커뮤니티의 일부는 오디널스의 성공을 비트코인판 크립토키티(CryptoKitties) 순간으로 축하하는 반면, 다른 일부는 이를 수정되어야 할 버그로 간주한다.
1. 비트코인 확장 솔루션의 급속한 팽창
위와 같은 상황에서 왜 갑자기 많은 새로운 비트코인 'L2' 솔루션이 등장하게 된 것일까?
최근 우리는 비트코인 'L2' 솔루션의 급증을 목격하고 있다(https://l2.watch/ 기준으로 이미 50개 이상 존재!). 그러나 커뮤니티는 수년 동안 다양한 확장성 방법을 탐색해왔다:
-
Stacks와 같은 사이드체인은 스마트 계약 기능과 광범위한 애플리케이션 범위를 제공하지만, 독립된 합의 메커니즘을 가지며, 이는 널리 받아들여지기 어렵다.
-
RGB와 같은 클라이언트 검증 프로젝트는 메인넷의 UTXO 모델을 활용하여 오프체인에서 더 복잡한 거래를 처리하지만, 비트코인 메인체인과의 상호작용에서 안정성이 부족하다.
-
라이트닝 네트워크(Lightning Network)와 같은 상태 채널은 코어 비트코인 개발자들과 밀접하게 연관되어 있으며, 더 전통적인 확장 방법으로 간주된다.

1세대 BTC 확장 솔루션
기존 솔루션들과 비교해 최근의 확장 방법은 어떤 새로운 점을 제공하는가? 우리 보기에는 가장 흥미로운 혁신은 비트코인 위에서 프로그램을 코딩하는 것(BitVM을 통해)과 신뢰 없이 BTC를 스테이킹하는 것(예: Babylon)에서 나온다. 본문은 주로 전자에 초점을 맞출 것이다.

2. BitVM - 개요
BitVM이 무엇인지 설명하기 위해 먼저 이를 가능하게 하고 영감을 준 기본 요소(Primitive)—비트코인 탭루트(Taproot) 업그레이드—를 소개해야 한다.
탭루트는 2021년 11월 활성화된 비트코인 프로토콜의 주요 업그레이드이다. 탭루트를 통해 스크립트의 해시는 기본적으로 체인 상에 제출되어야 한다. 특정 스크립트 경로를 실행할 때에는 해당 경로의 스크립트만 체인 상에 제출하면 된다. 이렇게 함으로써 효율성이 향상될 뿐 아니라(거래 크기가 스크립트 크기에 비례하지 않음), 프라이버시도 강화된다(전체 스크립트가 아닌 거래 경로만 노출됨).
탭루트 업그레이드가 열어주는 거대한 기회를 인식한 로빈 리누스(Robin Linus)는 비트코인 생태계에서 획기적인 혁신인 BitVM을 처음으로 발표했다.
BitVM은 네트워크 합의 규칙을 변경하지 않고도 비트코인 상에서 튜링 완전 계약을 구현할 수 있도록 하는 컴퓨팅 패러다임이다. 이는 낙관적 롤업(Optimistic Rollups)과 유사하게, 계산을 실행하는 것이 아니라 검증하는 것을 가능하게 한다.
BitVM은 프로그램을 탭루트 주소에 제출하면서 복잡한 오프체인 계산을 가능하게 하고, 분쟁이 발생할 경우에만 체인 상에서 실행을 요구함으로써 체인 상의 부담을 최소화한다.
이 과정은 탭루트 주소에 프로그램의 이진 회로(binary circuit)를 제출하고, 도전-응답(challenge-response) 메커니즘을 사용하여 검증하는 것을 포함한다. 요약하자면, BitVM은 튜링 완전한 비트코인 계약을 가능하게 하며, 가장 중요한 점은:
-
BitVM은 하드포크나 비트코인 프로토콜의 변경이 필요하지 않다.
-
BitVM은 비트코인 블록체인이 혼잡해지지 않는다. 계산이 비트코인 상에서 실행되지 않기 때문이며, 분쟁(Dispute) 발생 시에만 비트코인 네트워크를 검증 용도로 사용하기 때문이다.

비트코인 위에서 이진 회로 구축하기
이진 회로 구축은 AND, OR, NOT 등의 이진 논리 게이트를 사용하여 계산이나 프로그램을 표현하는 방법으로, 모든 계산 가능한 함수를 수행할 수 있다.
BitVM은 전류가 컴퓨터 칩의 논리 게이트(전류의 존재 여부에 따라 신호를 통과시키거나 차단하는 미세한 구조)를 통과하는 복잡한 시뮬레이션을 비트코인 언어로 변환하는 것과 같다.
본질적으로, 게임부터 전체 리눅스 운영체제에 이르기까지 모든 컴퓨터 프로그램은 이러한 논리 게이트의 복잡한 배열 결과이며, 모든 디지털 사물은 기본적으로 이진 숫자—0과 1—에 기반한다. 이러한 이진 숫자를 AND, NOT 등의 논리 게이트와 결합함으로써 산술논리장치(ALU)와 메모리 시스템과 같은 다양한 회로를 만들 수 있다. 이 기초 기술을 통해 우리는 다양한 작업을 수행하기 위한 프로그램을 작성하고 실행할 수 있다.

출처: Stepping Through Logic Gates; 기본 논리 게이트(F는 0, T는 1)
BitVM의 전제는 비트코인 스크립트(Bitcoin Script)를 사용하여 오프체인 계산에 대한 약속을 하는 것이다(탭루트 주소에 계산의 해시를 제출). 이는 모든 프로그램을 이진 회로의 조합으로 분해하고, 실행 검증을 가능하게 하는데, 이 과정에는 비트코인 스크립트가 포함되지만 스크립트 자체는 전체 계산 로직을 실행하지 않는다.
비트코인 스크립트는 비트값 약속(bit-value commitments)을 구현할 수 있으며, 이는 모순 행위(Equivocation)를 드러내고 처벌하는 데 중요하다. 또한 값이 제출되면 다른 사람이 수정할 수 없도록 하여 불변성을 실현한다.
이 방법은 각 입력 비트를 나타내기 위해 두 개의 해시를 사용한다. 하나는 숫자 0용, 다른 하나는 숫자 1용이다. 누군가 프로그램을 실행하려면 원상(pre-image)을 공개하여 입력을 표시한다. 값이 0으로 변환될지 1로 변환될지는 원상의 해시 값을 0과 1을 나타내는 두 해시와 비교하여 결정된다.
입력과 출력이 일치하지 않는 경우, 검증자는 제공자의 자금을 몰수함으로써 제공자를 처벌할 권리가 있다.
도전-응답 메커니즘
검증은 일반적으로 오프체인에서 이루어지며, 증명자가 정직하다고 낙관적으로 가정한다. 분쟁이 발생하면 프로세스는 체인 상으로 이동하며 일련의 도전-응답이 시작된다. 이 메커니즘은 대부분의 경우 계산과 검증이 효율적이고 저비용으로 이루어지도록 하며, 의견 충돌이 발생할 때만 블록체인의 위변조 불가능성과 투명성을 활용하여 최종 판결을 내릴 수 있게 한다.
BitVM에서 도전-응답 메커니즘은 참여자(Vicky와 Paul 등)가 블록체인 상에서 프로그램 실행을 통해 검증 과정을 수행하는 시스템을 포함한다. 분쟁이 발생하면 Vicky는 Paul에게 그의 프로그램 실행의 정확성을 입증하도록 도전한다.
Vicky는 이진 회로에서 하나의 논리 게이트를 선택하고, Paul은 입력과 출력을 공개하여 그 게이트를 연다. 모순이 확인되거나 Vicky가 더 이상 도전할 수 없을 때까지 이 과정이 반복된다. 모순이란 Paul이 하나의 논리 게이트에서 입력 X가 0이라고 주장하면서도 다른 논리 게이트에서는 1이라고 주장하는 것을 의미한다.
Paul은 응답 주소에 자금을 예치하기 위해 사전 서명된 거래를 사용함으로써 자신의 주장에 대한 증거를 보장해야 한다. 이 거래들은 상호작용에 따라 자금이 도전 주소와 응답 주소 사이를 오갈 수 있도록 연결된 체인을 만든다.
응답 주소의 자금은 도전 결과에 따라 여러 경로를 따라 흐를 수 있다:
-
Vicky가 도전을 중단하여 Paul의 증명을 수용하면, 일정 시간 후 Paul이 자금을 다시 회수하게 된다.
-
Vicky가 Paul의 실행이 일관되지 않음을 입증하면(모순 발생), 그녀는 이 자금을 취할 수 있다.
-
Vicky가 실행의 다른 부분에도 오류가 있다고 의심하면, 또 다른 도전을 시작하여 자금을 다음 응답 주소로 옮길 수 있다. 이를 위해 그녀는 특정 tapleaf의 원상을 공개해야 하며, Paul은 이를 사용하여 자금을 해제하고 제한된 시간 내에 자신의 정당성을 입증해야 한다.
이 시스템은 블록체인 상에서 분쟁 해결과 프로그램 실행 검증을 위한 견고하고 투명한 구조를 제공한다. 재정적 인센티브를 결합함으로써 실행과 프로그램 결과 기록의 무결성과 정확성을 촉진한다. 초기 설계는 양방향 도전-응답 메커니즘을 지원했지만, 우리가 곧 보게 되겠지만, BitVM 기여자들은 다수의 참가자가 도전자로 참여할 수 있는 해결책을 찾아냈다.
이분법(Bisection): 분쟁 해결 효율성 향상
체인 상 검증의 효율성을 높이기 위해 검증자는 이분법(Bisection)을 활용할 수 있다. 이는 사전에 제출된 논리 게이트에서 효율적인 탐색을 가능하게 하는 방법으로, 무작위 도전 방식에 비해 현저한 개선을 제공한다. 문제 공간을 반으로 나눔으로써, 이분법은 검증자가 잠재적 오류 범위를 빠르게 좁힐 수 있도록 하여 분쟁 해결에 필요한 단계와 시간을 줄인다. 특히 정확한 오류 위치를 파악해야 하는 복잡한 검증 과정에서 더욱 효율적이고 직접적인 경로를 제공한다.
아래에서는 단순화된 예를 통해 이분법이 어떻게 작동하는지 설명하겠다:
Paul과 Vicky는 ((1+2)+(3+4))+((5+6)+(7+8))라는 수학 문제를 풀고 있다.
이 계산을 올바르게 수행하면 ((1+2)+(3+4))+((5+6)+(7+8)) = (3+7)+(11+15) = 10+26 = 36이 된다.
그런데 Paul은 ((1+2)+(3+4))+((5+6)+(7+8)) = (2+7)+(11+15) = 9+26 = 35라고 답했는데, 이는 잘못된 계산이다.
Vicky가 Paul에게 도전할 때, 그들은 두 번째 부분의 계산((5+6)+(7+8)) = 26은 정확하다는 데 동의했기 때문에, 첫 번째 부분의 계산만 도전하면 된다(즉 논리 게이트를 열면 됨).

3. BitVM을 사용한 최소 신뢰 교량(Trust-Minimized Bridge) 구축
BitVM의 첫 번째 실제 구현 사례는 아마도 최소 신뢰 비트코인 브릿지 프로그램이 될 것이다. 브릿지 구현 세부 사항을 분석함으로써 BitVM 프로그램 구현의 추가적인 복잡성을 더 잘 이해할 수 있다. 아래에서는 BoB 공동 창립자 알렉세이 자먀틴(Alexei Zamyatin)의 제안을 요약한다.
우선, 비트코인 풀 노드가 비트코인 스크립트만으로 사이드체인 브릿지 프로그램(사이드체인 라이트 클라이언트 포함)을 조작할 수 있는 방법을 만들어야 한다.
또한 BTC 이체를 용이하게 하고 도전-응답 게임을 실행하기 위한 연합 / 다중 서명(federation/multi-sig) 네트워크를 구축해야 한다. 연합은 BitVM 설정의 일부로 브릿지 프로그램을 실행하겠다고 약속해야 한다.
멤버 수가 증가함에 따라 연합 초기 설정의 복잡성은 제곱 형태로 증가하는데, 연합의 각 멤버가 다른 모든 멤버와 상호작용해야 하기 때문이다. 따라서 연합 규모에는 일정한 한계가 있으며, 연구자들은 N=100 정도가 실현 가능하다고 추정한다.

OP 롤업과 달리 N의 크기에 제한이 없는 이 솔루션은 상대적으로 약한 보안을 제공한다. 그러나 이 제안의 실용적 해결책은 연합 구성원의 순환을 포함할 가능성이 높으므로, 장기간 관점에서 N은 100을 훨씬 초과하게 될 것이다. 언제든지 이 100명의 구성원 중 한 명이라도 정직하다면 예금은 안전하게 유지된다. 악의적인 행위자가 있다면 체인 상에서 언제든지 도전받을 수 있으며, 사기로 입증되면 연합에서 제명될 수 있다.
연합은 항상 예금과 출금을 관리하고 사이드체인 상태를 검증하는 운영자(Operators)를 둔다. 운영자와 감시탑(Watchtowers) 모두 담보를 예치해야 하며, 이는 올바른 행동을 유도하고 허위 도전을 방지한다.
이 솔루션이 롤업의 가장 엄격한 정의에 부합하지 않는 또 다른 이유는 사용자가 단독으로 사이드체인에서 탈퇴할 수 없고, 1/N 보안 가정 하에 운영되는 연합에 인출 요청을 해야 하기 때문이다.
4. BitVM v2: BitVM이 허가 없는 검증(Permissionless Verification)을 지원할 수 있는가?
3월 25일, 로빈 리누스는 BitVM v2를 소개했다. BitVM v2 제안의 핵심 변화는 v1처럼 도전-검증 과정에서 하나씩 논리 게이트를 여는 대신, 증명자가 출력 상태와 모든 중간 결과를 한 번에 제출해야 한다는 점이다. 이 변경으로 인해 BitVM은 이러한 약속에 대한 모든 도전이 암호화된 증거로 뒷받침되어야 한다는 것을 보장한다. 이 메커니즘은 도전자가 특정 암호화 증명을 제공하지 않으면 무근거한 스팸 도전을 걸 수 없도록 차단한다.
검증 및 도전 과정에 무제한으로 참여할 수 있도록 함으로써 BitVM 2는 보안 보장을 다중 서명 연합의 한계를 넘어 확장시키고, BitVM을 낙관적 롤업의 보안 가정에 더욱 가깝게 만든다.
그러나 브릿지 구축은 여전히 연합 다중 서명을 필요로 하며, 이는 연합 구성원들이 활성 문제(liveness issues)를 일으킬 수 있다는 의미이다. 최악의 경우 사용자에게 몸값을 요구하여 자금을 해동하려 할 수도 있다. 이는 낙관적 롤업에는 존재하지 않는 추가적인 보안 가정인데, 낙관적 롤업에서는 사용자가 어떤 중개인의 승인 없이도 L1로 탈퇴할 수 있기 때문이다.

기반 체인에서의 추가 보안 가정
5. BitVM의 한계
앞서 논의했듯이, BitVM이 제공할 수 있는 최고의 솔루션은 낙관적 롤업의 보안 가정에 근접한다. 보증 예금을 관리하는 연합과 그들의 활성 문제 관리의 복잡성 외에도, BitVM 특유의 추가적인 복잡성은 다음과 같다:
비록 BitVM이 이론적으로 복잡한 오프체인 프로그램을 실행할 수 있지만, 실제로 오프체인 프로그램의 복잡성이 증가함에 따라 비트코인 상에서 사기 증명 실행에 드는 관련 비용이 급격히 증가한다. 너무 큰 프로그램은 여러 블록에 걸쳐 실행되어야 할 수 있으며, 이는 과정을 더욱 복잡하게 만든다.
채굴 파워를 다수 점유한 채굴 풀은 BitVM에서 도둑질할 수 있다(라이트닝 네트워크와 유사한 문제). 그들은 도전자들의 증명을 검열하거나, 악의적인 행위자가 도전자들을 무시하도록 뇌물을 줄 수 있기 때문이다.
BitVM 증명의 상호작용적 성격 때문에 악의적인 증명자가 시스템을 조작하여 검증자로부터 자금을 훔칠 수 있다. 공격은 다음과 같은 가정 하에 구성될 수 있다:
-
증명자는 거래를 시작하여 검증 시퀀스를 시작한다
-
증명자의 유효성에 의심을 품은 검증자는 도전을 시작하며, 증명자에게 응답 비용을 지불한다
-
증명자는 비용을 수령한 후 도전을 무시하고, 검증 과정에서의 책임을 이행하지 않을 수 있다
마지막으로, BitVM은 현재 개념적 프레임워크에 불과하며 거의 아무것도 실행할 수 없는 가상 컴퓨터 개념이다. BitVM의 '롤업'은 아직 애플리케이션 수준까지는 매우 멀었으며, 낙관적으로 보아도 2025년경에야 일부 BitVM 프로그램이 실제로 사용될 수 있을 것이다. BitVM 실행의 기술적 위험 또한 무시할 수 없다.
6. 결론
이더리움 확장 솔루션들의 시가총액이 현재 이더리움 시가총액의 약 15~20%를 차지하고 있음을 고려하면, 비트코인 2층 솔루션들의 잠재적 시가총액은 엄청날 수 있다.
비록 BitVM이 초기 단계에 있으며 본질적으로 실현되지 않은 가상 컴퓨터 개념에 불과하지만, 이미 다양한 프로젝트들로부터 막대한 관심과 선언을 불러일으키고 있다. BitVM 팀과 관련 없는 많은 프로젝트들이 그 잠재력을 활용하려는 바람에 거대한 발표를 서둘러 하고 있다. 그러나 더 깊이 들여다보면 더욱 냉정한 현실이 드러난다: BitVM의 GitHub 계정에는 소수의 기여자만 있고, BitVM Builders 텔레그램 그룹에서도 진정으로 참여하는 비트코인 'L2' 프로젝트는 소수에 불과하다.
비트코인의 어떤 확장성 솔루션이라도 지켜야 할 핵심 원칙은 비트코인의 핵심 아키텍처가 변경되지 않아야 한다는 것이다(예측 가능성 원칙에 따라). BitVM은 이 원칙을 지키며, 핵심을 변경하지 않고도 비트코인 위에 프로그래밍 가능한 계층을 제공하는 최초의 선구자적 솔루션이 되었다.
이 글은 BitVM 발전의 매우 초기 단계에서 작성되었으며, 빠른 발전 속도를 고려하면 여기에 담긴 정보는 곧 구식이 될 수 있다. 예를 들어 최근까지도 비트코인 상에서 ZK 롤업을 구현한다는 아이디어는 기초 능력(예: 비트코인이 ZK 증명을 검증하는 능력)이 존재하지 않아 마치 공중에 뜬 성처럼 비현실적으로 보였다. 그러나 최근 BitVM 연구자들은 비트코인 스크립트에서의 진전을 공유했으며, 이는 비트코인 상에서 STARK 검증기를 구현할 수 있는 길을 열 수 있다.
비트코인 확장 솔루션의 구현은 순수한 기술적 도전을 넘어서 커뮤니티 지지, 사용자 경험, 시기 등 다양한 요소를 포함한다. 현재 이 혁신들이 독특한 기회 창을 제공하고 있지만, 프로젝트 수의 급속한 팽창과 오해를 불러일으키는 선언 및 마케팅으로 인한 상당한 위험이 더 정당한 프로젝트들의 전망을 훼손할 수 있다.
생태계가 이 십자로에 서 있는 지금, 비트코인 확장 솔루션이 이더리움의 성공을 재현할 수 있을지 묻는 질문은 단순히 기술적인 문제가 아니라 블록체인 커뮤니티의 더 광범위한 역학에 깊이 뿌리내린 문제이다. 결국 핵심 이더리움 커뮤니티는 L2를 이더리움 확장 로드맵의 핵심 요소로 선택했지만, 비트코인 커뮤니티는 아직 그렇게 말할 수 없다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News














