AI, DAO, 자율적 세계에서 '자율성(Autonomous)'의 차이와 공통점 탐구
"Autonomous"는 중국어로 '자주(自主)'로 번역되며, 종종 '자치(自治)'로도 표현된다. 이 단어는 내가 지난 몇 년간 학습하고 일하면서 매우 중요하게 여겨온 개념이다. DAO에서의 "A"이자 자율 세계(Autonomous World) 개념 속의 "A", 그리고 인공지능에 대한 기대를 나타내는 자율 에이전트(Autonomous Agent)에서도 등장한다.
새로운 방향성으로서, 사람들의 Autonomous에 대한 이해는 당연히 다양하다. 과연 Autonomous란 무엇인가? 다양한 분야에서 말하는 Autonomous는 동일한 의미를 지닐까? 절대적인 의미에서의 Autonomous는 존재할 수 있는가?
오늘은 감히 이 단어의 전후 사정을 하나씩 풀어보려 한다.
Autonomous는 그리스어 두 낱말인 Auto와 Normos가 결합되어 진화한 단어다. "Auto"는 그리스어로 '자신(self)'을 의미하고, "Normos"는 라틴어의 "Norma"에서 유래했는데, 이는 목수들이 사용하는 90도 각도의 자를 가리킨다.
Norma
이 단어는 이후 '법률/관습'이라는 개념으로 확장되었고, 영어의 "Norm"(규범)도 여기서 유래했다.
고대 그리스에서 Autonomous는 더 큰 관리 기관의 통제 없이 스스로 법을 제정하고 자치할 권리가 있다는 의미였다.
고대 그리스는 현대 국가처럼 통일된 국가는 아니었으며, 다수의 도시국가(polis)로 구성되어 있었다. 각각의 도시국가는 독립된 정치적 실체로서 고유한 지배 구조, 법률, 관습을 가지고 있었고, 아테네는 민주주의였고 스파르타는 과두제와 군주제가 혼합된 형태였다. 서로 경쟁하거나 갈등하기도 하던 이 시기에 자치라는 개념이 탄생했으며, 분산되고 경쟁적인 환경 속에서 각 도시국가와 시민들이 자신들의 정체성과 지배 체계, 생활 방식을 유지하고자 하는 열망을 반영한다.
시간이 흐르면서 자율성 개념은 개인에게까지 적용되기 시작했고, 자신의 원칙이나 신념에 따라 행동할 수 있는 능력을 의미하게 되었다. 암호화 커뮤니티에서 고전으로 여겨지는 『주권 개인(The Sovereign Individual)』 역시 경제적 자율성과 기술이 부여하는 권한 측면에서 개인의 자율성을 깊이 있게 탐구한 바 있다.
기술이 계속 발전함에 따라 '자주(自主)'라는 단어는 새로운 의미를 갖게 되었다. 즉, "인간의 직접적인 개입이나 외부 통제 없이 작동할 수 있는 기계나 시스템"이라는 뜻이다. 오늘날 '자주'는 주로 기술과 연결되어 있으며, 무인자동차는 "autonomous driving system"이라고 불린다. 이러한 시스템은 지속적인 인간의 감독 없이도 작동할 수 있으며, 이런 현대적 해석은 여전히 '자기 통치(self-governance)'라는 핵심 사상을 담고 있지만, 그 배경은 고대 그리스인이 상상할 수 있는 범위를 훨씬 초월하고 있다.
'자주(自主)'라는 단어의 의미 변화는 문화, 기술, 사회가 어떻게 대중의 인식을 형성하고 변화시키는지를 보여준다.
AI 속의 자율성
인공지능 분야에서 '자주(自主)'란 일반적으로 인간의 개입 없이 작업을 수행할 수 있는 시스템을 의미한다.
예를 들어 식사 예약 상황을 생각해보자. ChatGPT 같은 챗봇은 칼로리 계산부터 요리 및 레스토랑 추천에 이르기까지 많은 참고 정보를 제공할 수 있지만, 실제로 예약을 완료할 수는 없다.
반면 에이전트(Agent)는 사용자의 지시에 따라 예약을 완료할 수 있다. 예컨대 "오늘 밤 궈마오에서 란와 레스토랑의 자리 두 개를 미리 예약해줘"라고 할 수 있다. 하지만 이를 위해선 프로그래머가 미리 예약 업무 절차를 설계하고 메이퇀 서비스에 접속할 수 있도록 해야 한다. 만약 프로그래머가 해당 에이전트에 예약 방법이나 메이퇀 연동 방법을 미리 작성하지 않았다면, 에이전트는 이 지시에 무력할 수밖에 없다.
자율 에이전트(Autonomous Agent)는 일반 에이전트보다 더 높은 수준의 자율성을 가지며, 이는 더 강력한 사고 능력과 보다 일반화된 행동 능력에서 드러난다. 사용자가 "저녁에 궈마오 근처 조용한 자리 두 개를 예약해줘"라고 말하면, 자율 에이전트는 사용자의 의도를 이해하고 어떻게 행동해야 할지 판단하여 실행한다. 프로그래머가 미리 예약 방법, 항공권 예매 방법, eBay에서 물건 사는 방법 등을 일일이 가르쳐줄 필요가 없으며, 일반적인 작업 프레임워크 아래에서 스스로 세상을 이해하고 온라인의 보편적 상호작용 규칙에 따라 임무를 수행한다. 이것이 바로 '자율성'이다.
어느 정도로 보면, 우리가 공상과학 영화에서 보아온 모든 로봇들은 모두 자율 에이전트라고 볼 수 있다. 자율 에이전트에 관한 추가적인 시나리오와 사고는 "J.A.R.V.I.S.에서 웨스트월드까지 – 에이전트와 인간이 공생하는 미래"라는 글을 참고할 수 있다.
비록 AI 업계 내에서 Autonomous의 의미에 큰 논란은 없지만, 자율 에이전트에 대한 기대 수준은 사람마다 크게 다르다. 자율주행 분야에는 L0(완전 수동 운전)에서 L5(완전 자율 운전)까지의 등급 체계가 있는데, 이는 자율 에이전트에도 강한 참고 가치를 지닌다.
마이크로소프트의 자율 에이전트를 담당했던 감독(실제로 마이크로소프트에 이런 직책이 있음)은 Autonomous란 인간과 유사한 행동과 의사결정(human-like action and decision-making)을 의미한다고 언급한 바 있다. 마이크로소프트는 자율 에이전트를 기업 기존 업무 프로세스의 특정 단계를 해결하는 데 집중하고 있다. 기술 도입 측면에서 보면 현실적인 선택이지만, 이런 자율 수준은 등급으로 따지면 최대 L2 또는 L2.5 수준에 머문다.
창업팀들은 더 큰 야심을 갖고 있으며, AI 세일즈 담당자처럼 여러 상황에서 인간을 완전히 대체하려 한다. 이에 해당하는 등급은 적어도 L3에서 L4 수준이다.
AI 세일즈 담당자 서비스를 제공하는 스타트업 프로젝트
외부 관찰자로서 나는 에이전트의 자율성에 대해 더 큰 기대를 하고 있다.
미래 어느 날, 나의 일상과 삶이 완전히 자율 에이전트에 의존하게 되었는데, 아침에 호출했더니 응답이 없다고 상상해보자. 확인 결과 아마존 클라우드 서버에 장애가 발생한 것이다. 아무리 능력이 뛰어나더라도 인터넷 선 하나만 뽑히면 멈춰선다. 참을 수 없는 일이다. 더욱 자율적인 에이전트는 사고와 의사결정 능력뿐 아니라, 인간의 개입 없이 장기간 안정적으로 운영될 수 있어야 하며, 쉽게 인터넷 선을 뽑힐 수 없어야 한다. 이는 자율 에이전트의 기본 요구사항이 되어야 한다. 또한 행동 능력이 뛰어난 주체로서 디지털 정체성과一定程度의 자율 재정, 나아가 자체 컴퓨팅 파워 제어와 에너지 관리까지 가져야 한다.
내가 보기에 이것은 암호화와 AI의 자연스러운 융합 지점 중 하나다. 이 세상에 안전하고 신뢰할 수 있는 실행 환경을 제공하며, 기관의 승인을 받아 언제든지 폐쇄 가능한 은행 계좌가 아닌 독립적이고 조작이 쉬운 재정 체계를 갖추고, 대부분의 애플리케이션이 허가 없이 접근 가능하고 편리하게 조작 가능한 세계가 있다고 하자. 자율 에이전트라면 그런 환경에서 살 이유가 충분하다. 다시 말해, 암호화 네트워크는 앞으로 AI가 고차원의 자율성을 실현하는 인프라가 될 것이다.
DAO 속의 자율성
AI에 비해, DAO에서의 Autonomous에 대한 이해는 상당한 차이가 있다.
DAO의 개념은 블록체인 시스템 출현 이전부터 존재했지만, 처음으로 DAO를 공식적인 개념으로 제시하고 문서상 명확히 정의한 것은 초기 이더리움 백서였다. 비탈릭(Vitalik)은 백서에서 탈중앙화 조직을 두 가지로 분류했다. DO(탈중앙화 조직)와 DAO(탈중앙화 자율 조직). 여기서 Autonomous란 스마트 계약에 배포된 코드에 완전히 의존하여 외부 간섭 없이 지속적으로 자율적으로 운영되는 것을 의미한다.
In the future, more advanced mechanisms for organizational governance may be implemented; it is at this point that a decentralized organization (DO) can start to be described as a decentralized autonomous organization (DAO). The difference between a DO and a DAO is fuzzy, but the general dividing line is whether the governance is generally carried out via a political-like process or an “automatic” process.
미래에는 더 발전된 조직 거버넌스 메커니즘이 도입될 수 있으며, 그 시점에서 탈중앙화 조직(DO)이 탈중앙화 자율 조직(DAO)으로 묘사되기 시작할 것이다. DO와 DAO의 차이는 모호하지만, 일반적인 구분선은 거버넌스가 정치적 협의 절차를 통해 이루어지는가(DO), 아니면 ‘자동화된’ 절차를 통해 이루어지는가(DAO)이다.
이더리움 백서 2014.12 버전
그러나 세상은 복잡하다. 암호화 기술은 더욱 효율적이고 공정한 소유권 분배를 가능하게 하며, 협업 능력을 강화시켰고, 다양한 문화와 관심사를 가진 커뮤니티들이 이를 활용해 조직화하고 공동 행동을 시작했다. 암호화 분야 참여자들 대부분은 '코드는 법이다(code is law)'라는 철학에 동의하지만, 현실은 너무 복잡하다. 스마트 계약 안에서 실행 가능한 비즈니스 로직이 얼마나 되겠는가? 한套의 스마트 계약 코드만으로 조직의 모든 업무를 처리하고 지속적으로 자동화 운영을 기대하는 것은 오랫동안 불가능할 것이다.
초기 이더리움 백서의 정의에 따르면, 현재 존재하는 모든 DAO는 사실상 DAO가 아니다.
세상은 계속 진화하고 있다. Autonomous라는 단어는 현실 세계에서 '자기 통치'에서 '자동화 운영(거버넌스)'으로 의미가 변했고, 암호화 세계에서는 오히려 역방향으로 변화했다.
현실에서 출발한 많은 DAO 운영자들은 코드 기반의 완전 자율 운영을 고집하지 않고, social layer에 더 많은 여지를 두며, Autonomous의 의미를 다시 조직의 자치로 되돌렸다. 혹은 자동화되지 않은 이런 형태의 DAO가 현재 기술이 지원할 수 있는 주류라고 생각해서인지, 이후 이더리움 백서는 DO 개념을 삭제하며 DAO 속 Autonomous의 정의를 더욱 모호하게 만들었다. 최근 2년간 network state 개념이 유행하면서, DAO의 Autonomous는 고대 그리스에서 탄생했을 당시의 의미로 점점 돌아가고 있다.
내가 보기엔 Autonomous를 어떻게 이해하고 실천하느냐는 사실 그리 중요하지 않다. 원초적인 DAO 정의는 이상과 기술이 부여하는 희망을 나타내며, 현재는 아직 불가능하지만, 아름답고 순수한 추구이기 때문이다.
이미 수천 개의 DAO가 탄생했고, 기술적 견고함을 희생하며 문화적 층위로 보완하여, 공동의 가치를 가진 커뮤니티 구성원들이 유기적으로 결합하고, 블록체인 기술을 통해 더 강력한 조정, 인센티브, 소유권 분배를 이루며, 기존 세상에 존재하지 않던 모델과 성취를 만들어냈다. 이 역시 시대의 행운이다.
내가 과거에 가졌던 관점은 암호화 기술과 인프라가 발전함에 따라 DAO가 점차 인간에게 의존하지 않게 될 것이라는 것이었다. 오늘날 우리는 아직 Gnosis의 수동 멀티사인 방식으로 커뮤니티 금고를 관리하고 있지만, 내일은 제안 시스템과 금고 시스템이 연결되어 자금 분배 자동화를 실현할지도 모른다. 내일모레에는 DAO의 역할들을 어떤 방식으로 블록체인 위에 올려 핵심 역할 권한 분배를 자동화할 수도 있다. 자동화 체계가 인간의 역할을 조금씩 잠식하다가 어느 순간, DAO가 사람 중심에서 코드 중심으로 전환될 것이라 생각했다.
하지만 더 많은 프로젝트를 관찰하고, 수년간 다양한 DAO의 발전 양상을 보면서, 나는 현재의 커뮤니티형 DAO와 이상 속에서 자동화 운영되는 DAO는 본질적으로 다른 종(種)이며, 미래에 서로 완전히 다른 길을 걷게 될 것이지, 어느 시점에 하나로 합쳐지지는 않을 것이라고 느끼게 되었다.
사람 중심의 DAO는 자동화 수준을 높여 효율성, 조정, 신뢰를 개선할 수 있는 여지가 많지만, 그 가치 창출의 주체는 여전히 커뮤니티이며, 커뮤니티 속 각기 다른 개인들이다. 인간은 항상 중요하다.
반면 코드에 완전히 의존해 운영되는 이상 속의 DAO는 다른 무언가를 출발점으로 삼을 수 있는데, 예를 들어 - 자율 세계(Autonomous World).
자율 세계(Autonomous World) 속의 자율성
자율 세계(Autonomous World)는 종종 AW로 줄여 쓰인다. 이 개념은 0xPARC가 2022년에 처음 제안했으며, 1년간의 확산을 거쳐 점점 더 많은 논의의 대상이 되고 있다. 자율 세계는 비교적 복잡한 개념으로, 많은 사람들이 이를 전량 게임(Full-chain game)의 일환으로 보지만, 나는 그렇게 생각하지 않는다. 이는 기술, 문화, 정치, 철학 등 여러 분야가 교차하는 지점이다.
Autonomous World 개념에서 '세계(world)'란 인간이 사는 공간만을 가리키는 것이 아니라, 규칙과 서사를 담는 용기(container)를 의미한다. 인간이 사는 세계도 물론 하나의 세계이지만, 『삼체』도 하나의 세계이며, 책, Bilibili, 텐센트 비디오, 사람들의 머릿속에 존재한다. 『선검기협전』이나 『반지의 제왕』도 모두 세계다. 세계가 반드시 이야기와 관련될 필요는 없다. 예를 들어 화학도 하나의 세계로 볼 수 있다. 마찬가지로 규칙을 제공하는 용기이기 때문이다.
세계는 또 다른 곳에도 존재한다. Reddit에는 worldbuilding이라는 서브레딧이 있는데, 나는 자주 들러 사람들이 무엇을 이야기하는지 본다. 여기엔 많은 사람들이 지리, 기후, 역사, 전설, 문화, 사회, 기술, 생물 연쇄 등의 배경을 즐겁게 구상한다.
구축된 하나의 세계
누군가는 자신의 상상 속 세계의 해류 상태까지 구성하기도 한다
또 누군가는 자신의 세계를 위한 어두운 버전의 주기율표까지 디자인한다
번역: 나는 완벽주의자이자 동시에 세계 구축자다. 이 말은 내 세계를 완벽하게 만들고, 의심이 스며들지 않도록 한다는 뜻이다. 내 세계에는 2000년간 미완성된 역사가 있으며, 전쟁, 오랜 원한, 특정 국가의 몰락에 관한 자세한 사건, 제국의 군주 명단, 지역 탐험 등이 포함된다. 시간틀과 좋아하는 것에서 시작해 역사로 확장시킨다. 나는 이미 몇 년간 이것을 해왔지만, 약 300년의 역사만 완성했다.
이렇게 세계 개념을 간략히 정리한 후, 이제 자율 세계란 무엇인지 살펴보자. 정의에 따르면 0xParc는 자율 세계를 '블록체인 기반을 갖춘 세계'라고 본다. 좀 더 구체적으로 말하면-
Autonomous Worlds have hard diegetic boundaries, formalised introduction rules, and no need for privileged individuals to keep the World alive.
자율 세계는 엄격한 내재적 서사 경계(diegetic boundaries), 형식화된 참여 규칙(introduction rules)을 가지며, 특권을 가진 개인이 세계를 유지할 필요가 없다.
Ludens(0xPARC)
이 문장은 "자율 세계"의 세 가지 핵심 특징을 설명한다:
엄격한(Hard) 내재적 서사 경계: 이는 세계가 고정되고 변경 불가능한 기본 규칙을 가진다는 의미다. 시간이나 상황에 따라 바뀌지 않으며, 세계에 안정성을 제공한다.
형식화된 참여 규칙(formalised introduction rule): 세계에 참여하고 관여하는 데 명확하고 고정된 규칙이 있다는 뜻이다. 이 규칙은 어떻게 세계의 일부가 되는지, 그리고 그 안에서 어떻게 상호작용하는지를 포함한다.
특권을 가진 개인이 존재를 유지할 필요 없음: 이 세계는 자기 스스로를 유지하며, 특정 개인이나 조직의 유지나 관리에 의존하지 않는다.
이 관점에서 보면, Autonomous World는 원초적 정의의 DAO에 오히려 더 가깝다. 사전 설정된 규칙 하에 자율적으로 운영되며, 특정 개인이나 유동적인 규칙, 정치적 조정 과정에 의존하지 않는다. 혹은 말하자면, DAO 자체가 자율 세계의 한 형태라고 볼 수 있다.
그런 자율 세계의 매력은 무엇인가? 나는 그것이 '객관성(objectivity)'이라고 본다.
우리가 사는 현실 세계는 객관적이다. 누구도 이 세계를 소유하지 않으며, 어떤 개인이나 조직 때문에 존재하지도 않는다. 이 세계를 유지하고 운영하는 기본 법칙은 물리 법칙이며, 누구나 물리 법칙을 인정하는 조건 하에서 이 세계에 영향을 미칠 수 있고, 그 영향은 세계 안에서 객관적인 사실이 된다.
하지만 『해리 포터』의 세계는 객관적이지 않다. J.K. 롤링이 쓸 때 한 인물을 더 추가했다면 그 인물은 세계의 일부가 되지만, 쓰지 않았다면 존재하지 않는다. 이 세계는 J.K. 롤링이 창조했고, 그녀의 의지에 의해 유지된다. 수많은 팬들이 그것을 읽고 사랑할 수 있지만, 바꾸진 못한다. 9와 3/4번 승강장에 자신의 가방을 두고 그걸 세계 속의 '존재'로 만들 수 없다.
『월드 오브 워크래프트』도 객관적이지 않다. 비록 사람들이 블리자드가 설정한 규칙 안에서 세계에 들어와 상호작용하고, 세계 속 '객관적 사실'에 영향을 줄 수 있다. 그러나 『월드 오브 워크래프트』는 근본적으로 블리자드와 그 경영진의 주관적 의지에 의존해 존재한다. 작년에 넷이즈와 블리자드의 협력이 깨지면서 중국 지역 플레이어들이 창조한 모든 '객관적 존재'도 함께 소멸되었다.
하지만 지금 우리는 블록체인 네트워크를 기반으로 한, 자율적이고 객관적인 세계를 만들 수 있는 기회를 갖게 되었다. 이러한 자율 세계 속에서 사람들의 모든 창조물은 객관적 사실이 되며, 안정적인 규칙과 자가 유지 체계를 갖춘 세계 속의 객관적 사실이 된다.
이상은 Autonomous라는 개념이 다양한 분야에서 어떻게 해석되고 그 이면의 논리를 개관한 내용이다. 어디까지나 개인적인 사색이며, 모두가 맞다고는 할 수 없다. 그리고 Autonomous의 의미는 계속 진화하고 있다. '자주(自主)'는 인류 문명에서 가장 깊은 주제 중 하나이며, 이 짧은 수천 자로는 도저히 다 담을 수 없다.
지난 일주일 동안 나는 공상과학 소설 『맹시(盲视)』를 읽었다. 이 책은 여러 출판사에 거절당한 후 무료로 인터넷에 공개된 작품이다. 많은 이들이 이 책을 걸작이라 보기도 하고, 또 많은 이들이 쓰레기라 평가하기도 한다. 작가의 다른 정체성은 해양 생물학자인데, 다소 학술적인 표현과 매끄럽지 못한 문체로 인해 읽기 편하진 않았다. 그래도 끝까지 읽게 만든 건 소설 속에서 제기된 한 가지 관점 때문이었다. 인간이 자랑스러워하는 자기의식이 오히려 인류 발전을 제한하는 족쇄가 아닐까? 이에 대한 작가의 사고는 매우 날카롭고, 깊은 성찰을 요구한다.
이 사고에서 한 발 더 나아가 오랫동안 논쟁되어온 또 다른 주제로 넘어가보자. 인간은 정말 자율적인가? 혹시 이 세상에서 일어나는 모든 일이 이미 더 높은 차원의 코드에 의해 정의되어 있는 것은 아닐까?
우리는 이 세상에서 자율을 추구하지만, 과연 우주의 스마트 계약이라는 속박을 벗어날 수 있을까?
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
