서사적 줄다리기: 극단적인 논쟁에 주목하기보다 서사 자체에 주목하라
작성: Packy
번역: TechFlow
지난 1년 정도 동안 저의 세계관을 바꾼 가장 큰 변화 중 하나는 이데올로기적 논쟁을 서사적 끌기 게임으로 보게 된 것이다.
모든 서사에는 그에 상응하는 반대 서사가 존재하며, 거의 필연적으로 그렇다.
한쪽은 극단으로 끌어가려 하고, 다른 쪽은 자기 위치로 되돌리려 한다.
예를 들어: 인공지능이 우리 모두를 멸망시킬 것이다 ←→ 인공지능이 세상을 구할 것이다.
처음엔 사소한 의견 차이였지만, 점차 완전히 대립되는 세계관으로 부풀려지고, 섬세한 대화는 슬로건으로 변한다. 처음엔 상대였던 사람이 결국 적이 된다.
극단에 주목하고, 양측에서 로프를 잡아당기는 팀들에 집중하면 쉽게 분노하게 된다. 물론 그들이 말하는 모든 것을 비판하고, 간과하거나 놓친 점들을 지적하기도 쉽다.
하지만 저는 그렇게 하지 말고, 중앙 매듭에 집중하라고 말하고 싶다.
양측이 각자 자기 방향으로 더 끌어당기려 할 때, 이 매듭은 오고 가며 움직이며, 가장 주목해야 할 부분이다.
그들에게는 이념의 싸움이지만, 우리에게는 새로운 것이 만들어지는 지점이다.
오버턴 윈도우(Overton Window)라는 개념이 있다. 일정 기간 동안 대부분의 사람들이 정치적으로 수용 가능한 정책 범위를 말한다.
조셉 오버턴(Joseph Overton)이 1990년대 중반 이 개념을 제안한 이후, 이 개념은 정부 정책을 넘어섰다. 이제는 아이디어가 어떻게 주류 담론에 진입하여 여론, 사회 규범, 제도적 관행에 영향을 미치는지를 설명하는 데 사용된다.
오버턴 윈도우란 바로 이 서사적 줄다리기의 매듭이다. 로프를 당기는 두 팀은 사실 누구도 자신들의 생각에 전적으로 동의하고 채택하기를 기대하지 않는다. 다만 충분히 강하게 끌어, 오버턴 윈도우가 자기 방향으로 움직이기를 바랄 뿐이다.
또 다른 비유는 가격 앵커링(price anchoring)이다. 기업이 여러 등급의 가격을 제시할 때, 소비자가 중간 등급을 선택할 것임을 알고 있는 경우다.
누구도 7,000달러짜리 슈퍼 프로페셔널 버전을 사리라 기대하지 않는다. 단지 그것을 제시함으로써, 사람들이 69달러짜리 프로페셔널 버전을 사는 것을 더 쉽게 만들 뿐이다.
서사도 마찬가지다. 다만 기업이 당신이 프로페셔널 버전을 살 가능성을 최대화하기 위해 신중하게 가격을 설정하는 것이 아니라, 독립적이고 상반된 두 팀이 결을 자기가 받아들일 만한 위치로 충분한 힘으로 당겨오기 위해 경쟁하는 것이다. 이렇게 보면, 일종의 문화적 마법이다.
이 개념을 설명할 수 있는 많은 예를 들 수 있는데, 특히 기술 분야에서 성장 반대와 성지지, 즉 EA와 e/acc의 대립이 있다.
EA와 e/acc
제가 속한 분야에서 가장 큰 논쟁 중 하나는 효과적 알트루이즘(EA)과 효과적 가속주의(e/acc)의 대결이다. (최근 OpenAI의 사건을 계기로 세계 무대로 폭발했다.)
이는 우리가 계속 성장해야 한다고 믿는 사람들과 그렇지 않다고 믿는 사람들 사이의 오랜 갈등의 최신 형태이며, 이 서사적 줄다리기의 완벽한 사례이기도 하다.
각각의 입장만 따로 본다면, 두 관점 모두 극단적으로 보인다.
EA(저는 이를 AI 위험팀이라 칭하겠다)는 인공지능이 우리 모두를 멸망시킬 가능성이 크다고 주장한다. 미래 수천 년 동안 수조 명의 인간이 존재할 것을 고려할 때, 인공지능이 우리 모두를 멸망시킬 가능성만 1%라도 있다면, 이를 막는 것은 수십억 또는 수천억 명의 생명을 구하는 일이다. 우리는 어떤 대가를 치르더라도 일반 인공지능 도달 전에 인공지능 개발을 중단해야 한다.
이 팀의 선두주자인 엘리저 유드콥스키(Eliezer Yudkowsky)는 『타임』지에 이렇게 썼다:
모든 대규모 GPU 클러스터를 폐쇄하라. 모든 대규모 트레이닝을 종료하라. 누군가 인공지능 시스템을 훈련할 때 사용할 수 있는 컴퓨팅 능력의 상한선을 설정하고, 몇 년 내에 더 효율적인 훈련 알고리즘을 보완하기 위해 점진적으로 낮춰라. 정부와 군대에 대한 예외도 허용하지 마라. 금지된 활동이 다른 곳으로 옮겨가는 것을 방지하기 위해 즉각 다국적 협약을 체결하라. 판매되는 모든 GPU를 추적하라. 데이터센터가 발견되면 공습으로 파괴하라.
인공지능 개발을 막기 위해 데이터센터를 폭격하자는 생각은 정말 어이없다.
e/acc(저는 이를 인공지능 찬성팀이라 칭하겠다)는 인공지능이 우리 모두를 죽이지 않을 것이며, 우리는 그것의 발전을 가속화하기 위해 모든 노력을 해야 한다고 주장한다. 그들은 기술은 좋고, 자본주의도 좋으며, 두 가지의 결합체인 기술-자본 머신은 "영원한 물질 창조, 성장, 풍요의 엔진"이라고 본다. 우리는 어떤 대가를 치르더라도 기술-자본 머신을 보호해야 한다.
마크 앤드리슨(Marc Andreessen)은 자신의 트위터 프로필에 "e/acc"라고 표기하며 최근 『테크노 낙관주의 선언(The Techno-Optimist Manifesto)』을 발표했고, 여기서 기술 진보를 옹호하는 주장을 폈다. 다음 문단은 특히 인공지능 반대파들을 격노하게 만들었다:
우리는 적이 있다.
그들은 나쁜 사람이 아니라, 나쁜 생각을 갖고 있다.
지난 60년간 우리의 사회는 기술과 생명을 반대하는 광범위한 파괴 운동의 영향을 받아왔다. 이 운동은 '존재적 위험', '지속 가능성', 'ESG', '지속 가능한 개발 목표', '사회적 책임', '스테이크홀더 자본주의', '신중한 원칙', '신뢰와 안전', '기술 윤리', '리스크 관리', '감성장(de-growth)', '성장의 한계' 등의 이름으로 나타났다.
이 파괴 운동은 공산주의에서 유래한 많은 좀비 사상 같은 나쁜 생각에 기초하고 있으며, 과거에도 지금도 재앙이다.
많은 기자들과 블로거들이 지적했듯이, 대부분의 사람들이 좋은 것으로 여기는 것들—예를 들어 지속 가능성, 윤리, 리스크 관리—가 이 논쟁 속에서는 우스꽝스럽게 보인다.
두 주장 모두의 비판자들은 중요한 점을 놓친다. 어느 한쪽의 주장도 맥락 없이 평가돼서는 안 된다. 미묘함은 특정 주장 자체의 핵심이 아니다. 당신은 가장자리를 세게 당겨, 중간에 미묘한 차이가 드러나게 하는 것이다.
양측 모두 가장 급진적인 인물들이 존재한다—한쪽은 인공지능을 완전히 중단하라고 요구하고, 다른 쪽은 정부든 기업이든 어느 누구의 통제도 받지 않는 기술-자본 성장을 원한다—하지만 실제로 일어나는 것은 서사적 줄다리기다.
EA는 인공지능 규제를 원하며, 규제를 만드는 사람이 되기를 원한다. e/acc는 인공지능이 열려 있고, 정부든 기업이든 어느 누구의 통제도 받지 않기를 원한다.
한쪽은 인공지능이 우리 모두를 죽일 것이라는 경고를 통해 대중과 정부를 겁줘 조기에 규제를 만들게 하고, 다른 쪽은 인공지능이 세상을 구할 것이라며 반격해 너무 일찍 규제가 생기는 것을 막고, 사람들이 직접 그 이점을 경험할 수 있도록 한다.
개인적으로, 제가 기술 낙관주의 진영에 서 있다는 건 전혀 놀라운 일이 아니다. 하지만 이는 기술이 해결책이라고 생각하거나, 해결해야 할 진짜 문제가 없다고 생각한다는 의미는 아니다.
이는 발전이 정체보다 낫다고 믿으며, 문제에는 해결책이 있고, 역사적으로 기술 발전과 자본주의가 인간의 삶의 질을 향상시켜왔으며, 나쁜 규제가 아무런 규제보다 더 큰 위험이라고 믿는다는 의미다.
세계의 변화가 서사적 줄다리기에 기반하지만, 진실도 존재한다. 말서스(Malthus)에서 에를리히(Ehrlich)까지의 비관론자들은 틀렸음이 증명됐지만, 공포는 확산되기 때문에 주류 서사는 여전히 반기술적이다. 진실이 드러나기 전에 제한적인 규제가 먼저 자리 잡는 것이 진정한 걱정거리다.
왜냐하면 이 서사적 줄다리기 게임은 공정한 게임이 아니기 때문이다.
성장을 반대하는 측은 충분히 오랫동안 세게 끌기만 하면 규제가 시행된다. 일단 시행되면 이를 뒤집기는 어렵고, 보통 규제는 점점 더 강화된다. 전 세계적으로 원자력 이용에 관한 사례가 그 좋은 예다.
만약 그들이 매듭을 규제선을 넘기까지 끌어낼 수 있다면, 그들은 이긴다. 게임 끝.
성장을 지지하는 측은 충분히 오랫동안 세게 끌어야 한다. 새로운 기술이 가져오는 혼란 속에서 진실이 드러나도록, 기업가들이 약속을 입증하는 제품을 만들 수 있도록, 창의적인 사람들이 진전을 약화시키지 않으면서 문제를 해결하는 방법을 제시할 수 있도록 말이다.
그들은 이 줄다리기를 충분히 오랫동안 유지해, 중간에 해결책을 찾을 수 있어야 한다.
이더리움 공동창시자 비탈릭 부테린(Vitalik Buterin)은 『내가 가진 기술 낙관주의(My techno-optimism)』라는 글을 쓰며 d/acc라는 해결책을 제시했다.
그는 "d"는 다양한 의미를 가질 수 있다고 썼다. 특히 방어(defensive), 탈중앙화(decentralized), 민주적(democratic), 차별화된(differentiated) 등을 의미한다. 즉, 잠재적 문제를 방지하고 인간 번영을 우선시하는 방식으로 인공지능을 개발하기 위해 기술을 활용하자는 것이다.
한쪽에서는 인공지능 안전 운동이 "당신은 멈춰야 한다"는 메시지로 홍보한다.
다른 쪽에서는 e/acc가 말한다. "당신은 이미 지금처럼 영웅이다. 계속 나아가자."
비탈릭은 d/acc를 제3의, 중간 방식으로 제안한다:
d/acc는 "건설해야 하며, 당신과 인류의 번영에 도움이 되는 것을 건설해야 한다. 그러나 무엇을 짓는지 더욱 신중하고 의식적으로 선택해, 당신과 인류의 번영을 진정으로 도울 수 있도록 해야 한다"고 말한다.
그는 이것이 철학이 무엇이든 간에 사람들을 끌어모을 수 있는 통합이라고 본다. (철학적 신념이 "기술을 완전히 억압하라"는 것이 아니라면 말이다.)
EA와 e/acc가 극단에서 압력을 가하지 않았다면, 비탈릭의 d/acc라는 중간 공간은 존재하지 않았을지도 모른다. 극단 자체는 미묘함이 없지만, 그 덕분에 중간에 미묘함이 생길 공간이 마련된다.
만약 EA가 이긴다면 규제가 발전을 막거나 소수 회사들에 집중시키므로, 이 공간은 사라진다. 목표가 규제라면 규제를 포함하지 않는 해결책은 존재하지 않는다.
하지만 목표가 인간 번영이라면, 해결책의 공간은 널리 열려 있다.
비탈릭이 e/acc의 일부 내용에 명확히 동의하지 않는다고 해도, 마크 앤드리슨과 e/acc의 익명 공동창시자 베프 제조스(Beff Jezos) 모두 비탈릭의 글을 공유했다. 이는 그들이 자신의 해결책이 아니라 더 나은 해결책을 원한다는 뜻이다.
d/acc가 답이든 아니든, 그것은 극단의 목적을 완벽하게 포착한다. e/acc가 외부 경계를 설정했기 때문에, Neuralinks를 통해 인간과 인공지능을 결합하는 해결책조차 현명하고 온건한 접근으로 간주될 수 있다.
이 문제뿐 아니라 다른 서사적 줄다리기에서도 극단은 역할을 하지만, 그것이 목적은 아니다. 모든 EA에는 등가의 반대 e/acc가 존재한다. 게임이 계속되는 한, 이러한 긴장 속에서 해결책이 나올 수 있다.
다시 말하지만, 양 끝에서 줄을 당기는 사람들에게 집중하지 말고, 중앙의 매듭에 집중하라.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
