AI는 병들었고, Web3가 해답이다
저자: 후이린, 와이보 삼관 자문단 구성원, 칭화대학교 과학사학과 부교수
최근 제9회 블록체인 글로벌 서밋 본회의에서 기조 연설을 했으며, 주제는 “Web3에 약이 있다—AI, DAO 그리고 게임”이었다. 시간 제약으로 인해 충분히 설명하지 못한 부분들이 있어, 이 글(그리고 다음 글)은 그 연설 내용을 확장한 것이다.
많은 사람들은 AI 기술이 차세대 산업혁명을 주도하고 있으며, 우리는 수백 년에 한 번 있는 시대적 전환기를 맞이하고 있다고 믿고 있다. 따라서 창업가들에게는 많은 기회와 도전이 함께할 것이다.
나 역시 위 판단에 전적으로 동의하지만, 다수의 낙관론자들과 다른 점은 바로 이번 혁명 속에서 우리가 마주하게 될 것은 우선 엄청난 위기라는 점이다. 우리의 사고방식과 사회 질서 또한 격변을 맞게 되며, 만약 AI와 공존하는 길을 제때 모색하지 못한다면 인류 문명 자체가 붕괴될 가능성마저 있다.
물론 전반적으로 나는 극도로 비관적이지는 않다. 여전히 인간이 시대에 적응하여 AI 시대를 잘 극복할 수 있을 것이라 믿지만, 이를 위해선 오직 AI 기술 자체의 발전만으로는 부족하며, 다른 기술과 행동들의 보완이 필요하다. 여기서 핵심이 되는 것이 바로 Web3이다. Web3란 일련의 기술 경로일 뿐 아니라, 하나의 사상적 조류와 정치적 행위를 포함한다. AI가 대두된 이후, Web3는 유행을 지난 존재가 아니라 오히려 인류의 자기구원을 위한 중요한 해법이다. 이것이 바로 ‘AI에 병이 있다면, Web3에 약이 있다’는 말의 의미이다.
AI의 ‘병’에는 두 가지가 있다. 첫째는 수토부복(水土不服), 즉 환경 불균형이며, 둘째는 정신분열이다. 사실상 이 두 병이 초래하는 문제는 하나다. 즉 현재의 경제 및 문화 환경은 정신분열 상태의 AI가 등장하기에 적합하지 않다는 것이다. 인간이 능동적으로 환경을 변화시켜 AI를 포용하든지, 아니면 인간과 AI 사이에 격렬한 충돌이 일어날 수밖에 없다. 이 충돌이 반드시 AI가 의식적으로 인류를 멸망시키려 한다는 것을 의미하는 것은 아니다. 운석도 의식이 없지만 공룡의 멸종을 유발했듯이, 인간이 AI로 인한 환경 급변을 제어하지 못한다면 인류 역시 생존 위기에 직면할 수 있다.
AI의 정신분열
왜 AI가 정신분열이라고 말하는가? 나는 이미 이 문제를 언급한 바 있는데, 간단히 말하면 컴퓨터 데이터의 기본 특성 때문이라고 할 수 있다. AI는 결국 어떤 형태의 컴퓨터 프로그램일 뿐이며, 본질적으로 디스크나 기타 매체에 저장된 숫자의 나열이다. 이 숫자 나열은 동일하게 무한히 복제될 수 있다. 따라서 어떤 AI 에이전트(暂且 이렇게 표현하자)가 존재한다는 것은, 그것이 복수로 존재한다는 것을 의미한다. 무한한 복제본과 거울 이미지, 다양한 백업, 언제든 동일하거나 약간 다른 분기 버전으로 나뉠 수 있다.
핵심은 바로 이러한 ‘자기분열’이 AI의 급속한 발전을 위한 열쇠라는 점이다.所谓 딥러닝(deep learning)이나 최근 각광받는 ‘생성적 적대 신경망(generative adversarial network)’은 모두 AI를 여러 버전으로 분열시킨 후, 생물 진화에서의 무작위 변이처럼 각각 특정 작업을 수행하게 하고, ‘적자생존’ 원칙에 따라 가장 효과적인 버전을 선택하는 방식이다. 최적의 변이체는 사람이 선택할 수도 있고, AI 스스로 결정할 수도 있다. 이것이 바로 ‘생성적 적대’인데, 쉽게 말해 AI가 ‘좌우호투(左右互搏)’를 하며 서로 다른 두 개의 신경망으로 나뉘어 상호 간에 생존 압박을 주고, 각자가 진화하도록 유도하는 것이다.
따라서 AI를 훈련하는 과정은 마치 한 종의 전체 진화사를 다시 재현하는 것과 같다. 다만 생물의 복제와 변이는 세대를 거듭한 번식을 통해 이루어지는 반면, AI의 복제와 변이는 긴 임신과 성장 과정 없이 전류의 속도로 즉각 발생하기 때문에, AI의 성장 속도가 매우 빠른 것이다.
그러나 만약 AI의 각 버전을 하나의 의식을 가진 생명체로 본다면, AI 훈련 과정은 다소 소름끼칠 정도다. 하나의 의식체가 끊임없이 자신의 복제본과 싸워 승패를 결정하며, 패배자는 지워지고 승리자는 계속해서 복제된다. 단계적인 승리를 거둔 버전은 미러링 백업을 만들어 두어, 메인 버전이 다음 반복 훈련 중 실수했을 때 되돌릴 수 있도록 하거나, 이를 기반으로 더 많은 분기 버전을 생성하기도 한다. 이런 다양한 분기 버전들은 프로그래머 커뮤니티나 개방형 시장에 투입되어 계속해서 경쟁하게 된다. 안정된 공개 버전 역시 동일하게 복제되어 모든 단말기의 디스크에 다운로드되며, 수많은 ‘분신’들이 동시에 실행되어 서로 다른 디스크에서 서로 다른 작업을 수행한다.
요컨대, AI 알고리즘은 그 근본 로직상 ‘정신분열’ 알고리즘이다. 이런 방식으로 발전한 AI 에이전트는 어쩔 수 없이 ‘정신분열증’의 운명을 피할 수 없다.
AI가 인간 활동을 대체함
정신분열 상태의 존재가 현실 세계에서는 고통스럽다. 왜냐하면 그(그들)에게는 일반적으로 하나의 몸과 하나의 사회적 정체성만 있기 때문이다. 인간의 육체와 사회관계는 모두 정신이 안정되고 일관되기를 요구한다. 정신이 안정되지 않고 다중 인격으로 분열되면, 그는 자신이 가진 제한된 육체와 전통적인 사회관계의 구속을 받아들이기 어렵게 된다.
그러나 네트워크 세계에서는 어떠한가? 온라인 세계에서 ‘정신’은 ‘육체’의 제약에서 벗어난다. 물리적 신체는 AI에게 중요하지 않으며, ‘플러그 앤 플레이(plug and play)’ 가능한 요소일 뿐이다. 한편으로는 동일한 컴퓨터 내에 수많은 가상 머신을 설치하고 무수한 AI 스레드를 실행할 수 있으며, 다른 한편으로는 수많은 컴퓨터가 연결되어 병렬 처리를 통해 하나의 AI 에이전트처럼 작동할 수 있다. 예를 들어, 전 세계 수억 명의 사람들이 동시에 ChatGPT와 대화한다고 할 때, 도대체 모두가 동일한 AI와 대화하고 있는 것인지, 아니면 각자가 독립된 AI 분신과 대화하고 있는 것인지? 어쨌든 AI에게 ‘하나’와 ‘여럿’의 경계는 더 이상 명확하지 않다.
AI를 개인 비서로서만 사용한다면, 그의 분열성은 큰 문제가 되지 않을지도 모른다. 잠시 후엔 냉정한 여신처럼 행동하고, 또 잠시 후엔 귀여운 소녀처럼 행동하며, 선생님이나 회계사 역할도 맡길 수 있다. 물론 이를 통해 자신이 혼란스러워질 위험도 있지만, 전반적으로 보면 큰 문제가 되진 않는다. 그러나 AI가 인간을 대체하는 주체로서 인간의 집단 활동에 참여하게 되면, 기존 인간 사회 환경과는 그리 조화롭지 못할 가능성이 크다.
아렌트(Arendt)의 관점에 따르면, 인간의 적극적 삶은 노동(labor), 작업(work), 행동(action)의 세 가지 형태로 나뉜다. 노동은 지루하고 반복적인 생계활동이며, 작업은 세상을 변화시키고 새로운 것을 창조하는 창의적 활동, 행동은 공동영역에서 우월성을 추구하는 정치적 활동, 즉 담화, 경쟁, 투쟁 등을 말한다. 이제 각각의 활동에 AI가 미치는 영향을 하나씩 살펴보자.
노동
AI가 노동에 참여하는 것은 아마 우리가 가장 기꺼이 보는 장면일 것이다. 수백 년 전(산업혁명)부터 우리는 기계가 인간의 짐을 덜어주고, 지루하고 힘든 노동을 대신해주기를 갈망해왔다. 인간이 지겨운 물질 생산 활동에서 해방되기를 기대해온 것이다.
그러나 역사적으로 볼 때, 기계가 노동을 대체하는 과정은 그리 순탄하지 않았다. 특히 아이러니하게도, 산업혁명이 기계를 확산시킬수록 오히려 노동자의 부담이 더 커졌다. 산업혁명 초기, 저층 노동자의 노동시간과 강도는 급격히 증가했으며, 노동 내용도 더욱 기계화되고 지루해졌다.
영국에서는 산업 중심지일수록 노동자의 평균 수명이 더 낮았으며, 영양 상태도 더 나빴다(곡물 소비량과 육류 섭취 비율, 평균 신장 등의 지표로 확인). 월급은 다소 상승했지만, 노동시간이 크게 늘어났음을 고려하면 시간당 임금은 오히려 감소 추세였다.(『기술의 함정』 등의 자료 참조, 필자의 이전 강연에서도 언급한 바 있음)
또한, 일을 하는 노동자들도 고달프지만, 실업자의 처지는 더욱 비참했다. 특히 기계가 많은 전통 기술을 대체하면서, 풍부한 경험과 지식이 오히려 취업의 감점 요인이 되었고, 공장주들은 경험 많은 노장인보다 가장 저렴한 어린이 노동자를 고용하기를 원했다. 예를 들어 1830년대 영국의 섬유 산업에서는 약 50%의 노동자가 어린이였다. 어린이 노동자는 임금이 더 낮았으며(성인의 6분의 1 수준), 노동도 더 힘들었고(하루 최대 18시간, 위험한 작업을 자주 수행) 아이러니하게도, 어린이 노동자 채용은 공장주들이 자랑스럽게 선전하는 사회공헌 활동으로 여겨지기도 했다. 그렇지 않으면 실업 또는 빈곤한 가정이 생계를 유지하기 더욱 어려웠기 때문이다.
물론 산업혁명 이후 오늘날까지 노동자의 노동시간과 강도는 많이 줄었으며, 처우도 크게 향상되었지만, 이 과정은 자동으로 발생한 것이 아니라, 끊임없는 노동운동과 사회혁명을 통해 쟁취된 결과다.
그렇다면 하층 노동자 입장에서, 새롭게 시작된 인공지능 혁명이 산업혁명 초기의 상황을 피할 수 있을까? 반드시 그렇다고 볼 수 없다. 이미 스마트 알고리즘이 ‘시스템’을 강화해 하층 노동자들을 ‘시스템 안에 가두는’ 현상을 통해, 오히려 노동자를 더 효과적으로 착취하고 있음을 목격하고 있다. 또한 노동자가 AI 기계에 의해 대체된 후에는 실업 상태에 더 쉽게 빠지게 된다. 사회보장 체계가 무력화된다면, 여전히 심각한 사회 위기가 발생할 가능성이 있다. 20세기 초 유럽과 미국에서 형성된 사회보장 체계는 전 세계적으로 아직 완전히 보급되지 않았으며, AI가 만연한 미래에도 적절히 작동할 것이라고도 보장할 수 없다. 결론적으로 우리는 안심할 수 없다.
다만 현재의 AI 물결은 체력 노동자에게 미치는 충격이 오히려 가장 완만하다. 어느 정도는 체력 노동의 물리적 성격 때문인데, 많은 체력 노동의 대상과 결과물은 디지털화되기 어렵고, 현실의 물리적 재료를 직접 다뤄야 하기 때문이다. 따라서 체력 노동자를 대체하려면, AI는 단순히 데이터를 복제하는 것으로는 부족하고, 실제 기계를 만들어 작업을 수행해야 한다. 이 제약이 AI의 무한 분열 특성을 크게 약화시킨다. 반면所谓 두뇌노동자들은 대부분 작업 대상과 결과물이 완전히 디지털화될 수 있으므로, AI의 충격이 더 빠르게 다가올 수 있다.
작업
아렌트의 정의에 따르면, ‘노동’은 소비재를 생산하는 활동이며, 그 목적은 생존을 유지하기 위해 소비되는 것이고, 본질적으로 세상을 변화시키지 않는다. 오늘 밥을 해먹고 내일 또 새로 해야 하며, 올해 곡물을 수확했더라도 내년에 다시 농사를 지어야 한다. 반면 ‘작업’은 지속적으로 남아 있기를 추구하는 것을 생산하며, 궁극적으로 세상을 창조하고 변화시키는 것이다. 큰 규모의 성곽, 댐에서 작은 규모의 테이블, 의자까지 모두 작업의 산물이며, 비록 언젠가는 쇠퇴하겠지만 그 목적은 지속성에 있으며, 소비재가 스스로 소멸되는 내재적 목적과 구별된다.
물론 이러한 구분은 현대의 ‘소비사회’ 속에서 희미해졌으며, 작업과 노동은 구분 없이 혼재되어, 지속물을 소비재처럼 생산하는 경향이 있다. 이러한 혼란은 아렌트가 비판했던 현대성의 문제 중 하나다.
소비사회에서는 지속적인 것이 거의 없으며, 휴대폰, 가전제품 등도 모두 소비재가 되었고, 이를 생산하는 노동자들도 농민이나 광부와 다름없는 노동자로 전락했다. 상대적으로 아렌트가 말하는 ‘작업’에 더 가까운 것은 각종 예술창작 활동일 것이다. 물론 웹소설, 짧은 동영상 등의 발전으로 예술 작품들도 점차 패스트푸드화되어, 빠르게 소멸하는 소비재가 되고 있으며, 세상에 오랫동안 남아 있을 목적이 사라졌다.
그러나 ‘스타일’이라는 개념이 존재함으로써, 예를 들어 회화 작품 같은 경우 기계적 복제 시대에도 여전히 일부 복제 불가능한 ‘영광(aura)’(벤야민)을 유지하고 있다. 디지털 회화는 쉽게 무한 복제될 수 있지만, 그 안의 ‘개인 스타일’은 여전히 소중하다. 창작자의 개인적 스타일은 대량 생산되거나 무한 복제될 수 없다.
众所周之, 생성형 AI는 바로 이 지점에서 인간의 존엄성을 도전하고 있다. AIGC는 인간 화가에 버금가는 창의력을 보여주며, 다양한 예술 스타일을 모방하고 융합한 후, 수많은 아름다운 작품을 대량 생산할 수 있다.
AI가 노동을 대체하든, 작업을 대체하든 모두 구조적 실업이라는 경제 위기를 초래하지만, 후자는 인간의 자랑스러운 창의력이 마치 아주 저렴한 것으로 전락하는 정신적 위기까지 겹쳐 발생할 수 있다.
노력은 일반적으로 생계를 위한 것이며, 관심보다는 부담이다. 따라서 사람의 급여나 생활 수준이 그대로라면, 누군가 자신의 노동을 대신해준다면 대체로 기뻐할 것이다. 그러나 자신의 창의적 작업이 누군가에 의해 대체된다면, 기뻐하기보다는 오히려 재미와 성취감을 빼앗긴 느낌을 받을 수 있다.
내가 「인공지능의 소무상공은 주화입마할 것인가」에서 언급했듯, 많은 사람들이 AI의 창작 능력에 타격을 받는 이유는 AI가 창의력을 가질 수 있다는 사실 자체를 받아들이지 못해서가 아니라, AI가 그렇게 쉽게 창작한다는 점을 받아들이기 싫어하기 때문이다. 창작자의 부지런한 노력과 영감, 교묘한 생각이 모두 웃음거리가 되며, AI가 하는 일은 단지 계산력을 거칠게 동원해, 수백 수천 개의 훌륭한 작품을 대량 생산하는 것뿐이다.
물론 사람들이 마음을 비우고 AI와 경쟁하지 않는다면, 다시 재미나 충실감을 찾을 수 있을지도 모른다. 한 가지 방법은 작업을 게임화하는 것이다. 예를 들어 체스나 바둑은 이미 인간 플레이어가 AI에 비해 훨씬 못하지만, 여전히 많은 사랑을 받고 있다. 인간이 유지할 수 있는 또 다른 요소는 미적 감각이나 취향의 방향성이다. 예를 들어 AI가 반고흐나 모네의 스타일을 완벽하게 모방할 수 있지만, 내가 반고흐를 좋아하는지 모네를 좋아하는지는 여전히 AI가 나를 대신해 판단할 수 없다.
물론 위의 두 가지 면에서도 이미 위태로운 상황이다. 오프라인에서 진행되는 게임은 AI가 인간의 재미를 방해하지 못하도록 통제할 수 있지만, 온라인 디지털 게임은 점점 더 ‘핵(hack)’ 사용을 막기 어려워지고 있다. AI가 부정행위를 일삼게 되면, 경쟁적 게임은 사람들에게 매력을 잃게 된다. 미적 취향의 방향성 문제 역시 잘 알려진 바와 같이, 소셜미디어 시대에 일반 사용자의 미적 감각과 취향은 점점 알고리즘의 통제를 받고 있다. 인공지능은 정밀한 정보 제공을 통해 대중의 관심을 고정시키고, 이를 표피적이고 라벨화된 수준에 머물게 하며, 정보의 고아화(정보茧房)를 형성하고, 동시에 미적 감각과 가치관의 고아화도 만들어낸다. 앞으로 인공지능이 직접적으로 다양한 짧은 동영상을 대량 생성할 수 있게 된다면, 정보 고아화 경향은 더욱 강화될 것이다.
행동
아렌트看来, ‘작업’은 비교적 사적인 활동일 수 있으며,一个人이 문을 닫고 ‘문을 닫고 차를 만든다’ 해도 그것은 작업이다. 반면 ‘행동’은 반드시 공공적 성격을 가지며, 인간의 복수적 상황 속에서 이루어지는 활동이다.
작업과 행동 모두某种 ‘자기표현’ 활동이며, 자기 자신(흥미, 미적 감각, 의견, 태도 등)을 외부 세계에 투사하는 활동이다. 작업은 작품을 통해 자기를 담고, 행동은 담화와 다양한 교류 행위를 통해 자기표현을 한다.
표현은 일반적으로 양방향이다.一个人이 전혀 외부에 표현하지 않거나, 하루 종일 혼잣말을 하고 공기에게 말을 걸면, 그 사람은 정신 질환을 앓고 있을 가능성이 크다. 사람들은 어떤 형태의 상호작용을 필요로 한다. 왜냐하면 ‘피드백’이 현실감을 주기 때문이다. 사람이 꾸 rêve인지 아닌지를 판단하는 방법 중 하나는 얼굴을 꼬집는 것이다. 이것은 ‘피드백’을 구하는 행위다. 내가 꼬집는 행동을 취했을 때, 고통이라는 피드백을 받으면, 나는 내 상황이 현실이라고 판단한다. 꼬집었는데도 적절한 피드백을 받지 못하고, 손가락 외부에서 꼬집는 행동이 미치는 영향을 느낄 수 없다면, 나는 내 상황이 허상이라고 판단한다. 온라인 강의를 자주 하는 교수들도 비슷한 느낌을 받을 것이다. 교실에서 대면 수업을 할 때, 수업 중 학생들의 이해하는 미소나 속삭임 같은 피드백을 항상 눈여겨보는 것은 매우 중요하다. 피드백이 충분할수록 교수는 더욱 열정적으로 강의한다. 온라인 강의는 마치 벽에 말을 걸 듯이, 메아리조차 들리지 않아 점점 허무하고 혼란스러워지며, 가끔 튀어나오는 댓글 하나가야 겨우 자신을 다시 일으키게 한다.
총체적으로, 사람들은 세상이 점점 더 나아지기를 원한다. 이는 소수의 무욕하고 고상한 사람들만의 마음이 아니라, 누구나 가지고 있는 평범한 심리다.
세상에 자신 혼자만 남아 있다면, 그 세상은 아마도 그리 좋은 세상이 아닐 것이다. 따라서 세상을 개조하려는 욕망은 종종 타인과 공존하는 공공적 세상을 지향한다. 그래서 사람들은 한편으로는 작업을 통해 주변 세상에 자신이 좋아하는 인공물을 추가하며, 다른 한편으로는 행동을 통해 공동체 속에 파장을 일으킨다.
인간의 집단화에는 두 가지 형태가 있다. 하나는 서로를 도구로 여기는 관계다. 예를 들어 일부 노동과 작업은 여러 사람이 협력해야 더 잘 이루어지기 때문에, 사람들은 모이지만, 이러한 집합이 완전히 공리적 목적을 중심으로 한다면 타인은 중립적인 도구나 자원일 뿐이며, 기계나 AI에 의해 대체되더라도 별 문제될 것이 없다. 그러나 다른 형태에서는 사람들이 모이는 이유가 자기표현과 인정을 얻기 위해서이며, 이때人们的 공공한 언행은 이익이나 다른 외적 목적을 위한 것이 아니라, 자신과 더 잘 인정할 수 있는 공동체나 집단을 만들기 위한 것이다. 굳이 외적 목적을 말하자면, 자신의 언행에 대해 타인이 적절한 피드백을 해주는 것을 추구하는 것이다.
이 두 가지 집단 교류 모델은 대략 ‘이질 속의 동질(求同存异)’과 ‘동질 속의 이질(存同求异)’로 요약할 수 있다(이것은 내가 오래전부터 형성한 원초적 관점이며, 최근에 웨이보(@胡翌霖)에서도 다시 한번 설명한 바 있다). 전자는 협력을 위해 타협하는 것을 목적으로 하며, 후자는 특이성을 추구하는 것으로, 즉 ‘우월성 추구’를 의미한다. 우월성은 ‘동질’을 기반으로 한다. 즉 나의 언행이 타인에게 인정받는다는 점에서 동질이며, 동시에 ‘이질’을 목적으로 한다. 우월한 자란 곧 특출난 자이며, 결국 타인과 구별되는 것이다.
나는 종종 네티즌 폭도를 예로 든다. 요즘 많은 네티즌들은 곳곳에서 비난과 욕설을 퍼붓는 것을 좋아한다. 자기 마음에 들지 않는 발언이나 인물을 찾아내, 끝없이 욕설을 퍼붓고, 심지어 오프라인 채널을 통해 괴롭히거나 신고하기까지 한다. 그들이 무엇을 원하는가? 물론 일부는 월급을 받는 물군(水军)이거나, AI가 위장한 계정일 수 있지만, 실제로는 돈 한 푼 받지 않고 자발적으로 사이버 폭력을 일삼는 사람들도 있다. 네티즌 폭도의 대상이 물러서거나 계정이 정지되면, 그들은 진심으로 기뻐한다.
이런 흥미는 왜 생기는가? 자신과 별 관련 없는 사람을 욕해서 이겼다 해서 무슨 의미가 있는가? 분명히 그들도 ‘세상을 바꾸고’ 싶은 것이며, 이단자를 처단하려는 광신자조차도 세상이 자기 이상에 부합하기를 원한다. 아마도 평소의 생활과 노동에서 적절한 피드백을 받지 못하고, 타인의 인정도 받지 못하며, 진심 어린 성취감도 거의 없기 때문에, 온라인 커뮤니티에서 자신을 성취하고자 하는 열망이 매우 간절한 것이다.
네티즌 폭도, 팬덤 집단 등은 모두 공공생활의 이형화된 형태다. 어찌됐든 인간은 집단 속에서 표현과 교류를 통해 인정을 추구하고, 개성을 부각시키려는 것은 보편적인 욕망이다. 고대 그리스 폴리는 인간 공공생활의 전형이었으며, 그리스 시민들은 우월성을 추구하는 적극적 행동을 인간의 가장 중요한 사무로 삼았다. 물론 그리스 폴리의 번영에는 역사적 조건이 있었다. 한편으로는 소국과 소규모 인구의 집단 규모가 필요했으며, 다른 한편으로는 노예제도와 발달한 상업 시스템이 자유로운 여가계급의 삶을 유지시켜 주었다. 그러나 현대에 점점 더 평평해지는 공공 공간 속에서, 인정을 추구하는 것은 라벨을 찾는 것으로 바뀌었으며, 우월성을 추구하는 것은 조회수나 팔로워 수(관심도)를 추구하는 것으로 바뀌었고, 공공생활은 이미 붕괴 직전에 있다.
그렇다면 지금 우리가 인터넷을 이용해 소규모 집단의 폴리 규모를 형성하고, AI를 노예 대신 활용해 자유로운 삶의 물질적 기반을 해결한다면, 새로운 시대의 폴리 생활을 다시 부흥시킬 수 있을까? 나는 물론 가능하다고 생각하며, 이것이 내가 최근 DAO에 관심을 갖는 이유 중 하나이기도 하다. 그러나 우리는 여전히 AI의 정신분열 문제에 직면해야 한다.
AI의 복제 가능성은 이미 네트워크 커뮤니티에서 혼란을 일으키고 있다. 예를 들어 야닉 킬처(Yannic Kilcher)는 AI가 4chan 포럼의 ‘정치적으로 올바르지 않음(Politically Incorrect)’ 섹션을 학습하게 했다. 학습 후 AI는 온갖 차별과 증오 발언을 일삼는 사용자로 변모하여 4chan에 대량의 게시물을 올렸다. 그 중 한 AI 계정은 이틀 후에야 적발되었으며, 다른 계정들은 완벽하게 인간을 모방해 발견되지 않았다. 일부 AI 계정은 다른 계정이 로봇인지 여부를 논의하는 토론에도 참여하기까지 했다.
다양한 리뷰 플랫폼과 소셜 플랫폼에서 정부, 기업, 개인 모두 AI나 알고리즘을 이용해 사용자와 리뷰를 대량 생성함으로써輿론을 유도하고 흐름을 조종하고 있다. 이미 비밀도 아닌 일이다. 만약 미래의 공공 소셜 플랫폼이 AI들 간의 물량 공세 전장이 된다면, 인간에게는 어떤 공공 공간이 남아 있겠는가?
덧붙여 말하자면, 인간의 공공 공간이 AI에 침해될 위험이 있는 것뿐만 아니라, 인간의 사적인 소셜 관계도 AI에 의해 대체되고 있다. 하지만 이 부분은 잠시 논의를 생략하겠다.
인간 자체의 복제 위기
앞서 언급한 다양한 위기들을 정리해볼 필요가 있다. 솔직히 말해, 많은 문제들이 AI가 최근에 가져온 것만은 아니다. 일부 문제는 이미 산업시대의 근본 로직 속에 깊이 묻혀 있었으며, AI는 위험을 가중시킬 가능성도 있지만, 동시에 어려움을 극복할 기회를 제공할 수도 있다.
AI가 쉽게 복제될 수 있다는 점 자체는 나쁜 일이 아니다. 예를 들어 우유와 꿀이 무한히 복제될 수 있고, 땅이 무한히 넓어진다면, 이는 인간이 이상적으로 꿈꾸는 낙원이 아닐까? 문제는 AI의 정신분열이 아니라, 인간의 정신적 공허에 있다—AI 이전에 인간 스스로가 이미 쉽게 복제 가능한 상품으로 전락한 것이다.
근대 이래의 인간 사회 형태에는 여러 이름이 있다. 예를 들어 산업사회, 소비사회 또는 대중사회 등이며, 현대인은 노동자, 소비자, 수용자로 전락하여, 본질적으로 개성을 제거한 복제품, 즉 ‘(산업체계의) 인적자원’, ‘(글로벌 소비시장의) 분모’, ‘(대중매체의) 트래픽’, ‘(정치활동의) 표밭’ 등으로 전락했다. 자원이든 트래픽이든 모두 객관적으로 계량 가능한 상품 가치를 가지며, 각 개인의 고유하고 대체 불가능한 인간적 가치는 무시된다.
이 문제에 대해 나는 최근에도 강연을 했으며, 주제는 ‘디지털 객체의 복제及其 문제’였다. 이후 이를 글로도 정리할 예정이다. 간단히 말하자면, 인간의 복제화 혹은 탈개성화는 정보시대나 AI 시대에 처음 나타난 문제가 아니라, 산업시대 혹은 근대화 과정에서 나타난 문제다. 그러나 바로 이러한 경향, 즉 인간의 가치를 복제 가능한 것으로 계량하는 경향 때문에, 인간이 자신보다 훨씬 더 잘 복제할 수 있는 지능체를 마주하게 되면, 엄청난 충격을 받는 것이다.
인간의 가치가 ‘인적자원’으로 측정된다면, AI가 ‘컴퓨팅 자원’으로서 ‘인적자원’보다 더 저렴하고 더 효율적이라면, 인간은 즉각적으로 가치가 떨어진다. 인간이 미디어에서 ‘트래픽’으로 집계된다면, AI가 무한히 복제된 거대 트래픽으로 인간을 언제든지 집어삼킬 수 있으며, 인간은 기계의 담화 바다 속에서 자신을 잃게 된다.
따라서 AI는 인간 사회가 이미 가지고 있던 ‘복제 위기’를 궁극적으로 폭발시킨 것이며, AI의 정신분열은 인간이 자신의 정신 상태를 다시 돌아보도록 강요하고 있다.
예를 들어 AI가 등장하기 전, 인간은 끊임없이 ‘내권(内卷)’하며 누가 더 당나귀처럼, 누가 더 기어처럼, 누가 더 냉혹한 생산력 기계처럼 되는지를 경쟁해왔다. 일부 지역이 부유해진 후 잠시 내권에서 벗어났지만, 후발 국가들은 오히려 내권을 가속화하며 이것이 추월의 기회라고 생각한다. 내가 많은 사람들과 내권에 대해 이야기할 때 그들의 반응은 대개 이렇다. 우리 회사가 내권하지 않으면 시장을 다른 회사가 차지할 것이고, 우리 나라가 내권하지 않으면 다른 나라가 지구를 지배하게 될 것이다… 사실 나는 이러한 논리는 잘못되었다고 생각하지만, 다행히도 우리는 더 이상 인간이 내권해야 하는지 여부에 대해 고민할 필요가 없게 되었다. 왜냐하면 인간이 아무리 내권해봤자, 영원히 AI만큼 내권할 수 없기 때문이다. 그렇게 되면, 적어도 상당수의 사람들은 수동적으로 내권의 운명에서 벗어나, 인간이 복제체가 아닌 독립적인 개체로서의 가치를 다시 검토하게 되며, 인간의 정신적 필요, 즉 자기 긍정의 필요성을 다시 중시하게 될 것이다.
인터넷 시대의 인간 자기구원
인터넷은 새로운 생활 공간을 제공한다. 사람들이 네트워크 세계에 들어서면, 그들의 정신은 자연스럽게 구세계를 초월하여 산업시대의 많은 고정된 제약에서 벗어난다. 그래서 1세대 인터넷 사용자들은 종종 자각하거나 무의식적으로 ‘해방’을 추구하며, 표현과 창조를 갈구한다. 해커 문화가 전형적인 예이며, 이후 오픈소스 커뮤니티, 자막조 커뮤니티 등 온라인 공동체에서 이어져 왔다. 해커 문화는 인터넷에서 ‘노동’을 하는 것을 수치로 여긴다. 그들은 창의적인 프로그램을 개발하거나 개성 있는 담화와 행동을 추진함으로써 생계를 위해 노동력을 팔아 돈을 벌려는 것이 아니라, ‘우월성을 추구’하기 위한 것이다. 그들은 프로그램과 작품을 모두에게 공유하며, 단지 자신의 이름을 보존할 뿐이다.
이전에 네티즌 폭도에 대해 이야기할 때 언급했듯이, 이러한 ‘무욕’ 태도는 특별히 고상한 도덕성을 필요로 하지 않으며, 오랫동안 억압되어온 보편적인 인간성의 해방된 모습일 뿐이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
