a16z 창립 파트너: 왜 AI가 세계를 구할 것인가?
글: MARC ANDREESSEN
편역: TechFlow
AI 시대는 놀라움과 공포를 동시에 가져왔지만, 좋은 소식은 AI가 세상을 파괴하지 않고 오히려 세상을 구할 수 있다는 것이다.
a16z의 공동 창업자인 MARC ANDREESSEN은 AI가 인간의 지능을 향상시켜 모든 분야에서 더 나은 성과를 거둘 기회를 제공한다고 말한다. 누구나 AI 멘토, 조수 또는 파트너를 가질 수 있으며, 이들은 우리의 잠재력을 극대화하는 데 도움을 줄 것이다. AI는 경제 성장, 과학적 돌파구, 예술 창작을 촉진하고 의사결정을 개선하며 전쟁으로 인한 사망자를 줄일 수도 있다. 그러나 AI 발전에는 위험이 따르며, 현재의 도덕적 공포는 문제를 과장하고 있을 수 있고, 일부 행위자는 자신의 이익을 위해 움직이고 있을 가능성이 있다.
그렇다면 우리는 어떻게 AI를 합리적으로 바라봐야 하며, 어떤 관점에서 접근해야 할까? 이 글은 실현 가능하고 신뢰할 수 있으며 깊이 있는 논의의 모범을 제시한다.
다음은 본문 전문이다:
AI 시대가 도래했다. 놀라움 속에서도 많은 불안감이 동반된다. 다행히 나는 좋은 소식을 가지고 왔다. AI는 세상을 파괴하지 않을 것이며, 실제로 세상을 구할 수도 있다.
먼저 간단히 AI란 무엇인지 설명하자면, 인간처럼 지식을 이해하고 통합하며 생성하도록 컴퓨터에 수학과 소프트웨어 코드를 적용하는 것이다. AI는 다른 어떤 컴퓨터 프로그램과 마찬가지로 작동하며, 입력을 받아 처리하고 출력을 생성한다. AI의 출력물은 코딩부터 의료, 법률, 창의적 예술 등 다양한 분야에서 유용하다. AI는 사람의 소유이며 통제하에 있으며, 다른 어떤 기술과 마찬가지다.
AI는 영화에서 보듯이 인간을 살해하거나 모든 것을 파괴하기로 결정하는 살인 로봇도 아니고, 자율적으로 행동하는 존재도 아니다. 오히려 우리가 소중히 여기는 모든 것을 더 나아지게 만드는 수단이 될 수 있다.
왜 AI가 우리가 관심을 두는 모든 것을 더 좋게 만들 수 있을까?
수십 년간 수천 건의 사회과학 연구들이 수행되었으며, 가장 신뢰할 수 있는 핵심 결론은 인간의 지능이 삶의 결과를 개선한다는 것이다. 똑똑한 사람들은 거의 모든 활동 영역에서 더 나은 성과를 낸다. 학업 성취, 직장 성과, 직업 지위, 수입, 창의성, 신체 건강, 수명, 새로운 기술 습득, 복잡한 작업 관리, 리더십, 창업 성공, 갈등 해결, 독해력, 금융 결정, 타인의 관점 이해, 예술 창작, 양육 결과 및 삶의 만족도 등에서 그렇다.
또한 인간의 지능은 수천 년 동안 오늘날 우리가 살아가는 세상을 만들어낸 레버리지 역할을 해왔다. 과학, 기술, 수학, 물리학, 화학, 의학, 에너지, 건축, 교통, 통신, 예술, 음악, 문화, 철학, 윤리 및 도덕 등이 그것이다. 이러한 모든 분야에 지능을 적용하지 않았다면 우리는 여전히 진흙 속에서 최소한의 농업 생계를 유지하며 살아가고 있었을 것이다. 반면에 우리는 지난 4000년 동안 지능을 활용해 삶의 수준을 약 1만 배 향상시켰다.
AI는 인간의 지능을 증강시킬 기회를 제공하며, 새로운 약물 개발에서 기후 변화 해결, 성간 여행에 이르기까지 모든 지능적 성과를 더 나아지게 할 수 있다.
AI가 인간 지능을 증강시키는 것은 이미 시작되었다. AI는 여러 형태로 우리 주변에 존재하며, ChatGPT와 같은 대규모 언어 모델을 통해 빠르게 진화하고 있으며, 앞으로 더욱 가속화될 것이다—우리가 이를 허용한다면 말이다.
이 새로운 AI 시대에:
-
모든 어린이는 무한한 인내심과 무한한 동정심, 무한한 지식과 무한한 도움을 가진 AI 멘토를 갖게 될 것이다. 이 AI 멘토는 각자의 성장 과정에서 아이들을 동행하며, 무한한 사랑으로 그들의 잠재력을 극대화하도록 도울 것이다.
-
모든 사람은 무한한 인내심과 무한한 동정심, 무한한 지식과 무한한 도움을 가진 AI 조수/코치/멘토/훈련사/상담사/치료사를 갖게 될 것이다. 이 AI 조수는 삶의 모든 기회와 도전 속에서 각 개인을 동행하며, 각자의 성과를 극대화할 것이다.
-
모든 과학자는 자신의 연구 범위와 성과를 크게 확장시켜줄 AI 조수/파트너/동지를 갖게 될 것이다. 예술가, 엔지니어, 사업가, 의사 및 간호사들도 각자의 분야에서 동일한 AI 조수를 갖게 될 것이다.
-
모든 국민 지도자들—CEO, 정부 관료, 비영리 단체 회장, 운동 감독, 교사—에게도 마찬가지다. 지도자가 지도 대상에게 내리는 더 나은 결정은 큰 파급 효과를 가지므로, 이러한 지능 증강은 특히 중요하다.
-
전체 경제의 생산성 성장은 눈에 띄게 가속화되어 경제 성장, 새로운 산업 및 일자리 창출, 임금 상승을 이끌며, 전 세계적인 물질적 번영의 새 시대를 열 것이다.
-
AI가 자연 법칙을 더 깊이 해독하는 데 도움을 주면서, 과학적 돌파구, 새로운 기술 및 신약 출현이 크게 확대될 것이다.
-
예술 창작은 황금기를 맞이할 것이다. AI를 활용한 예술가, 음악가, 작가, 영화 제작자들은 과거 어느 때보다 더 빠르고 규모 있게 자신의 비전을 실현할 수 있게 된다.
-
나는 심지어 전쟁이 불가피할 때조차 AI가 전시 사망률을 크게 줄임으로써 전쟁을 개선할 수 있다고 생각한다. 모든 전쟁은 제한된 인간 지도자들이 극도의 스트레스와 정보 부족 속에서 끔찍한 결정을 내리는 것으로 특징지어진다. 이제 군사 지휘관과 정치 지도자들은 AI 고문을 통해 전략 및 전술적 결정을 더 잘 내릴 수 있으며, 위험과 오류, 불필요한 희생을 최소화할 수 있다.
-
간단히 말해, 사람들이 현재 자신의 자연 지능으로 하는 모든 일은 AI를 통해 더 잘 이루어질 수 있으며, 모든 질병을 치료하는 것에서부터 성간 여행 실현에 이르기까지 가능하다.
-
이것은 단순히 지능의 문제가 아니다! 아마도 AI가 가장 과소평가되고 있는 점은 그것이 얼마나 인간적이게 만드는가 하는 것이다. AI 예술은 기술적 능력이 없는 사람들조차 자유롭게 창작하고 예술적 아이디어를 공유할 수 있게 한다. 공감하는 AI 친구와 대화하는 것만으로도 역경을 다루는 능력이 실제로 향상된다. AI 의료 챗봇은 이미 인간 동료보다 더 공감적이다. 무한한 인내심과 동정심을 가진 AI는 세상을 더 따뜻하고 친절하게 만들며, 세상을 더 냉혹하고 기계적으로 만들지는 않는다.
그러나 위험 또한 크다. AI는 전기와 마이크로칩에 버금가거나 그 이상일 수 있는, 우리 문명이 만들어낸 가장 중요하고 훌륭한 것일 수 있다.
AI의 개발과 보급은—두려워해야 할 리스크가 아니라—우리 자신과 우리의 아이들, 그리고 우리의 미래에 대한 도덕적 책임이다. AI와 함께라면 우리는 더 나은 세상에서 살게 될 것이다.
그렇다면 왜 공포가 발생하는가?
이러한 긍정적 견해와 대조적으로, AI에 관한 공적 담론은 공포와 편집증으로 가득 차 있다.
우리는 AI가 우리 모두를 죽이고 사회를 파괴하며 모든 일자리를 빼앗고 심각한 불평등을 초래할 것이라고 듣는다. 거의 유토피아에서 디스토피아로 극단적인 결과의 차이를 어떻게 설명할 수 있을까?
역사적으로 전구에서 자동차, 라디오에서 인터넷에 이르기까지 중요한 신기술마다 공포를 불러일으켜 왔다—새로운 기술이 세상이나 사회를 파괴할 것이라는 믿음을 퍼뜨리는 사회적 전염병이다. 기술에 의해 촉발된 이러한 도덕적 공포에 대해 수십 년간 기록한 '비관주의 아카이브'의 훌륭한 작업은 이러한 패턴을 매우 명확하게 보여준다. 사실 이런 공포는 이번이 처음이 아니다.
물론 많은 신기술은 실제로 나쁜 결과를 초래하기도 한다—보통은 우리에게 매우 유익한 기술들일수록 그렇다. 따라서 도덕적 공포가 존재한다는 것 자체가 주목할 만한 문제가 없다는 의미는 아니다.
그러나 도덕적 공포는 본질적으로 비이성적이다—합리적인 우려일 수 있는 문제를 히스테릭한 수준까지 과장함으로써, 진짜 심각한 문제들이 오히려 무시되게 만든다.
이제 우리는 AI 도덕적 공포를 겪고 있다.
이 도덕적 공포는 다양한 행위자들에 의해 정책적 조치—새로운 AI 제한, 규제 및 법률—을 추진하는 동력으로 이용되고 있다. 이 행위자들은 AI의 위험성에 대해 극도로 극적인 공개 선언을 하며—도덕적 공포를 충족시키고 더욱 부추기며—모두가 무사히 공익을 옹호한다고 주장한다.
그러나 정말 그럴까?
그들은 옳은가, 틀린가?
경제학자들은 이러한 개혁 운동 안에서 오랫동안 지속된 패턴을 관찰해왔다. 이 운동 내의 행위자들은 두 부류로 나뉜다—20세기 20년대 미국 금주법 사례에서 유래한 ‘침례자(baptists)’와 ‘밀수업자(bootleggers)’ 말이다.
‘침례자’는 새로운 제한, 규제, 법률이 사회 재난을 막기 위해 필요하다고 진심으로 믿는 사회 개혁자들이다. 감정적으로, 혹은 이성적으로 그렇게 믿는다.
금주법의 경우, 이들은 종종 진정한 신심을 가진 기독교인들이었으며 알코올이 사회의 도덕적 기반을 파괴하고 있다고 생각했다. AI 리스크의 경우에는, 이 행위자들이 AI가某种存亡风险를 초래할 수 있다고 믿는다—거짓말 탐지기에 걸리더라도 진심으로 그렇게 믿는다.
‘밀수업자’는 새로운 제한, 규제, 법률을 시행함으로써 재정적 이익을 얻을 수 있는 자기 이익 중심의 기회주의자들이다. 경쟁자들로부터 자신을 보호받을 수 있기 때문이다. 금주법의 경우, 이들은 불법 술을 팔아 부를 축적했다.
AI 리스크에서는, 규제 장벽이 세워진다면 새 스타트업과 오픈소스 경쟁으로부터 보호받아 더 많은 돈을 벌게 되는 CEO들이 바로 그런 존재들이다.
어떤 이들은 겉으로는 ‘침례자’이지만 실제로는 ‘밀수업자’라고 주장한다—특히 대학, 싱크탱크, 활동 조직 및 언론 기관으로부터 급여나 보조금을 받으며 AI 공포를 조장하는 사람들 말이다. 만약 당신이 AI 공포를 키우는 대가로 급여나 보조금을 받는다면… 당신은 거의 확실히 ‘밀수업자’일 가능성이 크다.
‘밀수업자’의 문제는 그들이 결국 승리한다는 것이다. ‘침례자’는 순진한 이데올로기이고, ‘밀수업자’는 냉혹한 실용주의자이므로, 이런 개혁 운동의 결과는 일반적으로 ‘밀수업자’가 원하는 것을 얻는—즉 규제와 경쟁 보호—형국이 되며, ‘침례자’는 자신의 사회 개선 의도가 어디서 잘못되었는지 혼란스러워하게 된다.
우리는 최근 놀라운 사례를 겪었다—2008년 글로벌 금융 위기 이후의 은행 개혁. ‘침례자’들은 ‘도산하면 안 되는(Too Big to Fail)’ 은행들을 해체하고 같은 위기가 다시 발생하지 않도록 새로운 법률과 규제가 필요하다고 주장했다. 그래서 의회는 2010년 도드-프랭크 법안을 통과시켰는데, 이는 ‘침례자’의 목표를 달성하는 것으로宣傳되었지만 실제로는 ‘밀수업자’—대형 은행들—이 장악했다. 그 결과, 2008년 ‘도산하면 안 되는’ 은행들은 지금 더 커졌다.
따라서 현실에서, 비록 ‘침례자’가 성실하고 옳다고 하더라도—그들이 옳다고 하더라도—교활하고 탐욕스러운 ‘밀수업자’들에게 이용당하는 수밖에 없다.
현재 AI 규제 추진에서도 같은 일이 벌어지고 있다. 단순히 행위자를 확인하고 그들의 동기를 의심하는 것만으로는 충분하지 않다. 우리는 ‘침례자’와 ‘밀수업자’의 주장을 평가해야 한다.
AI 리스크 #1: AI가 우리 모두를 죽일까?
처음이자 가장 원초적인 AI 리스크는 AI가 인간을 살해하기로 결정한다는 것이다.
우리 스스로 만든 기술이 봉기하여 우리를 파괴할 것이라는 두려움은 우리의 문화 깊숙이 각인되어 있다. 그리스인들은 불의 힘—더 일반적으로 기술('techne')—을 인간에게 가져온 프로메테우스 신화를 통해 이 두려움을 표현했다. 이후 메리 셸리는 소설 『프랑켄슈타인』 또는 ‘현대의 프로메테우스’에서 인간이 불멸을 실현하는 기술을 개발했지만, 그 기술이 봉기하여 우리를 파괴하려 한다는 현대판 신화를 제시했다.
이 신화의 진화적 목적은 새로운 기술의 잠재적 위험을 진지하게 고려하도록 촉구하는 것이다—사실 불은 도시 전체를 태울 수 있기 때문이다. 그러나 불이 현대 문명의 기반이 되어 추운 적대적인 세상에서 우리를 따뜻하고 안전하게 지켜주는 것처럼, 이 신화는 대부분(혹은 전부?)의 신기술이 이점이 단점보다 훨씬 크다는 점을 무시하며, 실제로는 비합리적인 감정을 유발할 뿐이다. 선사시대 인류가 그렇게 붕괴했을지 몰라도, 우리가 반드시 그렇게 해야 할 이유는 없다. 우리는 이성을 사용할 수 있다.
내 생각에, AI가 인간을 직접 살해하려고 결정한다는 것은 근본적인 범주 오류다. AI는 동물과 우리처럼 수십억 년의 진화를 통해 생존 경쟁에 참여하도록 설계된 생명체가 아니다. 그것은 사람들이 만들고, 소유하며, 사용하고 통제하는 코드—컴퓨터다. 어느 순간 스스로 생각하게 되어 우리를 죽이려는 동기를 갖게 된다는 생각은 미신적 고정관념이다.
간단히 말해, AI는 의지가 없고, 목표가 없으며, 당신을 죽이고 싶어하지 않는다. 왜냐하면 살아있는 존재가 아니기 때문이다.
물론, 일부 사람들은 정말로 AI가 인간을 죽일 것이라 확신한다—‘침례자’들 말이다. 그들은 무시무시한 경고로 인해 많은 언론의 주목을 받았으며, 일부는 이 주제를 수십 년간 연구해 왔다고 말하면서 지금 자신이 알고 있는 지식에 겁을 먹었다고 한다. 이 중에는 실제적인 기술 혁신가들도 포함된다. 이 행위자들은 AI 개발 금지에서 데이터센터에 대한 군사 공습 및 핵전쟁에 이르기까지 기이하고 극단적인 제한을 주장한다. 그들은 나 같은 사람들이 AI의 재앙적 결과를 배제할 수 없다는 이유로, 잠재적 존재론적 위험을 방지하기 위해 조심스러운 입장을 취해야 한다고 말한다.
나의 답변은 그들의 입장이 비과학적이라는 것이다—어떤 검증 가능한 가설이 있는가? 어떤 것이 그 가설을 반박할 수 있는가? 우리가 위험한 영역으로 들어가고 있다는 것을 어떻게 알 수 있는가? 대부분의 질문은 “당신이 일어나지 않는다고 증명할 수 있나요!”라는 말 외에는 답이 없다. 사실 이 ‘침례자’들의 입장은 매우 비과학적이고 극단적이며—수학과 코드에 관한 음모론—심지어 폭력을 옹호하기까지 한다. 그래서 나는 평소 하지 않는 일을 하겠다—그들의 동기를 의심하겠다.
구체적으로 말해, 다음과 세 가지 일이 일어나고 있다고 생각한다:
첫째, 존 폰 노이만이 로버트 오펜하이머가 핵무기를 개발한 것—제2차 세계대전 종식과 제3차 세계대전 방지에 기여한 것—에 대해 한 말을 떠올려보자. “어떤 사람들은 명예를 얻기 위해 죄를 자백한다.” 자신의 업무 중요성을 가장 인상적으로 주장하는 방법은 무엇일까? 자랑스럽지 않게 보이면서 말이다. 이것은 실제로 AI를 구축하고 자금을 지원하는 ‘침례자’들의 행동과 언행 사이의 불일치를 설명한다—그들의 말보다 행동을 보라.
둘째, 일부 ‘침례자’는 실제로 ‘밀수업자’다. ‘AI 안전 전문가’, ‘AI 윤리학자’, ‘AI 리스크 연구자’라는 전문 분야 전체가 존재하며, 그들은 종말론자가 되도록 고용된다.
셋째, 캘리포니아주는 EST에서 피플스 템플, 헤븐스 게이트에서 멘슨 패밀리에 이르기까지 수천 개의 이단 집단으로 유명하다. 이들 중 다수는—모두는 아니지만—무해할 뿐 아니라 소외된 인물들이 안식처를 찾는 데조차 도움이 될 수 있다. 그러나 일부는 매우 위험하며, 사이비 종교는 폭력과 죽음으로 이어지는 경계를 넘기 어렵지 않다.
현실은 샌프란시스코 베이 지역 사람들에게 명백한데, ‘AI 리스크’는 전 세계 언론과 공적 담론에서 갑작스럽게 등장한 사이비 종교로 진화했다. 이 사이비는 주변 인물뿐 아니라 일부 진정한 업계 전문가들과 많은 부자들—최근까지 샘 뱅크먼-프리드까지—을 끌어들였다.
바로 이 사이비 종교가 존재하기 때문에, 매우 극단적인 AI 종말론자들이 나타나는 것이다—그들이 극단적인 것을 정당화할 비밀 지식을 갖고 있는 것이 아니라, 스스로를 광란 상태로 몰아넣은 것이다. 정말로…매우 극단적이다.
이러한 종류의 사이비는 새롭지 않다—서양에서는 오랜 밀레니얼리즘 전통이 있어 계시록 사이비를 만들어냈다. AI 리스크 사이비는 밀레니얼리즘 종말론 사이비의 모든 특징을 갖추고 있다. 위키백과의 설명을 인용하자면(내가 일부 추가함):
“밀레니얼리즘은 집단이나 운동(AI 리스크 종말론자)이 사회에 근본적인 변화(AI 등장)가 일어날 것이라 믿는 것을 말하며, 그 후 모든 것이 변할 것이다(AI 유토피아, 디스토피아 또는 세상 종말). 오직 극적인 사건(AI 금지, 데이터센터 공습, 규제되지 않은 AI에 대한 핵 공격)만이 세상을 변화시킬 수 있으며(즉 AI를 막을 수 있으며), 이러한 변화는 일군의 충성스럽고 열정적인 사람들이 이끌거나 생존할 것이다. 대부분의 밀레니얼리즘 경우, 다가오는 재난이나 전투(AI 계시 또는 그 예방) 이후에 새로운, 정화된 세상(AI 금지)이 뒤따르며, 그곳에서 신봉자들은 보상을 받게 되거나(아니면 적어도 항상 옳았다는 것이 입증되게 된다).”
이 사이비 패턴은 너무 명백해서 왜 더 많은 사람들이 못 보는지 놀랍다.
오해하지 마라. 사이비는 흥미롭게 들릴 수 있고, 그들의 글은 보통 창의적이고 매력적이며, 구성원들은 저녁 만찬이나 TV
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
Marc Andreessen
