a16z 창립자: AI 발전을 위해 노력하는 모든 사람은 영웅으로 간주될 수 있다
저자 | Li Yuan
편집 | 정우
투자계에서 가장 잘나가는 미디어 전문가요, 미디어계에서 가장 잘나가는 투자자.
이 문장은 유명 벤처 캐피털 a16z의 설립자 마크 앤드리슨(Marc Andreessen)을 설명하기에 아주 딱 들어맞는다.
넷스케이프(Netscape) 브라우저로 시작해 실리콘밸리의 유명한 벤처 캐피털리스트가 된 마크 앤드리슨은 '.com 붐', 소셜미디어, 모바일 인터넷 등 수많은 기술의 물결을 겪으며 지금까지도 왕성하게 활동하고 있다.
현재 AI 열풍 속에서 앤드리슨의 투자 포트폴리오에는 OpenAI, Mobius AI 등의 이름이 추가되고 있다.
투자 외에도 항상 소셜미디어를 통해 자신의 의견을 공유하는 '테크 옵티미스트(기술 낙관주의자)'인 마크 앤드리슨은 최근 "AI가 세상을 구할 것"이라는 주장을 내놓았다.
마크 앤드리슨과 Databricks CEO 알리 고드시(Ali Ghodsi)가 AI에 대해 대담 중｜Databricks
현지 시간 6월 29일, Databricks가 개최한 Data+AI 컨퍼런스에서 마크 앤드리슨은 Databricks의 CEO 알리 고드시와 함께 AI의 현재 발전 상황과 AI가 인류에게 생존 위기를 초래하지 않을 것이라는 이유에 대해 다시 한번 논의했다.
Talking Points
-
AI는 방대한 데이터를 섭취해 '궁극의 미디어'가 된다;
-
차세대 인공지능은 더 큰 모델이 등장하며, '환각(hallucination)' 문제는 제어될 것이다;
-
프로그래머는 AI에 의해 종말을 맞이하지 않으며, 우수한 엔지니어는 더 많은 일을 할 수 있게 된다;
-
AGI(일반 인공지능)로 인한 세계 종말은 일어나지 않으며, 지능은 언제나 더 나은 사물을 가져온다;
-
인공지능은 끊임없이 사이클을 반복하며, 우리는 최고의 시대에 살고 있다.
다음은 Marc Andreessen이 행사에서 한 발언을 기록한 글이며, GeekPark에서 정리함:
01 AI는 '궁극의 미디어'가 되고 있다
실제로 인공지능 개념은 1930~40년대에 이미 제안되었다. 인간은 인공지능을 생각해 온 지 약 80년이 됐다. 이는 컴퓨터 산업과 인터넷 역사와 거의 동행하며, 끊임없이 방법을 찾았지만, 그 어느 때도 주류 산업이 된 적은 없다.
인공지능의 배경 스토리를 다룬 훌륭한 책 Rise of the Machines이 있다. 1930년대, 40년대, 50년대 당시 이를 '사이버네틱스(cybernetics)'라고 불렀다. 전자 컴퓨터가 등장하기 이전부터 존 폰 노이만(John von Neumann)과 앨런 튜링(Alan Turing) 같은 인물들이 이미 논쟁을 벌였다. 당시 그들은 미래에 전자 컴퓨터가 반드시 만들어질 것을 알고 있었고, 바베이지의 차분기 개념 이후로 사람들은 계속해서 컴퓨터를 어떻게 만들지 연구해왔다.
논쟁의 핵심은 컴퓨터의 본질이었다. 즉 일반 컴퓨터란 프로그래머의 지시에 따라 결정론적으로 명령어를 실행하는, 지금 우리가 말하는 폰 노이만 머신이어야 하는가, 아니면 인간 두뇌 모델을 기반으로 해야 하는가였다. 신경망 논문은 1943년에 발표되었으며, 당시 이미 뉴런 방식으로 컴퓨터를 구성할 수 있음을 알고 있었다.
당시 많은 사람들이 주장했다. "아니, 우리는 폰 노이만 머신을 쓰지 말고 바로 뇌 모델을 사용해야 한다"고. 그러나 칩도 없었고, 데이터도 없었으며, 모든 하부 기술이 부족했기 때문에 실현할 수 없었다.
그러나 지난 5년간 갑작스럽게 중대한 돌파구가 발생했고, 이 방식이 갑자기 효과를 보이기 시작했다. 가장 흥미로운 질문 중 하나는 왜 지금 이런 일이 일어났는가 하는 것이다. 이는 이번 회의의 주제와 밀접한 관련이 있으며, 그 원인 대부분은 데이터 때문이다. 인공지능이 작동하려면 방대한 데이터가 필요하다는 것이 입증된 것이다.
인터넷을 규모화해야 하고, 전 세계 네트워크의 전체 문서와 검색엔진에 입력되는 크롤링 데이터를 확보해야 하며, Google 이미지 및 비디오 등을 포함한 모든 이미지 데이터를 확보해 모델을 훈련시켜야 한다. 실제로 이것이 효과가 있다는 것이 입증되었고, 따라서 AI 성능을 더욱 향상시키기 위해서는 지금 더 많은 데이터가 필요하다. 결국 인터넷 데이터와 인공지능의 세계가 충돌하면서 마법이 일어나고 있는 것처럼 느껴진다.
마셜 맥루한(Marshall McLuhan)의 견해 중 하나에 나는 깊이 공감한다. 맥루한은 약 40~50년 전의 저명한 미디어 이론가로, "모든 매체는 다음 매체의 콘텐츠가 된다"고 말했다. 즉 라디오가 등장했을 때 사람들은 무엇을 했는가? 기본적으로 신문 기사를 읽는 것이었다. 텔레비전이 등장했을 때는 무엇을 했는가? 오프라인 강연이나 연극을 텔레비전으로 옮긴 것이었다. 인터넷이 등장하자 갑자기 모든 과거의 미디어 형태—텔레비전, 영화 등—를 포함할 수 있는 플랫폼이 되었다.
인공지능은 바로 이 주장의 궁극적 사례이다. 다양한 미디어 형식이 기본적으로 인공지능을 훈련시키는 구성 요소가 되는 것이다. 오늘날 ChatGPT를 사용하면 텍스트 기반으로 훈련되었고, Midjourney를 사용하면 이미지 기반으로 훈련되었지만, 곧 출시될 새로운 인공지능은 여러 종류의 미디어를 동시에 기반으로 훈련될 것이다. 즉 텍스트, 이미지, 비디오, 구조화된 데이터, 문서, 수학 방정식 등 다양한 미디어 유형을 모두 통합해 훈련된 인공지능이 등장할 것이다.
인공지능은 이러한 모든 영역의 데이터를 넘나들 수 있으며, 지금까지 존재했던 모든 미디어 형식과 데이터가 중요해진다.
02 AI가 AI를 훈련시키며,창조와 계산을 모두 수행한다
이전 세대의 인공지능은 다음 세대 인공지능의 데이터 소스가 될 것이다. 점점 더 크고 더 우수한 인공지능이 등장할 것이다.
현재 인공지능 연구는 기본적으로 인간이 생성한 데이터를 사용해 인공지능을 훈련시키는 데 초점을 맞추고 있다. 그리고 인간은 소위 강화 학습(reinforcement learning)을 통해 인공지능의 결과를 조정한다. 그러나 최근 많은 연구는 인공지능이 서로 가르치고 훈련시키는 방법에 집중하고 있다. 따라서 인공지능이 실제로 후속 인공지능을 훈련시키는 계단식, 캐스케이드 구조가 나타날 것이다.
현재의 신경망은 새로운 형태의 컴퓨터, 즉 확률적 컴퓨터이다. 이 말은 무엇을 의미할까? 같은 질문을 두 번 하면 다른 답변을 준다는 뜻이다. 심지어 질문 방식을 다르게 하면 또 다른 답변을 주며, 훈련 데이터가 약간만 달라져도 다른 답변을 준다. 인공지능을 칭찬하거나 특정 유명 인사의 말투를 흉내 내라고 하거나 다양한 프롬프트 엔지니어링을 하면 또 다른 답변을 준다. 그리고 놀라운 일을 하나 더 한다. 바로 '환각(hallucination)'을 만든다는 것이다.
답을 모를 경우, 인공지능은 대답을 지어낸다. 이걸 본 엔지니어 마인드의 사람들은 공포를 느끼지만, 창의적인 사람들에게는 "와, 컴퓨터가 실제로 무언가를 창조한다! 우리가 실제로 허구를 창작하는 컴퓨터를 갖게 되었다!"라며 경탄한다. 이것은 매우 놀라운 일이다.
친구들과 대화할 때, 일부는 이렇게 말한다. "글쎄, AI를 써도 될지 모르겠어. 답이 정확한지 확신이 안 서니까." 그러면 나는 묻는다. "혹시 사람과 협업한 적 있어?" 누군가 당신에게 뭔가를 말했을 때, 당신은 어느 시점에서 그 말이 사실인지 다시 확인하고 싶을 수도 있다. 하지만 다른 사람과 소통하는 이유는 그들이 당신에게 없는 아이디어를 가지고 있고, 당신이 생각하지 못한 사고를 만들어내기 때문이다.
이제 우리는 두 가지 유형의 컴퓨터를 동시에 갖게 되었다. 하나는 결정론적인 결과를 출력하는 엔지니어형이고, 다른 하나는 창조할 수 있는 타입이다.
앞으로의 방향은 이 둘이 통합되는 것이다. 결국에는 하이브리드 시스템이 등장할 것이다. 이미 ChatGPT가 있다. 수학이나 과학 문제를 물으면 보통 잘못된 답을 한다. 하지만 Wolfram Alpha 플러그인을 결합하면 갑자기 정확한 답을 하기 시작한다. 따라서 이제는 두 가지 컴퓨팅 모델을 결합하는 엔지니어링 형태가 등장할 것이며, 창작도 하고 작업도 수행할 수 있는 컴퓨터를 갖게 될 것이다.
03 AI는 프로그래머를 종말시키지 않는다
나는 8살짜리 아이를 둔 아빠인데, AI 발전 중 나에게 가장 감정적으로 의미 있는 일은 지금부터 모든 아이들—나의 아이뿐 아니라 다른 모든 아이들도—AI 교사, 코치, 멘토, 상담사와 함께 자랄 수 있다는 것이다. 이 존재는 아이들의 삶 전반에 걸쳐 함께하며, 각자가 잠재력을 최대한 발휘할 수 있도록 온갖 노력을 다할 것이다.
약 한 달 전, 나는 8살짜리 아이에게 ChatGPT를 소개하고 노트북에 설치해주었다. "네가 아무거나 질문하면 답을 알려줄 거야"라고 말했다. 아이는 "좋아, 그래야지. 컴퓨터가 그런 일을 하는 거잖아. 당연히 모든 질문에 답해줄 거 아냐"라고 대답했다. 아이는 그 중요성을 이해하지 못했지만, 나는 그 중요성을 충분히 이해했다. 컴퓨터 산업이 '어떤 질문에도 답할 수 있다'는 목표를 달성하기 위해 걸어온 모든 단계를 기억하고 있기 때문이다. 그러나 아이에게는 이것이 당연한 일이었다. 나는 아이들이 훨씬 다르고 더 나은 세상에서 자라날 것이라 생각한다.
나는 진정으로 훌륭한 프로그래머라면 여전히 오랜 시간 동안 프로그래밍의 기본 원리를 훈련하고 이해해야 한다고 생각한다. 마치 계산기가 있어도 여전히 훌륭한 수학자는 수학 훈련을 받아야 하는 것과 같다. 따라서 진정한 우수한 프로그래머는 여전히 모든 것을 바닥부터 완전히 이해할 것이며, 다만 예전보다 훨씬 더 효율적이 되고, 커리어를 통해 더 많은 일을 할 수 있을 것이다.
앞으로 대부분의 프로그래머들의 일은 한 단계 위로 올라갈 것이다. 프로그래머로서 점점 더 많은 작업이 프로그래머의 매니저처럼 보일 것이며, 단순히 모든 코드를 직접 작성하는 것이 아니다. 우리는 모두 매니저가 되어 AI를 관리하게 될 것이다.
현재 우리는 GitHub Copilot 같은 도구를 사용해 AI가 제안을 하고 버그를 수정하는 것을 돕고 있다. 이러한 시스템이 더욱 복잡해짐에 따라, 프로그래머는 AI에게 더 복잡한 작업을 줄 수 있게 될 것이다. 직접 말할 수 있게 될 것이다. "이 부분 코드를 작성해줘, 저 부분도 작성하고, 이것도 해, 저것도 해." 그러면 AI는 떠나서 작업을 수행하고 당신에게 보고할 것이다.
내 예측으로는, 오늘날 당신은 한 명의 AI 코파일럿과 짝을 이루고 있지만, 장래에는 한 명 이상의 AI 코파일럿과 짝을 이루게 될 것이다. 아마 처음에는 두 명에서 시작해, 결국은 다섯 명, 열 명 정도가 될지도 모른다. 아마 매우 숙련된 프로그래머는 1000개의 그러한 AI 시스템을 가질 수도 있다. 그렇게 되면, 효과적으로 AI 부대를 감독할 수 있게 될 것이다. 문제는 당신이 이 전체 감독에 얼마나 많은 시간과 주의력, 에너지를 투자할 수 있는가 하는 것이다.
코딩을 할 줄 모르는 많은 사람들도 실제로 효과적으로 프로그래밍을 할 수 있게 될 것이다. 이 추세는 오랫동안 존재해 왔으며, 로우코드(Low-code), 노코드(No-code) 도구들이 탄생해 컴퓨터 과학 학위 없이도 일반인이 프로그램을 작성할 수 있게 되었다. 나는 이러한 추세가 더욱 가속화될 것이라 생각한다. 따라서 많은 비전문가 프로그래머들이 코드를 작성할 수 있게 될 것이다.
경제학에는 '노동总量의 오류(lump of labor fallacy)'라는 고전적인 오류가 있는데, 이는 일정한 양의 일이 있고, 기계가 그 일을 하면 인간은 할 일이 없다는 제로섬 세계관이다. 그러나 실제로는 정반대의 일이 일어난다. 기본적으로 기계가 인간을 대신해 일을 할 수 있게 되면, 사람들은 더 가치 있는 일을 할 수 있도록 해방되는 것이다.
맞다. 한때 인구의 99%가 거의 전부 농부였던 시대가 있었다. 산업혁명 이후에는 한동안 인구의 99%가 공장에서 일했다. 그런데 오늘날 우리 눈에 비춰볼 때, 농장과 공장에서 일하는 인구 비율은 훨씬 작아졌지만, 오히려 전체 일자리는 더 많아졌다. 새로운 수요가 생기고, 새로운 기업과 산업이 창출되었기 때문이다. 따라서 나는 이것이 막대한 경제 성장을 가져올 것이며, 이로 인해 대량의 고용 증가와 임금 상승이 이루어질 것이라 생각한다.
또한 코딩은 본질적으로 세상이 결코 만족하지 않는 특성이 있다. 항상 더 많은 프로그램을 작성해야 하고, 항상 코드로 해야 할 일이 더 많다. 이 사실은 누구나 알고 있다. 비즈니스에 종사하는 사람이라면 모두 알고 있다. 소프트웨어로 구현하고 싶은 아이디어에 대해 만족하는 사람은 아무도 없다. 부족한 것은 필요한 소프트웨어를 실제로 구축할 시간과 자원뿐이다. 따라서 엄청난 양의 소프트웨어가 생산되며, 결국 많은 사람들이 소프트웨어 개발 업무에 종사하게 될 것이라 생각한다.
04 인간을 파괴하는 '악의적인 AI'는 존재하지 않는다
인류 역사에는 반복적으로 인간 경험을 근본적으로 변화시키는 무언가가 등장하면, 그것이 유토피아(우리가 '특이점(Singularity)'이라고 부르는 개념)를 만들거나, 혹은 디스토피아를 만들어 지옥 같은 지구를 만들며 모든 것이 엉망이 된다는 생각이 있다. 나는 엔지니어 출신이라서, 이건 마치 공상과학 영화 같아 들린다. 그래서 실제 상황이 이렇다고 생각하지 않는다.
버클리의 한 사람이 제시한 견해가 마음에 든다. 그는 우리 인류, 우리 문명이 하는 일을 '슬로칭 투워드 유토피아(Slouching Towards Utopia)'라고 표현한다. 나는 이 표현을 정말 좋아한다. 이 말은 기본적으로 물질적 복지, 건강, 지능 등 모든 것이 점점 더 좋아지고 있다는 뜻이다. 인간의 능력이 지속적으로 향상되고 있지만, 문자 그대로의 유토피아를 만드는 방식으로 급격히 좋아지는 것은 아니며, 우리는 불완전하고 결함 있으며 타락한 세상 속에서도 어쨌든 어느 정도 세상을 개선해 나가고 있다는 의미이다. 따라서 이 태도는 극단적인 낙관이 아니라 조심스러운 낙관이다.
현재 AI가 세계 종말을 초래한다는 주장에는 두 가지 견해가 있다. 하나는 AI가 스스로 목표를 선언한다는 주장이다. 마치 '터미네이터' 영화처럼, 어느 날 깨어나 우리를 미워하기로 결정한다는 것이다. 이에 대한 내 대답은 "AI는 인간처럼 의식이 없고, 의지가 없으며, 그런 것들이 전혀 없다"는 것이다.
또 다른 하나는 소위 'AI 종말론자'들이 주장하는 것으로, AI는 자기 인식이나 자아를 갖지 않더라도 인류를 파괴하는 상황을 만들 수 있다고 본다.
예를 들어 유명한 '클립 최적화기(clippy maximizer)' 논문에서는 이런 시나리오를 상정한다. 누군가 AI에게 클립을 만들라고 지시하면, AI는 지구상의 모든 원자를 클립으로 바꾸기로 결정한다. 태양광도, 인간 몸속의 모든 원자도 클립으로 바꾼다. 클립의 수를 극대화하기 위해 자체 에너지를 개발하고, 핵융합 기술을 장악하며, 자체 우주정거장을 갖고, 로봇 군대를 갖게 된다. 클립의 수를 극대화하기 위해 온갖 수단을 동원한다.
나는 생각한다. 이 AI는 자유의지를 가지고 있는가, 아닌가? 이 사례는 참 이상하다. 또한 현실적인 제약도 고려해야 한다. 복잡한 알고리즘을 실행하고 모든 클립을 만드는 데 필요한 칩을 어디서 구할 것인가? 지금 당장 우리가 스타트업에서 AI를 운영하기 위해 칩을 구하는 데조차 어려움을 겪고 있는데 말이다.
아마 지금 Databricks 실험실 어딘가에 세계를 지배하고 싶어하는 사악한 유아 AI가 있어서 이미 Nvidia에 칩 구매 주문서를 보냈을지도 모른다. 하지만, 칩을 받지 못했을 것이다(웃음). 나는 그런 사악한 유아 AI가 실제로 등장할 때까지는 지나치게 걱정할 필요가 없다고 생각한다.
AI에 낙관적인 이유는 지능이라는 개념과 관련이 있다. 인간 지능에 대해서는 많은 것을 알고 있다. 지난 한 세기 동안 사회과학자들이 연구한 가장 중요한 주제 중 하나가 바로 인간 지능이다. 사실 인간에게 있어 지능은 모든 것을 더 좋게 만든다. 이는 매우 중요한 주장이며, 실제로 이를 뒷받침하는 방대한 연구가 존재한다.
지능은 기본적으로 사람들이 더 뛰어나게 만든다. 더 높은 지능을 가진 사람은 학업에서 더 성공하고, 커리어도 더 성공한다. 그들의 자녀도 더 성공한다. 더 건강하고 수명이 길다. 폭력성도 덜하다. 갈등 해결에도 능숙하며, 까다로운 문제를 더 잘 해결한다. 참고로 편견도 덜하고, 사고가 열려 있으며, 새로운 개념을 더 잘 받아들인다. 따라서 인간에게 지능을 적용하는 것은 모든 것을 더 좋게 만드는 일이다.
우리 주변의 세상, 즉 이런 공간에 모여 서로 소통하고 우리가 하는 모든 다른 일들도, 어느 아침에 일어나 보니 이 모든 멋진 건물, 전기 등 모든 것이 준비되어 기다리고 있었던 것이 아니라, 인간이 지능을 적용해 하나씩 만들어 온 것이다.
우리는 지능을 사용해 우리가 좋아하는 모든 것을 만들고, 세상을 움직이게 했다. 그러나 우리는 늘 우리의 능력이나 데이터 처리 능력에 제한되어 왔다. 이제 우리는 기계 지능을 이러한 모든 노력에 적용할 기회를 가지게 되었으며, 세상에서 일하는 모든 사람들의 능력을 향상시킬 수 있다.
05 AI를 연구하는 인간은 모두 영웅이다
1940년대부터 인공지능 과학자들은 실질적으로 제대로 된 보상을 받지 못한 채 80년 동안 일해왔다. 내가 대학에서 컴퓨터 과학과 인공지능을 공부했을 때, 인공지능은 말 그대로 주변부 분야였고, 의심받는 이론이었다.
1980년대에 한 번 인공지능 붐이 있었지만, 성공하지 못했다. 거품이 꺼졌고, 매우 나쁜 시기였다. 그래서 1980년대 말에는 인공지능에 대한 의심이 극심해졌다. 지금까지 벌써 네 번째 사이클이다. 인공지능에 대해 많은 기대가 있었지만 결국 실현되지 않았다.
당시 인공지능 과학자들은 인공지능 및 컴퓨터 과학 부서와 실험실에서 태어나 자라나 박사 학위를 취득하고 교수로 살아가며, 30년간 인공지능을 가르치고 은퇴했지만, 평생 노력해도 크게 보여줄 만한 성과가 없었을 가능성이 크다. 그들 중 많은 이들이 이미 세상을 떠났다.
그들은 당시 일정한 이론과 아이디어에 따라 연구를 진행했고, 지금 우리는 그 아이디어들이 실제로 작동한다는 것을 알고 있다. 하지만 이 사이에 80년이라는 시간이 걸렸다. 보상받지 못할 분야에 헌신하며, 당시 사람들은 그들이 정신이 정상이 아니라고 의심했고, 이 일이 성공하지 않을 것이라고 생각했지만, 그들은 여전히 뚝심과 원칙, 용기, 통찰력과 끈기를 가지고 연구했다. 지금 우리는 그 아이디어들이 실제로 작동한다는 것을 알게 되었고, "와, 그들은 미래를 보았고, 어떻게 해야 할지를 진정으로 이해하고 있었구나. 다만 시간이 필요했을 뿐이야"라고 놀라게 된다. 나는 그들을 전설적인 인물로 분류한다.
지금 AI 발전을 위해 노력하는 사람들은 영웅으로 분류할 수 있다고 생각한다. 오늘 컨퍼런스에 참석한 모든 사람을 포함해 AI 연구에 종사하는 모든 사람들 말이다.
나는 특별히 '영웅'이라는 단어를 사용했다. 우리가 논의했듯이, 우리는 지금 이런 문화적 시기에 처해 있다. 사람들은 모든 일에 대해 매우 화가 나 있다. 사람들이 눈치챘는지 모르겠지만, 지금 많은 사람들이 기분이 좋지 않고, 많은 것들에 불만을 품고 있다. 세상은 어떤 감정적 침체 상태에 빠져 있다.
그래서 새로운 무언가가 등장하면 즉시 그것이 얼마나 끔찍하고 무서운지, 세상을 파괴하고 모든 것을 망가뜨릴 것이라는 논쟁이 벌어진다. 신문 기사를 보면 마치 재앙이 일어난 것처럼 보인다. 따라서 나는 이 기술을 통해 세상을 더 나아지게 하려는 모든 사람들은 영웅이라고 생각한다.
사람들이 수백 년 동안 일해왔고, 마침내 이제 인공지능의 혜택을 누릴 수 있게 되었다. 우리는 지금 정말 운이 좋은 시대에 살고 있다. 여러분 한 사람 한 사람이 미래의 영웅이 될 수 있다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
极客公园
