노벨상 수상자 아시모글루가 바라보는 현재 AI의 발전과 위험
원문 저자: 천친한, 펑파이신문 기자
현지 시간 10월 14일, 스웨덴 왕립과학원은 다론 아시모글루(Daron Acemoglu), 사이먼 존슨(Simon Johnson), 제임스 A. 로빈슨(James A. Robinson)에게 2024년 노벨경제학상을 수여한다고 발표했다. 이는 "제도가 어떻게 형성되는지와 번영에 미치는 영향에 대한 연구"를 인정한 것이다.
심사위원회는 보도자료에서 이 세 경제학자가 사회제도가 국가의 번영에 얼마나 중요한지를 보여주었다고 밝혔다. "법치가 제대로 작동하지 않거나 국민을 착취하는 제도를 가진 사회는 성장이나 긍정적인 변화를 만들어낼 수 없다. 그들의 연구는 이러한 이유를 이해하는 데 도움을 준다."
아시모글루는 1967년 터키 수도 이스탄불에서 태어났으며, 1993년부터 매사추세츠공과대학교(MIT)에서 교수로 재직 중이다. 2005년 클라크상을 수상했으며, 정치경제학, 경제발전, 경제성장, 기술변화, 불평등, 노동경제, 네트워크경제 등 다양한 분야를 연구한다. 이번 공동 수상자들과도 다수의 논문을 공동 집필했으며, 로빈슨과 함께 베스트셀러인 『왜 국가는 실패하는가』, 『좁은 회랑』 등을 저술했다.
최근 몇 년간 아시모글루는 산업용 로봇 등의 자동화 기술이 노동시장에 미치는 영향을 주요 연구 주제로 삼고 있다. 2023년에는 사이먼 존슨과 함께 『권력과 진보(Power and Progress)』를 출간했는데, 이 책에서는 현재 시대 가장 중요한 기술인 인공지능(AI)이 직면한 딜레마를 논의했다.
"나의 많은 연구는 정치경제학과 기술변화 간의 상호작용에 초점을 맞추고 있으며, 이 두 가지 힘은 우리의 역량과 성장 기회를 형성할 뿐 아니라 정치적·경제적 선택에도 영향을 미칩니다." 아시모글루는 올해 6월 펑파이신문과의 단독 인터뷰에서 이렇게 말했다.
그는 현재 AI의 발전 방향이 지난 수십 년간 최악의 기술적 오류들을 반복하고 있으며 심화시키고 있다고 지적했다. 예를 들어, 자동화에 지나치게 치중하면서 새로운 업무 창출에 대한 충분한 투자를 하지 않는 점이다. 그는 기업 경영진들이 가장 큰 자산은 노동자임을 인식해야 한다며, 비용 절감에만 집중하기보다는 노동자의 생산성과 역량, 영향력을 높이는 방법을 찾아야 한다고 강조했다.
아시모글루는 AI가 부와 권력을 일반 대중으로부터 소수의 기술 기업가들에게로 이전시키는 수단이 되는 것을 매우 우려하고 있다. 대형 기술기업의 정치적 영향력을 깨뜨리기 위해 그는 "반독점 규제만으로는 부족하며, 기술을 사회에 유익한 방향으로 재설계할 필요가 있다"고 주장한다.
그는 AI 발전을 이끌 세 가지 원칙을 제안한다. 첫째, 기계의 유용성(machine usefulness)을 우선시할 것, 둘째, 노동자와 시민을 조작하려 하지 말고 그들에게 권한을 부여할 것, 셋째, 기술 기업의 책임을 명확히 하는 더 나은 규제 체계를 도입할 것.
* 아래는 펑파이신문이 2024년 6월 16일 아시모글루 교수와 진행한 인터뷰 기사로, 원제목은 《인터뷰｜MIT 교수: AI가 소수 기술 기업가에게 부와 권력을 전달하는 도구가 되는 것이 걱정된다》이다.
참고소식망(參考消息網)은 6월 15일 CNN 보도를 인용해 애플이 13일 마이크로소프트를 제치고 미국에서 시가총액이 가장 큰 상장기업이 되었다고 전했다. 애플은 최근 연례 개발자 회의(WWDC)에서 아이폰의 생성형 인공지능 기능을 포함한 일련의 소식을 발표하며 주가가 급등했다.
애플, 엔비디아, 마이크로소프트는 세계에서 가장 가치 있는 기업 자리를 두고 치열하게 경쟁하고 있다. 애플은 'AI'를 다시 정의한 '애플 인텔리전스(Apple Intelligence)' 발표 후 AI 칩 덕분에 급성장한 엔비디아를 제치고 다시 시가총액 1위로 복귀했으며, 이후 마이크로소프트까지 추월했다. 현재 애플의 시가총액은 3.29조 달러로, 마이크로소프트의 3.28조 달러를 약간 상회한다. 생성형 인공지능은 이 세 기술 거물들의 시가총액 상승을 견인한 핵심 동력이다.
이러한 AI 열풍 속에서 미국국립경제연구소(NBER)는 MIT 교수 다론 아시모글루가 작성한 논문을 최근 발표했다. 이 논문은 앞으로 인공지능(AI)의 발전이 가져올 생산성 향상 효과가 크지 않을 것으로 내다보며,今후 10년간 AI가 전요소생산성(TFP) 증가율에 기여하는 폭은 최대 0.66%를 넘지 않을 것이라고 예측했다.
아시모글루는 논문에서 생성형 인공지능은 유망한 기술이지만, 업계가 근본적으로 재편되지 않고 생성형 AI 모델(예: 대규모 언어 모델 LLMs)의 구조를 신뢰할 수 있는 정보 제공에 집중하여 각 산업의 노동자들의 한계생산성을 높이는 방향으로 전환하지 않는 한, 인간처럼 대화하는 도구 개발을 우선시하는 현행 방침은 생산성 향상에 크게 기여하지 못할 것이라고 지적했다.
인공지능이 생산성과 경제성장에 미칠 긍정적 영향에 대한 과도한 낙관적 전망에 대해 아시모글루는 회의적인 입장을 취하고 있다. 터키 출신 미국 경제학자인 그는 정치경제학 연구로 잘 알려져 있으며, 정치경제와 기술변화 간의 상호작용을 장기간 연구해왔다.
지난해 그는 영국계 미국 경제학자 사이먼 존슨과 함께 신간 『권력과 진보(Power and Progress)』를 출간하며, 인류사회를 뒤흔들 수 있는 AI 혁명에 대해 논의했다. 그들은 현재 AI 발전이 잘못된 방향으로 흘러가고 있다고 보며, 많은 알고리즘이 가능한 한 인간을 대체하는 데 초점을 맞추고 있다고 비판했다. "기술적으로 진보하는 방식은 기계가 인간을 대체하는 것이 아니라 인간에게 유용하도록 만드는 것"이라고 그들은 주장했다.
오픈AI의 최고기술책임자(CTO) 미라 무라티(Mira Murati)는 5월 행사에서 범용인공지능(AGI) 개발에 관한 논란에 대해 언급하며, 모델의 기능성과 실용성 향상뿐 아니라 안전성 확보에도 집중하고 있으며, 인간의 가치관과 일치하도록 하고 통제를 잃지 않도록 해 인류에게 이로운 AGI를 만들겠다고 밝혔다.
"AI의 능력과 발전 방향을 더 깊이 연구할수록, 현재의 발전 궤적이 지난 수십 년간의 최악의 기술적 오류를 반복하고 있음을 더욱 확신하게 됩니다." 아시모글루 교수는 최근 펑파이신문(www.thepaper.cn)과의 인터뷰에서 AI 분야의 주요 기업들이 비현실적이고 위험한 꿈—즉 범용인공지능(AGI) 실현—에 의해 움직이고 있으며, "이는 기계와 알고리즘을 인간 위에 놓는 것"이라고 말했다.
일부 분석가들은 아시모글루를 AI 비관주의자로 간주한다. 이에 대해 그는 사회과학자로서 부정적인 사회적 영향에 더 주목할 수밖에 없다고 답변했다.
아시모글루는 매사추세츠공과대학교 전기공학 및 컴퓨터과학과 책임자인 아내 오즈다글라르(Asu Ozdaglar) 교수와 종종 공동 작업을 한다. 전공은 다르지만, 두 사람은 AI 발전에 대한 기본적인 관점은 일치한다. 다만 아시모글루는 자신의 생각이 아내보다 더 비관적일 수 있다고 솔직히 밝혔다.
인공지능 상용화 경쟁이 가속화되면서 AI 대규모 모델들이 난립하고 있지만, 오픈AI, 마이크로소프트, 구글, 엔비디아 같은 기술 거대 기업들이 이미 AI 발전의 선두를 차지했다는 것은 의심의 여지가 없다. 아시모글루는 AI가 부와 권력을 일반 대중으로부터 소수의 기술 기업가들에게로 이전시키는 수단이 되는 것을 매우 걱정한다고 말했다. 우리가 목격하고 있는 "불평등"은 바로 "광산 속의 금사빠(canary in the coal mine)"라는 것이다.
기술과 사회: 가장 큰 자산은 사람이다
Q1: 정치경제학, 기술변화, 불평등 등 다양한 분야를 연구하셨습니다. 어떤 배경과 계기에서 기술 발전이 불평등에 미치는 영향을 주목하게 되셨나요? 초기 기술 발전에 대한 견해는 무엇이었으며, 어떻게 지금과 같은 '현재 인공지능 발전 경로는 경제나 민주주의 모두에 유리하지 않다'는 주장을 하게 되셨나요?
아시모글루:
저의 많은 연구는 정치경제학과 기술변화 간의 상호작용에 집중되어 있습니다. 이 두 가지는 우리 능력과 성장 기회의 형성뿐 아니라 정치적·경제적 선택에도 영향을 미치는 강력한 힘이죠.
AI는 현재 시대 가장 중요한 기술이 되었습니다. 많은 관심과 투자가 몰리고 있으며, GPU 성능 향상 등으로 눈에 띄는 기술적 진보를 이루었기 때문입니다. 또한 AI의 영향이 거의 모든 분야에 걸쳐 있기 때문이기도 합니다. 이러한 요인들이 제가 이 분야를 연구하게 된 계기가 되었습니다.
AI의 능력과 발전 방향을 더 깊이 연구할수록, 현재의 발전 궤적이 지난 수십 년간의 최악의 기술적 오류들을 반복하고 있음을 더욱 확신하게 됩니다—자동화에 지나치게 치중하는 것입니다. 우리는 자동화와 기타 디지털 기술을 우선시하면서도, 새로운 업무 창출에 대한 충분한 투자를 하지 않았습니다. 그리고 SNS 플랫폼이 사용자의 데이터와 관심사를 이용해 수익을 창출하려는 시도에서 발생한 모든 오류들 말입니다.
또한 저는 AI 분야의 주요 기업들이 비현실적이고 위험한 꿈—범용인공지능(AGI) 실현—에 의해 주도되고 있다는 사실에도 특히 주목합니다. 이는 기계와 알고리즘을 인간 위에 놓는 것이며, 종종 이러한 주요 기업들이 다른 이들 위에 군림하는 방식이기도 합니다.
Q2: 고도의 컴퓨터 기술과 인터넷은 많은 부자들이 부를 이전하게 했으며, 기술 거대 기업들을 전례 없이 강력하게 만들었습니다. 그럼에도 불구하고 우리는 여전히 이런 기술 혁신을 받아들입니다. 왜냐하면 긍정적인 영향도 있었기 때문이죠. 기술 변화는 이면이 있고, 역사적으로 사회는 항상 새로운 기술에 적응하는 방법을 찾아왔습니다. 새로운 기술 물결이 밀려오고 있는데, 왜 불평등 문제가 특별히 우려된다고 보시나요?
아시모글루:
SNS 플랫폼과 인공지능에 대해서는 말씀하신 부분에 동의합니다. 하지만 인터넷의 경우는 조금 다릅니다. 제 의견은 다릅니다. 인터넷은 일부 면에서 잘못 사용되었지만, 동시에 사람이 사람과 연결되고, 정보를 제공받으며, 새로운 서비스와 플랫폼을 창출하는 데 매우 중요한 역할을 한 매우 유익한 기술이라는 점은 부정하지 않습니다.
하지만 인공지능에 대해서는 매우 걱정됩니다. AI가 부와 권력을 일반 대중으로부터 소수의 기술 기업가들에게로 이전시키는 수단이 될 가능성이 큽니다. 문제는 일반 대중이 AI로부터 이익을 얻을 수 있도록 보장하는 필수적인 통제 장치—강력한 규제, 노동자의 참여, 시민사회, 민주적 감시—가 전혀 없다는 점입니다. 우리가 목격하고 있는 "불평등"은 바로 "광산 속의 금사빠"이며, 더 나쁜 일이 곧 다가오고 있음을 의미합니다.
Q3: 자동화로 인한 불평등은 "기업과 사회가 기술을 어떻게 사용할지 선택한 결과"라고 지적하셨습니다. 기술 거대 기업들의 시장력과 영향력이 커지면서 통제를 벗어날 가능성마저 생겼는데, 이를 대응하기 위한 핵심은 무엇인가요? 만약 당신이 대형 기술 기업의 CEO라면, AI를 어떻게 활용해 회사를 운영하시겠습니까?
아시모글루:
CEO들에게 드리는 제 조언은, 그들의 가장 큰 자산이 노동자임을 인식하는 것입니다. 비용 절감에만 집중하기보다는, 노동자의 생산성과 역량, 영향력을 높이는 방법을 찾는 것이 중요합니다. 이는 새로운 기술을 활용해 노동자에게 새로운 업무를 창출하고, 새로운 능력을 개척해야 한다는 의미입니다.
물론 자동화는 유익하며, 미래에도 더 많이 적용될 것입니다. 하지만 생산성 향상을 위해서 할 수 있는 유일한 일은 아닙니다. 자동화는 CEO들이 추구하고 우선시해야 할 유일한 것이 아니어야 합니다.
Q4: 미국의 반독점 집행기관은 인공지능에 대한 여러 우려를 공개적으로 표명했습니다. 미 법무부와 연방거래위원회(FTC)는 마이크로소프트, 오픈AI, 엔비디아에 대한 반독점 조사를 위한 협약을 체결한 것으로 알려졌습니다. 이러한 대형 기술 기업에 대한 반독점 조치가 실제로 시장 경쟁을 증가시키고少数 기업의 AI 독점을 막을 수 있을까요?
아시모글루:
분명히 효과가 있을 것입니다. 반독점은 중요합니다. 미국 기술산업의 일부 문제의 근원은 반독점 집행의 부재에 있습니다. 다섯 대 기술기업은 잠재적 경쟁자를 인수할 때 어떠한 규제도 받지 않아서 각자의 분야에서 확고한 독점 지위를 확립했습니다. 어떤 경우에는 자신들의 독점을 강화하기 위해 경쟁이 가능한 기술을 사들여 폐기하기까지 했습니다. 지난 30년간 매우 강력해진 대형 기술기업의 정치적 영향력을 깨뜨리기 위해 우리는 반드시 반독점이 필요합니다.
하지만 강조하고 싶은 것은, 반독점만으로는 충분하지 않다는 점입니다. 우리는 기술을 사회에 유익한 방향으로 재설계할 필요가 있습니다. 메타를 페이스북, 인스타그램, 왓츠앱으로 나누는 것만으로는 (시장 경쟁 증대와少数 기업의 AI 독점 방지)를 달성할 수 없습니다. AI 분야에서 AI 기술이 조작, 감시 또는 기타 악의적 목적에 사용되는 것을 걱정한다면, 반독점 자체는 해결책이 아닙니다. 반독점은 보다 포괄적인 규제 의제와 결합되어야 합니다.
기술과 인간: 어떻게 과오를 되풀이하지 않을 것인가
Q5: 계속해서 "기계의 유용성"(machine usefulness), 즉 "기계를 인간에게 더 유리하게 만들려는 것"을 강조하고 계십니다. 어떻게 하면 이 목표를 달성할 수 있다고 보시나요? 이를 달성하지 못하면 어떤 결과가 나타날까요?
아시모글루:
이는 앞서 CEO들에게 한 조언과 관련이 있습니다. 우리는 인간의 능력을 확장할 수 있는 기계를 원합니다. AI의 경우, 이를 달성할 가능성이 매우 큽니다. AI는 정보기술이므로, 인간 의사결정자에게 유용하고 맥락에 따라 즉각적인 정보를 제공할 수 있는 AI 도구를 고려해야 합니다. AI 도구를 통해 인간이 더 나은 문제 해결자가 되고, 더 복잡한 작업을 수행할 수 있도록 할 수 있습니다. 이는 창의적 직업군, 학자, 기자뿐만 아니라, 청색-collar 노동자, 전기공, 배관공, 의료 종사자 및 모든 다른 직업군에도 해당됩니다. 정보 접근성 향상은 더 현명한 의사결정과 더 높은 수준의 업무 수행을 가능하게 하며, 이것이 바로 기계의 유용성의 의미입니다.
Q6: 노동자의 노동에 대해 공정한 세금 처리를 제안하셨습니다. 장비와 소프트웨어에 대해 인간 고용자와 동일하게 세금을 부과하거나, 고용을 장려하고 자동화를 억제하는 세제 개혁은 현실적으로 가능한 해결책인가요?
아시모글루:
네, 저와 사이먼 존슨은 『권력과 진보』에서 더 공정한 세제가 해결책의 일부가 될 수 있다고 공동 제안했습니다. 미국에서는 기업이 노동자를 고용할 때 적용되는 한계세율이 30% 이상입니다. 그러나 컴퓨터 장비나 기타 기계를 동일한 작업에 사용할 때는 세율이 5% 미만입니다. 이는 자동화에 지나친 인센티브를 제공하며, 고용과 교육 및 인적자본 투자에 장애가 됩니다. 자본과 노동의 한계세율을 동일한 수준으로 통일하는 것은 합리적인 정책 아이디어입니다.
Q7: 고용을 장려하고 자동화를 억제하는 세제 개혁을 제안하셨습니다. 이러한 개혁이 기업의 자동화 기술 활용과 투자에 어떤 영향을 미칠까요?
아시모글루:
여기서는 신중해야 합니다. 투자를 억제해서는 안 됩니다. 특히 많은 국가가 빠른 성장이 필요하고, 재생에너지, 의료기술 등 분야에 새로운 투자가 필요한 상황입니다. 하지만 기술이 올바른 방향으로 발전하도록 유도할 수 있다면, 이는 기업에게도 이득이 됩니다. 따라서 제 제안은 자동화에 대한 과도한 인센티브를 제거하는 것이며, 이것이 기업 투자를 전반적으로 저해하지 않는 방식으로 이루어지기를 바랍니다.
Q8: SNS 플랫폼의 급속한 발전은 정보 버블과 잘못된 정보의 확산 같은 부정적 영향을 가져왔습니다. 인공지능의 추가적인 발전 과정에서 이러한 오류를 어떻게 피할 수 있을까요?
아시모글루:
과오를 되풀이하지 않기 위한 세 가지 원칙이 있습니다: (1) 제가 주장하는 바와 같이 기계의 유용성 우선시; (2) 시민과 노동자를 조작하려 하지 말고 그들에게 권한을 부여; (3) 기술 기업의 책임을 명확히 하는 더 나은 규제 체계 도입.
기술과 산업: 디지털 광고세로 산업 경쟁력 강화
Q9: 기술 전문가 제런 라니어(Jaron Lanier)는 인터넷 사용자의 데이터 소유권 문제를 강조합니다. 정책적으로 개인 데이터의 소유권과 통제를 어떻게 더 잘 보호할 수 있다고 보시나요?
아시모글루:
이는 중요한 방향이라고 생각합니다. 첫째, 우리는 점점 더 많은 고품질 데이터를 필요로 하며, 고품질 데이터를 생산하는 최선의 방법은 데이터 생산자를 보상하는 것입니다. 데이터 시장은 이를 실현할 수 있습니다. 둘째, 현재 데이터는 기술 기업들에 의해 착취되고 있으며, 이는 불공평할 뿐 아니라 비효율적입니다.
하지만 핵심은 데이터 시장이 과일 시장과 같지 않다는 점입니다. 제 데이터는 보통 당신의 데이터와 높은 대체성을 가지므로, 기술 기업이 개인과 개별적으로 데이터 구매 협상을 한다면 '최저가 경쟁(race to the bottom)'이 발생하며, 행정 비용도 매우 높아질 것입니다. 따라서 저는 기능하는 데이터 시장은 어떤 형태의 집단적 데이터 소유권—데이터 노동조합, 데이터 산업협회 또는 기타 집단 조직 형태—가 필요하다고 봅니다.
Q10: 알고리즘 기반의 잘못된 정보를 통한 수익 창출을 제한하기 위해 디지털 광고세를 도입하는 것에 대해 어떻게 생각하시나요? 이러한 세금 정책이 디지털 광고 산업과 정보 전달에 어떤 영향을 미칠 수 있을까요?
아시모글루:
저는 디지털 광고세를 지지합니다. 디지털 광고 기반의 비즈니스 모델은 극도로 조작적이며, 감정적 분노 유발, 디지털 중독, 극단적 질투, 정보 편식 등의 전략과 시너지 효과를 냅니다. 또한 개인 데이터를 이용한 비즈니스 모델과도 결합되며, 정신 건강 문제, 사회 양극화, 민주적 시민 감소 등의 부정적 결과를 초래합니다.
더 심각한 것은, 제가 제안한 바와 같이 AI의 발전 방향을 재설계하려면 새로운 비즈니스 모델과 새 플랫폼이 필요하지만, 현재의 디지털 광고 기반 모델은 그러한 가능성을 없애버린다는 점입니다. 사용자 구독 기반으로 새로운 SNS 플랫폼을 시작할 수 없으며, 위키피디아의 성공을 재현할 수 없습니다. 왜냐하면 무료 서비스를 제공하며 방대한 고객 기반을 갖춘 기업들과 경쟁해야 하기 때문입니다. 따라서 저는 디지털 광고세를 기술 산업의 경쟁력을 높이는 수단으로 봅니다. 사용자 데이터를 획득하고 디지털 광고로 수익을 창출하는 '저급한 수단'이 억제된다면, 새로운 비즈니스 모델과 더 다양화된 제품들이 등장할 수 있습니다.
Q11: 미래 기술 발전이 가져올 수 있는 긍정적 변화와 우리가 그러한 변화를 준비하고 추진하기 위해 어떻게 해야 할지, 몇 가지 예를 들어주시겠어요?
아시모글루:
우리가 인공지능을 올바르게 사용한다면, 모든 산업의 노동자들의 전문 기술을 향상시키고 과학 발견 과정을 개선할 수 있습니다. 또한 AI를 민주적으로 사용할 수 있는 방법들도 있다고 생각합니다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@thepapercn
