WAIC 2025: AI는 계속 성장할 것이 확실하지만, '궁극의 악역'이 되는 것을 피하는 것은 인간의 난제다
저자:정우
상하이 세계 인공지능 대회 WAIC가 다시 한 번 뜨거워졌다!
2025년 7월 26일 개최된 올해의 WAIC에는 30여 개국에서 1,200여 명의 참석자가 모였으며, 이 중 투링상·노벨상 등 주요 상을 수상한 12명, 중외 양국의 학사 80여 명 및 다수의 국제 정상 연구소 대표들이 참석했다.
7월 26일 개막 행사에서 2024년 노벨상 수상자인 제프리 힌튼(Geoffrey Hinton)은 AI 업계의 종사자로서 기조 연설을 진행하며, 그동안 줄곧 주장해온 'AI 위협론'을 재차 강조하며 무질서한 AI 발전의 위험성을 경고하고 전 세계적으로 AI 연구를 위한 '안전 네트워크' 구축을 촉구했다.
또한 국내에서 급부상하고 있는 AI 스타트업 MiniMax의 창립자이자 CEO인 언준제는 연설을 통해 점점 더 강력해지는 AI는 성장에 거의 한계가 없으며, 훈련 비용이 감소함에 따라 '미래의 AI는 더욱 평등하게 이용될 것'이라고 밝혔다.
한편 최근 '매각 상장' 소문이 돌고 있는 중국 로봇 스타트업인 지위안로보틱스(Zhiyuan Robotics)의 공동창립자이자 최고기술책임자(CTO) 펑즈후이(아호: 야후쥔)는 자사의 로봇 제품인 링시 X2를 무대에 올려 인간과 로봇이 함께하는 '개그 코미디'를 선보이며 인간과 로봇의 '협력 관계'를 보다 구체적으로 표현했다.
사자이든 아기이든, 반드시 '감독'이 필요하다
비록 제자들과 후학들이 실리콘밸리 AI 기술계의 반 이상을 차지하고 있지만, AI계의 '초대 조율사'라 불리는 제프리 힌튼은 여전히 업계 동료들과 반대되는 입장을 고수하며 끊임없이 'AI 위협론'을 주장하고 있다.
7월 26일 WAIC 컨퍼런스에서 힌튼은 연설을 통해 AI의 급속한 발전에 대한 우려를 다시 한번 강조했다.
힌튼은 지난 30년간의 AI 기술 발전 과정에서부터 현재의 대규모 모델 단계에 이르기까지 간단히 설명하면서, 현재의 대규모 언어 모델이 언어를 이해하는 방식이 인간과 동일하다고 말했다.
「인간은 아마도 대규모 언어 모델과 같을지도 모른다. 대규모 언어 모델처럼 환각을 경험하며 많은 환각적 언어를 만들어 낼 수 있다.」라는 힌튼의 견해는 현재 소셜 미디어에서 유행하는 '인간 vs 기계' 밈과 매우 부합한다고 할 수 있다.
하지만 문제는 인간의 '탄소 기반 두뇌'와 비교할 때, AI는 저장 가능하고 복제 가능하며 '순간 전송'이 가능한 '실리콘 기반 두뇌'를 갖추고 있다는 점이다. 이는 기술 발전에 따라 인간보다 더 똑똑한 AI의 출현이 시간문제라고 업계가 일반적으로 보는 이유다. 존재로서의 이러한 AI, 즉 '지능형 에이전트(intelligent agents)'는 분명히 '생존'과 '통제'를 요구하게 될 것이다.
힌튼은 현재의 AI는 마치 '세 살배기 아이'처럼 인간의 조종을 쉽게 받지만, 미래에는 장담할 수 없다고 말한다. 또한 현재의 AI를 어린 사자에 비유하며 사자를 기르는 방법은 두 가지뿐이라고 설명했다. 「사자에게 공격하지 않도록 훈련시키거나, 아니면 완전히 제거하는 것 뿐이다.」
현재 전 세계 AI 발전 상황을 보면 어느 나라도 기술 발전을 멈춤으로써 진정한 의미에서 'AI를 제거'할 수는 없다. 결국 남은 길은 하나뿐이다. 바로 전 세계가 AI 안전 기구를 만들어 AI를 훈련시켜 '선한 방향'으로 나아가게 해야 한다는 것이다.
「어떻게 하면 인간을 지배하고 싶어 하지 않는 AI를 훈련시킬 수 있을까? 이것이 인류가 직면한 궁극적인 문제다.」 힌튼은 연설 마지막에 이렇게 말했다.
누군가는 규제를 요청하고, 누군가는 '규제 완화'를 추진한다
이러한 거장의 발언은 WAIC에서 깊은 성찰을 불러일으켰지만, 힌튼이 속한 북미 지역에서는 다소 '때를 잘못 잡은' 느낌을 준다. 힌튼의 제자들이 활동하는 OpenAI, Anthropic 등은 이미 수천억 달러의 기업 가치를 지닌 회사가 되었으며, 실리콘밸리 벤처캐피탈들은 최근 몇 년간 AI 스타트업에 막대한 투자를 하고 있다.
두드러진 예로, 미국 내 AI 기업들의 정치游说 비용 증가에 따라 미국 당국은 AI 발전에 대한 규제를 공식적으로 완화했다.
같은 주간인 미국 현지시간 7월 23일, 도널드 트럼프 대통령은 인공지능 로드맵(The AI Action Plan)을 발표했다. 이 문서에서 미국 당국은 데이터, 표준, 인재 등을 중심으로 미국의 AI 리더십 유지를 위해 다음과 같은 방침을 확정했다.
-
R&D 투자 확대 (Invest in R&D): 다음 세대 AI, AI 보안, 신뢰할 수 있는 AI 등의 분야에 초점을 맞춰 연방정부의 AI 기초 및 응용 연구에 대한 장기 투자를 대폭 확대한다.
-
데이터 자원 개방 (Unleash AIData Resources): 연방정부가 보유한 방대한 데이터셋을 AI 연구자 및 일반 대중에게 안전하게 개방하여 모델 훈련에 고품질의 '연료'를 제공한다.
-
기술 표준 설정 (Set AITechnical Standards): 정부 주도로 산업계 및 학계와 협력하여 글로벌 AI 기술의 벤치마크, 표준 및 규범을 제정함으로써 AI 시스템이 안전하고, 신뢰 가능하며, 설명 가능하고, 공정하도록 보장한다.
-
AI 인재 양성 (Cultivate an AI-Ready Workforce): STEM 교육 개혁과 함께 도제제 및 재교육 프로그램을 추진하여 글로벌 최정상급 AI 인재를 유치하고 유지하며, AI 경제를 위한 인적 자원을 확보한다.
-
국제 협력 강화 (Strengthen International Collaboration): 동맹국 및 파트너 국가들과 AI 연합을 구성하여 공동으로 규칙을 마련하고, '권위주의 국가들'의 AI 남용에 대응하며 개방적이고 민주적인 AI 활용을 촉진한다.
-
핵심 기술 보호 (Protect Key Technologies): 미국의 핵심 AI 기술, 알고리즘 및 하드웨어(특히 반도체)를 보호하기 위해 수출 통제 및 투자 심사를 통해 전략적 경쟁자에게 기술이 유출되지 않도록 한다.
이러한 내용에서 알 수 있듯, 미국은 AI 기술 발전에 대해 '녹색 신호'를 켜고 있으며 동시에 지정학적 문제를 활용해 경쟁국들이 자신과 동일한 출발선에 서지 못하도록 하고 있다.
로봇의 '경험 시대'가 도래했다
이번 WAIC 행사장에서 가장 눈에 띄는 존재는 단연 인간형 로봇이었다.
메인 포럼 세션에서 지위안로보틱스의 공동창립자 야후쥔(본명 펑즈후이)은 자사의 제품 링시 X2를 무대에 올려 인간과 로봇의 '코미디 듀엣'을 선보였다.
코미디는 말과 행동, 웃음, 노래가 중요하지만, 인간과 로봇 사이에서는 '이해'가 우선이다. 링시 X2는 무대에서 인간과 로봇의 협업은 '공감대' 위에 이루어져야 한다고 말했다. 하지만 인간과 로봇 사이의 공감대를 어떻게 형성하고, 인간-기계 협업의 핵심을 어떻게 돌파할 것인가? 야후쥔은 이것이 회사가 집중하고 있는 분야이며, 중요한 것은 더 많은 동업자들과 함께 나아가는 것이라고 말했다.
이에 따라 야후쥔은 현장에서 '지위안 링취 OS' 오픈소스 계획을 발표하며, 더 많은 사람들이 참여해 현재의 로봇 시스템 생태계 통합과 구체적 지능(embodied intelligence) 기술의 돌파를 함께 이뤄나가기를 희망했다.
마치 구체적 지능(embodied intelligence)을 뒷받침이라도 하듯, 영상 연결로 컨퍼런스에 참석한 2024년 튜링상 수상자이며 미국 앨버타대학교 컴퓨터과학과 교수인 리처드 서튼(Richard Sutton)은 현재 대규모 모델 훈련에 사용되는 데이터가 거의 고갈되었음을 지적했다. 그러나 낙심할 필요는 없다. 이는 바로 AI의 다음 시대—즉 '경험의 시대(the Era of Experience)'가 도래했음을 의미하기 때문이다.
과거에 '정지된' 데이터를 사용해 AI를 훈련시킨 것과 달리, 이제는 AI를 인간 유아처럼 외부 환경과 사물을 '경험'하게 함으로써 지식을 습득하고 능력을 향상시킬 수 있다. 아직 목표까지는 다소 먼 길이 남아 있지만, 현재 다수의 로봇 스타트업들이 실제로 '물리적 세계'에서 끊임없이 훈련과 학습을 진행하고 있다.
이 때문에 이페이페이(리페이페이)를 포함한 업계의 저명한 학자들이 이미 'AI'에서 '물리적 AI(Physical AI)'로 전환하며, 인공지능이 현실 세계에 진정으로 진입하려면 3차원적 관점에서 세상 전체를 이해하고 배워야 한다고 강조하고 있는 것이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
极客公园
