백 개국에 모델 구축을 지원하라: 스테이빌리티 AI 논란의 CEO가 품은 야망
글: 왕차오
3월 23일, 논란에 휩싸인 Stability AI의 CEO 에마드 모스타케(Emad Mostaque)가 사임을 발표하며 앞으로는 탈중앙화 AI 사업에 전념하겠다고 밝혔다. 이 소식은 시장에 적지 않은 충격을 주었다.
Stability.AI는 한편으로 오픈소스 AI의 깃발을 홀로 들며 그 분야에 중요한 기여를 해왔지만, 다른 한편으로는 다른 연구팀의 성과를 자기 공로로 돌린다는 비판을 끊임없이 받아왔다. CEO 에마드의 거짓 학력 의혹과 소셜미디어에서의 과장된 발언들이 반복되면서 그의 신뢰도는 더욱 추락했다. 화려한 투자자들과 막대한 자금 조달을 바탕으로 시작했지만, Stability.AI는 이미 오래전부터 재정적 위기에 빠져 생사의 줄 위에 매달려 있었다.
사임 후 에마드는 여전히 Stability.AI 지분의 대부분을 보유하고 있어 이사회를 실질적으로 통제할 수 있다고 밝혔다. 그는 강요받아 떠나는 것이 아니라 AI 분야에서 권력의 과도한 집중은 누구에게나 해롭다고 판단해, 회사의 변화를 촉진하기 위해 스스로 물러났다고 설명했다. 그러나 에마드가 과거 꾸준히 과장과 거짓말을 해온 인물이라는 점에서, 사람들은 이 사퇴가 단순하지 않다고 생각한다. 하지만 Stability.AI보다 필자는 에마드가 이제 몰두하려는 탈중앙화 AI에 더 주목하고자 한다.
몇 주 전, 나는 에마드와 함께 탈중앙화 AI를 주제로 토론하는 자리에 참여했다. 이후 그가 과거 이 주제에 대해 나눈 여러 발언들을 정리하며 그의 시각을 대략적으로 정리할 수 있었다.
모델을 통제하는 자가 사고를 통제한다
만약 인간의 행동이 운영체제에 의해 구동된다면, AI는 현재 그 운영체제의 외부 핵심 구성 요소로 급속히 부상하고 있다. 인간은 점점 자신의 사고 부담을 AI에 위임하는 데 익숙해졌으며, 이 기술은 우리의 사고 방식 일부를 형성하고 있기 때문이다. 그러나 AI가 가져오는 편의성과 역량 강화는 동시에 명백한 위험을 동반한다. 바로 누가 AI 모델을 통제하는가에 따라 세계의 사고가 어느 정도 좌우될 수 있다는 점이다.
대중이 이러한 지능형 도구들의 작동 원리나 기본 설정에 대해 이해하지 못한다면, 우리의 결정과 견해는 조용히 영향을 받을 수 있다. AI 모델의 통제자는 특정 기본 옵션을 설정함으로써 사람들 선택과 관점, 행동을 점진적으로 유도할 수 있다. AI는 차세대 인프라로서 소수의 기업 집단에 의해 독점될 경우 치명적인 결과를 초래할 수 있다. 이것이 바로 에마드가 탈중앙화 AI의 중요성과 시급성을 강조하는 이유다.
모든 국가는 자신만의 모델을 가져야 한다
OpenAI가 '슈퍼 정렬(SuperAlignment)' 프로젝트에 막대한 노력을 쏟고 있을 때, OpenAI 자체뿐 아니라 전 세계 각국, 각 산업, 다양한 문화의 정렬은 누가 책임지는가?
아무도 아니다.
OpenAI의 슈퍼 정렬은 기본적인 안전성과 인류 공통의 윤리적 기준에 큰 기여를 하고 있지만, 국가와 문화의 다양성을 고려했을 때 이러한 노력이 충분한가? 다양한 민족과 문화는 종종 실리콘밸리 엘리트들과 상이한 가치관을 가지고 있으며, 이러한 다원적 가치들이 AI 모델 내에 공정하게 반영될 수 있을까? 예를 들어 케냐 같은 나라의 다음 세대 학생들이 실리콘밸리의 AI를 대규모로 사용하면서 그들 고유의 국가 문화 특성이 서서히 사라질 위험이 있지 않을까?
그 답은 낙관적이지 않다. 따라서 에마드는 각 국가, 산업, 문화마다 자신들의 특색을 반영하는 AI 모델을 가져야 한다고 주장한다. 이러한 모델들은 지역 사회에 깊이 뿌리내리고, 해당 국가·산업·문화의 집단 지성을 충분히 흡수하고 표현해야 한다. 이 개념은 여러분에게 낯설지 않을 것이다. 두 달 전 NVIDIA도 여러 자리에서 '주권 AI(sovereign AI)'라는 개념을 언급했는데, 본질적으로 동일한 내용이다. 다만 에마드는 일 년에서 두 년 전부터 다양한 자리에서 이를 이야기해왔기 때문에, NVIDIA보다 훨씬 앞선 선구자였다.
세계 대부분의 국가들은 자체 AI 모델을 만들 능력조차 없다. 바로 이 시장을 에마드가 노리고 있는 것이다. 그는 각 국가·민족·산업이 AI 모델을 제작할 수 있도록 지원하는 하위 계층 구조(stack)를 만들려 한다. 그리고 그 위에서는 탈중앙화된 집단 협업 방식으로 모델을 발전시키고자 한다.
에마드는 여러 회사를 설립하거나 육성할 가능성을 언급한 바 있다. 각 회사는 교육, 의료, 금융 등 다양한 핵심 분야에 특화된 전문가들로 구성되며, 당연히 각국 맞춤형 AI 모델 개발에도 집중할 것이다. 그러나 이 회사들은 탈중앙화 AI의 실천을 위한 일종의 시동기 역할에 가깝다. 기본 모델과 표준화된 프레임워크를 제공함으로써 커뮤니티 인재들이 기여하도록 유도하는 것이다. 만약 어떤 국가의 우수한 인재들이 대거 기여하게 된다면, 그들의 집단 지성은 결국 훌륭한 국가 모델로 결집될 수 있다.
핵심은 데이터다
간단한 비유를 하자면, AI 모델의 레시피는 알고리즘과 데이터이며, 여기에 컴퓨팅 파워를 더해 섞는 것이다. 데이터가 많을수록 이를 처리하기 위한 컴퓨팅 파워도 더 필요하다. 현재 대부분의 팀들은 더 나은 알고리즘을 찾고, 더 많은 데이터를 확보하며, 더 큰 컴퓨팅 자원을 동원하는 데 열을 올리고 있다. 그러나 현실은 이미 증명됐다. 데이터의 질이 높다면, 더 적은 양의 데이터로도 훌륭한 성능을 낼 수 있다는 점이다. 즉, 사람들은 컴퓨팅 파워를 통해 저품질 데이터의 문제를 덮고 있는 셈이다.
이것이 바로 에마드가 지지하는 탈중앙화 AI 체계의 장점이다. 그는 어떤 국가의 우수한 인재들이 공동 참여할 수 있는 구조를 만들면, 고품질의 국가 데이터셋을 집결시킬 수 있다고 믿는다. 동시에 이러한 데이터는 검증 가능하고 소유권이 명확하며, 데이터 기반의 인센티브 모델을 설계할 수도 있다.
이런 방식을 통해 우리는 과거에는 접근조차 할 수 없었던 데이터를 수집할 수 있다. 이 데이터는 품질이 높을 뿐 아니라, 대중의 목소리와 요구를 더욱 진실되고 공정하게 반영할 수 있다.
소형 모델 클러스터 vs 단일 대형 모델
AI 분야에서 스케일링 법칙(Scaling laws)은 거의 철칙처럼 여겨지고 있으며, 우리가 그것을 추구하든 말든 간에 회피할 수 없는 현실이다.
분명히, 탈중앙화 방식으로 자원을 조직하여 스케일링 법칙을 통해 범용 인공지능(AGI)을 실현하는 것은 단기적으로 현실성이 없다. 상당한 기간 동안 커뮤니티 중심의 AI 모델은 OpenAI 같은 거대 기업과 경쟁해 가장 강력한 모델의 자리를 차지하기 어렵다.
그러나 AGI를 추구하는 것과 널리 활용 가능한 AI를 만드는 것은 별개의 문제다. 기술이 계속 발전함에 따라, 커뮤니티가 주도하는 중소형 모델의 능력은 급속히 향상되고 있다. 1~2년 이내에 중소형 모델이 대부분의 일상 작업을 수행할 수 있을 것으로 예상된다. 최강은 아닐지라도 충분히 실용적이며 비용도 낮아 광범위한 응용 시나리오를 열 수 있다. 우리가 대부분의 온라인 쇼핑에서 SF익스프레스의 익일 배송을 이용하지 않는 것처럼, 다양한 모델을 혼합해 사용하는 것이 미래의 주류가 될 것이다.
이는 매우 중요한 변화를 의미한다. 집단 지성이 이끄는 모델이 널리 사용되면, 단일 기관이 통제하는 단일 대형 모델이 초래할 수 있는 잠재적 리스크가 크게 줄어든다. 대형 모델의 데이터에 오염이 발생하더라도, 집단 지성을 기반으로 한 모델들은 쉽게 교정기(calibrator) 역할을 수행하며 필요한 수정을 할 수 있다. 이는 단순히 실용성과 비용 절감을 넘어, 집단 지성과 AI의 '신' 사이의 균형 게임이다.
기술적 관점에서도 소형 모델은 완전히 불리한 위치에 있는 것은 아니다. 규모가 작기 때문에 특정 수직 분야에 맞춰 추가 학습을 시키기 쉽다. 그런 분야 내에서는 종합 능력이 대형 모델에 미치지 못할지라도, 전문가 수준의 도구로서 탁월한 성능을 발휘할 수 있다. 다수의 전문가 모델들로 구성된 소형 모델 클러스터라면, 단일 대형 모델과의 경쟁에서 결코 패배하지 않을 수도 있다.
더욱 중요한 점은 모델의 소형화가 배포의 탈중앙화를 효과적으로 촉진한다는 것이다. 탈중앙화를 이야기할 때 우리는 단지 모델 개발과 데이터 출처의 탈중앙화만을 의미하는 것이 아니라, 거버넌스의 탈중앙화와 배포의 탈중앙화까지 포함한다. 오픈소스 모델을 개인 노트북이나 심지어 스마트폰에 쉽게 배포할 수 있다면, 이는 AI 평등의 기반이 된다. 중심화된 서비스 제공자가 서비스를 종료하더라도, 사용자는 여전히 로컬 AI를 활용해 작업을 계속할 수 있다. 사람들이 제약 없이 광범위하게 AI를 사용할 수 있도록 하는 것 또한 탈중앙화 AI의 중요한 목표다.
AI + Web3 – 사기일까 미래일까
확실히, 에마드가 적극적으로 추진하는 탈중앙화 AI 프로젝트는 암호 기술과 밀접한 관련이 있다. 그는 자신의 비전을 실현하기 위해 Web3 프로토콜을 설계하겠다고 밝혔다. 이는 현재 AI 분야가 결여하고 있는 핵심 요소들—데이터의 검증 가능성, 데이터 소유권, 대규모 협업 및 인센티브 메커니즘, 집단 거버넌스 능력—이 바로 Web3 기술이 강점을 발휘하는 영역이기 때문이다.
여기서 특히 거버넌스에 주목하고자 한다. 오늘날의 인공지능처럼 강력하면서도 전 세계 각 분야에 광범위하고 깊이 있게 영향을 미칠 기술은 전례가 없다. 이 기술의 미래 방향을 누가 결정해야 할까? 누가 이를 효과적으로 통제할 수 있을까? OpenAI 이사회와 같은 소수 기업이 AI를 거버넌스하는 것은 결코 최적의 방안이 아니다. 정부 규제 기관이 AI 모델에 단순히 하드한 제약을 두는 것도 문제 해결에 충분하지 않을 수 있다. 진정한 해결책은 집단 거버넌스일 가능성이 크다.
Web3 분야에서는 데이터 거버넌스, 애플리케이션 거버넌스, 네트워크 거버넌스, 조직 거버넌스 등 다양한 차원에서 집단 거버넌스 실험이 활발히 진행 중이다. 대부분의 시도가 여전히 탐색 단계에 머물러 있고 여러 번의 실패를 겪었지만, 이곳이야말로 인류 거버넌스 진화의 최전선이다.
지난 5년간 암호화폐 분야, 특히 탈중앙화 자율조직(DAO)을 중심으로 인류 역사상 존재했던 모든 거버넌스 모델이 거의 다 시도되었다. OpenAI가 채택한 비영리 재단이 영리기업을 통제하는 혁신적 구조 역시 DAO에서는 이미 널리 실천되어 왔다. 내 생각에 Web3 사람들은 지난 몇 년간 마치 거버넌스 속통 게임을 치른 것 같다. 짧은 시간 안에 인류 수천 년의 거버넌스 역사를 다시 연출한 셈이다.
흔한 비판 중 하나는 대부분의 Web3 거버넌스가 기존의 거버넌스 모델을 복사한 후 체인 상 투표를 덧붙였다는 점이다. 그러나 역사가 보여주듯, 성장 속도가 매우 빠르고 인재 밀도가 높은 환경에서는 곧 새로운 형태의 것이 진화해 나올 수 있다.
덜 적절하지만 비슷한 예로 인터넷 광고를 들 수 있다. 초기 인터넷 시절 뉴스 웹사이트를 열면 전체 화면을 차지하는 커다란 광고가 천천히 사라지곤 했고, 페이지 전체가 빽빽하게 광고 블록으로 채워졌다. 이는 초기 인터넷의 상징적인 기억이다. 당시 사람들은 인터넷에 적합한 효과적인 광고 방식을 알지 못했기 때문에 기존 미디어의 광고 방식을 단순히 옮겨놓은 것이다. 그러나 시나리오가 발전하고 인터넷 기술과 문화에 대한 이해가 깊어지면서, 인류 역사상 전례 없던 효율적인 광고 모델이 빠르게 진화했으며 기존 광고 방식은 인터넷에서 급속히 퇴출되었다.
나는 기술 거버넌스도 인터넷 광고와 유사한 경로를 걷게 될 것이라 본다. 블록체인 기술은 협업과 거버넌스 능력을 획기적으로 강화하며, 인류 역사상 처음으로 등장하는 집단 거버넌스 방식이 여기서 탄생할 것이다. 나는 이에 대해 확신을 갖고 있다.
마치며
현재 시점에서 AI 시대의 미래를 예측하고 에마드의 모든 구상을 평가하는 것은 결론을 내리기 어렵다. 분명히 그의 계획은 여러 측면에서 거대한 도전에 직면해 있다. 거기에 더해 에마드가 과거에 자주 과장된 발언을 해온 점을 고려하면, 그의 말 중 어디까지를 진지하게 받아들여야 할지 판단하기도 쉽지 않다.
그럼에도 불구하고 AI의 권력 구조를 논의하는 것은 아직 초기 단계이지만 극히 복잡하고 중요한 주제다. 에마드와 탈중앙화 AI를 추구하는 다른 동료들이 내놓는 사고와 시도는 아직 궁극적 해답에 도달하지는 못했을지라도, 충분한 존중과 관심을 받을 가치가 있다. 이런 탐색은 비록 어려운 여정이지만 미래를 여는 용기 있는 시도다. 이러한 노력은 결과와 무관하게 역사의 서사시 속 한 장이 될 것이다.
어쩌면 언젠가 세상은 에마드 같은 이들에게 감사하게 될지도 모른다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
