AI 대폭발, 왜 Web3가 필수적인가?

2024.05.20

AI 대폭발, 왜 Web3가 필수적인가?

인공지능의 미래에는 오픈소스와 탈중앙화가 매우 중요하다.

2024.05.20 - 08:55:56

Web3 심층 보도에 집중하고 흐름을 통찰

인공지능의 미래에는 오픈소스와 탈중앙화가 매우 중요하다.

저자: Teng Yan

번역: Luffy, Foresight News

제가 들은 비유 중 하나는 이렇습니다. 생성형 인공지능은 지구상에 새로운 대륙을 발견한 것과 같으며, 그곳에는 1000억 명의 초지능인이 무료로 일하고자 기다리고 있다.

믿기 힘들죠?

21세기는 인간의 인공지능 시대라고 불릴 것이다.

우리는 전기를 발견하거나 핵 에너지를 활용하는 것, 심지어 불을 이용하는 것보다도 더 깊이 사회를 변화시킬 신기술의 초기 단계를 직접 목격하고 있다. 저 말을 곧이곧대로 믿지 않아도 된다. 영국 국왕이 그렇게 말했다:

정말 멋진 시대다! 알고리즘에 방대한 데이터를 입력하고 거대한 계산 자원을 더하면 인공지능이 놀라운 새로운 능력을 개발할 줄 누가 알았겠는가? 이제 인공지능은 통합하고 추론하며 우리와 실제 대화까지 할 수 있다. 우리는 자연스럽고 직관적인 언어로 모든 인류의 지식과 상호작용할 수 있게 되었다.

마크 앤드리슨(Marc Andreessen)이 간단히 말했듯이, 인공지능은 세상을 구할 것이다.

기술 패러다임 전환

암호화폐와 인공지능은 이 세기 기술 분야에서 가장 중요한 두 가지 패러다임 전환을 의미한다.

패러다임 전환이란 다음과 같은 혁신을 말한다:

우리가 세상을 운영하고 사고하는 방식을 근본적으로 바꾼다;
모든 산업 분야에 광범위하게 적용 가능하다;
인류에게 새로운 생산성 수준을 열어준다.

나는 최신 유행 소셜미디어 앱보다 변혁적인 진보에 더 큰 흥분을 느낀다. 인공지능과 암호화폐는 각각의 길을 따라 발전하고 있지만, 나는 결국 둘이 융합될 것으로 예상한다. 이 둘은 서로 보완적이다:

AI = 데이터, 컴퓨팅, 자율 에이전트
암호화폐 = 소유권, 경제 조정, 검열 저항

발라지(Balaji)는 "모든 것을 토큰화하자"고 말한다. 당신은 이해할 수 있는가?

그의 반농반진 뒤에는 획기적인 사실이 숨어 있다. 암호화폐와 인공지능이라는 두 세력이 결합될 때, 특별한 일이 발생한다. 암호화폐는 인공지능 스택의 자연스러운 조정층 역할을 하며, 우리가 기술과 그리고 서로와 상호작용하는 방식을 완전히 변화시킨다.

오픈소스 ≠ 탈중앙화

당황스럽게도 "오픈소스(open source)"와 "탈중앙화(decentralization)"라는 용어는 종종 혼동되거나 서로 바꿔 사용된다. 내가 사람들과 탈중앙화된 인공지능에 대해 이야기할 때 흔히 듣는 반응은 이렇다:

"좋아요, 그런데 이미 오픈소스 AI 모델들이 있지 않나요?"

이는 전혀 다른 개념이다. 이를 이해하는 가장 쉬운 방법은 탈중앙화된 AI를 오픈소스 AI의 하위 집합으로 보는 것이다.

오픈소스는 소프트웨어 코드의 접근성과 공동 개발에 중점을 두는 반면, 탈중앙화는 권한의 분배에 초점을 맞춘다.

첫 번째 단계: 오픈소스

오픈소스 개발은 공개적으로 소스코드에 접근할 수 있도록 하며, 누구나 코드를 확인하고 수정하며 배포할 수 있다. 이러한 접근법은 협업, 투명성 및 커뮤니티 중심의 개발을 기반으로 한다.

오픈소스 개발의 협업적 성격 덕분에 빠른 반복과 짧은 개발 주기가 가능하다. 저는 이를 마천루 건축에 비유한다. 누구나 이전의 성과를 개선하고 참고하여 자신의 목표를 더 빠르게 달성할 수 있다.

예시:

리눅스(Linux)는 서버, 슈퍼컴퓨터 및 소비자 장치의 기반이 된 오픈소스 운영체제이다. 전 세계 대부분의 웹 서버를 지원하며, 수천 명의 프로그래머가 참여해 개발하고 있으며 안정성과 보안성으로 유명하다.
또한 안드로이드(Android)의 오픈소스화는 삼성, HTC, 샤오미 등 제조사들이 안드로이드 기반 다양한 하드웨어 제품을 만들 수 있게 해주었고, 신규 진입자의 진입 장벽을 크게 낮췄다.

인공지능 분야에서는, Mixtral 7B 및 BERT 등의 모델이 오픈소스 라이선스 하에 공개되어 누구나 특정 용도에 맞게 직접 사용하거나 미세조정(fine-tuning)할 수 있다.

오픈소스 운동은 빠르게 확장되고 있다. 현재 Huggingface에는 65만 3000개 이상의 공개 모델이 제공되고 있다.

출처: Huggingface.co

거대한 오픈소스 AI 모델들이 폐쇄형 모델들을 빠르게 따라잡는 모습은 고무적이다. 수백억 달러의 비용이 들어가는 메타(Meta)의 Llama-3 모델도 이제 인터넷에 접속할 수 있는 누구라도 사용할 수 있다. 이 모델은 GPT-3.5보다 우수한 성능을 내며, GPT-4에도 빠르게 추격하고 있다.

하지만 2023년 초만 해도 GPT-4(폐쇄형)와 Llama 65B(오픈소스) 사이에는 엄청난 성능 격차가 있었다. 당시엔 누구도 자신의 컴퓨터에서 GPT-4급 모델을 실행할 수 있을 것이라 생각하지 못했다. 불과 1년 만에 이 격차는 크게 좁혀졌으며 계속해서 줄어들 가능성이 크다.

여기서 질문이 생길 수 있다:

왜 메타 같은 회사들은 수십억 달러를 들여 AI 모델을 훈련시키고도 이를 오픈소스로 공개하는가?

결국 핵심 신념은 기술 발전이 제로섬 게임이 아니라는 점이다. 기술 발전은 모두가 승자가 되는 것이다.
커뮤니티가 모델을 개선하면 메타도 직접적으로 혜택을 본다. 예를 들어, 누군가 모델을 최적화해 실행 비용을 줄이면 메타도 비용을 절감할 수 있다.
이는 메타의 핵심 사업인 애플리케이션 광고(예: Instagram, Facebook)에는 영향을 주지 않는다. 이 전략은 아마도 마이크로소프트와 OpenAI처럼 폐쇄형 기반 모델 위에 비즈니스를 구축한 기업들에게 압박을 가하기 위한 '불토 전술'의 일환일 것이다. 오픈소스 대안은 명백히 폐쇄형 모델의 상업화를 파괴한다.

자크는 오픈소스의 중요성을 알고 있다

기술계의 상식이 여기에도 적용된다: "리드하고 있다면 폐쇄하라. 뒤처졌다면 오픈하라."

누구나 미세조정하고 애플리케이션을 구축할 수 있는 고품질의 오픈소스 AI 모델이 계속해서 나오기를 바란다. 이는 중요하다. 오픈소스 모델은 더 많은 사람들이 주목함으로써 보안성이 뛰어나며, 맞춤화의 유연성이 크고 폐쇄형 모델보다 비용 효율적이다.

자유 시장은 더 강력한 기반 AI 모델의 가용성과 접근성을 해결해 이미 이를 상품화하고 공공재로 만들고 있다.

물론, 나는 모든 것을 오픈소스로 해야 한다는 극단주의자는 아니다. 폐쇄형 모델 역시 중요하며 특정 작업에서는 오픈소스 모델보다 더 나은 성능을 낼 수 있다. 스타트업과 기업가들에게는 오픈소스 모델을 채택해 특정 용도에 맞게 미세조정한 후 폐쇄형 애플리케이션을 만드는 것이 현명한 전략이다. 오픈소스와 폐쇄형 모델은 공존할 것이다. 그러나 우리는 기반 모델의 오픈소스화를 당연시하지 말고 계속해서 옹호해야 한다.

오픈소스 인공지능은 탈중앙화 청사진의 일부에 불과하다. 이것은 권한 분배 문제로 이어지며, 아래에서 다룰 것이다.

두 번째 단계: 탈중앙화

내 독자 99%는 인공지능이 인류 집단 지성의 지수적 기술이라는 데 동의할 것이다. 능력이 클수록 책임도 크다. 우리는 인공지능의 중심화를 중심화로 맞설 수 없다.

오히려 우리는 관점을 바꿔야 한다.

탈중앙화는 권한을 개인에게 돌려주는 철학이며, 거의 사교(cult) 수준이다. 이는 권력이 소수의 대기업(빅테크)에 집중된 중심화된 현대사회와 자연스럽게 충돌한다.

2023년, 애플, 마이크로소프트, 알파벳, 아마존, 엔비디아, 메타, 테슬라로 구성된 '빅 세븐(Big Seven)'의 주가는 무려 80% 가까이 상승했으며, 나스닥의 흐름에 큰 영향을 미쳤고 S&P 500 지수를 주도했다. 이는 그들의 기술 분야에서의 지배력 덕분으로, 이들은 큰 경쟁 우위와 가격 결정권을 가지고 있다. 시장은 또한 이들이 인공지능 분야에서 예상되는 지배력을 가격에 반영하고 있다.

잔혹한 진실은 인터넷이 이미 독점 상태라는 것이다. 우리는 온라인에서 만든 어떤 것도 소유하지 않는다. 오히려 우리는 빅테크 기업이 통제하는 디지털 생태계의 무지한 참가자가 되었다. 나는 이것을 '디지털 노예제'라고 부른다. 만약 우리의 디지털 주인들이 우리가 한 말이나 행동을 마음에 들어하지 않는다면, 우리는 침묵을 강요당한다. 즉, 플랫폼에서 차단되는 것이다.

현재 AGI(일반 인공지능)는 마이크로소프트-OpenAI, 아마존-Anthropic, 구글-Gemini와 같은 거대 중심화 기업들에 의해 독점되고 있다. 빅테크 기업들은 대량의 데이터셋과 컴퓨팅 리소스가 필요한 LLM 훈련에서 초기 우위를 가지고 있다.

그들이 공개적으로 "미래를 위해 건설하고 있다"고 주장하지만, 행동은 말보다 더 강력하다. 역사적으로 빅테크 기업들의 우선 순위는 혁신보다는 독점 유지였으며, 자본을 통해 이를 강화해왔다.

그 방법 중 하나는 규제 포획(regulatory capture)으로, 자신들만 준수 가능한 산업 규제를 로비하여 진입 장벽을 높이고 신규 경쟁자를 억제하는 것이다. 그들은 또한 신생 경쟁자를 인수할 자본력을 가지고 있다. 이러한 전략은 과거에 그들에게 성공을 가져왔다.

잠재적인 어두운 미래

거대 기술 기업이 주로 인공지능을 통제하는 세상을 상상해보자. 오웰식 디스토피아 세계에서:

훈련에서 추론에 이르기까지 인공지능 시스템의 내부 작동은 우리에게 여전히 비밀이다. 이러한 투명성 부족은 특히 우리 삶에 중대한 영향을 미치는 의사결정에 이 시스템을 사용할 경우 매우 걱정스럽다. 의료와 같은 고위험 분야에서는 신뢰 없이도 검증 가능한 것이 필수적이다. 슬픈 사례로는 바빌론 헬스(Babylon Health)가 있는데, 이 회사는 개인용 인공지능 의사 시스템을 적극 홍보했다. 그러나 나중에 밝혀진 바로는 그들의 '인공지능 의사'는 전자 스프레드시트에서 실행되는 규칙 기반 알고리즘에 불과했으며, 홍보했던 기능을 수행하지 못했다. 수십억 달러의 투자가 물거품이 되었고, 사람들은 피해를 입었다.

인공지능 시스템은 조작과 편향에 취약하다. 구글의 제미나이(Gemini)는 인종적 배경을 잘못 변경한 역사 인물 이미지(흑인 '건국의 아버지들', 흑인 교황 등)를 생성했다는 이유로 강한 비판을 받았다. 인공지능이 여론을 형성하고, 시장을 좌지우지하거나 정치적 결과를 조작할 가능성은 현실이다.

출처: @Endwokeness

검열 문제는 보편적이며 점점 더 심해지고 있다. 일부 국가에서는 정부의 승인이나 허가를 받아야 인공지능 회사를 운영할 수 있는데, 이는 인공지능 발전이 국가 이익과 안보 정책에 부합하도록 하는 더 넓은 전략의 일부이다.

우리는 더 이상 자신의 데이터를 소유하지 않는다. 대신 우리는 운에 맡겨야 하며, 우리의 데이터는 종종 동의 없이, 공정한 보상 없이 수집되어 거대한 중심화된 인공지능 모델을 먹이는 데 사용된다. 나는 우리의 데이터와 개인용 인공지능이 우리 손에 있지 않은 세상에서 살고 있다. 정부와 권력자들은 권력을 유지하기 위해 사생활 침해를 포함해 최선을 다할 것이다.

통제되지 않는다면, 우리의 사회는 소수의 강력한 독점적 인공지능 시스템에 지나치게 의존하게 될 수 있다. 이러한 시스템에 대한 의존은 우리가 탈퇴할 수 없도록 만들며, 특정 플랫폼에 묶여 정신적 노예가 되게 한다.

최근 인터뷰에서 마크 저커버그는 이 문제를 강조하며, 한 회사가 다른 회사보다 더 나은 인공지능을 갖게 되는 것은 심각한 문제라고 말했다. 이는 기술적 우위를 소수 제품과 인력에게만 제한한다. 오픈소스 및 탈중앙화 우선 전략은 이러한 우려를 완화하는 데 도움이 된다.

그러면 제가 묻겠습니다. 당신은 이 세기 가장 변혁적인 기술이 소수의 사람들 손에 통제되기를 원합니까?

대안은 무엇인가?

우리는 인공지능 기술의 중심화된 힘을 균형 있게 조절할 방법이 필요하다. 우리가 바라는 포스트 인공지능 세계를 만들어낼 수 있다: 민주적이고, 개방적이며, 공정한 세계.

바로 여기서 암호화폐의 중요성이 나타난다. 암호화폐를 통해 우리는 다음의 핵심 원칙을 고수할 수 있다:

권한 분산: 결정과 통제권은 코드에 의해 관리되는 네트워크 전체에 분포되어 있으며, 특정 단일 실체의 손에 있지 않다.
사용자 권한 부여: 사용자는 자신의 자산과 데이터에 대한 소유권을 가진다.
검열 저항: 네트워크는 중앙 권위 없이 운영되므로, 어떤 단일 실체도 검열 권한을 장악하는 것을 방지한다.

Crypto x AI 분야의 프로젝트 창립자들과 대화할 때, 나는 항상 블록체인/암호화폐를 제품에 사용하는 이유를 묻고, 체인 외부에서도 같은 일을 할 수 있는지 물어본다. 일반적으로 블록체인 없이 AI를 운영하는 것이 더 좋고, 더 빠르며, 더 저렴하다. 그러나 더 깊은 철학적 신념이 최고의 창립자들을 탈중앙화에 매진하게 한다.

이러한 신념을 요약한다면 다음과 같다:

암호화폐는 인공지능을 민주적이고, 공개적이며, 공정하게 진전시키는 최고의 기술 스택이다. 이는 투명하고 감사 가능한 시스템을 가능하게 하며, 데이터 소유권이 사용자에게 남아있도록 보장한다. 이는 기술의 이점이 전 세계적으로 공유되며, 부자와 소수에게만 국한되지 않도록 한다.

탈중앙화된 인공지능 애플리케이션이 핵심이다.

출처: a16z Enterprise

탈중앙화는 생성형 인공지능 기술 스택 전체에 적용 가능하다. 순수주의자들은 스택의 모든 계층에서 탈중앙화를 요구할 수 있다. 저처럼 현실주의자에게는 탈중앙화된 인공지능의 가장 큰 잠재력이 기반 모델에 있는 것이 아니라 애플리케이션 계층에 있다고 본다.

제가 가장 우려하는 것은 인터넷 역사의 반복이다. TCP/IP와 이메일과 같은 기반 기술은 자유롭게 접근할 수 있었지만, 사용자 데이터의 경제적 가치와 통제권은 구글, 애플, 아마존과 같은 거대 기업들 손에 집중되었다. 이들은 개방 기술 위에 폐쇄형 생태계를 구축했다.

위험은 기반 인공지능 모델이 오픈소스라 하더라도, 대기업들이 여전히 애플리케이션 계층을 지배하고, 사용자를 묶어두며 데이터 통제를 집중화하는 폐쇄형 시스템을 만들 수 있다는 점이다.

다행히 우리는 인공지능 운동의 초기 단계에 있으며, 그 궤적을 바꿀 기회가 있다. 탈중앙화된 인공지능의 통제권과 소유권을 지지하는 사람들은 이익이少数에게 집중되지 않고 광범위하게 공유되는 시스템을 적극적으로 구축해야 한다.

우리의 노력은 단순히 오픈소스 인공지능 시스템을 지지하는 데서 그쳐서는 안 된다. 우리는 이러한 시스템을 기반으로 구축된 애플리케이션이 개방적이고 투명하며, 선의의 경쟁을 장려하고 적절히 관리되도록 보장해야 한다.

Venice도 인공지능의 탈중앙화를 희망한다

인공지능에서 탈중앙화 애플리케이션의 예로는 에릭 부어헤스(Erik Voorhees)의 Venice가 있다.

Venice는 오픈소스 모델을 기반으로 한 ChatGPT의 대안이다. 이는 누구나 어디서든 오픈소스 머신 인텔리전스에 접근할 수 있는 허가 없는 플랫폼을 제공한다.

Venice의 차별점은 사용자 프라이버시를 우선시한다는 점으로, 최소한의 정보(이메일과 IP 주소)만 기록하고, 대화 내용이나 응답은 전혀 저장하지 않는다. 이 플랫폼은 또한 인공지능의 응답을 검열하지 않으려 하며, 신뢰할 수 있는 중립성을 유지한다. 이는 ChatGPT와 극명한 대조를 이룬다. ChatGPT는 광범위한 콘텐츠 필터를 갖고 있다.

저는 직접 Venice를 사용해봤으며, 응답 품질이 매우 좋았고, '갓 모드(God Mode)'도 존재한다.