주커버그 AI 오픈소스 선언: 증류는 합법, 독점이야말로 가장 큰 위험

글쓴이: 샤오빙

8 월 10 일, 주커버그는 Meta 공식 웹사이트에 6500 자 분량의 긴 글을 게시했는데, 제목은《The Future is for Everyone》(미래는 모두의 것이다) 이다. 같은 날, Meta 는 Apache 2.0 라이선스를 채택한 300 억 파라미터 에이전트 모델인 Muse Glimmer 를 오픈소스로 공개했다.

FT 의 해석은 다음과 같다: 주커버그는 폐쇄형 소스 경쟁사를 공격하는 동시에 오픈소스 기치를 다시 들었다.

이 선언문 전체에는 어떤 회사도 직접 언급되지 않았지만, 모든 단락이 표적을 겨냥하고 있다. OpenAI, Anthropic, Google 은 문 중에서'기업과 정부를 위해 AI 를 구축하는'연구소들이며, 주커버그는 오픈소스 기치를 들었다: 만약 슈퍼 인텔리전스가 결국 소수의 기관에 의해 통제된다면, 전 인류가 패배할 것이다.

세 가지 원칙, 하나의 주선

선언문의 골격은 세 가지 원칙으로 지탱된다.

개인의 권한 부여는 번영의 원천이다. 주커버그는 사고 실험을 하나 제시했다: 전 세계에 슈퍼 인텔리전스 변호사를 가진 사람이 단 한 명뿐이라면, 그 사람은 소송에서 항상 이긴다. 비록 그가 틀렸더라도. 하지만 만약 모든 사람이 하나씩 가진다면, 사법은 오히려 더 공정해질 것이다. 그는 같은 논리를 사이버 보안과 상업 경쟁으로 확장했다: 모든 사람이 동등한 AI 능력을 얻을 수 있을 때, 공격과 수비의 균형이 개선되며, 경쟁의 핵심은 누가 좋은 도구에 접근할 수 있는가에서 누가 잘 실행하는가로 돌아갈 것이다.

발명은 자동화보다 우선한다. 그는'AI 가 인간의 일을 대체한다'는 서사를 거부하며, 산업 혁명 이전 노동력의 90% 가 농업에 종사했으나 농업 기계화가 대규모 실업을 초래하지 않고 오히려 완전히 새로운 산업을 촉발했다는 점을 인용했다. 그는 AI 가 많은 새로운 직업 범주 (1 인 제품 스튜디오, 개인 생물학자) 를 창출할 것이며, 기업 규모는 작아지지만 기업 수는 늘어날 것이라고 예측했다.

권력 균형은 안전의 기반이다. 이는 전문 전체에서 가장 핵심적인 논점이다: 슈퍼 인텔리전스의 안전 보장은 한 기업이 완벽한 정렬을 달성한 후 기술을 독점하는 것이 아니라, 여러 연구소가 동시에 최전선 능력에 도달하여 상호 견제하는 데 달려있다. 그는 직접 이렇게 말했다:"슈퍼 인텔리전스가 소수의 개인, 기업, 정부 또는 AI 자체에 의해 통제되면, 자연스럽게 다른 모든 사람에게 불리한 결과가 초래된다."

세 가지 원칙은 동일한 결론을 가리킨다: AI 는 집중될수록 위험하고, 분산될수록 안전하다. Meta 가 오픈소스를 선택한 이유는 오픈소스가 본질적으로 분산을 지원하기 때문이다.

숨겨진 칼날

선언문에서 실제로 날카로운 부분은 겉보기에 온화한 표현 속에 숨겨져 있다.

"대부분의 다른 연구소는 기업, 정부 또는 기타 기관을 위해 AI 를 구축하는 데 주력하고 있으며, 만약 이러한 연구소들이 산업을 선도한다면 권력의 추는 개인이 아닌 대형 기관으로 기울 것이다."

이름을 직접 언급하지는 않았지만 방향은 명확하다: OpenAI 의 기업용 API 전략, Anthropic 의 정부 계약, Google 의 Gemini 에 대한 폐쇄적 통제. 주커버그는 이러한 회사들이 입으로는 안전을 논하면서 실제로는 독점을 창출하고 있다고 본다.

그는 일부 사람들이 증류 (distillation) 를 유해한 행위로 묘사하려 한다고 썼지만,'당신이 관찰할 수 있는 모든 것에서 학습할 수 있다'는 원칙을 보호하는 것이 매우 중요하다. 이 말은 OpenAI 가 상업적 약관에서 자사 모델의 출력을 사용하여 경쟁사 모델을 훈련하는 것을 금지하는 조치를 직접 겨냥한 것이다. 주커버그는 지식 습득을 기본권으로 정의하고 증류 봉쇄를 반경쟁 행위로 정의했다.

"미국 모델 출시를 지연시키는 어떤 정책도, 비록 한 달만 지연되더라도, 미국의 리더십 지위에 중대한 위험을 초래하는 동시에 외국 모델이 앞서 나가도록 가속화할 수 있다."이 말의 표적은 미국 내 AI 규제 세력이다. 주커버그의 논리는 다음과 같다: 중국의 오픈소스 모델은 미국의 자체 제한 때문에 멈추지 않을 것이며, 스스로 손을 묶는 것은 오픈소스 트랙을 남에게 내주는 꼴이 될 뿐이다.

오픈소스의 경계는 어디인가

선언문 속에는 미묘한 전환이 숨겨져 있다.

주커버그는 항상 AI 오픈소스의 가장 목소리 큰 옹호자였다. 하지만 이 글에서는 한정문을 사용했다:"우리는 슈퍼 인텔리전스의 이점이 가능한 한 광범위하게 세계와 공유되어야 한다고 믿는다. 그렇기는 하지만, 슈퍼 인텔리전스는 새로운 안전 문제를 유발할 것이다. 우리는 이러한 위험을 엄격히 완화하고, 무엇을 오픈소스로 선택할지 신중하게 유지해야 한다."

TechCrunch 의 해석은 이렇다: 주커버그는 미래에 가장 강력한 모델을 오픈소스로 공개하지 않을 여지를 남겨두고 있다. Llama 시리즈는 과거 모두 가중치를 공개했지만, 만약 Meta 의 모델이 정말 슈퍼 인텔리전스 수준에 근접한다면, 전면적인 오픈소스는 더 이상 기본 옵션이 아닐 수 있다.

그가 제시한 대체 거버넌스 방안은 다음과 같다: Meta 의 독립 이사회는 모델 출시 안전 기준을 승인할 권한을 얻으며, 매번 출시가 기준에 부합하는지 검토할 것이다. 이는 Meta 가 안전 기준과 검토 기록을 공개적으로 발표한다면 검증 가능한 제도적 약속이다. 현재는 약속만 있을 뿐 세부 사항은 없다.

완전한 프라이버시 모드

선언문은 하나의 미래 비전을 묘사했다: 모든 사람이 매우 강력한 개인 AI 에이전트를 가지며, 당신의 목표, 선호도 및 관심 있는 모든 것을 이해하고, 7x24 시간 지속적으로 작동하며, 어떤 장치에서도 접근 가능하다,"당신의 안경 포함". 이는 Meta 의 Ray-Ban 스마트 안경과 Orion AR 헤드셋을 위한 포석이다.

여기에 따른 프라이버시 약속은 문 중에서 가장 대담한 단일 기술 선언이다: 완전한 프라이버시 모드로, 이 모드에서는 Meta 조차도 당신의 정보를 보거나 접근을 승인할 수 없으며, WhatsApp 의 종단간 암호화와 직접적으로 유사하다.

광고로 수익을 내는 회사가 자신조차 사용자 데이터를 볼 수 없는 AI 어시스턴트를 출시하겠다고 약속한 것은, 만약 정말로 종단간 암호화 아키텍처로 구현된다면 이는 상당한 기술적 그리고 상업적 결정일 것이다. 하지만 선언문은 어떤 엔지니어링 세부 사항도 제공하지 않았으며, 현재는 단지 의향 선언일 뿐이다.

10 억 달러 커뮤니티 기금과 데이터센터 정치

새롭게 등장한 내용은 커뮤니티 협약 (Community Compact) 이다. Meta 는 각 데이터센터가 위치한 커뮤니티에 투자할 것을 약속했는데, 여기에는 10 억 달러 규모의'미래는 모두의 것이다'기금 설립, 무료 기술 교육 제공, 2030 년까지 물 자원 순긍정 기여 달성 (복원량이 소비량을 초과) 이 포함된다.

그는 루이지애나 주 Richland Parish 의 예를 들었다: 지역 교사들이 인근 Meta 데이터센터로 인한 세금 증가로 5 만 달러의 보너스를 받았다. 이 예시는 미국 전역에서 AI 데이터센터가 물과 전력을 많이 소비하는 것에 대한 반발 정서에 응답한 것이다.

누구를 위한 것인가?

이 선언문은 동시에 세 가지 대상과 대화하고 있다.

규제자에게: 미국의 AI 오픈소스를 제한하지 말라, 제한은 중국만 도울 뿐이다; 안전 문제는 분산과 견제를 통해 해결되며, 집중 통제는 오히려 더 위험하다.

개발자 커뮤니티에게: Meta 는 계속 오픈소스를 할 것이다, Muse Glimmer 가 그 증거다; Meta 의 생태계를 선택한다는 것은 당신이 한 회사의 API 에 잠기지 않을 것임을 의미한다.

경쟁사에게: 폐쇄형 소스 노선은 결국 독점으로 이어진다, Meta 는'누가 더 개방적인가'를 새로운 경쟁 차원으로 만들 것이다, 이 차원에서 OpenAI 와 Anthropic 은 선천적으로 우위를 점하지 못한다.

X 에서 가장 흔한 댓글은 이렇다: 이는 철학 선언으로 위장한 경쟁 전략이다.

Meta 는 최전선 모델 능력 경쟁에서 일시적으로 OpenAI 와 Anthropic 에 뒤처져 있으므로, 경쟁의 트랙을 누구의 모델이 더 강한가에서 누가 더 개방적인가로 끌어왔다, 후자의 트랙에서 Meta 는 선천적 우위를 가지고 있다.

하지만 동기가 아닌 행적으로 판단한다면, 더 많은 오픈소스 모델은 개발자 생태계에 유리하며, 이 사실은 Meta 의 동기가 상업적 경쟁이라는 이유로 무효화되지 않는다.