Anthropic의 세 가지 전환점: 코드 유출, 정부와의 대립, 무기화
저자: 벤 톰프슨
번역 및 정리: TechFlow
TechFlow 서두: Anthropic의 신규 모델 ‘Fable’이 발표된 지 두 달 만에 미국 정부에 의해 긴급 중단됐다. 겉으로는 ‘보안 유출’을 이유로 했지만, 실상은 AI 연구실과 정부, 그리고 소프트웨어 산업 간 이중 전쟁을 드러낸 것이다. ‘안전성’을 핵심 경쟁력으로 내세우는 이 기업이 안전성 서사를 단순한 마케팅 도구가 아니라 상업적 성채로 전환하고 있으며, 그들이 진정으로 타깃으로 삼는 것은 마이크로소프트 등 기존 기업이 보유한 사용자 데이터다.
나는 이러한 비판자들의 입장을 충분히 이해한다. 그들은 Anthropic의 공식 성명—특히 모델 출시 당시 발표한 내용—이 마케팅을 위해 공포를 조장하는 수단이라고 늘 주장한다. 두 달 전 Anthropic는 ‘Mythos Preview’를 발표하며, 이 모델은 특히 강력한 사이버 보안 능력 때문에 너무 위험해 공개할 수 없다고 밝혔다. 그러고 나서 두 달 뒤, 회사는 다양한 보안 장치를 추가한 Mythos의 버전인 Fable을 공개했다.
내가 경험한 한계 내에서, Fable은 분명 매우 뛰어난 모델이다. 현재는 프로그래밍 성능 외에는 모델을 객관적으로 평가하기 어렵지만, 주관적인 체험은 여전히 가능하다. 나는 Fable과의 상호작용 경험이 극도로 탁월하다는 느낌을 받았다. 이로 인해 GPT-5.5와 Opus-4.8을 포함한 다른 모든 모델들이 작고 어리석게 느껴졌다. 내가 이처럼 강렬한 인상을 받은 경우는 지금까지 단 두 차례뿐인데, 하나는 GPT-4이고, 또 하나는 Grok-4였다. 이 두 모델 모두 기초 모델의 규모와 복잡성 면에서 차세대를 대표한다. 나는 Fable 역시 새로운 사전 훈련(pretraining)에서 비롯된 것으로, 차세대의 첫 번째 모델이라고 생각한다.
따라서 나는 Fable/Mythos가 보안 취약점을 식별하고 악용하는 데 실제로 더 뛰어나며, Anthropic이 신중하게 출시한 것이 타당하다는 점을 완전히 수용할 수 있다. 그러나 모델을 공개적으로 출시하는 문제는 보호 장치가 ‘越獄(jailbreak)’될 수 있다는 점에 있다. 실제로 출시 직후 바로 그런 일이 발생했다.
Anthropic, 미국 정부와 다시 맞서다
그 후 일어난 일은 다소 불분명하다. Anthropic는 블로그 글에서 다음과 같이 설명했다:
미국 정부는 국가안보 권한을 근거로 수출 통제 명령을 발동해, Fable 5와 Mythos 5에 대한 모든 외국 시민의 접근을 미국 내외를 막론하고 즉각 중단시켰다. 여기에는 Anthropic의 외국 국적 직원도 포함된다. 이 명령의 실질적 결과는, 규정 준수를 보장하기 위해 우리는 고객 전원에 대해 Fable 5와 Mythos 5의 사용을 즉시 금지해야 했다는 것이다. 다만, Anthropic의 다른 모든 모델에 대한 접근은 영향을 받지 않았다.
우리는 오늘 미국 동부 시간 오후 5시 21분에 정부의 명령을 수신했다. 편지에는 구체적인 국가안보 우려 사항에 대한 세부 정보가 전혀 제공되지 않았다. 정부는 이미 Fable 5를 우회하거나 ‘越獄(jailbreak)’하는 방법을 발견했다고 판단하고 있는 것으로 보인다. 우리는 특정 기법을 이용해 소수의 알려진 미세한 결함을 식별한 데모를 검토했다. 이 결함들은 비교적 단순해 보였으며, 다른 공개 모델들도 우회 없이 동일한 결함을 식별할 수 있음을 확인했다.
Anthropic는 이후 일반적인 ‘越獄(jailbreak)’이 불가피하지만 범위가 제한적이며, 일반적인 ‘越獄(jailbreak)’에 대한 증거는 전혀 없다고 논증했다. 또한 해당 ‘越獄(jailbreak)’은 아마존이 보고한 것으로 보이는데, 이는 주목할 만하다. 왜냐하면 아마존은 Anthropic의 투자자이자 동시에 회사의 추론 서비스(inference service) 주요 공급업체이기 때문이다. 이 글을 쓰는 시점에서 Anthropic 임원진은 워싱턴 D.C.에 머무르며, 회사가 ‘오해’라고 주장하는 사안을 해결하려 하고 있으나, 백악관 관계자들은 이 문제가 오히려 회사 리더십이 합법적인 국가안보 우려에 무관심하다는 것을 암시하고 있다.
현재 분쟁에 관련된 사실들 중 많은 부분이 논란의 여지가 있어, 나는 이 갈등에 대해 추가로 말할 것이 거의 없다. 그러나 이런 갈등이 발생한다는 사실 자체에는 전혀 놀라지 않는다. 나는 이미 ‘Anthropic와 정렬(alignment)’이라는 글에서, 미국 정부와 Anthropic 사이의 충돌이 불가피하다고 설명한 바 있다. 이 맥락에서, Mythos가 아직 정부의 강력한 조치를 유발할 만큼 강력하지 않다고 주장하는 사람들은 핵심을 놓친 것이다. 지금은 아직 부족하더라도, 다음 세대 혹은 그 다음 세대 모델은 분명 그렇게 될 것이다. 특히 현재 모델들이 자기를 개선하는 데 점점 더 효과적으로 활용되고 있기 때문이다.
그러나 이는 또 다른 질문을 낳는다—비판자들의 관점을 더욱 확증해주는 듯한 질문이다: 만약 Mythos가 정말로 위험하다면, 왜 처음부터 Fable을 출시했는가? 또, 자신이 하겠다고 선언한 바를 정부와 맞서서 추진하려는 이유는 무엇인가? 사실 나는 Anthropic의 행동을 충분히 이해할 수 있다. 다만 이 기업의 독특함은 이러한 행동을 어떻게 정당화하느냐에 있다. 바로 이 정당화 방식이 비판자들에게 연료를 제공하면서도, 동시에 Anthropic에게 마법 같은 매력을 부여한다.
경제적 필연성
AI 산업 초기 몇 년간, 가장 큰 경제적 가치는 컴퓨팅 파워(연산력)로 흘러갔다. 그 이유는 명백하다: 수요에 비해 공급이 부족했기 때문에 가격이 급등했고, 최대 수혜자는 엔비디아, TSMC, 그리고 메모리 제조사(하이닉스, 삼성, 마이크론)였다. 동시에 Anthropic와 OpenAI는 첨단 모델 개발을 위해 수백억 달러의 적자를 감수했으나, 일단 출시된 모델은 중국을 중심으로 한 오픈소스 모델들에 의해 증류(distillation)되고 상품화되었다.
이는 연구실 입장에서 가장 비관적인 시나리오를 나타낸다—즉, 그들의 차별화 요소는 일시적이며 무료 대체재가 ‘충분히 좋음’으로 인식되면서, 그들은 비용을 절대 회수할 수 없다는 것이다. 나는 이를 합리적인 전망으로 본다. 모델이 상호 교환 가능한 세계에서는 모델 자체가 상품이 되고, 대부분의 가치는 다른 곳으로 흘러간다. 현재는 연산력이 그 중심이지만, 시간이 지나고 충분한 연산력이 확보되면, 가치 사슬에서 가장 중요한 위치는 언제나 그렇듯이 사용자 접점(user touchpoint)을 확보하는 곳이 될 것이다.
따라서 첨단 연구실은 경제적 필연성에 따라 사용자에 더 가까이 다가가야 한다는 점은 나에게 오랫동안 명확했다. 사용자 접점을 확보하면 의미 있는 잠금 효과(lock-in effect)를 얻을 수 있고, 사용자 접점을 확보하는 최선의 방법은 사용자가 해야 할 모든 일을 수행할 수 있는 ‘캔버스(canvas)’가 되는 것이다. 이는 곧 첨단 연구실이 소프트웨어 기업과 충돌하게 된다는 것을 의미한다. 소프트웨어 기업이 사용자 접점을 확보하고 있는 반면, 첨단 연구실의 장기적 이익은 단순히 소프트웨어의 상품화된 입력(input)이 되는 것이 아니라, 소프트웨어 자체를 직접 대체하는 것이다.
한편 소프트웨어 기업은 반대로 움직이고 있다. 사티아 나델라(Satya Nadella)는 X(舊 트위터) 게시글에서 기업이 모델 위에서 어떻게 구축해야 하는지를 설명하는 자신의 비전을 제시했다:
모든 기업은 내가 말하는 ‘인적 자본(human capital)’과 ‘토큰 자본(token capital)’을 구축해야 한다. 인적 자본에는 직원들의 지식, 판단력, 관계망, 독창성, 패턴 인식 능력이 포함되며, 토큰 자본은 기업이 구축하고 소유하는 AI 역량을 의미한다. 중요한 점은, 토큰 자본이 성장함에 따라 인적 자본의 가치가 줄어들지 않는다는 것이다. 오히려 더 커질 뿐이다! 나는 인간의 주도성이 토큰 자본 성장의 원동력이 될 것이라고 믿는다. 인간이 야심 찬 목표를 설정하고, 영역 간 연결점을 만들며, 관계를 형성하고, 가장 중요한 패턴을 식별할 것이다. 인간의 지도 없이, 당신의 연산력은 허공을 도는 것이다.
이는 진정한 기회가 최고의 모델을 선택하는 데 있지 않다는 것을 의미한다. 오히려 모델 위에서 학습 루프(learning loop)를 구축해 인적 자본과 토큰 자본이 복리로 성장하도록 해야 한다는 것이다. 당신은 특정 작업이나 심지어 전체 업무를 아웃소싱할 수 있지만, 학습 자체는 절대 아웃소싱할 수 없다. 기업의 미래는 인간과 AI 사이에서 이러한 학습이 복리로 성장할 수 있도록 만드는 데 있다. 이를 위해서는 기업이 시간이 지남에 따라 개선되는 에이전트 시스템을 구축하면서도 지적 재산권을 유지할 수 있는 새로운 아키텍처 접근법이 필요하다. 기업은 ‘범용’ 모델을 교체해도, 학습 시스템에 내재된 ‘기업의 노하우’를 잃지 않아야 한다. 이것이 앞으로 당신의 통제권과 주권을 결정짓는 핵심 ‘시험(test)’이다.
나델라는 이 비전을 경고로 시작한다:
우리가 원하지 않는 세상은, 모든 산업의 모든 기업이 가치를 소수의 ‘모든 것을 집어삼키는’ 모델들에 넘겨주는 세상이다. 모든 가치가 소수의 모델에 의해 흡수된다면, 정치·경제적 구조는 이를 용인하지 않을 것이다. 산업 전체를 텅 비게 만드는 AI 미래는 사회가 승인하지 않을 것이다.
글로벌화 1단계에서 무슨 일이 있었는지 생각해보라. 전체 산업 경제가 아웃소싱으로 인해 텅 빈 상태가 되었다. 표면적으로 GDP 수치는 괜찮아 보였지만, 실직과 이주 등의 피해는 현실적이었고, 그 여파는 지금까지도 느껴지고 있다. 우리가 이 동력을 AI 시대로 가져가서, 소수의 AI 시스템이 모든 경제적 수익을 흡수하고, 전체 산업이 눈앞에서 지식이 상품화되는 걸 방치해서는 안 된다.
이 유비의 문제점은 바로 글로벌화가 실제로 일어났고, 산업 경제가 실제로 텅 빈 상태가 되었다는 데 있다. 따라서 이것은 경고가 아니라 예언일 수도 있다. 그래서 나델라가 경보를 울리는 것도 무리가 아니다—왜냐하면 마이크로소프트 역시 그 피해자 중 하나가 될 수 있기 때문이다. 동시에, 모델 제조사의 경제적 필연성은 바로 이 상황을 실현하는 데 있다.
데이터 필연성
이러한 모델—심지어 Mythos조차도—는 아직 그 단계에 이르지 못했다. 그들이 필요한 것은 더 많은 연산력뿐 아니라, 더 많고 더 나은 데이터다. 모델 개선은 점점 더 강화학습(reinforcement learning)에 의존하고 있는데, 일부는 합성 데이터로 생성될 수 있지만, 첨단 연구실에게 가장 강력한 레버리지는 실제 세계에서의 사용 데이터다.
나는 이것이 OpenAI와 Anthropic이 모두 대폭 할인된 구독 요금제를 제공하는 주요 이유라고 생각한다. SemiAnalysis는 최근, 200달러짜리 요금제를 통해 클로드 토큰을 8,000달러어치, 코드엑스(Codex) 토큰을 14,000달러어치나 얻을 수 있다고 추정했다. 물론 양측 모두 사용자 및 개발자 마음의 점유율을 놓고 경쟁 중이지만, 동시에 모델 개선을 위한 실제 사용 데이터의 접근권도 확보하려 한다.
Anthropic은 Fable에 대해 데이터 수집 정책을 대폭 강화하며, 기존에 ‘제로 데이터 보관’을 약속했던 기업용 요금제 고객조차도 모든 사용 데이터를 30일간 보관하겠다고 발표했다. 회사는 이 데이터를 훈련용으로 사용하지는 않겠다고 밝혔지만, 향후 이를 변경하지 않도록 보장하는 어떠한 조치도 마련하지 않았다(예: 제3자에 의한 데이터 저장). 만약 이 정책 변경(즉, Fable 복구 시)이 대규모 고객 이탈을 초래하지 않는다면, 나는 그들이 데이터를 훈련에 활용하기 시작할 시점이 단지 시간문제라고 의심한다—그들의 궁극적 목표에 비추어 보면, 이 데이터는 너무나도 가치 있기 때문이다.
또한 사용자 접점으로의 상향 이동과 함께 작동하는 선순환(benign cycle)에 주목해야 한다. 클로드나 코드엑스를 직접 사용해 처리하는 업무 흐름(workflow)이 많을수록, 각 기업이 훈련에 피드백할 수 있는 실제 데이터도 늘어난다. 이는 제품을 더 강력하고 유용하게 만들고, 서비스 가능한 업무 흐름의 범위를 확장시키며, 데이터 접근 범위를 넓힌다.
나델라는 글에서 이러한 데이터의 중요성을 강조했지만, 당연히 모델과는 독립적으로 존재해야 한다고 보았다:
기업은 업무 흐름, 분야 지식, 축적된 판단력을, 사용할 때마다 개선되는 AI 시스템으로 전환해야 한다. 사내 평가 체계는 모델이 단순한 외부 벤치마크가 아니라, 사업 운영에 실질적으로 중요한 결과를 얼마나 개선했는지를 포착해야 한다. 사내 강화학습 환경은 조직 내 실제 데이터 흐름을 기반으로 모델을 더 강력하게 만들어야 한다. 지식베이스는 기관의 기억을 검색 가능하게 만들고, 토큰 사용 효율을 높인다.
이 순환은 기업의 새로운 지적 재산권(IP)이 된다. 나는 이를 ‘산을 오르는 기계’라고 본다. 대부분의 자산과 달리, 이는 복리 효과를 낸다. 개선된 각 업무 흐름은 더 나은 훈련 신호를 생성해, 기업 고유의 암묵적 지식 축적 속도를 가속화한다. 이 기능을 조기에 구축한 기업은, 어떤 새로운 단일 모델 능력이 등장하더라도 쉽게 모방하기 어려운 경쟁 우위를 확보하게 된다.
이 순환은 기업의 새로운 IP가 된다. 나는 이를 ‘산을 오르는 기계’라고 본다. 대부분의 자산과 달리, 이는 복리로 성장한다. 개선된 각 업무 흐름은 더 나은 훈련 신호를 생성해, 기업 고유의 암묵적 지식 축적 속도를 가속화한다. 이 기능을 조기에 구축한 기업은, 향후 어떤 단일 모델의 능력이 향상되더라도 쉽게 모방하기 어려운 경쟁 우위를 확보하게 된다.
그러나 Anthropic의 데이터 정책을 따르는 기업들이 지금 당장 더 나은 결과를 얻을 수 있다면 어떨까? 혹은 기존 기업이 이를 거부한다면, 신생 기업—혹은 모델 제조사 자체—가 시장에서 이들을 압도할 기회를 남겨두는 것은 아닐까? Anthropic은 나델라가 호소한 결의를 실제로 시험하고 있는 셈이다.
권력에 대한 요구
Fable/Mythos와 관련된 데이터 보관 정책조차도 발표 당시 가장 논란이 된 부분은 아니었다. 오히려 Anthropic는 발표 시, Fable이 LLM 개발에 사용될 경우 성능을 은밀히 저하시킬 것이라고 밝혔다. 시스템 카드에는 다음과 같이 명시되어 있다:
우리는 첨단 LLM 개발과 관련된 보호 조치도 추가했다. 우리 2026년 2월 위험 보고서 6.1절에서 논의한 바에 따르면, 우리는 전반적인 AI 발전 속도를 가속화하는 위험에 대해 우려하고 있다. 다만 이 위험의 심각성에 대해서는 여전히 불확실하다. 특히 우리의 우려는—당시 작성한 바에 따르면—“우리 시스템과 유사한 위험을 갖는 강력한 AI 시스템을 다른 AI 개발자들이 구축하는 속도를 가속화하는 것”이며, 이 시스템들은 반드시 우리와 동일한 보호 조치를 갖추지 않을 수 있다.
최근 모델들이 자기를 개선하는 데 스스로 기여할 수 있게 된 점을 고려해, 우리는 Claude가 첨단 LLM 개발 요청(예: 사전 훈련 파이프라인 구축, 분산 훈련 인프라 구축, 또는 ML 가속기 설계 등)에 대해 효과를 제한하는 새로운 개입 조치를 시행했다. 경쟁 모델 개발을 위해 Claude를 사용하는 행위는 이미 우리 서비스 약관 위반이지만, 보호 조치를 통해 이 제한을 강제 실행함으로써, 이 약관을 위반하려는 의지가 가장 강한 행위자들의 가속화를 막을 수 있다.
사이버 보안, 생화학, 증류 시도와 관련된 개입과 달리, 이러한 보호 조치는 사용자에게는 보이지 않는다. Fable 5는 다른 모델로 대체되지 않는다. 대신 프롬프트 수정, 유도 벡터(guiding vector), 파라미터 효율적 미세 조정(PEFT) 등의 방법을 통해 효과를 제한한다. 이러한 개입은 대부분의 프로그래밍 작업에는 영향을 주지 않는다. 우리는 전체 트래픽의 약 0.03%만 영향을 받을 것으로 추정하며, 이는 전체 조직의 0.1% 미만에 집중될 것이다. 이 개입이 적용될 때, 우리는 모델의 행동에 미치는 영향은 첨단 LLM 개발 효율성 제한 외에는 미미할 것이라고 예상한다. Claude는 여전히 사용자의 요청에 유용하게 응답할 것이다. 이 모델 출시 후, 우리는 탐지 기법의 정확도를 계속 높일 계획이다.
Anthropic은 이 정책을 철회했다—Fable은 LLM 관련 요청을 Opus 4.8로 넘기고, 이를 사용자에게 공개적으로 알릴 것—하지만 나는 초기 정책이 매우 시사적이라고 생각한다. 한편으로는 Anthropic이 경쟁사를 돕고 싶지 않다는 점을 전혀 이해할 수 있다. 다른 한편으로는, Anthropic이 자신들 외에는 누구도 첨단 LLM을 개발해서는 안 된다고 생각한다는 점이 분명히 드러난다.
이 정책은 Anthropic이 단지 두 달 전에 국방부와 분쟁을 겪은 직후에 발표된 점에서 더욱 주목할 만하다. 당시 국방부는 클로드를 모든 합법적 용도로 사용하기를 원했고, Anthropic은 감시 및 자율 무기 시스템에 대해 더 엄격한 통제를 요구했다. 이 성능 저하 조치는 Anthropic이 정책적 선호를 실현하기 위해 모델을 은밀히 조정할 수 있는 능력과 의지를 동시에 보여준다. 즉, Anthropic은 일부 비평가들이 지적한 ‘공급망 위험’에 대한 가장 큰 우려를 스스로 입증한 셈이다.
그러나 이 사건에서 도출할 수 있는 더 넓은 결론은, Anthropic이 클로드의 사용 방식에 대해 최종 결정권을 가져야 한다고 믿는다는 것이다. 그들이 자신들만이 첨단 AI를 개발해야 한다고 믿는다면, 결국 그들은 AI 전체에 대한 최종 결정권도 자신들에게 있어야 한다고 믿는 것이다. 이 인식을 회사가 ‘AI가 모든 경제 활동을 수행할 수 있다’고 주장하는 발언과 결합해 보면, Anthropic 경영진이 실제로는 모든 것과 모든 사람에 대한 권력을 원한다는 사실을 깨닫게 된다.
안전성 서사
물론 Anthropic은 이런 주장을 결코 직설적으로 표현하지 않는다. 대신 이야기는 ‘안전성’을 중심으로 전개된다:
나는 Anthropic이 API 사용을 제한하기 시작하더라도, 점점 더 다양한 업무 흐름에 맞춤화된 엔드포인트를 통해 종단 사용자에게 모델 역량을 공개할 가능성이 높다고 예상한다. 이처럼 소프트웨어를 대체하고 접근을 제한하는 조치는 ‘안전성’이라는 명분으로 이루어질 것이며, 동시에 Anthropic은 종단 사용자에 더 가까이 다가가려는 경제적 필연성을 실현할 것이다.
Anthropic이 데이터 보관 정책을 대폭 변경한 이유도 안전성이다. 구체적으로, 회사는 미국 정부가 우려하는 ‘越獄(jailbreak)’ 행위를 방지하기 위해 모든 사용자 데이터를 30일간 보관해야 한다고 주장한다. 나는 안전성 요인이 이 데이터를 훈련에도 활용하도록 강제할 미래를 충분히 상상할 수 있다. 그렇게 함으로써 악의적 사용을 더 잘 방지할 수 있을 테니까.
Anthropic의 창립 이야기 전체가 창립자들의 믿음, 즉 OpenAI가 안전성을 충분히 진지하게 대하지 않았다는 믿음에 뿌리를 두고 있다. 이 회사는 오직 자신들만이 AI를 통제할 수 있으며, 유일하게 안전성에 진심으로 관심을 가지므로, 다른 모든 이들—미국 정부조차도—을 통제하려는 시도에 정당성을 부여한다고 믿는다.
이러한 안전성 논거에 대한 문제는, 그것들이 ‘논거’가 아니라는 점에 있다. 즉, Anthropic 입장에서는 안전성 논거가 단순한 변명이 아니라, 진심 어린 믿음이기 때문이다. 이 회사는 자신들이 초지능(superintelligence)을 믿는 유일한 존재이며, 따라서 위험을 진정으로 걱정하고 인간을 대신해 위험에 대응할 수 있는 유일한 존재라고 진심으로 믿는다. 이 믿음은 하나하나의 의사결정, 하나하나의 정책, 그리고 한 차례 또 한 차례의 대립을 정당화한다. 외부 관찰자에게는 이 모든 것이 냉소주의와 순진함의 이상한 조합처럼 보일 뿐이다.
OpenAI와의 대비는 극명하다. ChatGPT 출시 후 몇 년간 OpenAI가 어떻게 그리고 왜 선두 자리를 잃었는지를 이해하는 한 가지 방법은, 내부적으로 전쟁 상태에 놓여 있었다는 점을 주목하는 것이다. 한때 순수 연구 실험실이었던 OpenAI는 갑작스럽게 예상치 못한 소비자 기술 기업으로 전환되는 중대한 부담을 떠안았다. 이 내부 갈등을 해결하는 과정에서 OpenAI는 Anthropic 등 경쟁사로 대량의 인재를 유출시켰다.
반면 Anthropic은 인재, 사명감, 비즈니스 사이에서 완벽한 일관성을 유지하고 있다. 이 회사는 연구자들에게 ‘기계 신(Machine God)’을 창조하려는 비전을 제시하며, 위험을 진심으로 걱정하고 인간을 대신해 위험에 대응할 만큼 똑똑한 사람이라는 ‘광휘’를 부여한다. 그리고 이로 인해 발생하는 모든 정책 변화는 우연히도 비즈니스에 유리하게 작용한다. 이는 세상에서 가장 아름다운 우연이다.
나는 이 일관성을 존중하지만, 동시에 두려워한다. 존중하는 이유는 분명히 매우 효과적이기 때문이다. 가장 가까운 유사 사례는 애플인데, 애플 역시 항상 ‘사용자에게 옳은 일을 해주는 것’이라는 명분으로 이기적인 행동을 포장해왔다—그리고 실제로 그렇게 해왔다. Anthropic도 마찬가지다. 그러나 나는 두려워한다. 자신이 가장 잘 안다고 확신하는 사람들이 ‘나는 받아들일 수도 거부할 수도 있는 스마트폰’을 만드는 건 한 가지 문제지만, 민족 국가 수준의 권력과 맞먹거나 그것을 초월할 가능성, 혹은 단순히 대기업 수준의 권력을 가질 수 있는 초지능을 만든다면, 그건 훨씬 더 걱정스러운 문제다. 인간이 무엇을 필요로 하는지 알고 있다고 확신하는 똑똑한 사람들의 역사란 더럽다. 그들이 자신의 의도가 선하다고 스스로 설득했기 때문에, 실제로는 그렇지 않은 행동을 정당화해왔기 때문이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@benthompson
