Anthropic 계정 정지 사태의 심층 분석: 안전 신앙, AI 내전, 그리고 미중 탈동조화 속 클로드의 난관

2026.05.20

Anthropic 계정 정지 사태의 심층 분석: 안전 신앙, AI 내전, 그리고 미중 탈동조화 속 클로드의 난관

Anthropic이 ‘계정 정지 전문 기업’으로 전락한 배후 논리 분석: 이는 단순히 창립자의 안전 강박을 넘어서, 실리콘밸리 내 권력 다툼과 미중 간 지정학적 분리가 얽힌 클로드의 생존 위기이다.

2026.05.20 - 14:27:43

Web3 심층 보도에 집중하고 흐름을 통찰

2026년 4월, 미국의 농업기술 기업 Agricultural Technology Company에서는 직원들이 매일처럼 컴퓨터를 켜고 Claude Code를 사용해 코드 작성, 데이터 분석 및 공급망 분석을 준비하던 중, 갑작스럽게 110명 전원의 계정이 사전 경고 없이 일제히 정지되는 사태가 발생했다. 회사 네트워크 관리자의 이메일에는 Anthropic으로부터 온 메시지가 도착했는데, 내용은 “귀하의 계정에서 이용 정책 위반 활동이 탐지되어 일시 정지되었습니다”였다.

계정은 집단적으로 정지되었지만, 백엔드 API는 여전히 정상적으로 호출되었고, 요금도 계속 청구되었다. 심지어 네트워크 관리자 이메일에는 미납 요금 알림 문자까지 도착했다. 이후 이 기업의 경영진은 이의신청 이메일을 발송하고 Anthropic에 직접 연락했으나, 결국 아무런 진전도 이루지 못했다. Claude Code의 ‘파업’은 이 팀 전체를 완전히 가동 중단 상태로 몰아넣었다.

동일한 시점, 중국 인터넷 커뮤니티 V2EX, 지후(知乎), 쥐진(掘金) 등에서는 거의 전부 Claude 사용자들의 불만 폭발이 이어졌다. 어떤 이는 막 Max 구독을 결제한 직후, 계정을 한 번도 사용하지 못한 채 순식간에 정지당했다. 또 다른 이는 가상 카드로 결제를 성공한 직후 시스템이 “계정 위반”이라고 표시하며 계정을 차단했다. 또 누군가는 제3자 도구를 통해 로그인하자마자 바로 시스템 차단 조치를 받았고, 3개월 만에 4개 계정이 차단되었으며, 단 한 차례의 이의신청도 성공하지 못했다.

실제로 Anthropic이 강력한 주력 제품 Claude Code를 시장에 내놓은 후, 순식간에 1티어로 급부상하면서 동시에 ‘계정 정지 광인’이라는 별명을 얻게 되었다.

Anthropic의 투명성 허브(Transparency Hub)가 2026년 1월 발표한 2025년 하반기 리스크 관리 데이터에 따르면, 단 6개월 동안 전 플랫폼에서 누적 계정 정지 건수는 145만 개에 달했고, 이에 대한 이의신청 총건수는 5.2만 건이었으나, 그중 성공한 사례는 고작 1700건에 불과했다. 즉, 이의신청 성공률은 단지 3.3%에 불과하다.

출처:Anthropic

즉, 자신이 억울하게 정지되었다고 느끼는 사용자 100명 중, 겨우 3명만 계정을 되찾을 수 있고, 나머지 97명은 스스로 운이 나빴다고 인정할 수밖에 없다.

이는 곧 Anthropic이 우리가 일반적으로 이해하는 ‘사실을 먼저 확인한 후 규정에 따라 처벌한다’는 원칙을 따르지 않는다는 것을 의미한다. 오히려 그 핵심은 예방적 집행에 있다. 즉, 가능한 한 넓은 범위에서 위험을 사전에 차단해 잠재적 위협을 초기 단계에서 차단하는 것이 최우선 목표이며, ‘1명이라도 놓치지 않기 위해 1000명을 오류로 정지시키는 것’을 각오한다는 것이다.

이와 대조적으로, 인접한 ChatGPT와 Google Gemini는 상대적으로 유화적인 태도를 보인다.

ChatGPT는 제3자 도구나 경계선상의 프롬프트 사용에 대해 훨씬 관대하며, 계정 정지 역시 비교적 느슨하다;

Gemini도 가끔 리스크 관리가 엄격해질 때가 있으나, 예고 없이 연대책임을 묻거나 대량 정지를 시행하는 경우는 드물다.

유독 Anthropic만이 ‘계정 정지’를 일상처럼 여기며, 특히 Claude Code는 계정 정지의 ‘최대 위험 지역’이 되어버렸다.

그렇다면 Anthropic이 왜 이렇게 엄격한 사용자 정책을 채택하는 것일까? 이에 대한 이유는 다층적이며 복잡하다.

여기에는 창립자 다리오 아모데이(Dario Amodei)의 인생에 깃든 집념, OpenAI 내부의 파벌 분열, 실리콘밸리 자본의 권력 다툼, 그리고 미국 AI 산업 내 ‘안전주의파’와 ‘가속주의파’의 내전이 얽혀 있다. 또한 이는 미중 AI 탈구(脫鉤)라는 지정학적 전략 속에서, 코드 너머 숨겨진 AI 미래 통제권과 글로벌 기술 장벽을 둘러싼 거대한 각축전과도 관련이 있다.

본 기사에서는 이러한 문제를 단계별로 하나씩 해체해보겠다.

01 다리오 아모데이의 집념

Anthropic의 엄격한 리스크 관리 정책의 근본 원인은 창립자 다리오 아모데이의 인생 궤적 속에 숨어 있다. 그의 모든 선택과 집념은 결국 Anthropic의 ‘제로 토러런스(Zero Tolerance)’ 철칙으로 굳어졌고, 동시에 수많은 사용자에게 도착하는 계정 정지 메시지가 되었다.

다리오 아모데이 최근 공식 초상화 출처:Fortune

1983년, 다리오는 샌프란시스코의 평범한 이민자 가정에서 태어났다. 아버지는 이탈리아계 가죽 장인으로, 평생 손기술로 생계를 이어갔고, 성격이 완고하며 옳고 그름을 명확히 구분하는 것을 가장 중요하게 여겼다.

어머니는 유대계로, 도서관 리노베이션 건설 프로젝트를 담당했으며, 엄격한 성격으로 다리오 어린 시절부터 “책임이 무엇보다 중요하다”는 신념을 주입시켰다.

이러한 가정 분위기 속에서 다리오는 어릴 때부터 ‘원칙을 고집하고, 선을 지키는’ 성격을 형성했고, 애매모호함이나 타협을 눈살을 찌푸리며 용납하지 않았다.

어린 시절 다리오는 이미 ‘과학 괴짜’의 특성을 보였는데, 붐비는 장소를 싫어했고, 사회적 교류에도 서툴렀으며, 모든 에너지를 수학과 물리학에 쏟았다. 교과서의 지식만으로는 부족해 도서관에 틀어박혀 고도의 이론서들을 탐독하기 바빴고, 당시 그의 최대 꿈은 이론물리학자가 되어 우주의 궁극적 비밀을 탐구하는 것이었다.

2006년, 다리오의 아버지가 희귀 난치병을 앓게 되었고, 명의들을 찾아다녀도 치료가 불가능했으며 결국 세상을 떠났다. 아버지의 죽음은 20세의 다리오에게 치명타를 안겼고, 그의 세계관을 완전히 뒤바꿔놓았다.

그는 아버지가 병고에 시달리는 모습을 보며, 의학이 해결하지 못하는 현실을 직시했다. 순간 그는 추상적인 이론물리학이 지금 눈앞의 사람을 구하지 못하고, 질병으로 고통받는 평범한 이들을 구하지 못한다는 사실을 깨달았다.

그는 즉각 오랜 기간 몰두해온 이론물리학을 포기하고, 생물물리학으로 전향해 “과학을 통해 인간의 질병을 치료하겠다”는 각오를 다졌다. 그리고 ‘통제 불가능한 리스크를 통제한다’는 신념을 자신의 골수 속 깊이 새겼다.

이 집념은 그의 전직업 기간을 관통한다:

먼저 캘리포니아공과대학(Caltech)에서 학부 과정을 시작했으나 중도에 스탠포드대학으로 전학하여 물리학 학사 학위를 취득했다. 이후 프린스턴대학에서 생물물리학 박사 과정에 진학해 헤르츠 장학금(Hertz Fellowship) 수혜자로 선정되었고, 생물분자 구조와 질병 간의 연관성을 전문으로 연구했다. 박사 졸업 후에는 스탠포드 의과대학에서 박사후 과정을 수행하며 희귀병 대응 방안을 찾기 위한 생물의학 분야 연구를 계속했다.

2014년, 앤드루 응(Andrew Ng, 오언다)이 그에게 백도(百度) 미국 연구소 입사를 제안했을 때, 그는 처음으로 인공지능(AI)을 접하게 된다.

당시 AI는 매우 초기 단계로, 주로 영상 인식 및 음성 합성에 활용되고 있었으나, 다리오는 AI가 단순히 삶을 바꾸는 수단을 넘어서, 리스크를 억제하고 인류를 구원할 수 있는 ‘슈퍼 툴’이 될 수 있다는 점을 민첩하게 인식했다. 다만 이를 위해서는 반드시 엄격하게 통제되어야 하며, 통제 불가능한 상태로 방치되어서는 안 된다는 전제가 있었다.

백도를 떠난 후, 그는 구글 브레인(Google Brain)에 합류해 고급 연구 과학자로 활동하며 딥러닝 분야, 특히 AI의 안전성—즉, AI가 인간을 해치지 않도록 ‘말 잘 듣는’ 방법—을 중점적으로 연구했다.

이 시기 그는 인간의 가치관을 AI의 ‘기초 단계’에 진정으로 내재시키는 방법을 고민하기 시작했고, 단순히 출력 후 필터링하는 수준을 넘어섰다.

2016년, OpenAI가 창립된 직후, “오픈소스, 비영리, 인류 복지 증진을 위한 AI 발전”이라는 구호로 전 세계 최정상급 AI 인재들을 끌어모았다. 다리오는 OpenAI의 이념에 감명받아 가입했고, 최고 수준의 기술 역량을 바탕으로 AI 안전팀 책임자에서 연구 총괄 디렉터, 그리고 연구 부사장까지 진급하며 GPT-2, GPT-3 개발 전 과정에 참여했다.

다리오 아모데이 초기 경력 시기 사진 (OpenAI/Google Brain 시기, 약 2018–2021) 출처: bigtechnology

이 기간 동안 그는 RLHF(인간 피드백 강화학습, Reinforcement Learning from Human Feedback) 기술의 공동 발명자이기도 했다. 이 기술은 간단히 말해, 인간의 피드백을 통해 AI의 출력을 보정함으로써 인간의 가치관에 더 부합하도록 만드는 것으로, 이후 AI 산업 전반의 ‘안전 패치’가 되었다. 당시 다리오는 AI가 안전하게 실천·활용될 수 있도록 하는 방안에만 몰두하고 있었으나, 자신의 이상이 현실에 의해 급격히 무너질 줄은 몰랐다.

OpenAI 내부 분쟁: 안전주의파와 가속주의파의 분열

많은 이들이 다리오 아모데이가 2021년에 팀을 이끌고 OpenAI를 떠나 Anthropic을 창립했다는 사실은 알고 있지만, 이 ‘탈주’ 뒤에는 오랜 기간 이어진 이념 갈등, 권력 다툼, 그리고 다리오에게 깊은 상처를 남긴 ‘배신’이 숨어 있다는 사실은 잘 모른다.

OpenAI 창립 초기에는 실제로 ‘비영리, 안전 우선’ 이념을 고수했고, 마스크(Elon Musk)는 초기 투자자로서 AI 안전을 최우선 과제로 삼았다. 그러나 시간이 흐르면서, 특히 샘 알트먼(Sam Altman)이 OpenAI CEO로 취임한 이후, 회사의 방향성은 급격히 변화하기 시작했다.

샘 알트먼은 전형적인 ‘가속주의자’로, AI의 발전 속도가 시대의 흐름을 따라야 한다고 믿었다. 즉, 먼저 모델 규모를 키우고 성능을 높여 시장 선점을 확보하고, 상업화를 달성한 후에야 안전 문제를 해결해야 한다는 입장이었다.

OpenAI와 Anthropic의 파벌 분열 상징도 (샘 알트먼 vs. 다리오 아모데이 합성) 출처: wsj.com

그의 주도 하에 OpenAI는 ‘비영리’ 성격을 점차 희미하게 만들고, 적극적인 상업화 협력을 추진하며, 마이크로소프트(Microsoft)와의 긴밀한 협력을 통해 더 많은 자금과 컴퓨팅 파워를 확보하려 했다. 이는 단지 GPT 시리즈 모델의 빠른 반복 개발과 AI 시장 주도권 확보를 위한 것이었다.

그러나 이러한 모든 움직임은 다리오 아모데이에게 받아들일 수 없는 것이었다.

그에게 AI는 단지 시장 점유율을 위한 도구가 아니라, “인류를 치유할 수도, 멸망시킬 수도 있는 문명 수준의 힘”이었다. 따라서 안전 문제를 먼저 해결하지 않고, AI와 인간의 ‘정렬(alignment)’을 확보하지 않은 채 모델을 방치한다면, 만일 모델이 통제를 벗어나면 그 결과는 상상조차 어렵다.

그는 여러 차례 회사 내부에서 모델 반복 개발 속도를 늦추고, 안전성 테스트를 강화하며, ‘정렬 우선’을 최우선 과제로 삼아야 한다고 주장했으나, 그의 목소리는 점점 더 주변부로 밀려났다.

사실 이념적 차이는 겉으로 드러난 표면일 뿐이다. 더 깊은 갈등은 권력 재편과 공적 인정의 문제에 있었다.

《월스트리트저널》(WSJ)이 2026년에 보도한 심층 기사에 따르면, 다리오 아모데이는 GPT-3 개발 과정에서 핵심적 기여를 했고, 특히 RLHF 기술의 실제 적용을 주도했다. 그러나 공식 홍보에서는 그의 공적이 크게 과소평가되었으며, 샘 알트먼 팀은 ‘모델 규모와 성능’을 강조하는 데 집중했고, 다리오가 주도한 안전 기술은 무시되었다.

또한 다리오를 더욱 실망시킨 것은, 이념 차이로 인해 마스크가 OpenAI를 떠난 후, 회사의 경영권이 완전히 샘 알트먼의 손으로 넘어갔고, 안전팀 예산은 대폭 삭감되었으며, 핵심 안전 연구 프로젝트들은 중단되었다. 심지어 일부 고위 임원은 공개적으로 “안전 문제는 뒤로 미뤄도 좋고, 먼저 상업화를 실현해 돈을 벌고 나서야 안전 문제를 해결해도 늦지 않다”고 발언하기도 했다.

다리오는 자신이 OpenAI에서 더 이상 ‘AI의 안전한 실현’이라는 이상을 실현할 수 없다는 사실을 깨달았다. 그는 이후 렉스 프리드먼(Lex Fridman)의 팟캐스트에서 이 경험을 회상하며, 평온한 어조 속에 단호함을 담아 말했다. “핵심 비전에 대해 타인과 논쟁하는 것은 극도로 생산성이 없는 일이다. 시간 낭비를 하기보다는, 직접 사람을 모아 자신의 이상을 실현하는 편이 낫다.”

2021년 초, 천재 AI 연구자 다리오는 실리콘밸리에 충격을 준 결정을 내렸다. 그는 자신의 언니 다니엘라 아모데이(Daniela Amodei, 현재 Anthropic의 CEO)와 OpenAI의 핵심 안전팀 및 연구 골간 인재들을 이끌고 집단 탈퇴했다.

다리오 아모데이와 언니 다니엘라 아모데이 합영 사진 출처: Fortune

이 탈퇴는 OpenAI의 가속주의에 대한 완전한 청산이자, 안전 우선 이념에 대한 확고한 수호를 의미했다.

당시 OpenAI는 공식 입장문을 통해 다리오 팀의 새로운 여정을 축하한다고 밝혔으나, 실은 양측 사이의 갈등은 이미 회복 불가능한 수준이었다.

실제로 다리오가 데려간 것은 단지 최정상급 인재뿐 아니라, OpenAI의 가장 핵심적인 안전 기술과 이념이기도 했고, 이것이 바로 후일의 Anthropic을 탄생시켰다. 반면 OpenAI는 다리오의 떠남 이후 완전히 상업화 가속화의 길로 들어섰고, 이는 다리오의 본래 이상과 점점 더 멀어져갔다.

출처:OpenAI

Anthropic의 ‘안전 종교’

2021년 2월, 다리오 아모데이는 공식적으로 Anthropic을 설립하였고, ‘공익기업(Public Benefit Corporation)’으로 정체성을 부여했다. 즉, 회사의 핵심 목표는 이윤 극대화가 아니라 “AI의 안전하고 통제 가능한 발전을 촉진해 인류 복지에 기여하는 것”이었다.

그의 아버지 사망에서 비롯된 ‘리스크 통제’에 대한 집념, OpenAI 탈퇴 후 고수한 ‘안전에 대한 초심’, 모두 Anthropic의 핵심 제도로 굳어졌고, 회사 DNA 속 깊이 각인된 ‘안전 종교’가 되었다.

Anthropic 창립 초기, 다리오는 ‘헌법 AI(Constitutional AI)’라는 핵심 개념을 도입했는데, 이는 그가 오랜 기간 ‘AI 안전’에 대해 고민해온 결실이자, OpenAI나 Google Gemini와 구분되는 차별화 포인트이기도 하다.

헌법 AI 원리도 출처: Aashka Patel

헌법 AI는 OpenAI가 채택한 RLHF 방식처럼 ‘출력 후 보완’을 하는 것이 아니라, 모델 훈련의 근본 단계에서 AI에게 일종의 ‘헌법’을 심어주는 방식이다. 이 헌법은 유엔 인권 선언, 인류 공통 윤리 기준, Anthropic 자체의 안전 원칙을 융합한 것으로, AI가 출력을 생성하거나 명령을 실행하기 전에 항상 스스로 ‘검토’하고 ‘비판’하도록 해, 인간의 가치관에 부합하며 위험한 콘텐츠를 전혀 생성하지 않도록 보장한다.

다리오는 〈사랑스러운 기계들(Machines of Loving Grace)〉과 〈기술의 청춘기(The Adolescence of Technology)〉라는 두 편의 장문을 직접 집필해, 자신의 AI 비전을 상세히 설명했다.

그는 AI를 청소년기에 있는 아이에 비유했다. 강력한 잠재력을 지니되 불확실성도 크기 때문에, 반드시 사전에 규칙을 세우고 방어선을 구축해야만 잘못된 길로 빠지지 않을 수 있다고 주장했다. 이때 헌법 AI는 바로 그런 ‘규칙’이자 ‘방어선’의 역할을 한다.

이 ‘안전 종교’는 모델 훈련에만 국한되지 않고, Anthropic의 모든 제품과 리스크 관리 정책 전반에 직접 반영된다. 예를 들어, Claude Code는 높은 권한을 갖춘 설계로, 프롬프트 주입 탐지기와 대화 분류기를 함께 탑재해, AI가 명령을 실행하기 전에 추가로 자기 검토를 수행하도록 한다. 또한 ‘예방적 집행’ 리스크 관리 논리, 즉 ‘무고한 자를 오류로 처벌하더라도 한 명의 의심스러운 행위라도 놓치지 않겠다’는 태도는, 리스크를 초기 단계에서 완전히 차단하려는 목적을 반영한다.

2026년 Anthropic이 미국 국방부(DOD)와 벌인 직접 대결은 이 ‘안전 원리주의’를 가장 잘 보여주는 사건이다. 이 사건은 실리콘밸리뿐 아니라 전 세계에 걸쳐 다리오 아모데이가 이익을 포기하더라도 안전을 결코 타협하지 않겠다는 단호함을 각인시켰다.

2026년 초, 미국 국방부는 Anthropic에 다음과 같은 두 가지 안전 장치 제거를 요구했다.

첫째, Claude가 ‘미국 시민 대규모 감시’에 사용되지 않도록 금지하는 조항;

둘째, Claude가 ‘완전 자율 치명 무기’의 개발 및 배치에 사용되지 않도록 금지하는 조항.

국방부는 Anthropic이 이 조건을 수용하면, 2억 달러 규모의 국방 계약을 체결해주고, 막대한 컴퓨팅 파워도 지원하겠다고 약속했다.

당시 Anthropic은 컴퓨팅 파워 부족과 자금 압박이 심각한 상황이었고, 2억 달러의 국방 계약은 당장의 위기를 해소할 수 있는 절호의 기회였다.

그러나 다리오 아모데이는 이를 단호히 거부했다.

그는 공식 성명을 통해 단호한 어조로 밝혔다. “인류를 해치거나 인권을 침해할 수 있는 기술을 개발하는 것은 우리의 양심에 어긋나는 일이다. Claude의 안전 장치는 우리 원칙의 ‘레드라인’이며, 절대 타협할 수 없다.”

그의 거부는 미국 국방부를 완전히 격노시켰다. 트럼프 행정부의 주도 하에 국방부는 Anthropic을 ‘공급망 리스크’ 블랙리스트에 등재했다. 이는 미국 역사상 처음으로 자국 AI 기업을 해당 명단에 올린 사례로, 모든 미국 국방 계약업체가 Anthropic의 제품 및 서비스를 사용하는 것을 금지한다는 의미였다. 더 나아가 국방부는 《국방생산법(Defense Production Act)》을 발동해 Anthropic에 강제로 안전 장치를 제거하도록 압박하기도 했다.

국가 기관의 압박 앞에서 다리오 아모데이는 미국 국방부를 상대로 직접 소송을 제기했다. 그는 이 조치가 ‘Anthropic에 대한 보복적 처벌’이며, 미국의 법과 가치관에 위배된다고 주장했다. 비록 항소법원이 Anthropic의 임시 금지 명령을 기각했으나, 다리오는 끝내 타협하지 않았다. 막대한 계약 손실과 미국 국방 산업 전반의 배제라는 희생을 감수하면서도, 자신의 ‘안전 라인’을 끝까지 고수했다.

이제 우리는 분명히 알 수 있다. Anthropic의 엄격한 리스크 관리는 단순한 정책이 아니라, 다리오 아모데이의 개인적 집념, AI의 통제 실패에 대한 두려움, 그리고 OpenAI에서 얻은 ‘교훈’을 모두 회사 제도로 내재화한 결과물이다.

그에게는 모든 의심스러운 사용자 행동, 잠재적 리스크 하나하나가 AI 통제 실패의 ‘도화선’일 수 있다. 따라서 이처럼 엄격한 조치가 필요한 것이다.

그리고 우리 중국 사용자들이 지역 제한을 우회하기 위해 중계 서버, SMS 인증 서비스, 가상 카드 등을 사용하거나, 제3자 도구로 ‘양털 깎기’를 시도하는 행위는, 다리오의 ‘안전 종교’ 관점에서 보면 가장 위험한 ‘도화선’으로 간주되므로, 계정 정지는 필연적인 결과가 된다.

02 미국 AI 내전 — 안전주의파 vs. 가속주의파의 자본 및 권력 다툼

안전 프리미엄과 규모 확장, 근본적으로 다른 생존 논리

많은 이들이 다리오의 안전 집념은 Anthropic의 장기적 성장을 뒷받침하기 어렵다고 생각한다. 사실 AI 연구는 자금 소모가 극심한데, 지속적인 자금과 이윤 없이는 아무리 확고한 신념도 현실화되기 어렵기 때문이다.

이 말은 틀리지 않지만, 바로 Anthropic의 독특한 비즈니스 모델이 다리오에게 ‘제로 토러런스’ 리스크 관리 정책을 시행할 수 있는 자신감을 부여했고, 이는 OpenAI나 Google Gemini와는 완전히 다른 길을 걷게 했다.

Anthropic: 소비자 시장의 열광을 포기하고, 기업 고객의 ‘안전 프리미엄’을 고집함。

Anthropic은 초기부터 일반 사용자를 핵심 타깃으로 삼지 않았다. 그들의 목표는 은행, 로펌, 의료기관, 정부 부처 등 ‘고가치·저관용’ 기업 고객이었다.

이들 고객이 가장 두려워하는 것은 무엇인가?

바로 AI가 유해 콘텐츠를 출력하거나 민감 정보를 유출함으로써 소송, 평판 붕괴, 심지어 규제 벌금을 초래하는 것이다.

따라서 이들에게 ‘안전’은 선택이 아니라 필수 조건이며, Anthropic이 ‘가장 안전한 AI’라는 브랜드 이미지를 유지한다면, 이들은 더 높은 프리미엄을 지불하고 장기 안정적인 대규모 계약을 맺을 의사가 있다.

이것이 바로 Anthropic의 리스크 관리 논리다. 일반 사용자 1000명을 오류로 정지시키더라도, 한 명의 기업 고객이 안전 문제로 피해를 보는 일은 절대 허용하지 않는다.

왜냐하면 일반 사용자의 이탈은 수익에 거의 영향을 미치지 않지만, 기업 고객이 보안 결함으로 이탈할 경우, 수백만~수천만 달러 규모의 계약 손실은 물론, ‘안전 AI’라는 핵심 평판 자체가 무너질 수 있기 때문이다.

Anthropic의 Pro/Max 구독 모델은 본질적으로 ‘보조금 형태의 유입 전략’이다. 즉, 저렴한 가격과 높은 토큰 할당량을 제공해 사용자에게 무료 체험 기회를 주는 방식인데, 이 모델 자체는 이윤을 내지 못하고 오히려 손해를 보는 경우가 많다.

업계 내부 추정에 따르면, Claude의 토큰 비용은 극도로 높아, Pro/Max 구독료는 토큰 비용의 99%를 거의 모두 흡수한다. 따라서 사용자가 제3자 도구를 이용해 ‘양털 깎기’를 시도하거나, 소비자용 구독을 이용해 고가의 API를 우회해 대량 호출을 시도할 경우, Anthropic은 막대한 손실을 입게 된다.

그래서 2026년 초 진행된 제3자 도구 대규모 정리(OpenClaw, OpenCode 등 차단), 중증도 사용자 대량 정지, 그리고 농업기술 기업 110명 조직 차원의 정지 조치는 모두 Anthropic의 ‘정밀 청산’ 작업이었다. 즉, 양털 깎기 일반 사용자와 막대한 컴퓨팅 파워를 소비하는 중증도 사용자를 퇴출시키고, 그 자원을 고가를 지불할 의사가 있는 기업 고객 및 API 고객에게 집중시키는 전략이었다.

이는 안전 고려를 넘어서, 냉혹한 경제적 계산이기도 하다. 양털 깎기 사용자들에게 끌려 망가지는 것보다는, 적극적으로 ‘양털 깎기 사용자’를 제거해 이윤 기반을 지키는 편이 낫다는 판단이다.

ChatGPT(OpenAI): 규모 확보 후 수익화, 관대한 리스크 관리로 트래픽 확보。

샘 알트먼의 가속주의는 모델 반복 개발에만 국한되지 않고, 비즈니스 모델에도 그대로 반영된다.

OpenAI는 ‘영토 확보’ 전략을 채택해, 초기에는 무료 또는 저가 구독을 통해 사용자 유입을 극대화했고, 리스크 관리가 다소 느슨해도, 소량의 위반 행위가 있더라도 계정을 쉽게 정지시키지 않았다.

왜냐하면 OpenAI에게는 사용자 규모가 생명선이기 때문이다. 충분한 사용자 기반이 있어야 마이크로소프트의 자금 지원을 유치할 수 있고, API, 기업용 버전, 플러그인 생태계 등 상업화 전략에서도 우위를 점할 수 있다. 예를 들어, 최근 마케도니아 국민과의 공동 브랜딩을 통해, 마케도니아 국민은 1년간 GPT를 무료로 사용할 수 있게 되었다.

OpenAI은 심지어 제3자 도구 생태계를 적극적으로 포용하기도 하는데, 일부 도구가 ‘양털 깎기’를 시도하더라도, 선택적 차단만 시행할 뿐, Anthropic처럼 ‘일괄적 대량 정지’는 시행하지 않는다.

왜냐하면 OpenAI은 제3자 도구가 사용자 유지를 도와주고, 생태계 영향력을 확대하는 데 더 큰 가치가 있으며, 이는 소량의 토큰 손실보다 훨씬 중요하다는 판단 때문이다.

Google Gemini: 생태계 패권 우선

Gemini는 구글의 광고 제국과 검색, 유튜브, 안드로이드, 클라우드 등 전 생태계를 뒷받침으로 삼고 있다. 따라서 그 핵심 목표는 Gemini 자체로 수익을 내는 것이 아니라, Gemini를 통해 구글 전체 생태계의 트래픽과 수익을 견인하는 것이다.

따라서 그 리스크 관리 논리는 ‘큰 문제만 안 나면 된다’는 수준이다. 심각한 보안 사고나 규제 제재가 발생하지 않는 한, 일반 사용자의 경미한 위반 행위(예: 약간의 IP 이상, 제3자 도구 사용)는 눈감아주는 편이다.

Gemini는 가끔 리스크 관리를 강화하기도 하지만, 이는 대부분 규제 당국을 위한 ‘합법성 연기’일 뿐, Anthropic처럼 안전을 이유로 대량 사용자를 포기하지는 않는다.

왜냐하면 구글에게는 일일 활성 사용자 수(DAU)와 생태계 호환성이 절대적 안전보다 훨씬 중요하기 때문이다. 구글은 ‘안전 브랜드’로 고객을 유치할 필요가 없으며, 그 자체의 브랜드와 생태계가 이미 가장 큰 자신감의 근거이기 때문이다.

그 외에도 Anthropic은 숨겨진 비용 논리가 하나 더 있다.

2026년 4월, Anthropic은 공식 블로그를 통해, 지연 시간을 줄이고 토큰 소비를 감소시키며 사용자 경험을 개선하기 위해 Claude Code의 기본 추론 강도를 낮췄으나, 이후 안전 리스크가 발견되어 긴급히 복원하고 통제를 강화했다고 인정했다. 이 일은 최근에도 논란이 일었다.

따라서 나는 Anthropic이 ‘안전, 지연 시간, 비용, 할당량’이라는 네 가지 차원에서 언제나 ‘안전’을 최우선으로 삼는다고 본다. 사용자 경험을 희생하거나 비용을 증가시키더라도, 절대 타협하지 않는다. 이는 다리오의 집념이자, 그 비즈니스 모델이 필연적으로 요구하는 선택이다.

Amazon/Google, 이해관계가 얽힌 균형술

사실 다리오의 안전 집념이 얼마나 확고하더라도, 자본의 뒷받침 없이는 지속 불가능하다. AI 연구의 자금 소모 속도는 일반인의 상상을 초월하며, 대기업의 자금과 컴퓨팅 파워 지원 없이는 Anthropic이 오늘날까지 살아남지 못했을 것이다.

아마존과 구글의 투자는 단순히 ‘안전한 AI 개발’을 지지하는 것처럼 보이지만, 실은 정밀한 전략적 포지셔닝이자 Anthropic의 리스크 관리 논리를 은밀히 뒷받침하는 힘이기도 하다.

핵심 투자 데이터를 살펴보면, 자본 간 다툼을 이해하는 데 핵심이 된다.

아마존: Anthropic에 총 40억 달러 이상 투자했으며, 현금뿐 아니라 막대한 AWS 클라우드 컴퓨팅 리소스도 포함된다. Anthropic이 Claude 3 시리즈 등 첨단 모델을 훈련하려면 엄청난 컴퓨팅 파워가 필요하며, AWS의 지원은 마치 ‘눈 먼데 눈물 나게’ 하는 구원이었다.

구글: Anthropic에 총 20억 달러 이상 투자했고, 동시에 막대한 컴퓨팅 파워와 기술 지원을 제공했다. 이는 Anthropic의 AI 기술을 활용해 자사의 대규모 언어 모델(LLM) 분야 부족을 보완하려는 목적이다. 자사의 Gemini가 있지만, Anthropic을 투자함으로써 Vibe Coding 분야의 역량 부족을 보완하려는 것이다.

이 대기업들이 투자하는 데는 모두 자신들의 핵심 전략적 목적(‘core诉求’)이 있다.

아마존 입장에서는, Anthropic 투자를 통해 Claude를 AWS 생태계에 깊이 연동시키려 한다. 기업 고객이 Claude를 사용하려면 반드시 AWS 클라우드 리소스를 사용해야 하며, 이는 AWS 수익 증가로 이어진다.

또한 아마존은 Anthropic의 ‘안전 브랜드’를 통해 규제 리스크를 상쇄하려 한다. AI 규제가 점점 강화되는 가운데, Anthropic처럼 극도로 안전한 파트너가 있다면, 아마존의 AI 전략은 더욱 안정적으로 운영될 수 있고, 규제 처벌을 피할 수 있다.

구글 입장에서는, Anthropic 투자를 통해 OpenAI와 마이크로소프트의 독점 구도를 깨려 한다. 구글은 대규모 언어 모델 분야에서 초기에 진입했으나, 진전이 더뎠고, Gemini의 성능은 여전히 Claude나 ChatGPT에 미치지 못한다. 따라서 Anthropic에 투자함으로써 핵심 기술을 확보하고, OpenAI의 사용자 및 고객을 분산시켜 자사의 AI 생태계 입지를 공고히 하려는 것이다.

그러나 여기에 중요한 다툼 포인트가 하나 있다.

대기업은 Anthropic이 ‘안전’하길 원하지만, ‘지나치게 안전’하기는 원하지 않는다.

이 논리는 다음과 같다. 만약 Anthropic이 지나치게 보수적이 되고, 리스크 관리가 지나치게 엄격해 사용자 이탈과 생태계 위축을 초래한다면, 이는 대기업의 전략적 배치에도 악영향을 미친다.

예를 들어, 앞서 언급한 2026년 펜타곤이 Anthropic을 ‘공급망 리스크’ 블랙리스트에 등재한 후, 아마존과 구글은 군 당국의 조치를 따르지 않았고, 오히려 민간 분야에서 Anthropic과의 협력을 지속하며, 컴퓨팅 파워 지원을 더욱 확대했다. 왜냐하면 그들이 투자한 자금과 리소스가 너무 크기 때문에, Anthropic이 지나친 안전주의로 인해 망하는 것을 용인할 수 없었고, 투자금이 물거품이 되는 것도 막아야 했기 때문이다.

따라서 이는 미묘한 균형을 형성한다.

다리오는 자신의 안전 집념을 오랜 기간 고수하며 ‘제로 토러런스’ 리스크 관리를 시행하고,

자본은 뒤에서 ‘말을 잡아당기며’, 안전 정체성을 지지하면서도 극단적 행위를 암묵적으로 억제해, Anthropic이 과도한 보수성으로 인해 상업적 가치를 잃지 않도록 보장한다.

이와 대조적으로, OpenAI와 Gemini의 자본 연계 논리는 훨씬 단순하다.

OpenAI는 마이크로소프트와 깊이 연계되어 있는데, 마이크로소프트는 단지 자금과 컴퓨팅 파워를 제공하는 것을 넘어서, ChatGPT를 자사의 Office, Azure 등 제품에 통합시켜 ‘이익 공동체’를 형성했다. 따라서 OpenAI의 리스크 관리가 관대한 것은, 본질적으로 마이크로소프트의 ‘생태계 확장’ 전략에 부합하기 때문이다.

Gemini는 구글의 ‘친아들’이므로 외부 자본에 의존하지 않으며, 리스크 관리 정책은 구글의 전체 생태계 전략에 완전히 복무한다. 따라서 유연성이 훨씬 높다.

따라서 Anthropic의 엄격한 리스크 관리는 다리오의 개인적 집념처럼 보이지만, 실은 자본의 ‘추동력’도 작용한 결과이다.

대기업은 그들의 ‘안전 브랜드’를 필요로 하고, Anthropic은 대기업의 자금과 컴퓨팅 파워를 필요로 하며, 양측은 각자의 이익을 추구한다. 그리고 일반 사용자의 계정은 이 이해관계 연계의 희생양이 된 것이다.

미국 AI 내전의 공개적 격돌

현재 미국 AI 산업은 이미 두 개의 진영으로 분열되었다.

하나는 Anthropic을 중심으로 한 ‘안전주의파’이고, 또 하나는 OpenAI와 군사 체계를 중심으로 한 ‘가속주의파’이다. 이 두 진영의 경쟁은 은밀한 견제에서 점차 공개적 격돌로 발전해가고 있으며, Anthropic의 리스크 관리 태도는 바로 이 내전의 직접적인 반영이다.

두 진영의 핵심 주장을 먼저 명확히 정리하면, 이 내전의 본질을 이해할 수 있다.

안전주의파:

이 진영의 핵심 주장은 ‘AI 안전 우선, 리스크 통제가 최우선’이다. 그들은 AI를 ‘인류 멸종 가능성을 지닌 종 수준의 리스크’로 보며, 발전 속도를 늦추고, 안전 테스트를 강화하며, 엄격한 안전 장치를 구축해야 한다고 주장한다. 심지어 강제 규제를 촉구하며, AI의 군사 및 대규모 감시 등 위험 분야 활용을 단호히 반대한다.

다리오 아모데이는 이 진영의 핵심 대표이며, EA(효율적 이타주의, Effective Altruism) 커뮤니티는 이 진영의 주요 지지 세력이다. 이들은 ‘이성과 과학을 통해 인류의 장기적 이익을 극대화’하려는 것을 지향하며, AI 안전은 그 핵심 의제이다.

가속주의파:

가속주의파의 핵심 주장은 ‘AI 가속 발전, 군비경쟁 선점’이다. 그들은 AI를 ‘대국 간 경쟁의 핵심 경쟁력’으로 보며, 모델을 신속히 반복 개발하고, 상업화 및 군사적 응용을 실현해 글로벌 AI 주도권을 선점해야 한다고 주장한다. 안전 문제는 뒤로 미뤄두고, 기술이 성숙한 후에 점진적으로 해결하면 된다는 입장이다.

샘 알트먼, 미국 국방부, 일부 군수 기업, 그리고 트럼프 행정부의 일부 관료(예: 국방부를 주도한 헤그세스)가 이 진영의 핵심 세력이다.

이 내전의 핵심은 AI 발전에 대한 ‘말씀권’이다. 즉, AI가 엄격한 규제 하에서 느리게 발전할 것인지, 아니면 가속주의파가 주도해 상업 및 군사 수요에 부응하며 빠르게 진화할 것인지를 둘러싼 다툼이다.

그리고 2026년 펜타곤 블랙리스트 사건은 바로 이 내전의 ‘공개적 폭발점’이었다.

따라서 앞서 언급한 관점에서 이 사건을 다시 돌아보면 다음과 같다.

2026년 초, 미국 국방부는 Anthropic에 대해 Claude의 두 가지 핵심 안전 장치 제거를 요구했다. 즉, ‘미국 시민 대규모 감시’ 및 ‘완전 자율 치명 무기’ 개발에의 활용을 금지하는 조항을 제거하라는 것이다.

이것은 본질적으로 가속주의파의 시험적 접근으로, Anthropic이 군사 체계의 ‘도구’가 되어 타협하도록 유도하려는 시도였다.

그러나 다리오 아모데이는 이를 단호히 거부했다. 2억 달러의 국방 계약과 컴퓨팅 파워 지원이라는 유혹 앞에서도, 국방부의 위협 앞에서도, 그는 자신의 안전 라인을 끝까지 고수했다.

이 ‘비타협’은 가속주의파를 완전히 격노시켰다. 가속주의파는 Anthropic의 행동이 미국의 AI 군비경쟁을 방해하고, ‘발목을 잡고 있다’고 판단했다.

이에 가속주의파는 국가 기관의 힘을 동원해 Anthropic에 ‘역공’을 가했다. 트럼프 행정부 주도 하에 국방부는 Anthropic을 ‘공급망 리스크’ 블랙리스트에 직접 등재했다.

이는 미국 역사상 첫 번째로 자국 AI 기업을 해당 명단에 등재한 사례로, 모든 미국 국방 계약업체가 Anthropic의 제품 및 서비스를 사용하는 것을 금지한다는 의미였다. 더 나아가 국방부는 《국방생산법》을 발동해 Anthropic에 강제로 안전 장치를 제거하도록 압박했고, 처벌까지 경고했다.

이 ‘역공’은 겉보기에는 Anthropic과 국방부의 갈등이지만, 실은 안전주의파와 가속주의파의 공개적 격돌이다.

가속주의파는 국가 기관을 동원해 안전주의파의 타협을 강요하고, AI를 군사 수요에 복무시키려 한다. 반면 안전주의파는 자신의 이념을 고수하며, 이익을 포기하더라도 안전 라인을 절대 타협하지 않는다.

더 주목할 점은, 이 내전에서 OpenAI와 Gemini는 ‘타협’을 선택했다는 점이다.

OpenAI는 국방 계약을 얻기 위해 이미 조용히 안전 정책을 조정해 군사 관련 응용에 대한 제한을 완화했다. Gemini는 구글의 제품으로서 군사 수요에 대해 ‘유연한 준수(Flexible Compliance)’ 태도를 취하며, Anthropic처럼 국방부에 공개적으로 맞서지 않았다.

이러한 대조는 Anthropic의 극단성을 더욱 부각시킨다.

그들이 ‘제로 토러런스’ 리스크 관리를 시행하는 것은 단순히 안전 이념을 고수하기 위한 것뿐만 아니라, 이 내전 속에서 자신을 ‘안전주의파의 핵심’으로 자리매김하고, ‘책임 있는 AI’라는 도덕적 고지를 선점하기 위한 전략이기도 하다. 그들에게는 계정 하나하나의 정지가 외부에 전달하는 신호다. “우리는 가장 안전한 AI이며, 이익을 위해 안전 라인을 결코 타협하지 않는다.”

그리고 이 내전은 Anthropic의 리스크 관리를 더욱 엄격하게 만들었다. 왜냐하면 자신이 조금이라도 느슨해지면, 가속주의파가 이를 빌미로 삼아 자신들의 핵심 경쟁력을 약화시킬 수 있기 때문이다.

따라서 Anthropic은 리스크 관리를 더욱 강화하고, ‘예방적 대량 정지’ 범위를 확대할 수밖에 없었다. 무고한 사용자들을 더 많이 오류로 정지시키더라도, 자신의 ‘안전 성채’는 반드시 지켜야 했다.

즉, Anthropic의 계정 정지 대란은 미국 AI 산업 내부 다툼의 외부로의 확산 결과이기도 하다.

안전주의파와 가속주의파의 경쟁, 자본과 권력의 끌어당김은 결국 일반 사용자의 계정에까지 영향을 미쳤다. 계정 정지는 바로 이 내전의 가장 직접적이고 잔혹한 표현이다.