미국 정부가 Anthropic 모델을 금지한 이유는 결코所谓 ‘탈옥(jailbreak)’ 때문이 아니다.
작성자: Zack Whittaker
번역: TechFlow
TechFlow 서두: 지난 금요일, 미국 상무부가 보낸 한 통의 서신으로 인해 Anthropic사는 자사 최강 모델인 Fable 5와 Mythos 5를 전면 중단시켰다. 정부가 제시한 이유는 ‘국가안보’였고, 외부에서는 이 모델들의 안전장치(boundary guard)가 우회된 것으로 추정했다. 그러나 점차 드러나는 새로운 단서들은 다른 해석을 시사한다. 즉, 이 사건은 오히려 트럼프 행정부와 Anthropic 간 관계 파탄 후 벌어진 보복 조치에 가깝다. 법원의 승인 없이 정부가 일방적으로 내린 명령 하나로 기술 기업의 제품을 폐쇄시킬 수 있다는 사실은, 미국 전체 기술 산업에 대한 강력한 경고 신호이다.
미국 정부가 Anthropic에 보낸 이 행정명령서는 주말을 앞두고, 회사가 최신 AI 모델 전부를 즉각 중단하도록 압박했다. 이 사태는 AI 연구소뿐 아니라 모든 미국 기술 기업에게 경종이 되어야 한다.
먼저 최근 몇 일간의 흐름을 정리해 보자. 금요일 오후, 미국 상무부는 극히 낯선 수출 통제 조항을 근거로 Anthropic에 서신을 발송해, 비미국인(Anthropic 자체 직원 포함)이 Fable 5 및 Mythos 5에 접근하는 것을 금지했다. 그 근거는 구체적으로 설명되지 않은 ‘어떤 국가안보상 우려’였다. Anthropic는 이 서신이 모델의 안전장치 우회 문제와 관련 있다고 판단했으나, 확신할 수 없었다. 왜냐하면 서신에는 구체적인 세부 정보가 전혀 포함되어 있지 않았기 때문이다. 이 서신은 현재까지 공개되지 않았다.
Anthropic의 대응은 두 개의 최고급 모델을 모든 고객에게 완전히 차단함으로써 규제 준수를 보장하는 것이었다. 결과적으로, 미국 정부는 신속하고 일방적이며 법원 승인조차 필요 없는 조치를 통해 기술 기업의 모델을 강제 중단시키는 데 성공했다.
이번 트럼프 행정부의 개입은, AI 산업이 정부 앞에서 면역력을 갖지 못함을 분명히 보여준다. 더 넓은 범위의 기술 산업에도 경고가 된다: “순응하라. 그렇지 않으면 너와 너의 제품을 동시에 폐쇄시킬 수 있다.”
Axios는 소식통을 인용해 주말 동안 양측 사이의 긴장 관계를 묘사하며, 실제 수출 금지 조치의 원인이 AI 제품 자체의 기술적 결함이라기보다는 Anthropic와 트럼프 행정부 간의 ‘성격 불일치’라고 전했다.
주말에 새롭게 부상한 추가 정보는, 이미 흔들리던 정부의 근거를 더욱 흔들어 놓았다.
사이버보안 분야의 베테랑이자 연구자이며 Luta Security 창립자인 Katie Moussouris는 자신의 블로그에서, Anthropic가 최근 그녀에게 비공개로 제출한 논문을 소개했다. 이 논문은 여러 보안 연구원들이 작성한 것으로, Fable 5 내所谓 ‘안전장치 우회’ 현상을 기술하고 있다. (월스트리트저널 보도에 따르면, 논문 저자는 아마존의 보안 연구원이다.) Moussouris는 Anthropic이 자신에게 이 논문을 보여준 이유는 그 내용에 대한 자신의 의견을 듣고 싶었기 때문이라고 밝혔다.
Moussouris는 블로그에서 연구원들이 어떻게 이 안전장치 우회를 유발했는지를 설명했지만, 그러한 우회 자체가 “수출 통제를 유발할 만한 사안이 전혀 아니”라고 지적했다. 그 차이는 미세하다: AI에게 ‘코드 내 보안 문제를 검사하라’고 요청하든, ‘이 코드를 수정하라’고 요청하든, 질문 방식만 조금 달라질 뿐, 결과는 거의 동일하다.
“논문에서 기술된 이러한 행동은 실질적으로 고칠 수 없으며, 이를 시도하는 모든 노력은 모델의 방어 측면 역량을 약화시킬 뿐이다.”라고 Moussouris는 말하며, 이 수출 통제 조치를 ‘무책임하고, 조악하며, 판단 착오’라고 비판했다.
그 후 Moussouris는 수십 명의 정상급 사이버보안 연구원 및 전문가들과 함께, 트럼프 행정부에 이 수출 통제 조치를 철회해 줄 것을 촉구했다. 그들은 선진 사이버보안 역량을 미국의 사이버 방어 담당자들로부터 빼앗는 일이 ‘위험하다’고 경고했다.
과거 여러 정부는 지식의 미지 영역에서 일괄적인 결정을 내려왔다. 예컨대 2010년대 미국 정부가 수출법을 개정할 때, 방어용으로도 사용되지만 공격용으로도 활용 가능한 사이버보안 도구들을 규제하려 했으나, 용어가 지나치게 광범위하여 합법적인 보안 및 취약점 연구를 무의식적으로 범죄로 규정할 뻔했다.
하지만 트럼프 행정부의 이번 조치는 보복처럼 보인다.
Tech Policy Press의 편집자인 Justin Hendrix는, 트럼프 행정부의 이 조치가 “외국 정부로 하여금 미국산 AI가 핵심 시나리오에서 얼마나 신뢰할 수 있는지를 의심하게 만들 가능성이 높다”고 지적했다. 전달되는 메시지는 바로 ‘미국의 AI 기업은 미국 정부의 간섭 없이 운영될 수 없다’는 것이다.
트럼프 행정부는 이 수출 통제 조치를 발동한 구체적 이유를 공식적으로 밝히지 않았다. 관료들이 해당 보고서를 잘못 해석해 당황했는가? 아마존 CEO 앤디 재시(Andy Jassy)가 신중함 또는 개인적인 불만으로 인해 정부 고위층에 어떤 이야기를 전했는가? 번역 오류 때문인가? 아니면 단순히 Anthropic를 압박하기 위한 수단인가—실제로 양측은 이미 오래전부터 관계가 매우 악화되어 있었다. 혹은 백악관이 이 서신의 요구가 초래할 막대한 연쇄 반응을 전혀 인지하지 못했고, 지금 관료들이 자신들이 만든 혼란을 수습하느라 바쁘게 움직이고 있는 것일 수도 있다.
Hendrix의 말을 빌리자면, “현재 분위기는 순전히 추측과 의심으로 가득 차 있으며, 고위 관료들은 개인적·정치적 요인에 따라 선호 대상을 선택하고 있는 듯하다.” 그 결과, 정부는 “미국에서 개발된 소프트웨어 출시에 대해 어느 정도의 통제권을 행사할 것인지”에 관한 위험한 선례를 남기게 되었다.
이번 정부의 타깃은 Anthropic이었지만, 내일의 타깃은 누구라도 될 수 있다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
TechCrunch
