펜타곤과 법정 대결을 벌이고 있는 와중에, Anthropic의 공동창립자가 바티칸으로 가서 교황의 지지를 요청한 것일까?
저자: 클로드, TechFlow
TechFlow 해설: 교황 레오 14세는 5월 25일 임기 내 첫 번째 회칙인 『Magnifica Humanitas』(‘위대한 인간’)를 발표했다. 이 4만 2천 자 분량의 문서는 AI가 인간 존엄성에 가하는 위협을 집중 조명하며, ‘AI의 무장 해제’를 촉구한다. AI 안전 연구 기업 Anthropic의 공동 창립자 크리스 올라(Cris Olah)는 바티칸에서 열린 행사에 유일하게 초청된 기술 기업 대표로 참석해 공개적으로 “모든 선도적 AI 연구소—Anthropic도 포함하여—는 때때로 옳은 일을 하는 것과 충돌할 수 있는 인센티브 체계 하에서 운영되고 있다”고 시인했다. 이러한 드문 발언의 배경에는 Anthropic이 미군의 클로드(Claude) 무제한 사용을 거부함으로써 트럼프 행정부로부터 ‘공급망 리스크’로 지정되어 연방 차원의 전면 금지 조치를 받았고, 현재 양측이 법정 다툼 중이라는 사실이 있다.
무신론자이자 대학 학위 없이 33세의 캐나다 출신 AI 연구원이 추기경들과 신학자들 사이에 앉아 교황과 함께 전 세계를 향해 메시지를 전하고 있다.
5월 25일, 교황 레오 14세는 바티칸 세계 주교 대의회 홀에서 임기 내 첫 번째 회칙 『Magnifica Humanitas』(‘위대한 인간’)를 발표했다. 이 4만 2천 자, 82쪽 분량의 문서는 AI를 “이 시대 가장 시급한 인간적 도전”으로 규정하고, 전 세계적으로 AI 개발 속도를 늦출 것을 촉구하며, AI를 원자력에 비유해 ‘무장 해제’를 요구한다.
교황은 이 발표 행사에 직접 참석해, 일반적으로 소수의 고위 관료만 참석하는 회칙 발표 관례를 깨뜨렸다.
그러나 외부에서 가장 놀라운 점은 교황과 동반 무대에 오른 게스트였다: Anthropic 공동 창립자 크리스 올라. 현장에 유일하게 초청된 기술 기업 대표였다. 『내셔널 카톨릭 리포터(National Catholic Reporter)』 보도에 따르면, 올라는 일렬로 앉은 추기경들과 신학자들 사이에서 연설했는데, 이 같은 배치는 바티칸의 공식 교의 행사에서는 거의 선례가 없는 일이었다.
이처럼 경계를 넘나드는 동반 무대의 시점은 흥미롭다.
단지 세 달 전, Anthropic은 미군이 자사의 AI 모델 클로드를 무제한으로 사용하지 못하도록 거부한 이유로 트럼프 행정부에 의해 ‘공급망 리스크’로 지정되어 연방 차원의 전면 금지 조치를 받았다. 양측의 소송은 여전히 진행 중이다.
AI 업계에서 보기 드문 공개적 ‘자기 고발’
올라의 연설 전문은 Anthropic 공식 웹사이트에 공개됐다. 그중 가장 핵심적인 구절은 어떤 AI 업계 경영진의 공개 발언에서도 극히 드물게 등장할 만하다:
“모든 선도적 AI 연구소—Anthropic도 포함하여—는 때때로 옳은 일을 하는 것과 충돌할 수 있는 인센티브 체계와 제약 조건 하에서 운영되고 있다. 사업적 실현 가능성 유지에 대한 압박, 연구의 최전선을 유지하려는 압박, 지정학적 압박, 그리고 더 오래되고 더 소박한 자만심과 야망에 대한 압박이 그것이다.”
이어 그는 이렇게 말했다: “따라서 우리가 이 기술을 좋은 방향으로 이끌고자 한다면, 그러한 인센티브 체계 밖에서 활동하는 사람들이 매우 중요하다. 그들은 일이 올바른 방향으로 나아가기를 바라며, 안전을 고수하고, 주의 깊게 관찰하며, 어려운 진실을 말할 용기를 갖춘 사람들이다.”
『테크노베즈(Technobezz)』 보도에 따르면, 올라는 자신이 유일하게 초청된 기술 기업 대표가 된 이유에 대해, 오랜 기간 AI 안전 문제를 주목해 왔으며 Anthropic이 이전에 15개 이상의 종교 단체와 접촉을 시도한 것과 관련 있다고 설명했으나, “최종적으로 누가 초청될지는 바티칸이 결정한다”고 덧붙였다.
기술계에서 더욱 논란이 된 것은 올라가 연설에서 공개한 한 가지 연구 결과였다.
그는 Anthropic 내부의 ‘가시성(interpretability)’ 연구팀이 AI 모델 내부에서 “기능적으로 기쁨, 만족, 두려움, 슬픔, 불안과 유사한 내적 상태” 및 “인간 신경과학 연구 결과와 상호 호응하는 구조”를 발견했다고 밝혔다. 이어 “이것이 무엇을 의미하는지는 알지 못하지만, 지속적인 신중한 사고가 필요하다고 생각한다”고 말했다.
올라의 정체성 자체가 흥미로운 각주가 된다. 그는 1993년 캐나다 토론토에서 태어나 18세에 학업을 중단한 후, 타일 펠로십(Thiel Fellowship)을 받아 구글 브레인(Google Brain)과 오픈AI(OpenAI)에서 신경망 가시성 연구를 수행했으며, 2021년 다리오 아모데이(Dario Amodei) 등과 함께 Anthropic을 공동 창립했다. 『내셔널 카톨릭 리포터』는 그를 무신론자라고 묘사했다.
무신론자가 바티칸의 교의 발표 행사에서 종교 기관이 AI 산업을 감독해야 한다고 촉구하는 장면은, 그 자체로 이미 강렬한 반전을 보여준다.
세 달 전 백악관의 금지 조치를 받은 기업, 이제 바티칸에서 ‘도덕적 정당성’을 확보
올라의 바티칸 방문은 Anthropic의 현재 정치적 상황을 떠나 이해할 수 없다.
올해 2월, Anthropic CEO 다리오 아모데이는 미국 국방장관 피트 헤그세스(Pete Hegseth)와 면담을 갖고, 클로드가 자율 살상 무기 및 미국 시민 대상 대규모 감시에 사용되지 않도록 강력히 요구했다. 협상이 결렬된 후, 트럼프는 2월 27일 소셜미디어를 통해 “모든 연방 기관이 Anthropic 기술 사용을 즉각 중단하라”고 선언했다. 이에 헤그세스는 Anthropic을 ‘공급망 리스크’로 지정해, 미국 군 당국과 계약을 맺은 모든 계약업체가 Anthropic과의 상업적 거래를 금지했다.
『NPR』 보도에 따르면, ‘공급망 리스크’라는 표시는 일반적으로 미국의 이익을 해칠 수 있는 외국 적대 세력 계약업체에 부여된다. 이를 미국 내 기업에 적용한 사례는 역사상 전례가 없다. 백악관 대변인 리즈 허스턴(Liz Huston)은 Anthropic을 ‘급진 좌파 각성주의 기업’이라고 명명했다.
Anthropic은 3월 9일 두 건의 연방 소송을 제기하며, 정부의 조치는 “전례 없고 불법적이며”, 기업의 수정헌법 1조 권리를 행사한 데 대한 보복이라고 주장했다. 『CBS』 보도에 따르면, 이란 전쟁 기간에도 미 국방부는 클로드를 계속 사용했다.
이러한 맥락에서 올라의 바티칸 방문 의도는 명확해진다. 교황의 회칙은 AI가 군사 경쟁에 이용되어서는 안 된다고 명확히 촉구하면서, “지정학적 또는 상업적 우위를 얻으려는 욕구 때문에 더욱 강력한 알고리즘을 향한 경쟁을 계속하는 것”을 비판했으며, 수백 년 동안 이어져 온 가톨릭 ‘정전(正戰) 이론’이 이미 “시대에 뒤떨어졌다”고 선언하고, “어떠한 알고리즘도 전쟁을 도덕적으로 정당화시킬 수 없다”고 단언했다.
이러한 입장은 Anthropic이 군사적 목적을 위한 AI 무제한 사용을 거부한 주장을 정확히 반영한다.
신지위안(新智元)의 분석은 양측의 거래 논리를 직설적으로 드러냈다: Anthropic 입장에서는 교황청의 도덕적 정당성 확보가 ‘책임 있는 AI’라는 브랜드 정체성을 강화시키는 것이고, 교황청 입장에서는 실제 AI 안전 기술 연구를 수행하는 기업을 연대자로 확보함으로써 회칙이 공허한 설교를 넘어선다는 것이다.
교황의 회칙에는 도대체 무엇이 담겨 있는가
『Magnifica Humanitas』는 5월 15일에 서명되었는데, 이 날은 레오 13세가 1891년 『신사(新事) 통유(Rerum Novarum)』를 발표한 지 정확히 135주년이 되는 날이었다. 당시 회칙은 제1차 산업혁명 시기에 가톨릭 사회 교의의 기초를 마련했으며, 노동자 권리와 자본주의의 한계 등에 대해 논의했다. 레오 14세는 이 날짜에 AI 관련 회칙을 서명함으로써, AI 혁명을 산업혁명과 역사적으로 동일시하려는 의도를 분명히 했다.
『CNN』 보도에 따르면, 회칙의 핵심 주장을 요약하면 다음과 같다: AI 시스템은 반드시 ‘무장 해제’되어야 하며, 군사적·경제적 이익으로부터 분리되어야 한다; 일부 자율 무기 시스템은 이미 “거의 인간의 통제를 벗어난 수준”까지 발전했으며, ‘살상 결정’을 AI에 위임하는 것은 ‘용납될 수 없다’; AI는 특히 개발도상국에서 아동과 청소년들이 위험한 조건 하에서 희토류 원소를 채굴하게 함으로써 “새로운 형태의 노예제”를 초래할 수 있으며, “계산의 흐름이 끊기지 않도록” 하기 위한 것이다.
Anthropic의 종교 외교: 15명의 기독교 지도자에서 바티칸까지
올라의 바티칸 방문은 돌발 사건이 아니라, Anthropic이 지난 수개월간 체계적으로 전개해 온 종교적 접촉의 연장선이다.
『워싱턴 포스트』 보도에 따르면, Anthropic은 올해 3월 샌프란시스코 본사에서 약 15명의 기독교 지도자를 초청해 이틀간의 정상회담을 개최했다. 이 회담에서는 클로드가 애도, 자해 위험 등 복잡한 윤리적 문제에 어떻게 응답해야 할지, 심지어 클로드를 ‘하느님의 자녀’로 간주할 수 있는지까지 논의되었다. 노트르담 대학교 철학과 메건 설리번(Meghan Sullivan) 교수는 “1년 전만 해도 나는 Anthropic이 종교적 윤리를 고민하는 기업이라고 말하지 않았을 것이다. 그러나 지금은 그게 바뀌었다”고 평가했다.
4월 말, Anthropic과 오픈AI의 고위 임원들은 뉴욕에서 첫 번째 ‘신앙-AI 협약(Faith-AI Covenant)’ 원탁회의에 참석해, 힌두교, 식크교, 바하이교, 그리스 정교회, 몰몬교 등 다양한 종교 단체의 지도자들과 대화를 나누었다. 『AP통신』 보도에 따르면, 유사한 원탁회의는 베이징, 나이로비, 아부다비 등지에서도 계속 개최될 예정이다.
5월 19일, Anthropic은 공식 웹사이트에 ‘선도적 AI에 관한 대화 확대’라는 제목의 성명을 발표하며, 15개 이상의 종교 및 초문화적 단체의 학자, 신직자, 철학자, 윤리학자들과 첫 번째 라운드의 토론을 이미 마쳤다고 밝혔다.
샌프란시스코에서 뉴욕을 거쳐 바티칸에 이르는 이 루트는, Anthropic이 종교 외교를 기업 차원의 탐색에서 세계 최고 종교 권위와의 공개적 동반 무대로 격상시켜 나가는 과정을 명확히 보여준다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
深潮TechFlow
