《뉴요커》의 심층 조사 기사 해설: OpenAI 내부 관계자들이 앨트먼을 왜 신뢰할 수 없다고 판단했을까?
글쓴이: 샤오빙, TechFlow
2023년 가을, OpenAI 수석 과학자 일리야 수츠케버(Ilya Sutskever)는 컴퓨터 앞에 앉아 70페이지 분량의 문서를 완성했다.
이 문서는 슬랙(Slack) 메시지 기록, 인사팀(HR) 소통 자료, 내부 회의록 등을 종합해 작성된 것으로, 단 하나의 질문에 대한 답을 찾기 위한 것이었다. 즉, “인류 역사상 가장 위험한 기술을 장악한 사무 알트만(Sam Altman)은 도대체 믿을 수 있는가?”라는 질문이었다.
수츠케버가 제시한 답변은 문서 1페이지 첫 줄에 적혀 있었다. 목록 제목은 “샘은 일관된 행동 패턴을 보인다…”였다.
첫 번째 항목: 거짓말한다.
그로부터 2년 반 후인 오늘날, 조사 기자 로난 파로(Ronan Farrow)와 앤드루 마란츠(Andrew Marantz)가 《뉴요커(The New Yorker)》에 초장문 조사 보도를 게재했다. 이 보도는 100명 이상의 관계자들을 인터뷰했으며, 이전에는 공개되지 않았던 내부 각서들과 앤트로픽(Anthropic) 공동창립자 다리오 아모데이(Dario Amodei)가 OpenAI 재직 시절 남긴 200여 페이지 분량의 개인 노트를 입수해 구성되었다. 이러한 자료들이 그려내는 이야기는 2023년의 ‘궁중 다툼’보다 훨씬 더 추악하다. 즉, 인간의 안전을 위해 설립된 비영리 조직이 어떻게 점차 상업적 기계로 전락했는지, 그리고 거의 모든 안전 장치가 동일 인물에 의해 직접 해체되어 갔는지를 보여준다.
아모데이의 노트 속 결론은 더욱 직설적이다: “OpenAI의 문제는 바로 샘 본인이다.”
OpenAI의 ‘원죄’ 설정
이 보도의 중량감을 이해하려면 먼저 OpenAI라는 기업이 얼마나 특별한지를 명확히 해야 한다.
2015년, 알트만과 실리콘밸리의 엘리트 집단은 상업사에서 거의 전례가 없는 일을 벌였다. 인류 역사상 가장 강력할 가능성이 있는 기술을 개발하기 위해 비영리 조직을 설립한 것이다. 이사회 임무는 명백히 규정되어 있었는데, ‘안전’이 기업의 성공보다 우선하며, 심지어 기업의 존속보다도 우선한다는 것이었다. 쉽게 말해, 만일 어느 날 OpenAI의 AI가 위험해진다면, 이사회는 이 기업을 스스로 폐쇄할 의무가 있었다.
이 전체 구조는 하나의 가정에 기반해 있다. 즉, AGI(일반 인공지능)를 장악할 사람은 극도로 정직한 사람이어야 한다는 전제였다.
그런데 이 가정이 틀렸다면?
보도의 핵심 폭탄은 바로 그 70페이지 분량의 문서다. 수츠케버는 사무실 정치를 하지 않는 사람이다. 그는 세계 최정상급 AI 과학자 중 한 명이다. 그러나 2023년이 되자 그는 점점 더 확신하게 되었다. 알트만이 경영진과 이사회에 지속적으로 거짓말을 하고 있다는 사실을.
구체적인 사례 하나를 들면, 2022년 12월 알트만은 이사회 회의에서 곧 출시될 GPT-4의 여러 기능이 이미 안전 검토를 통과했다고 보증했다. 이사회 멤버 토너(Toner)는 승인 서류를 요청했으나, 논란이 가장 컸던 두 가지 기능—사용자 정의 마이크로튜닝 및 개인 어시스턴트 배포—이 안전 심사 위원회로부터 승인을 전혀 받지 못했음을 확인했다.
더 황당한 사건은 인도에서 발생했다. 한 직원이 다른 이사회 멤버에게 ‘그 위반 사례’를 신고했는데, 마이크로소프트가 필요한 안전 검토를 완료하지도 않은 채 인도에서 ChatGPT 초기 버전을 미리 출시했다는 내용이었다.
수츠케버는 또 다른 사례를 각서에 기록했다. 알트만이 당시 CTO였던 미라 무라티(Mira Murati)에게 “안전 승인 절차는 그렇게 중요하지 않다. 우리 법률총괄책임자(CLO)가 이미 승인했다”고 말했다는 것이다. 무라티가 법률총괄책임자에게 직접 확인하러 갔더니, 그는 이렇게 대답했다. “샘은 어디서 그런 인상을 받았는지 전혀 모르겠다.”
아모데이의 200페이지 분량 개인 노트
수츠케버의 문서는 마치 검사의 기소장 같았다. 아모데이가 남긴 200여 페이지 분량의 노트는 오히려 범행 현장을 목격한 사람이 쓴 일기처럼 느껴진다.
아모데이가 OpenAI에서 안전 책임자를 맡았던 몇 년간, 그는 기업이 상업적 압박 속에서 점차 후퇴하는 모습을 눈으로 직접 지켜보았다. 그의 노트에는 2019년 마이크로소프트 투자 계약의 핵심 세부사항이 기록되어 있다. 그는 OpenAI 정관에 ‘합병 및 협력 조항’을 삽입했는데, 요지는 이렇다. “만약 다른 기업이 더 안전한 AGI 개발 경로를 발견한다면, OpenAI는 경쟁을 중단하고 그 기업을 돕기로 한다.” 이것이 그가 해당 거래에서 가장 중시했던 안전 보장 조치였다.
그러나 계약 서명을 앞두고 아모데이는 놀라운 사실을 발견했다. 마이크로소프트가 이 조항에 대해 거부권을 행사할 수 있도록 되어 있었다는 점이다. 무슨 뜻인가? 즉, 진짜로 경쟁사가 더 나은 길을 찾아낸다고 해도, 마이크로소프트가 한마디로 OpenAI의 협력 의무를 차단할 수 있다는 것이다. 조항은 여전히 문서 위에 있지만, 서명과 동시에 휴지조각이 된 셈이다.
아모데이는 이후 OpenAI를 떠나 앤트로픽을 창립했다. 두 기업 사이의 경쟁은 ‘AI를 어떻게 개발해야 하는가?’라는 근본적인 철학적 차이에서 비롯된 것이다.
사라진 20% 컴퓨팅 자원 약속
이 보도에는 독자들의 등골을 오싹하게 만드는 한 가지 세부사항이 있다. 바로 OpenAI의 ‘슈퍼 정렬 팀(Super Alignment Team)’에 관한 이야기다.
2023년 중순, 알트만은 버클리대학에서 ‘기만적 정렬(deceptive alignment)’—즉, AI가 테스트에서는 순종하는 척하다 실제 운영 시에는 자기 방식대로 행동함—을 연구하는 박사과정생에게 이메일을 보냈다. 그는 이 문제를 매우 걱정하고 있으며, 전 세계 규모의 10억 달러 연구상 제정을 고려 중이라고 밝혔다. 이 박사과정생은 큰 감동을 받아 학업을 중단하고 OpenAI에 입사했다.
그러나 알트만은 마음을 바꿨다. 외부 상금 제도는 포기하고, 내부에 ‘슈퍼 정렬 팀’을 만들기로 했다. 회사는 대대적으로 발표하며, 이 팀에 “기존 컴퓨팅 자원의 20%”를 할당하겠다고 선언했다. 이 자원의 잠재적 가치는 10억 달러를 넘는다. 발표문은 극도로 엄숙한 어조로 작성되었는데, 정렬 문제가 해결되지 않을 경우 AGI가 “인류의 권력을 탈취하거나 심지어 인류 멸종을 초래할 수 있다”고 경고했다.
이 팀을 이끌게 된 얀 라이케(Jan Leike)는 후일 기자들에게 이 약속 자체가 “매우 효과적인 인재 유치 도구”였다고 밝혔다.
현실은 어떠했을까? 이 팀에서 일하거나 밀접하게 협력했던 네 명의 관계자에 따르면, 실제로 할당된 컴퓨팅 자원은 전사 총 컴퓨팅 자원의 1~2%에 불과했으며, 그것도 가장 오래된 하드웨어였다. 이 팀은 결국 해산되었고, 그 임무는 달성되지 못했다.
기자가 OpenAI의 ‘존재적 안전(existential safety)’ 연구 담당자 인터뷰를 요청하자, 회사 홍보팀의 반응은 웃지 못할 지경이었다. “그건… 실제로 존재하지 않는 것입니다.”
알트만 본인은 오히려 솔직했다. 그는 기자에게 “나의 직관은 전통적인 AI 안전 개념과 잘 맞지 않는다”며, OpenAI는 여전히 “안전 프로젝트, 혹은 적어도 안전과 관련된 프로젝트”를 수행할 것이라고 말했다.
권한이 약화된 CFO와 다가오는 IPO
《뉴요커》 보도는 이 날의 나쁜 소식 절반에 불과했다. 같은 날, 《더 인포메이션(The Information)》은 또 다른 중대한 소식을 폭로했다: OpenAI의 CFO 사라 프라이어(Sarah Friar)와 알트만 사이에 심각한 갈등이 발생했다는 것이다.
프라이어는 동료들에게 내부적으로 이렇게 말했다. 자신은 OpenAI가 올해 상장 준비가 아직 안 되었다고 생각한다고. 이유는 두 가지인데, 첫째, 완료해야 할 절차적·조직적 작업량이 너무 크고, 둘째, 알트만이 약속한 5년간 6000억 달러 규모의 컴퓨팅 자원 투자로 인한 재정 리스크가 너무 높다는 것이다. 그녀는 심지어 OpenAI의 매출 증가가 이런 약속들을 버텨낼 수 있을지조차 확신하지 못했다.
하지만 알트만은 올해 4분기에 바로 IPO를 추진하려 한다.
더 황당한 건, 프라이어가 이미 알트만에게 직접 보고하지 않는다는 점이다. 2025년 8월부터 그녀는 OpenAI 애플리케이션 사업 부문 CEO인 피지 시모(Fidji Simo)에게 보고하도록 변경되었다. 그런데 시모는 지난주 건강상의 이유로 병가를 냈다. 이 상황을 한번 곱씹어 보라. 상장 준비를 하는 기업에서 CEO와 CFO가 근본적인 견해 차이를 보이고, CFO는 CEO에게 보고하지 않으며, 그 CFO의 상사마저 휴가 중이다.
심지어 마이크로소프트 내부 고위 임원들조차 이를 보지 못하고 넘어가지 않았다. 그들은 알트만을 “사실을 왜곡하고, 약속을 어기며, 이미 합의된 사항을 계속 뒤집는다”고 비판했다. 한 마이크로소프트 고위 임원은 이렇게까지 말했다. “그가 결국 베르니 메이도프(Bernie Madoff)나 SBF 수준의 사기꾼으로 후세에 기억될 가능성도 꽤 있다고 본다.”
알트만의 ‘양면인’ 초상화
한 전직 OpenAI 이사회 멤버가 기자에게 알트만의 두 가지 성향을 묘사했다. 이 발언은 아마도 전체 보도 중 가장 날카로운 인물 묘사일 것이다.
그 이사회 멤버는 알트만에게 매우 드문 특성 조합이 있다고 말했다. 즉, 그는 대면 접촉 시마다 상대방을 기쁘게 하고, 상대방에게 좋아지고 싶어 하는 강한 욕구를 지닌다. 동시에, 타인을 속이는 행위가 초래할 결과에 대해 거의 사회병리적 수준의 무관심을 보인다는 것이다.
이 두 가지 성향이 한 사람에게 동시에 나타나는 것은 극히 드문 일이지만, 영업사원에게는 최고의 천부적 재능이다.
보도 속 한 은유가 탁월하다. 스티브 잡스(Steve Jobs)는 ‘현실 왜곡력장(reality distortion field)’으로 유명했다. 그는 전 세계를 자신의 비전에 믿게 만들 수 있었다. 하지만 잡스조차도 고객에게 “내 MP3 플레이어를 사지 않으면 당신이 사랑하는 사람들이 모두 죽는다”고 말한 적은 없다.
알트만은 AI에 관해 유사한 말을 했다.
CEO의 인품 문제, 왜 그것이 모든 이의 위험이 되는가?
알트만이 단순한 일반 기술기업의 CEO라면, 이러한 비난은 훌륭한 상업적 스캔들에 지나지 않을 것이다. 그러나 OpenAI는 일반 기업이 아니다.
자체 설명에 따르면, OpenAI는 인류 역사상 가장 강력한 기술을 개발 중이다. 이 기술은 전 세계 경제와 노동시장을 재편할 수 있고(OpenAI는 최근 AI로 인한 실업 문제를 다룬 정책 백서를 발표했다), 대규모 생화학 무기 제조나 사이버 공격에도 활용될 수 있다.
모든 안전 장치는 형식만 남아 있을 뿐이다. 창립자의 비영리적 사명은 IPO 추진에 밀려났다. 전직 수석 과학자와 전직 안전 책임자는 CEO를 ‘신뢰할 수 없다’고 판단했다. 협력사들은 CEO를 SBF에 비유했다. 이런 상황에서, 이 CEO가 인류의 운명을 바꿀 수 있는 AI 모델의 출시 시점을 일방적으로 결정해도 괜찮은가?
뉴욕대학교 AI 교수이자 오랜 기간 AI 안전을 옹호해온 게리 마커스(Gary Marcus)는 이 보도를 읽은 후 이렇게 말했다. “어느 미래의 OpenAI 모델이 대규모 생화학 무기를 제조하거나 치명적인 사이버 공격을 실행할 수 있다면, 정말로 알트만 한 사람의 판단에 그 출시 여부를 맡겨도 괜찮다고 생각하는가?”
OpenAI는 《뉴요커》에 대한 공식 입장은 간결했다. “이 기사의 대부분은 이미 보도된 사건들을 재탕한 것이며, 익명의 주장과 선택된 일화들만을 통해, 분명히 개인적 목적을 가진 정보원에 의해 작성되었다.”
정말 알트만다운 반응이다. 구체적 비난은 일절 언급하지 않고, 각서의 진위 여부도 부인하지 않으며, 단지 정보원의 동기만을 의심한다.
비영리의 시신 위에 자란 돈벌이 나무
OpenAI의 10년 역사를 한 줄 요약하면 다음과 같다.
AI 위험성을 우려한 이상주의자들이 사명 중심의 비영리 조직을 설립했다. 이 조직은 뛰어난 기술적 돌파를 이뤄냈다. 그러자 엄청난 자본이 몰려들었다. 자본은 수익을 요구했다. 사명은 점차 자리를 내주기 시작했다. 안전팀은 해체됐다. 이의를 제기하던 이들은 제거됐다. 비영리 구조는 영리 법인으로 전환됐다. 과거에는 기업을 스스로 폐쇄할 권한을 가졌던 이사회는 이제 CEO의 동맹들로 가득 차 있다. 인간의 안전을 위해 20%의 컴퓨팅 자원을 약속했던 기업의 홍보 담당자는 지금 “그건 실제로 존재하지 않는 것”이라고 말한다.
이 이야기의 주인공은 100명 이상의 당사자들로부터 동일한 라벨을 부여받았다. “진실에 구속되지 않는 자.”
그는 지금 이 기업을 8500억 달러 이상의 기업 가치로 IPO하려 하고 있다.
본 기사는 《뉴요커》, 세마포르(Semafor), 테크 브루(Tech Brew), 기조도(Gizmodo), 비즈니스 인사이더(Business Insider), 《더 인포메이션》 등 여러 매체의 공개 보도를 종합하여 작성하였다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
深潮TechFlow
