샘 알트먼, 자택에 연소병 투척 사건 후 게시글 작성: “저는 가족을 사랑하며, AI는 모든 사람의 것이어야 한다고 믿습니다.”
작가: 샘 알트먼
번역·편집: TechFlow
TechFlow 서두: 누군가 새벽 3시 45분에 샘 알트먼의 자택으로 연쇄병을 던졌다. 그는 드물게 가족 전체 사진을 공개하며, 다음 범행을 막고자 했다. 이 글은 단순한 폭력 사건 고발을 넘어, 그가 처음으로 AI에 대한 신념을 전면적으로 밝힌 선언문이다. 즉, AI는 민주화되어야 하며, 소수의 연구실이 인류의 미래를 결정해서는 안 된다는 점, 그리고 ‘AGI를 목격하면 되돌아갈 수 없다’는 유혹이 이 분야에 셰익스피어적 드라마를 불러일으키고 있다는 점을 강조한다.
이것은 우리 가족의 사진입니다. 저는 이들을 세상 무엇보다도 사랑합니다.
저는 이 이미지가 힘을 지니기를 바랍니다. 보통 우리는 상당한 사생활을 유지하지만, 이번 경우엔 한 장의 사진을 공유함으로써, 누군가 나에 대해 어떻게 생각하든 간에 우리 집으로 연쇄병을 던지는 행위를 다음 사람에게 막고자 합니다.
첫 번째 범행은 어제 밤, 새벽 3시 45분에 발생했습니다. 다행히도 연쇄병은 집 외벽에서 튕겨 나갔고, 인명 피해는 없었습니다.
글 역시 힘을 지닙니다. 며칠 전 저에 대한 선동적인 기사가 하나 나왔습니다. 어제 누군가 저에게, 이 기사가 사람들의 AI에 대한 극심한 불안감이 정점에 달한 시점에 등장해 제 상황을 더욱 위험하게 만들었다고 말했습니다. 당시 저는 별로 개의치 않았습니다.
하지만 지금 저는 새벽에 눈을 뜨고 분노하고 있습니다. 그리고 제가 글과 서사의 힘을 과소평가했다는 사실을 깨달았습니다. 이제 몇 가지를 이야기할 적절한 시기인 것 같습니다.
첫째, 제 신념입니다.
모든 사람의 번영을 위해 노력하고, 모든 사람을 역량 있게 만들며, 과학기술을 진전시키는 일은 저에게 도덕적 의무입니다.
AI는 인간의 능력과 잠재력을 확장하는 가장 강력한 도구가 될 것입니다. 이 도구에 대한 수요는 실질적으로 무한합니다. 사람들은 이를 통해 믿기 어려운 일들을 해낼 것입니다. 세계는 다량의 AI를 가져야 하며, 우리는 그것을 실현하는 방법을 반드시 찾아내야 합니다.
모든 것이 순조롭게 진행되리라는 보장은 없습니다. AI에 대한 두려움과 불안은 타당합니다. 우리는 오랜 시간 동안, 아마도 인류 역사상 가장 큰 사회적 변화를 목격하고 있습니다. 우리는 안전을 철저히 확보해야 하며, 이는 단순히 하나의 모델을 ‘정렬(alignment)’하는 것을 넘어서는 문제입니다. 새로운 위협에 대응하기 위해 전 사회적 차원의 대응이 시급히 요구됩니다. 이는 어려운 경제적 전환기를 견뎌내고 더 나은 미래로 나아가기 위한 새로운 정책을 포함합니다.
AI는 반드시 민주화되어야 합니다. 권력이 과도하게 집중되어서는 안 됩니다. 미래에 대한 통제권은 모든 사람과 그들이 속한 기관에 속합니다. AI는 개인을 역량 있게 만들어야 하며, 우리는 공동으로 우리의 미래와 새로운 규칙을 결정해야 합니다. 소수의 AI 연구실이 우리 미래의 형태에 관한 가장 중요한 결정을 내리는 것이 옳다고 저는 생각하지 않습니다.
적응력은 매우 중요합니다. 우리는 모두 매우 빠르게 새로운 것을 배우고 있습니다. 우리의 일부 믿음은 옳을 것이고, 일부는 틀릴 수도 있으며, 때때로 기술 발전과 사회 변화에 따라 빠르게 생각을 바꿔야 할 때도 있습니다. 아직 아무도 초지능(superintelligence)의 영향을 완전히 이해하지는 못했지만, 그 영향은 막대할 것입니다.
둘째, 몇 가지 개인적 성찰입니다.
제가 OpenAI에서 보낸 첫 10년을 돌아보면, 제가 자랑스럽게 여기는 일들뿐 아니라, 많은 실수들도 떠오릅니다.
저는 이제 엘론 머스크와의 재판을 앞두고 있습니다. 그때 저는 그가 OpenAI를 일방적으로 장악하려는 요구를 결코 받아들이지 않겠다고 버텼던 기억이 생생합니다. 저는 그 결정을 자랑스럽게 생각하며, 당시 우리가 걷던 좁은 길—그 길 덕분에 OpenAI는 존속할 수 있었고, 이후의 모든 성과도 가능해졌습니다—도 자랑스럽게 여깁니다.
저는 갈등을 회피했던 점을 자랑스럽게 생각하지 않습니다. 그것은 저 자신과 OpenAI 모두에게 막대한 고통을 안겼습니다. 또한 이전 이사회와의 갈등을 부적절하게 처리했던 점도 자랑스럽지 않습니다. 그로 인해 회사는 심각한 혼란을 겪었습니다. OpenAI의 광포한 성장 궤적 속에서 저는 수많은 다른 실수도 저질렀습니다. 저는 결함 있는 사람이었고, 비정상적으로 복잡한 상황의 중심에 있었습니다. 매년 조금씩 나아지려 애쓰며, 항상 사명을 위해 일했습니다. 우리는 시작할 때부터 AI의 위험성이 얼마나 큰지, 또 제가 신뢰하는 선의를 가진 사람들 사이의 개인적 의견 차이가 얼마나 극단적으로 확대될지를 잘 알고 있었습니다. 그러나 이러한 격렬한 갈등을 직접 경험하고, 종종 그 갈등을 중재해야 하는 상황에 처한다는 것은 또 다른 차원의 문제였으며, 그 대가는 매우 컸습니다. 제가 상처를 준 사람들에게 진심으로 사과드리며, 더 빨리 배웠더라면 좋았을 것을 바랍니다.
또한 저는 OpenAI가 현재 주요 플랫폼이지 작은 스타트업이 아니라는 점을 매우 명확히 인식하고 있습니다. 따라서 우리는 지금 더 예측 가능한 방식으로 운영되어야 합니다. 지난 몇 년은 극도로 긴장되고 혼란스럽고 고압적이었습니다.
하지만 제가 가장 자랑스럽게 여기는 것은, 우리가 초기에는 거의 불가능해 보였던 사명을 실제로 실현하고 있다는 점입니다. 수많은 어려움을 극복하며, 우리는 매우 강력한 AI를 구축하는 방법을 알아냈고, 이를 제공하기 위한 인프라를 건설할 만큼 충분한 자본을 확보하는 방법도 알아냈으며, 제품 기반의 기업과 사업을 설립하는 방법, 상당히 안전하고 탄탄한 서비스를 대규모로 제공하는 방법 등도 모두 해결해냈습니다. 그리고 그 외에도 수많은 성과를 거두었습니다. 많은 기업들이 ‘세상을 바꾸겠다’고 말하지만, 우리는 실제로 그렇게 했습니다.
셋째, 이 산업에 대한 몇 가지 생각입니다.
지난 몇 년간의 개인적 경험과, 왜 우리 분야의 기업들 사이에 이렇게 셰익스피어적 드라마가 넘쳐나는지에 대한 제 관찰은 한 가지 결론으로 수렴합니다. “한 번 AGI를 목격하면, 더 이상 그것을 보지 않을 수 없다.” 이것은 진정한 ‘권력의 반지’와 같은 역학을 지니고 있어 사람들을 미친 짓을 하게 만듭니다. 제가 말하는 AGI 자체가 바로 그 ‘반지’라는 뜻이 아닙니다. 오히려 ‘AGI를 통제하는 사람이 되는 것’이라는 독재주의적 사고방식을 의미합니다.
제가 생각해낸 유일한 해결책은 기술을 널리 공유하는 방향으로 나아가고, 누구도 그 ‘반지’를 소유하지 않도록 하는 것입니다. 이를 실현하는 두 가지 명백한 방법은 개인 역량 강화와 민주적 제도가 통제력을 유지하도록 보장하는 것입니다.
민주적 절차가 기업보다 더 강력하게 유지되는 것이 중요합니다. 법률과 규범은 변할 수 있지만, 우리는 혼란스럽고 우리가 원하는 만큼 빠르지 않더라도, 반드시 민주적 절차 내에서 일해야 합니다. 우리는 단지 하나의 목소리이자 이해관계자일 뿐, 모든 권력을 장악해서는 안 됩니다.
이 산업에 대한 많은 비판은 이 기술이 지닌 극도로 높은 위험성에 대한 진정성 있는 우려에서 비롯된 것입니다. 이는 매우 타당하며, 우리는 선의를 가진 비판과 토론을 환영합니다. 반기술 감정에도 공감합니다. 분명히 기술은 언제나 모든 사람에게 이롭지 않습니다. 하지만 전반적으로, 저는 기술 발전이 당신의 가족과 제 가족을 위한 미래를 믿기 어려울 정도로 훌륭하게 만들 수 있다고 믿습니다.
우리가 그런 토론을 벌일 때, 언어와 전략을 낮추고, 비유적으로든 문자 그대로든, 더 적은 집에서 더 적은 폭발이 일어나도록 해야 합니다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@sama
