샘 알트먼 최신 인터뷰: 이사회, 머스크 소송, GPT-5, 소라, AGI, 7조 달러...
정리: 유신
오늘 새벽, Lex Fridman은 OpenAI CEO 샘 알트먼과의 두 번째 대화를 업데이트했다. 이 대화에서는 OpenAI 이사회 논쟁, 일야 수츠크버(Ilya Sutskever), 머스크 소송, 소라(Sora), GPT-4, 기억 및 프라이버시, Q*, GPT-5, 7조 달러 규모의 자금 조달, 구글 제미나이(Gemini), GPT-5로의 전환, 그리고 AGI 외계인 등 다양한 주제가 다뤄졌다.
다음은 이번 대화의 전문으로, 총 3.2만 자 분량이다:
OpenAI 이사회 논쟁
Lex Fridman: 11월 16일 목요일부터 시작된 OpenAI 이사회 드라마를 다시 한 번 정리해줄 수 있겠습니까? 아마도 금요일인 11월 17일부터 시작하는 게 좋을지도 모릅니다.
Sam Altman: 이것은 확실히 나의 인생에서 가장 고통스러운 직업적 경험 중 하나였습니다. 혼란스럽고, 수치스럽고, 불안하며, 다른 많은 부정적인 요소들이 있었죠. 하지만 멋진 부분들도 있었습니다. 당시에는 그 멋진 점들을 감상할 여유조차 없었지만 말입니다. 제가 오래전에 올렸던 트윗이나 그 시기의 어떤 글을 다시 보게 되었는데, 마치 스스로의 추도사를 읽는 기분이었습니다. 사람들이 저에 대해 이렇게 훌륭한 일을 한다고 이야기하고, 제가 사랑하고 아끼는 사람들의 놀라운 지지가 이어지는 것을 보면서 정말 감동했습니다. 너무나 멋진 일이었습니다. 전체적으로 주말 내내, 큰 예외 하나를 제외하면, 저는 많은 사랑을 느꼈고 증오심은 거의 느끼지 못했습니다. 다만 당시에 무슨 일이 벌어지고 있는지, 앞으로 어떻게 될지 전혀 모르는 상황이 매우 끔찍했습니다. 때때로 나는 이것이 인공지능 안전 역사상 최악의 사건 중 하나가 될 수 있다고 생각하기도 했습니다. 하지만 저는 오히려 이런 일이 비교적 초기 단계에서 일어난 것이 다행이라고 생각합니다. OpenAI 설립에서 AGI(범용 인공지능) 창출까지의 어느 순간, 무언가 미친 듯하고 폭발적인 일이 발생할 것이라고 생각했기 때문입니다. 앞으로도 더 많은 그런 일이 생길 수 있겠지만, 그래도 우리는 이미 어느 정도 회복력을 갖추게 되었고, 미래의 더 큰 도전에 대비할 수 있게 된 셈입니다.
Lex Fridman: 그렇다면 당신은 어쩌면 권력 투쟁 같은 걸 겪을 거라는 느낌을 가지고 있었나요?
Sam Altman: AGI로 가는 길은 거대한 권력 투쟁이어야 합니다. 세상은... 음, 그렇지 않아야 하죠. 저는 그렇게 되기를 바랍니다.
Lex Fridman: 그래서 당신은 말했던 대로 가능한 자주 반복하면서 이 과정을 겪어야 했고, 이사회 구조를 어떻게 만들고, 조직을 어떻게 구성하며, 필요한 인재를 어떻게 확보해야 할지 배워야 했습니다. 우리는 모두가 이해할 수 있도록 이러한 문제들을 어떻게 소통할지 고민하고 있으며, 이를 통해 권력 투쟁을 완화하려 노력하고 있습니다.
Sam Altman: 네.
Lex Fridman: 진정시키는 겁니다.
Sam Altman: 하지만 지금은 그저 과거의 일처럼 느껴집니다. 정말 불쾌하고 어렵고 고통스러웠지만, 우리는 다시 일터로 돌아왔고, 모든 일이 너무 바쁘고 정신없어서 그 일을 계속 생각할 시간조차 없습니다. 이후 한동안, 한 달 후, 혹은 45일쯤 후에는 마치 환각 상태에 빠진 것 같았습니다. 그냥 아무런 목적 없이 떠돌기만 했죠. 정말 형편없는 상태였습니다. 기분이 극도로 저하되었습니다.
Lex Fridman: 개인 심리적인 차원에서 말씀하시는 건가요?
Sam Altman: 네. 정말 고통스러웠고, 동시에 OpenAI 운영을 계속 유지하는 것도 매우 어려웠습니다. 그냥 산속 동굴로 들어가 회복하고 싶을 정도였죠. 하지만 지금은 마침내 다시 임무에 복귀한 기분입니다.
Lex Fridman: 음, 그곳으로 돌아가서 이사회 구조, 권력 역학 관계, 회사 운영 방식, 연구와 제품 개발 사이의 갈등, 자금 조달 등의 문제를 되돌아보는 것은 여전히 매우 유용합니다. 그렇게 함으로써 AGI를 만들 가능성이 높은 조직이 좀 더 체계적이고 덜 눈에 띄는 방식으로 성장할 수 있을 것입니다. 그러므로 이 모든 경험이 리더로서의 개인 심리적 측면뿐 아니라 이사회 구조와 그 밖의 혼란스러운 사항들에도 상당한 가치가 있다고 생각합니다.
Sam Altman: 저는 구조와 인센티브, 그리고 우리 이사회에 필요한 것들에 대해 많은 것을 배웠습니다. 지금 벌어진 일은 어떤 의미에서 가치 있는 경험이었다고 생각합니다. OpenAI에게 마지막 고압의 순간이 될 수도 있지만, 분명히 꽤나 고압적인 순간이었죠. 제 회사가 망할 뻔 했습니다. 우리는 AGI를 위해 반드시 잘 해야 할 여러 다른 일들을 고민하지만, 특히 세계의 거대한 압력을 견딜 수 있는 탄탄한 조직과 구조를 만드는 방법에 대해서도 많이 고민하게 됩니다. 우리가 AGI에 점점 더 가까워질수록 그 중요성은 더욱 커질 것입니다.
Lex Fridman: 이사회 내부 의사결정 과정이 얼마나 깊고 엄격했는지 느껴보셨나요? 인간적인 관계 동역학에 대해 간단히 설명해주실 수 있겠습니까? 그냥 몇 마디 대화만 나누다가 갑자기 상황이 악화되었고, '왜 샘을 해고하지?' 같은 식으로 진행된 건가요?
Sam Altman: 저는 이사회 구성원들이 전반적으로 선의를 갖고 행동했다고 생각합니다. 또한 사람들이 시간 압박이나 다른 스트레스를 받을 때, 합리적이지 않은 결정을 내릴 수 있다는 점을 이해합니다. OpenAI가 직면한 도전 중 하나는 바로 스트레스 상황에서도 효과적으로 작동할 수 있는 이사회와 팀을 가져야 한다는 점입니다.
Lex Fridman: 이사회가 너무 강력하다고 생각하십니까?
Sam Altman: 저는 이사회가 상당한 권한을 가져야 한다고 생각하지만, 우리가 목격한 중요한 사실은 대부분의 기업 구조에서 이사회는 주로 주주들에게 책임을 집니다. 때로는 초강력 의결권 주식을 보유하거나 기타 특별한 조건이 적용되기도 하죠. 그러나 이번 경우 저희 구조에서는, 특별한 규정이 없다면 비영리 단체의 이사회는 상당한 권한을 가지며, 실제로는 자신들 외에는 누구에게도 책임을 지지 않습니다. 이는 여러 면에서 좋은 점이 있지만, 우리는 OpenAI 이사회가 전 세계에 대해 책임감을 느껴야 한다고 생각합니다. 물론 실현하기는 어렵지만 말입니다.
Lex Fridman: 따라서 새로운 이사회가 발표되었습니다.
Sam Altman: 네.
Lex Fridman: 처음에는 작은 이사회가 있었고, 지금은 새로운 최종 이사회가 있다고 짐작됩니다.
Sam Altman: 아직 최종본은 아닙니다. 일부를 추가했고, 더 추가될 예정입니다.
Lex Fridman: 일부를 추가하셨군요. 좋아요. 새 버전에서는 기존 버전에서 문제가 됐던 부분들이 무엇이 해결되었나요?
Sam Altman: 지난 약 1년간 이사회는 점점 더 작아졌습니다. 원래 9명이었는데 6명으로 줄었고, 누굴 추가할지 합의하지 못했습니다. 또한 OpenAI의 이사회에는 경험이 풍부한 이사들이 많지 않았습니다. 새로 추가된 이사들은 이사회 활동 경험이 더 많으며, 이는 도움이 될 것입니다.
Lex Fridman: 이사회에 추가된 일부 인물들에 대해 비판이 있었습니다. 예를 들어, 래리 서머스(Larry Summers)의 영입에 대해 많은 사람들이 비판했습니다. 이사회 구성원을 선택하는 과정은 어떻게 이루어졌으며, 어떤 기준이 있었나요?
Sam Altman: 브렛(Brett)과 래리는 그 매우 긴장감 넘치는 주말에 즉흥적으로 결정을 내렸습니다. 그 주말은 롤러코스터 같았죠. 수많은 오르내림이 있었습니다. 우리는 새로운 이사회 구성원에 대해 합의하려 했고, 경영진과 기존 이사회 구성원 모두가 합리적이라고 생각했습니다. 래리는 원래 기존 이사회 구성원들이 제안한 인물 중 하나였습니다. 저는 사실 그 주말 전에 이미 그를 제안했지만, 그는 바빠서 하기 싫다고 했습니다. 그런데 우리는 [청취 불가능 00:09:22] 도움이 필요했고, 다른 많은 사람들을 논의했지만, 제가 돌아온다면 새로운 이사회 구성원이 필요하다고 느꼈습니다. 동일한 구성으로 기존 이사회를 다시 사용할 수 없다고 생각했죠. 결국 아담이 남아줘서 감사했지만, 여러 구성안을 검토했고, 세 명으로 구성된 이사회를 원한다고 결정했습니다. 단기간 내에 두 명의 새로운 이사회 구성원을 찾아야 했습니다.
이러한 결정들은 전적으로 정직하게 이루어졌으며, 엄격한 절차 없이 현장에서 이루어졌습니다. 전투 중에는 철저한 절차를 설계할 시간이 없습니다. 이후 추가되는 새로운 이사회 구성원들과 앞으로 더 추가될 사람들에게는 몇 가지 기준을 설정했습니다. 이사회가 가져야 할 다양한 전문성에 대해서도 고려했습니다. 고위 임원을 고용하는 것과 달리, 이사회는 거버넌스와 신중한 고민이라는 전반적인 역할을 수행해야 하므로, 브렛이 말했던 것처럼, 한 명씩 고용하는 것이 아니라 리스트 형태로 이사회를 구성하는 것이 좋다는 생각이 들었습니다. 비영리 단체 운영, 기업 운영, 법률 및 거버넌스 전문성을 가진 사람들이 함께 모여야 하며, 이것이 우리가 최적화하려는 목표입니다.
Lex Fridman: 기술적 통찰력이 이사회 구성원 개인에게 중요한가요?
Sam Altman: 각 구성원마다 반드시 그런 능력이 필요하지는 않지만, 일부는 반드시 가져야 합니다. 이사회가 해야 하는 일의 일부이기 때문입니다.
Lex Fridman: 흥미롭게도, 많은 사람들은 OpenAI를 잘 모릅니다. 저 역시 마찬가지인데, 회사를 운영하는 모든 세부사항을 아는 사람은 드뭅니다. 사람들이 이사회를 생각할 때, 드라마틱한 사건 때문에 당신을 먼저 떠올립니다. 만약 여러분이 AGI에 도달하거나 매우 영향력 있는 제품을 만들고 배포한다면, 이사회와의 대화는 어떨까요? 이럴 경우 어떤 구성이 적절할지 사람들이 궁금해할 겁니다.
Sam Altman: 확실히 기술 전문가들이 필요합니다. 그리고 "우리가 어떻게 세상의 사람들에게 최선의 방식으로 그것을 배포할 수 있을까?"라는 질문에 답할 수 있는 사람, 다양한 관점을 가진 사람도 필요합니다. 기술적 이해만 중요하다고 생각하는 것은 저나 당신이 범할 수 있는 오류입니다. 기술적 이해는 분명히 중요한 부분이지만, 사회와 사람들의 삶에 미치는 영향에 대한 더 많은 논의가 필요하며, 그 자리에 그런 대표자가 있어야 합니다.
Lex Fridman: 과거 실적을 보시나요, 아니면 대화를 나누시나요?
Sam Altman: 과거 실적은 중요합니다. 물론 많은 대화를 나눕니다. 하지만 어떤 역할에서는 실적 자체보다 성장률(slope)을 더 중요하게 보며, Y 절편(Y-intercept)은 무시하기도 합니다.
Lex Fridman: 감사합니다. 청중에게 수학 개념을 알려줘서 고맙습니다.
Sam Altman: 이사회 구성원으로서 저는 오히려 Y 절편을 더 중요하게 생각합니다. 과거 실적에는 깊이 있는 의미가 있으며, 경험은 대체하기 어려운 요소라고 생각합니다.
Lex Fridman: 실적 데이터에 다항식 함수나 지수 함수를 맞춰보셨나요?
Sam Altman: 이 비유는 그리 깊게 들어가지 않습니다.
Lex Fridman: 그럼요. 당신은 그 주말의 낮은 지점들에 대해 언급했습니다. 심리적으로 가장 낮았던 지점은 언제였나요? 아마존 밀림으로 가서 아이아와스카(Ayahuasca)를 마시고 영원히 사라지고 싶었던 적이 있나요?
Sam Altman: 매우 힘든 시기였습니다. 하지만 높은 지점들도 있었습니다. 매일 함께 일하는 사람들로부터, 십 년 이상 연락하지 않았던 사람들로부터 좋은 소식이 계속해서 제 핸드폰에 도착했습니다. 전 그 교전 속에 있어서 충분히 인식하지 못했지만, 정말 기뻤습니다. 전체적으로 보면 매우 고통스러운 주말이었습니다. 놀라운 공개적인 싸움이었고, 제게는 예상보다 훨씬 더 피곤했습니다. 싸움은 일반적으로 에너지를 소모하지만, 이번 싸움은 특히 그랬습니다. 금요일 오후에 이사회가 그 결정을 내렸습니다. 저는 많은 답을 얻지 못했지만, '이사회가 그렇게 할 수 있구나' 하고 생각하며 앞으로 내가 무엇을 할지 고민하기 시작했습니다. 그러나 여기서 좋은 점을 찾으려고 노력했습니다.
그때 저는 현재 OpenAI에서의 제 일은, 또는 그 전까지는 꽤 큰 규모의 회사를 운영하는 일이었다고 생각했습니다. 제가 항상 가장 좋아했던 일은 연구자들과 함께 일하는 것이었습니다. 그래서 저는 '네, 아주 집중적인 AGI 연구를 할 수 있겠군'이라고 생각했습니다. 그것에 대해 매우 흥분했습니다. 그때는 이런 모든 일이 취소될 수 있다는 생각조차 하지 않았습니다. 그것은 금요일 오후였습니다.
Lex Fridman: 그래서 당신은 그것을 받아들였군요.
Sam Altman: 매우 빠르게 말이죠. 혼란과 분노의 시기가 있었지만, 아주 짧은 시간이었습니다. 금요일 밤에는 사람들이 앞으로 어떤 일이 벌어질지에 대해 이야기를 나누고 있었고, 저는 그것에 대해 매우 흥분했습니다. 금요일 밤, 처음으로 여기 경영진의 목소리를 들었을 때, "이 문제에 맞서 싸우겠습니다."라는 말이었습니다. 저는 침대로 돌아갔지만 여전히 흥분된 상태였습니다. 앞으로 나아가자는 생각이었습니다.
Lex Fridman: 잠을 잘 수 있었나요?
Sam Altman: 거의 못 잤습니다. 이상한 점은 이 사나흘 동안 거의 잠도 못 자고, 거의 먹지도 않았지만 여전히 활기찼다는 것입니다. 전쟁 중에는 아드레날린에 대해 이상한 사실을 배우게 됩니다.
Lex Fridman: 그래서 당신은 OpenAI라는 아기의 죽음을 받아들였군요.
Sam Altman: 저는 새로운 일에 흥분했습니다. 당시 생각했죠, "이건 정말 미친 일이지만, 어쨌든 말이야."
Lex Fridman: 아주 훌륭한 대응 메커니즘입니다.
Sam Altman: 토요일 아침, 이사회 구성원 두 명이 전화를 걸어왔습니다. "우리는 안정성을 해치려는 의도가 없었어요. 우리는 여기에 너무 많은 가치를 두고 있지 않아요. 당신이 돌아오는 것에 대해 얘기해볼 수 있을까요?" 저는 처음엔 전혀 그럴 생각이 없었습니다. 하지만 조금 생각해보고, "음, 여기 있는 사람들, 파트너들, 주주들을 정말 신경 쓰고 있고, 이 회사를 좋아해. 그러니까 다시 돌아오는 게 맞겠지."라고 생각했습니다. 그래서 "좋아, 하지만 이것들이 내가 요구하는 조건이야."라고 결론을 내렸습니다. 그 주말의 가장 고통스러운 순간은, 제가 계속해서 듣던 말이, 저뿐만 아니라 여기 팀 전체가, 전 세계가 OpenAI를 무너뜨리려고 노력하는 가운데, 우리는 OpenAI를 안정시키려고 노력하고 있었다는 점이었습니다. 우리는 계속해서 "거의 다 됐어. 거의 다 됐어. 우리는 단지 조금 더 시간이 필요할 뿐이야."라는 말을 들었습니다. 상황은 매우 혼란스러웠습니다. 일요일 밤에는 몇 시간마다 한 번씩, 우리가 목표를 달성하고, 제가 돌아오고, 모든 것이 원래대로 돌아가는 방법을 찾을 거라고 기대했습니다. 그런데 이사회는 새로운 임시 CEO를 임명했고, 그 순간 "정말 끔찍한 기분이야."라고 생각했습니다. 그게 전체 사건의 최저점이었습니다. 말씀드리자면, 매우 고통스러웠지만, 주말 내내 저는 많은 사랑을 느꼈습니다. 일요일 밤 그 순간을 제외하면, 제 감정을 분노나 증오로 표현하지 않았고, 사람들에게 보내는 사랑을 많이 느꼈습니다. 고통스러웠지만, 주도적인 감정은 사랑이었고 증오가 아니었습니다.
Lex Fridman: 미라 무라티(Mira Murati)에 대해 높이 평가하셨고, 트윗에서도 언급하셨듯, 중요한 조용한 순간에 특히 큰 도움을 주었다고 하셨습니다. 약간 주제를 벗어나더라도 괜찮을까요? 미라를 무엇이 매력적으로 만든다고 생각하시나요?
Sam Altman: 음, 그 혼란스러운 주말 동안 그녀는 훌륭한 일을 했습니다. 하지만 위기 상황에서 리더십을 보는 경우는 흔하죠, 좋든 나쁘든 말입니다. 제가 리더십에서 진정으로 중요하게 여기는 것은, 사람들이 재미없는 화요일 아침 9시 46분이나 일상의 지루한 업무에서 어떻게 행동하는지입니다. 회의에서의 모습, 그들이 내리는 결정의 질 등이 바로 제가 말하는 조용한 순간들입니다.
Lex Fridman: 즉 대부분의 작업은 매일의 회의에서 이루어진다는 뜻이군요. 존재하고 중요한 결정을 내리는 것만으로도 충분하다는 의미입니다.
Sam Altman: 네. 보세요, 마지막 20분 정도를 투자하고 싶은데, 이건 매우 드라마틱한 주말이긴 하지만, 이것이 OpenAI의 진정한 목적은 아닙니다. OpenAI는 사실 다른 7년을 위한 것입니다.
Lex Fridman: 음, 그렇죠. 인류 문명은 나치 독일이 소련을 침공한 사건이 아니지만, 사람들이 관심을 갖는 포인트이기도 하죠.
Sam Altman: 이해하기 쉬운 일이니까요.
Lex Fridman: 그것은 인간성, 인간의 극단에 대한 통찰을 제공합니다. 어쩌면 인류 문명의 승리 속에서도 발생할 수 있는 피해들이 그런 순간에 나타날 수 있으므로, 매우 설명적입니다. 일야(Ilya)에 대해 물어보겠습니다. 그는 비밀 핵시설에 인질로 붙잡혀 있나요?
일야 수츠크버(Ilya Sutskever)
Lex Fridman: 이건 어느 정도 미메(meme)가 되고 있습니다. 당신은 일야를 오랫동안 알고 계시죠. 분명히 그는 이사회와 관련된 인물입니다. 현재 그와의 관계는 어떻습니까?
Sam Altman: 저는 일야를 사랑합니다. 일야를 매우 존경합니다. 그의 계획에 대해서는 지금 말할 것이 없습니다. 그건 그의 문제이지만, 저는 제 남은 경력 동안 그와 함께 일하기를 진심으로 바랍니다. 그는 저보다 조금 어리지만, 아마도 더 오래 일할지도 모릅니다.
Lex Fridman: 미메에서는 그가 무언가를 보았다고 말합니다. 마치 그가 AGI를 보았고, 그것이 그의 내면을 매우 걱정하게 만들었다는 식이죠. 일야는 무엇을 본 겁니까?
Sam Altman: 일야는 AGI를 본 적이 없습니다. 우리 중 누구도 AGI를 본 적 없습니다. 우리는 아직 AGI를 만들지 못했습니다. 제가 일야를 정말 좋아하는 이유 중 하나는 그가 AGI와 안전 문제를 매우 진지하게 받아들이며, 사회에 미칠 영향과 같은 광범위한 문제들을 포함한다는 점입니다. 우리가 계속해서 중대한 진전을 이루면서, 지난 몇 년간 저는 일야와 '이것이 의미하는 바는 무엇인지', '우리가 올바른 일을 하기 위해 무엇을 해야 하는지', '우리의 사명을 성공적으로 완수하기 위해 무엇을 해야 하는지'에 대해 가장 많이 이야기한 사람 중 하나였습니다. 그래서 일야는 범용 인공지능을 보지 않았지만, 일야는 우리가 올바른 일을 하도록 생각하고 걱정함으로써 인류에게 기여했습니다.
Lex Fridman: 저는 그와 많은 대화를 나눠봤습니다. 기술을 이야기할 때 그는 항상 장기적인 사고를 한다고 생각합니다. 일년 후에 무슨 일이 벌어질지가 아니라, 10년 후는 어떻게 될지 생각하는 것이죠. 기본 원칙에서 출발해, '확장된다면, 여기의 근본 원리는 무엇인가?', '어디로 가는가?'를 생각합니다. 이것이 다른 모든 안전 문제와 관련된 모든 문제의 기초가 되며, 그를 매우 흥미로운 인물로 만듭니다. 그가 왜 침묵하는지 아시나요? 자기 성찰을 하고 있기 때문인가요?
Sam Altman: 다시 말하지만, 저는 일야를 대변하고 싶지 않습니다. 당신이 직접 그에게 물어보시는 게 좋겠습니다. 그는 확실히 사색적인 사람입니다. 저는 일야가 항상 아주 좋은 방식으로 자기 성찰을 한다고 생각합니다.
Lex Fridman: 네. 또한 그는 침묵의 힘을 인정한다고 생각합니다. 또, 그가 바보 같다는 소리를 들은 적 있는데, 전 그의 그런 면을 본 적이 없습니다.
Sam Altman: 그런 일이 일어날 때면 정말 달콤한 기분이에요.
Lex Fridman: 전 바보 같은 일야를 본 적이 없지만, 그걸 기대하고 있기도 해요.
Sam Altman: 최근 저는 그와 저녁 만찬에 참석했는데, 그는 강아지와 놀고 있었고, 기분이 바보 같고 귀여웠습니다. 저는 '세상이 가장 자주 보는 일야의 모습이 아니구나.'라고 생각했습니다.
Lex Fridman: 이 모든 이야기를 요약하자면, 현재 이사회 구조에 대해 만족감을 느끼시나요?
Sam Altman: 네.
Lex Fridman: 이 모든 것과 그것의 방향성에 대해서도 만족하시나요?
Sam Altman: 새 이사회에 대해 매우 만족합니다. OpenAI의 구조 측면에서 보면, 이사회의 임무 중 하나는 구조를 연구하고, 어디를 더 견고하게 만들 수 있을지 살펴보는 것입니다. 우리는 우선 새로운 이사회 구성원들이 자리를 잡기를 원했고, 분명히 이 과정 전반에서 구조에 관한 교훈을 얻었습니다. 저는 딱히 깊이 있는 말을 할 수는 없지만, 이건 미친 듯이 고통스러운 경험입니다. 저는 이것이 완벽한 괴물의 폭풍이었다고 생각합니다. 점점 더 커지는 위험과 함께, 우리는 탄탄한 거버넌스 구조, 절차, 인재를 가져야 한다는 점에서, 이것이 제게 어떤 일이 벌어질 수 있는지를 예행연습하게 해줬습니다. 저는 이 일이 일어난 게 다행이라 생각하지만, 겪는 건 정말 충격적이고 고통스러운 일이었습니다.
Lex Fridman: 이로 인해 다른 사람을 믿는 데 더 조심스러워지셨나요?
Sam Altman: 네.
Lex Fridman: 개인적인 차원에서요?
Sam Altman: 네. 저는 항상 매우 타인을 믿는 사람이었습니다. 인생 철학 중 하나는 모든 편집증을 걱정하지 말고, 예외적인 경우를 걱정하지 말고, 그렇게 하면 약간은 곤란해지겠지만, 더 여유 있게 살아갈 수 있다는 것이었습니다. 하지만 이번 일은 저를 크게 충격으로 몰아넣었고, 저는 당황했으며, 이제는 정말 마음에 들지 않지만, 사람들이 기본적으로 믿는다는 점과 나쁜 상황에 대비하는 계획을 세우는 제 관점이 확실히 바뀌었습니다.
Lex Fridman: 이 점을 조심하셔야 합니다. 너무 냉소적인 사람이 되는 게 걱정되지 않나요?
Sam Altman: 저는 지나치게 냉소적이게 되는 것을 걱정하지 않습니다. 저는 냉소주의자의 극단적인 반대편에 있는 사람이라고 생각합니다. 하지만 제가 더 이상 기본적으로 믿는 사람이 아닌 게 걱정됩니다.
Lex Fridman: 사실 어느 쪽 모델이 AGI 개발자에게 더 적합한지 잘 모르겠습니다. 신뢰냐 불신이냐 말이죠. 당신은 흥미로운 여정을 겪고 있습니다. 하지만 구조보다 인간적인 측면이 더 흥미롭습니다. 멋진 것을 만들어내는 사람들과 함께하면서도 현명한 결정을 내릴 수 있도록 주변을 어떻게 구성하시나요? 돈을 더 벌수록, 이 물건의 힘이 더 커지고, 사람들은 더 이상하게 변하죠.
Sam Altman: 이사회 구성원에게 얼마만큼의 신뢰를 줘야 하느냐, 또는 제가 다르게 행동해야 하는지에 대해 다양한 의견을 나눌 수 있습니다. 하지만 여기 팀의 경우, 제게 매우 높은 점수를 줘야 한다고 생각합니다. 제가 매일 함께 일하는 사람들에 대해 큰 감사, 신뢰, 존경심을 가지고 있으며, 그런 사람들에게 둘러싸이는 것이 정말 중요하다고 생각합니다.
머스크의 소송
Lex Fridman: 우리 공동의 친구인 일론(Elon)이 OpenAI를 상대로 소송을 제기했습니다. 당신에게 그의 비판의 본질은 무엇이며, 그의 주장은 어느 정도 타당하며, 어디까지 잘못된 것입니까?
Sam Altman: 그것이 정확히 무엇에 관한 것인지 잘 모르겠습니다. 우리는 처음에는 단순히 연구소가 되고 싶었고, 이 기술이 어떻게 발전할지 몰랐습니다. 그게 겨우 7~8년 전의 일이기에, 당시의 상황을 다시 떠올리기는 어렵지만, 언어 모델이 큰 이슈가 되기 전이었고, API를 판매하거나 챗봇 접근 권한을 팔 생각도 없었으며, 제품화를 할 것인지조차 전혀 몰랐습니다. 그래서 우리는 "우리는 그냥 연구를 해보려는 건데, 이걸로 무엇을 할지는 잘 모르겠어"라고 생각했습니다. 저는 근본적으로 새로운 많은 것들에 대해 시작할 때, 어둠 속에서 더듬거리며 몇 가지 가정을 하게 되는데, 대부분은 결과적으로 틀린 것으로 밝혀진다고 생각합니다.
그리고 분명히 다른 방식으로 해
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
