실리콘밸리의 새로운 왕, 미국 의회를 정복하다. 오픈AI 창립자가 청문회에서 말한 것들

2023.05.17

실리콘밸리의 새로운 왕, 미국 의회를 정복하다. 오픈AI 창립자가 청문회에서 말한 것들

샘 알트먼은 그 결정권자다. 그는 질문에 대답하는 것이 아니라 모든 것을 정의하고 있다.

2023.05.17 - 01:53:09

OpenAIAI

Web3 심층 보도에 집중하고 흐름을 통찰

샘 알트먼은 그 결정권자다. 그는 질문에 대답하는 것이 아니라 모든 것을 정의하고 있다.

글: Founder Park

미국 의회 청문회는 흔한 일이다. 페이스북의 저커버그에서 FTX의 SBF까지, 청문회에 참석한 이들은 대부분 거센 질책을 받았다. 하지만 이제 예외가 생겼다—OpenAI 창업자 샘 알트먼(Sam Altman).

5월 16일, 미국 의회 역사상 가장 주목받은 AI 관련 청문회에서 OpenAI 최고경영자 샘 알트먼은 특별 대우를 받았다. 비난은 커녕 오히려 중심 무대에 섰으며, AI 규제 필요성을 강조하며 법제화를 적극 환영한다고 밝혔고, 끊임없이 문제 제기를 이어갔다.

청문회 전날, 알트먼은 국회의사당에서 60명의 의원들과 저녁 만찬을 함께하며 OpenAI의 인공지능 기술과 규제 과제를 설명했다. 약 두 시간 동안 진행된 이 저녁식사에서 알트먼의 발언은 국회의원들을 완전히 사로잡았고, CNBC 현지시간 보도에 따르면 그는 인터뷰한 6명의 의원들로부터 극찬을 받았다.

실리콘밸리의 새로운 지도자가 등장하고 있다.

본 콘텐츠는 Founder Park의 기사로, 알트먼의 국회의원 청문회 증언 요약이며, 아래는 전문 내용:

단 6개월도 채 안 되어 ChatGPT는 샘 알트먼을 거의 모든 기술 리더들이 반드시 겪어야 하는 자리로 올려놓았다.

하지만 이번엔 달랐다. 의원들은 공격적이지 않았고, 친절했으며 심지어 존중하기까지 했다. 워싱턴포스트(WaPo) 보도에 따르면, 의원들의 알트먼에 대한 태도는 지금까지 어떤 거대 기업 CEO보다 훨씬 우호적이었다.

또한 과거와 다른 점은 이번에는 의원들도 상당한 숙제를 해왔다는 것이다. 그들은 기술 관련 지식을 많이 습득해왔다.

아쉽게도, 아무리 준비를 해도 폭주하는 AI 앞에서는 따라잡기 어렵다. 그들도 우리와 마찬가지로 OpenAI가 정확히 무엇을 만들어냈는지 아직 완전히 이해하지 못하고 있다.

좁은 이 방 안에서 샘 알트먼이 결정권자였다. 그는 질문에 답하는 것이 아니라 모든 것을 정의하고 있었다. 그는 기술의 능력, 규제의 경계, 그리고 전체 기술 세계의 미래까지 정의하고 있다.

누군가는 이 규제 청문회를 인공지능의 새로운 장의 시작이라고 말한다.

그는 이미 첫 번째 장을 어떻게 써야 할지 생각해둔 듯하다.

기술은 규제되어야 한다,하지만 내가 어떻게 규제해야 할지 알려주겠다

앞선 글에서도 언급했듯이, 이번 청문회는 OpenAI와 샘 알트먼의 AI 기술이 사회에 혼란을 초래했다고 비판하는 자리가 아니었다.

오히려 의원들은 OpenAI의 기술 개발을 비판하지 않고, 차트GPT 등의 생성형 AI 시스템에 적용될 잠재적 규칙에 대해 샘 알트먼과 다른 두 증인의 의견을 묻는 데 집중했다.

준비된 의원들

이번 청문회 의장을 맡은 블루멘탈(Blumenthal) 상원의원은 한 녹음 파일로 발표를 시작했다.

「우리는 너무나 많이 봐왔다. 기술이 규제를 넘어서고, 개인 데이터가 무분별하게 수집되며, 허위정보가 확산되고, 사회 불평등이 심화되는 모습을 말이다. 알고리즘이 차별과 편견을 부추기고, 투명성 부족이 대중의 신뢰를 훼손할 수 있음을 우리는 알고 있다. 이것이 우리가 원하는 미래는 아니다.」

녹음이 끝나자 블루멘탈은 말했다. 「집에서 청문회를 시청 중이라면 방금 들은 목소리가 내 것이라고 생각할지도 모른다. 하지만 사실은 그렇지 않다.」

그는 자신의 음성을 복제하는 소프트웨어를 이용해 ChatGPT에게 자신의 어투로 청문회 개회사를 작성하게 한 것이다.

이 행동은 많은 네티즌들로부터 긍정적인 평가를 받았으며, 이는 국회의 기술 이해에 대한 진정성 있는 노력으로 여겨졌다.

몇 가지 비유

복잡한 사물을 이해하려 할 때 사람들은 그것을 친숙한 것으로 비유하곤 한다.

이번 청문회 내내 의원들과 증인들은 대규모 언어 모델(LLM)을 다음과 같은 것들에 비유했다:

최초의 휴대폰, 인터넷의 발명, 산업혁명, 인쇄기, 핵폭탄.

「저희를 규제해주세요」

알트먼은 의원들에게 AI가 궁극적으로 「세계에 중대한 피해를 줄 수 있다」는 점이 가장 걱정된다고 말하며, 적절한 규제가 없으면 AI는 분명 부정적인 영향을 미칠 수 있다고 인정했다. 「이 기술이 잘못되면 결과는 매우 심각할 수 있습니다.」(If this technology goes wrong, it could be quite wrong.)

머스크는 이 말에 대해 「정확하다(accurate)」고 평가했다.

따라서 그는 기술이 책임감 있게 확산되기 위해 정부의 규제가 필수적이라고 강조했다.

한 상원의원은 알트먼의 답변을 듣고 이렇게 말했다. 「국회 앞에서『저희를 규제해주세요』라고 말하는 회사는 거의 본 적이 없습니다.」

「하지만 그는 AI 제품 출시를 늦추거나 멈추자는 제안은 하지 않았다」고 WaPo 기자는 덧붙였다.

경쟁은 적을수록 좋다

코리 부커(Cory Booker) 의원은 그의 가장 큰 우려 중 하나가 「기업의 과도한 집중」이라며 「소수의 기업이 너무 많은 사람의 삶을 좌지우지하게 되고, 그 기업들이 점점 더 강력해지는 것은 정말 무섭다」고 말했다.

이에 알트먼은 그를 안심시키며 먼저 「대규모 생성형 AI 모델을 만들 수 있는 업체는 극소수밖에 없다」고 말했다. 또한 「진짜로 주목해야 할 플레이어가 적을수록 오히려 유리하다」고 주장하며, 경쟁은 존재하며 충분하다고 강조했다.

광고 사업을 하지 않는다고 말한 적 없다

부커 의원은 OpenAI가 광고 사업에 뛰어들 가능성에 대해서도 물었다.

알트먼은 가능성을 배제하지 않았다. 「절대로 없다고는 못 하겠습니다.」 그는 일부 고객에게는 광고가 유일한 선택지일 수 있다고 말하면서도, 자신은 구독 모델을 더 좋아한다고 밝혔다.

입법자들은 AI 시스템이 광고 기반 모델을 채택하면 결국 소셜 네트워크와 알고리즘 추천의 오류를 반복할까 걱정한다.

소셜 네트워크(social network)라는 OpenAI와는 직접적인 관련이 없는 이 키워드가 이번 청문회에서 반복적으로 등장했다. 페이스북과 틱톡 이후 국회의원들은 PTSD처럼 소셜 미디어가 과거에 가져온 문제를 다시 겪고 싶지 않아 한다.

그래서 알트먼은 반복적으로 강조했다. AI는 소셜 미디어가 아니며, 그렇게 운영해서는 안 된다고.

새로운 디지털 식민 도구?

소셜 네트워크가 의회에 가져온 또 다른 문제는 소수 언어 지원 부족으로, 미국 기술 기업들이 「디지털 식민주의(digital colonialism)」라는 비판을 받아왔다.

이에 의원은 AI가 충분한 언어를 지원할 수 있는지 우려했다.

샘 알트먼은 최신 버전의 ChatGPT가 「이미 다수의 언어를 매우 잘 사용하고 있으며, 일부 소수 언어에 대해서는 파트너와 협력해 해당 언어를 모델에 포함시키는 것도 기꺼이 한다」고 답했다.

국제 신기준 설정

알트먼은 핵무기를 규제하는 각국 정부의 접근 방식을 참고해,AI 기준을 마련할 국제기구 설립을 주장했다.

그는 미국이 국제원자력기구(IAEA)와 유사한 기구를 설립해 AI 산업에 대한 글로벌 규칙을 제정해야 한다고 제안했다.

「미국이 다른 나라들이 협력하고 참여해야 하는 국제 기준을 설정하는 건 실현 가능한 방법이 있다. 겉보기에 비현실적으로 느껴질 수 있지만,」 그는 말했다. 「하지만 저는 이것이 세계에 좋은 일이라고 생각합니다.」

새로운 AI 법률

1996년 미국 의회는 230조항을 통과시켜 온라인 서비스 제공자가 사용자의 게시물에 대해 책임을 지지 않도록 보호했는데, 이는 소셜 미디어의 부흥을 어느 정도 촉진했다.

알트먼은 이 조항이 인공지능에는 적용되지 않을 것이라고 밝혔다.

그는 이전부터 AI 전용 새로운 법률 제정을 주장해왔다.

세 가지 계획

알트먼은 세심하게 준비된 체계적인 방안을 제시했다:

1. 새로운 정부 기관을 설립하여 LLM의 허가를 담당하고, 기준에 부합하지 않는 기업의 라이선스 취소 권한을 갖도록 한다;

2. AI 모델에 대한 안전 기준을 마련하고, 위험성을 평가한다;

3. 독립된 전문가들이 모델의 다양한 지표를 독립적으로 평가해야 한다.

비판적인 동석자

물리적으로는 알트먼과 같은 편이지만, 뉴욕대학교 명예교수 게리 마커스(Gary Marcus)는 오히려 국회의원에 가까웠다.

그는 의원들보다 더 공격적이었고, 알트먼을 난처하게 만든 몇 가지 질문을 던졌다:

OpenAI가 전 인류를 위한 것이라며 외치지만 실제로는 마이크로소프트와의 상업적 제휴를 맺고 있다;

GPT-4의 학습 데이터가 투명하지 않아 이에 반대한다는 점.

정치 필수 과목 계속

이번 청문회 후, 알트먼은 즉시 국회의 AI 핵심 그룹에 보고를 하기 위해 달려가야 했다. 이 회의는 하원의장이 주재할 예정이었다.

미국 의회 청문회는 알트먼의 일정 일부였으며, 그는 한 달간의 국제 방문 일정을 통해 각국 정책 입안자들과 기술 및 규제 문제를 논의하고 있다.

여러 보도에 따르면, 알트먼은 과거 여러 해 전 캘리포니아 주지사 선거 출마를 고려한 바 있다. 정치인들과 교류하는 것은 그에게 전혀 부담스러운 일이 아니다.

왜 알트먼은 정부 규제를 갈망할까?

한 트위터 사용자는 이렇게 댓글을 남겼다. 아주 간단하다. 당신이 규칙을 만들면 경쟁을 통제할 수 있다. 목적은 규제를 통해 경쟁자를 억제하고, 후발 주자들을 차단하며, 신생 시장에서 유일한 플레이어가 되는 것이다.

정의자는 누구인가?그는 무엇을 생각하고 있는가?

기술 낙관주의자

알트먼은 8살 때 프로그래밍을 시작했다.

20대 중반의 한 친구와의 하이킹 도중, 알트먼은 인간이 유일무이한 존재라는 믿음을 버렸다.

AI의 발전을 논할 때 그는 이렇게 말한다. 「약 13년 안에 나의 뇌를 복제할 수 있는 하드웨어가 없을 이유는 전혀 없습니다. 창의성, 어디서든 떠오르는 영감, 동시에 기쁨과 슬픔을 느끼는 능력처럼 자신을 다른 존재와 구분짓는 요소들이 있긴 합니다. 하지만 컴퓨터 역시 자신의 욕망과 목표 체계를 갖게 될 것입니다. 지능이 시뮬레이션될 수 있다는 것을 깨달았을 때, 나는 인간의 독창성 개념을 포기했습니다.」

그리고 그는 굳게 믿는다. 「모든 진정한 지속 가능한 경제 성장은 기술 발전에서 비롯된다」고.

종말론자

AGI(범용 인공지능)에 뛰어들기 전, 알트먼은 완전한 종말론자였다.

「나는 생존을 위해 준비한다」고 그는 YC 모임에서 말했다. 인류를 멸망시킬 수 있는 두 가지 요소는 생물학적 바이러스와 인공지능이라고 지적했다.

주변의 창업가들은 그의 발언에 불편함을 느꼈지만, 그는 계속했다.

「나도 너무 자주 생각하긴 피하고 싶지만,」「총, 금, 요오드화칼륨, 항생제, 배터리, 이스라엘 국방군의 방독면, 그리고 비행기로 날아갈 수 있는 빅서(Big Sur)의 광활한 땅을 갖고 있다」고 말했다.

천재 아동의 양육자

이 때문에 최근 AI 열풍 속에서 알트먼은 머스크 등과 함께 OpenAI를 설립해 인공지능이 인류에게 유익한 방향으로 발전하도록 하고자 했다.

그는 진정한 AGI는 단순히 속이는 일을 넘어 창조하고, 이론을 발견하며, 예술을 창작해야 한다고 본다. AGI는 어린이처럼 수년간 모든 것을 배워야 하며, OpenAI의 사명은 이 천재 아동을 돌보다가 세상이 받아들일 수 있을 때까지 보살피는 것이다.

이제 천재 아동은 자랐다.

그 이전, 이 아동을 키울 재정이 부족했을 때, 알트먼은 망설이지 않고 마이크로소프트의 투자를 받아들였다. 「그들이 자신들이 가장 유망하다고 생각하는 길을 유지하려면 더 많은 자금이 필요하다는 것을 깨달았을 때, 원칙 변경을 망설이지 않았다.」

그러니까 그는 머스크와 철두철미한 동지다

샘 알트먼은 다중의 정체성을 지닌 인물이다.

그는 창업 기업 Loopt의 창업자이기도 하며, 이 회사는 2012년 그린닷(Green Dot)에 4340만 달러에 매각되었다.

YC 창업자 폴 그레이엄(Paul Graham)이 후임자를 찾을 때 알트먼을 눈여겨봤다. YC CEO가 된 알트먼은 당시 28세였다. a16z의 마크 앤드리슨(Marc Andreessen)은 YC에서의 그의 활동에 대해 이렇게 평가했다. 「샘의 경영 아래 YC의 야망 수준이 10배로 증가했다.」

2019년, 그는 암호화폐 기업 월드코인(Worldcoin)을 창업했다. 이 회사는 홍채 스캔 기술을 활용해 글로벌 신원 확인 시스템을 구축할 계획이며, 이를 통해 안전한 글로벌 암호화폐 월드코인이 만들어질 수 있다.

2021년, 그는 핵융합 스타트업 헬리온 에너지(Helion Energy)의 투자에 참여하며 단독으로 3억 5천만 달러를 투자했다. 에너지는 그가 항상 관심을 기울여온 분야다. 「만약 우리가 지능의 비용과 에너지 비용을 계속 낮출 수 있다면, 우리 모두의 삶의 질은 상상할 수 없을 정도로 향상될 것이다.」

지난주 마이크로소프트는 헬리온 에너지와 전력 구매 계약을 체결하며 2028년부터 전력을 구매하겠다고 발표했다.

알트먼은 YC Research 내에 합성 생물학 부서를 설립해 인간의 노화와 죽음을 지연시키는 연구도 계획하고 있다. 「효과가 있다면,」 알트먼은 말한다. 「여전히 죽겠지만, 120세가 되어도 활기차게 살아있을 수 있다.」

그는 인간의 후계자를 준비하기 위한 그룹 구성도 고려하고 있다. AI이든 강화된 인간이든 상관없이, 로보틱스, 사이보그 공학, 양자 컴퓨팅, 인공지능, 합성 생물학, 게놈학, 우주 여행 분야의 사상가들과 철학자들을 모아 인간을 대체할 기술과 윤리에 대해 논의하는 것이다.

현재 이 분야의 리더들은 정기적으로 알트먼의 집에서 모임을 갖고 있다.