a16z 대화 OpenAI CTO: 이론에서 실천으로, AI 기술이 미래 혁신을 어떻게 주도하는가?
글: 세인트 폴
2022년 말 OpenAI가 ChatGPT를 발표한 이후 투자 업계는 인공지능(AI) 분야에 대한 이해를 지속적으로 깊이 있게 하고 있다. 인공지능 산업 체인은 대략 핵심 기술 제공자, 인공지능 시스템, 인공지능 응용 사용자로 나눌 수 있다. 전 세계 투자자들의 일반적인 인식에 따르면, 현재 많은 이들이 인공지능이 미래 장기간의 주요 투자 분야가 될 가능성이 높다고 보고 있으며, 마치 30년 전 컴퓨터나 20년 전 인터넷과 유사한 위치에 있다고 본다. 또한 앞으로의 관점에서 보면, 이미 응용이 현실화되고 있다.
세부 분야 투자에 대한 이해는 항상 산업 현장의 투자자들로부터 배워야 한다. 유명 벤처 캐피털리스트 A16Z는 인공지능 분야에 꾸준히 큰 투자를 하고 있다. 최근 그들은 OpenAI의 CTO 미라 무라티(Mira Murati)와 대담을 진행했다. 미라는 ChatGPT 뒷이야기와 인공지능 및 인간-컴퓨터 상호작용의 미래에 대해 이야기했다.
요약
-
ChatGPT는 안전한 인공지능 시스템을 만들기 위한 고민에서 시작되었으며, 인간의 피드백을 활용한 강화학습 방식이다.
-
OpenAI는 사람들이 디지털 정보와 상호작용하는 방식을 재정의하고 있으며, 파트너와 같은 조력자 역할을 하며 AI 시스템의 일관성과 안전성을 지속적으로 강화하고 있다. 제품 형태로 출시함으로써 실험실 내 가상 환경이 아닌 실제 사용자로부터 실시간 피드백을 받고 있다.
-
ChatGPT는 텍스트 기반에서 이미지, 비디오 등 다양한 모달리티를 추가하고 있다. 이를 통해 모델은 우리가 세계를 이해하고 관찰하는 방식과 유사하게 주변 세계를 보다 포괄적으로 이해할 수 있게 된다.
-
미래에는 단일 모델이 모든 것을 지배하는 상황은 없을 것이다. 사람들은 각자의 필요에 가장 적합한 도구를 선택하게 될 것이기 때문이다.
미라 무라티(Mira Murati) 프로필
미라는 공산주의 체제가 막 해체된 알바니아에서 태어났다. 당시 알바니아는 오늘날의 북한과 매우 유사한 상태였다. 끊임없이 변화하고 불확실한 시대 속에서 교육은 모든 것의 핵심이었다. 그리고 책 외에는 거의 오락거리도 없었다. 어린 미라는 책을 통해 답을 찾고자 했다. 그녀는 역사나 사회학처럼 변동성이 큰 인문학보다는 과학 분야에서 더 안정적이고 깊이 연구 가능한 진리를 선호했다. 결국 미라는 성장 환경에서 자연스럽게 과학과 수학에 관심을 갖게 되었으며, 근본적으로 지금 OpenAI에서 하는 일 역시 수학에 기반하고 있다.
뛰어난 학업 성적으로 장학금을 받은 미라는 캐나다에서 고등학교 마지막 2년을 마쳤다.
대학에서는 기계공학을 전공했는데, 지식을 실제 세계의 문제 해결에 적용할 수 있는 최선의 방법이라고 생각했기 때문이다. 당시 그녀는 지속 가능한 교통수단과 에너지 시스템에 매우 관심이 많았으며, 졸업 작품으로는 슈퍼커패시터를 이용해 하이브리드 레이싱카를 제작하기도 했다.
그 후 곧바로 테슬라에 입사하여 Model S 듀얼모터 개발에 참여했으며, 초기 설계 단계부터 Model X 개발에 참여해 결국 전체 프로젝트의 론칭을 주도했다.
테슬라에서의 경험은 특히 자율주행이라는 AI 응용 분야에 대한 그녀의 관심을 촉발시켰다. AI와 컴퓨터 비전 기술이 이동 방식을 혁신할 수 있다는 점에 매료되었고, 이로 인해 인공지능의 다양한 응용 가능성에 대해 더 깊이 고민하게 되었다. 따라서 미라는 AI가 세상에 가져올 수 있는 변화에 점점 더 큰 관심을 갖게 되었다.
특히 AI가 인간-기계 상호작용, 그리고 인간과 정보 간의 전반적인 관계에 어떤 영향을 줄 수 있을지 궁금해했으며, 공간 컴퓨팅(Spatial Computing)에도 큰 관심을 가졌다. 이후 그녀는 첨단 기술 기업 Leap Motion에 제품 및 엔지니어링 부사장으로 합류한다. 이 경험이 그녀의 제품화 능력을 더욱 강화하는 계기가 되었다.
(참고로, Leap Motion의 창립자인 David Holz는 Leap Motion을 매각한 후, 현재 또 다른 인기 급상승 중인 인공지능 애플리케이션인 Midjourney를 창업했다.)
2018년, 미라는 OpenAI에 합류했다. 이때부터 그녀는 '범용성(Generalization)'에만 집중하면 어떻게 될지에 대해 더 깊이 고민하기 시작했다.
또한 미라의 연구 방법론을 통해, 불확실한 환경 속에서 혁신을 추구해야 하는 과학기술 분야의 탐구 정신을 엿볼 수 있다:
-
가끔 잠에서 깨어보면 새로운 아이디어가 떠오른다. 며칠 또는 몇 주 동안 생각을 정리하다 보면 마침내 해결책을 찾게 된다. 즉각적인 결과를 기대할 수 없으며, 반복적인 접근도 아닐 수 있다.
-
거의 다른 사고방식과 같으며, 직관을 쌓아가면서도 문제를 해결하겠다는 믿음을 갖고 접근하는 규율이 필요하다. 시간이 지나면서 어떤 문제가 진정으로 해결해야 할 중요한 문제인지 판단하는 직관이 생긴다.
대담 요약
유명 벤처 캐피털리스트 A16Z는 인공지능 분야에 꾸준히 큰 투자를 하고 있다. 아래 내용은 A16Z의 펀드 매니저 마틴과 미라 무라티 간의 대담 일부를 발췌한 것이다. 미라는 ChatGPT의 배경 스토리와 인공지능, 인간-기계 상호작용의 미래에 대해 설명하며, 제품 책임자로서의 경험을 바탕으로 제품의 실용성에 대해 높은 관심을 보이고 있음을 알 수 있다.
마틴: 현재 인공지능은 시스템 문제보다는 오히려 공학적 문제에 더 가까운가요?
미라: 둘 다 그렇습니다. 시스템과 공학적 문제는 여전히 거대합니다. 우리는 이러한 기술을 배포하고 확장하려 하며, 이를 더 효율적으로 만들고 누구나 쉽게 접근할 수 있도록 하고 있습니다. 즉, 머신러닝(ML)의 복잡한 기술을 몰라도 누구나 사용할 수 있어야 한다는 의미입니다.
API를 통해 모델을 제공하는 것과 ChatGPT를 통해 기술을 제공하는 것 사이의 차이를 살펴보면 명확합니다. 기본적으로 동일한 기술일 수 있지만, ChatGPT는 강화학습과 인간의 피드백을 통합했다는 점에서 차이가 있습니다. 이는 사용자들의 반응과 상상력을 자극하는 능력, 그리고 사람들이 매일 사용하게 만드는 능력이 완전히 다르다는 것을 의미합니다.
자연어 인터페이스
마틴: 저는 또한 ChatGPT의 API가 매우 흥미롭다고 생각합니다. 제가 프로그램에서 이러한 모델을 사용할 때마다, 마치 수퍼컴퓨터에 주판을 덮어씌운 느낌이 듭니다. 가끔 "키보드와 마우스를 모델에게 주고, 스스로 프로그래밍하게 하면 어떨까?"라고 생각하기도 합니다. API는 영어로 작동하며, 제가 무엇을 하라고 지시하면, 모델이 모든 프로그래밍을 수행합니다. 그런데 ChatGPT 같은 제품을 설계할 때, 시간이 지나면서 실제 인터페이스가 자연어 중심이 될 것이라고 보십니까? 아니면 여전히 프로그래밍 언어가 중요한 역할을 할 것이라 보시나요?
미라: ChatGPT에서는 프로그래밍이 더 이상 추상적이지 않습니다. 이제 우리는 자연어로 고대역폭(high-bandwidth) 방식으로 컴퓨터와 소통할 수 있습니다. 하지만 또 다른 가능성이 있습니다. 즉, 이 기술이 우리로 하여금 기계를 '프로그래밍'하는 것이 아니라, 기계와 '협업'하는 법을 배우게 해줄 수 있다는 점입니다. 자연어로 프로그래밍이 가능해지면서, 프로그래밍 계층은 점점 더 쉬워지고 접근성이 높아집니다. 그러나 ChatGPT를 통해 우리가 목격한 것은, 모델을 파트너 혹은 동료처럼 함께 일하는 존재로 활용할 수 있다는 점입니다.
마틴: 시간이 지남에 따라 어떻게 될지 매우 흥미롭습니다. 여러분은 ChatGPT에 API를 두었지만, 동료에게는 API가 없습니다. 동료와는 대화를 나누죠. 시간이 지나면서 이런 것들이 모두 자연어 중심으로 진화할 수 있을까요? 아니면 여전히 한계 상태 기계(finite state machine)나 전통적인 컴퓨터가 시스템 내에서 필수적인 역할을 할 것이라 보시나요?
미라: 지금 우리는 전환점에 서 있습니다. 우리가 디지털 정보와 상호작용하는 방식을 재정의하고 있으며, 바로 이러한 인공지능 시스템을 통해 협업하는 형태로 변화하고 있습니다. 아마도 여러 개의 인공지능 시스템이 존재할 것이고, 각각 서로 다른 능력을 가질 수 있습니다. 또는 하나의 범용 시스템이 우리의 모든 활동을 따라다니며, 나의 배경, 오늘 한 일, 삶과 일에서의 목표 등을 알고, 이를 바탕으로 도움을 주고 조언을 해주는 형태일 수도 있습니다. 정말 강력한 가능성이 열릴 수 있습니다.
현재 우리는 이 변화의 분수령에 있습니다. 미래가 어떻게 될지는 아무도 모릅니다. 우리는 이러한 도구와 기술을 더 많은 사람들에게 제공하여 실험할 수 있도록 하고 있으며, 그 과정에서 어떤 결과가 나타날지 지켜보고 있습니다. 이것이 저희가 처음부터 사용해온 전략입니다.
지난 주 ChatGPT를 출시할 당시, 우리는 "아직 충분히 좋지 않을지도 모른다"고 우려했습니다. 하지만 실제로 무슨 일이 벌어졌는지를 모두가 목격했습니다. 우리는 그냥 출시했고, 사람들이 직접 새로운 사용 사례를 찾아냈습니다. 이러한 기술을 누구나 쉽게 사용할 수 있도록 만들면, 예상하지 못한 결과가 나타납니다.
OpenAI 발전 로드맵
마틴: 인공지능에 대해 이야기할 때 사람들은 아직 어떻게 접근해야 할지 잘 모릅니다. 지침이 필요하고, 선택을 해야 합니다. 당신은 OpenAI에 있고, 다음에 무엇을 할지 결정해야 하겠죠. 만약 그 의사결정 과정을 설명해주신다면, 어떤 기준으로 무엇을 해야 할지, 무엇에 집중해야 할지, 무엇을 출시해야 할지, 또는 어떤 방향으로 나아가야 할지를 어떻게 결정하시나요?
미라: ChatGPT가 어떻게 탄생했는지를 생각해보면, 사실 이것은 우리가 처음부터 출시하려 했던 제품은 아닙니다. 그 기원은 5년 전으로 거슬러 올라갑니다. 당시 우리는 안전한 인공지능 시스템을 어떻게 만들 수 있을지 고민하고 있었습니다. 인간이 직접 목표 함수(objective function)를 작성하는 것은 바람직하지 않았습니다. 왜냐하면 복잡한 목표 함수를 잘못 설정하면 위험할 수 있기 때문입니다.
그래서 등장한 개념이 '인간의 피드백을 활용한 강화학습'(RLHF)입니다. 우리가 진정으로 이루고자 했던 것은 인공지능 시스템을 인간의 가치관과 일치시키고, 인간의 피드백을 받아들이도록 만드는 것이었습니다. 인간의 피드백을 기반으로 하면, 시스템은 올바른 일을 할 가능성이 높아지고, 원하지 않는 행동을 할 가능성은 낮아집니다. 이후 GPT-3을 개발하고 API로 공개하면서, 우리는 안전성 연구를 처음으로 실제 세계에 적용할 수 있었습니다. 이는 명령을 따르는 모델(instruction-following model)을 구현함으로써 가능해졌습니다.
API를 사용하는 고객들로부터 입력(prompt)을 수집하고, 외주 인력을 통해 모델이 학습할 수 있는 피드백을 생성했습니다. 이 데이터를 기반으로 모델을 미세조정(fine-tuning)하여 명령을 따르는 모델을 만들었습니다. 이 모델은 사용자의 의도를 더 잘 이해하고, 사용자가 원하는 바를 수행할 가능성이 높아졌습니다. 이는 매우 중요한 전환점이었습니다. 인공지능 안전성은 더 이상 실험실에서만 논의되는 이론이 아니라, 현실 세계에 실제로 적용되어야 하는 실질적인 과제가 된 것입니다.
물론 대규모 언어 모델(LLM)은 개념과 현실 세계의 사고를 훌륭하게 표현하지만, 출력 측면에서는 많은 문제가 있었습니다. 그중 가장 큰 문제 중 하나가 바로 '환각'(hallucination)이었습니다. 우리는 계속해서 환각과 진실성 문제에 대해 연구해왔습니다. 어떻게 하면 모델이 자신이 모르는 것을 '모른다'고 표현하게 할 수 있을까?
ChatGPT의 전신은 사실 'WebGPT'라는 프로젝트였는데, 이는 정보를 검색하고 출처를 인용하는 방식을 사용했습니다. 이 프로젝트는 결국 대화 방식이 특별하다고 판단되면서 ChatGPT로 발전하게 되었습니다. 왜냐하면 대화는 질문을 던지고, 상대를 수정하며, 불확실성을 표현할 수 있기 때문입니다.
마틴: 계속 오류를 발견하게 되는 것이죠. 왜냐하면 상호작용이 이루어지니까요...
미라: 맞습니다. 이런 상호작용을 통해 더 깊은 진실에 접근할 수 있습니다. 우리는 GPT-3과 GPT-3.5를 가지고 이 방향으로 나아가기 시작했습니다. 안전성 측면에서 매우 고무적이었습니다. 하지만 사람들이 기억하지 못하는 사실은, 그 시점에서 우리는 이미 GPT-4를 훈련시키고 있었다는 점입니다. OpenAI 내부에서는 GPT-4에 매우 기대를 걸고 있었고, 일시적으로 ChatGPT는 뒷전으로 밀려났습니다. 그러다가 우리는 "GPT-4의 일관성과 안전성(alignment and safety)을 위해 6개월 정도 집중하자"고 결정했고, 그 과정에서 무엇을 할 수 있을지 고민하기 시작했습니다. 그중 핵심 중 하나가 바로 ChatGPT를 연구자들에게 제공하는 것이었습니다. 왜냐하면 우리는 대화형 모드를 갖추고 있었고, 이 방식을 통해 피드백을 받을 수 있었기 때문입니다. 초기 목적은 연구자들로부터 피드백을 받아, GPT-4를 더 일관되고 안전하며 견고하고 신뢰할 수 있게 만들기 위함이었습니다.
마틴: '일관성과 안전성'을 말씀하실 때, 그것이 '정확한가', '의도한 대로 작동하는가'를 포함하는 건가요? 아니면 '안전하다'는 말이, 해를 입지 않도록 보호한다는 의미인가요?
미라: 제가 말하는 '일관성(alignment)'은 일반적으로 사용자의 의도와 부합한다는 의미입니다. 즉, 사용자가 원하는 일을 정확히 수행하는 것을 말합니다. 그러나 '안전성(safety)'은 다른 측면도 포함합니다. 예를 들어, 사용자가 고의로 모델을 악용하여 해로운 출력을 생성하려는 경우도 포함됩니다. ChatGPT를 통해 우리는 모델이 사용자가 원하는 일을 더 잘 수행하도록 만들고자 하며, 이를 통해 일관성을 높이고 있습니다. 또한 '환각(hallucination)' 문제를 해결하려는 노력을 계속하고 있으며, 이는 분명히 매우 어려운 문제입니다.
저는 인간의 피드백을 활용한 강화학습(RLHF) 방식을 충분히 발전시킨다면, 이것이 필요한 대부분의 것을 제공할 수 있다고 생각합니다.
마틴: 그래서 어떤 거대한 청사진은 없는 건가요? AGI(범용 인공지능)에 도달하려면 무엇을 해야 할까요? 그냥 한 걸음씩 나아가는 건가요?
미라: 네, 그렇습니다. 그리고 그 과정에서 내리는 수많은 작은 결정들이 중요합니다. 아마도 몇 년 전 우리가 '제품 중심 전략'을 선택한 결정이 오늘의 성과를 가능하게 했을지도 모릅니다. 우리는 실험실 안에서 진공 상태로 기술을 개발하는 것만으로는 충분하지 않다고 판단했습니다. 반드시 현실 세계의 사용자들로부터 피드백을 받아야 한다는 것이 우리의 전제였습니다. 이 전제가 일부 결정을 내리는 데 도움이 되었고, 결국 ChatGPT와 같은 제품을 배포할 수 있는 기반 인프라를 구축할 수 있었습니다.
스케일링 법칙
마틴: 스케일링 법칙(scaling law)에 대해 다시 한번 설명해주실 수 있으신가요? 이건 모두가 관심을 가지는 큰 문제입니다. 기술 발전 속도는 놀라울 정도로 빠릅니다. 하지만 인공지능의 역사상 어느 시점에서 수익 체감이 나타나는 경우가 종종 있었습니다. 그것은 단순한 파라미터화의 문제가 아니라 서서히 감소하는 추세였죠. 업계에서 가장 현명한 시각을 가진 분으로서, 스케일링 법칙이 계속 유효할 것이라고 보시나요? 계속해서 발전할 것으로 예상하시나요, 아니면 수익 체감 국면으로 접어들고 있다고 보시나요?
미라: 데이터와 컴퓨팅 자원을 더 확장함에 따라 모델이 더 나아지고 더 강력해지지 않을 것이라는 증거는 전혀 없습니다. 하지만 이것이 AGI(범용 인공지능)까지 이어질 것인지는 또 다른 문제입니다. 그 과정에서 여전히 몇 가지 돌파구와 기술적 진전이 필요할 수 있습니다. 이러한 대규모 모델로부터 더 많은 이점을 얻기 위해서는, 스케일링 법칙의 여정이 아직 많이 남아 있습니다.
마틴: 그럼 AGI를 어떻게 정의하시나요?
미라: OpenAI의 헌장에 명시되어 있습니다. 우리는 AGI를 '대부분의 지적 작업을 자율적으로 수행할 수 있는 컴퓨터 시스템'으로 정의하고 있습니다.
마틴: 제가 점심 식사를 하던 중 Anyscale의 로버트 니시하라(Robert Nishihara)도 함께 있었습니다. 그는 제가 '로버트 니시하라의 질문'이라고 부르는 것을 물었습니다. 이는 아주 좋은 묘사라고 생각합니다. 그는 말했습니다. "컴퓨터와 아인슈타인 사이에는 연속체가 있다. 컴퓨터에서 고양이로, 고양이에서 평범한 사람으로, 평범한 사람에서 아인슈타인으로 이어진다." 그리고 그는 질문했습니다. "우리는 이 연속체의 어디쯤에 있는가? 어떤 문제가 해결될 수 있는가?"
모두는 고양이 수준에서 평범한 사람 수준으로 나아가는 방법은 알고 있다고 동의했습니다. 하지만 컴퓨터에서 고양이로 나아가는 방법은 모릅니다. 왜냐하면 이는 보편적인 인지 문제이기 때문입니다. 우리는 거의 도달했지만, 아직 완전히 달성하지는 못했습니다. 또한 아인슈타인 수준에 도달하는 방법은 정말 모르며, 이것이 바로 추론의 과제입니다.
미라: 미세조정(fine-tuning)을 통해 많은 것을 얻을 수 있지만, 전반적으로 말하면 대부분의 작업에서 현재 수준은 인턴 수준이라고 생각합니다. 가장 큰 문제는 신뢰성입니다. 시스템이 항상 원하는 대로 작동한다고 완전히 믿을 수는 없습니다. 많은 작업에서 아직 그러지 못합니다. 시간이 지남에 따라 신뢰성을 어떻게 향상시키고, 모델이 수행할 수 있는 새로운 기능을 어떻게 확장할 것인가가 핵심입니다.
저는 이러한 새롭게 나타나는 능력들에 주목하는 것이 중요하다고 생각합니다. 비록 매우 불안정하더라도 말입니다. 특히 오늘날 창업을 준비하는 사람들에게는 "지금 무엇이 가능한가?", "당신이 지금 보고 있는 것은 무엇인가?"를 진지하게 고민해보기를 권합니다. 이러한 모델들은 곧 신뢰할 수 있는 수준에 도달할 것입니다.
단일 모델이 모든 것을 지배할까?
마틴: 곧 미래가 어떻게 될지 예측해보겠습니다. 하지만 그 전에 제 개인적인 궁금증을 하나 묻겠습니다. 이 분야의 경제 구조가 어떻게 발전할 것이라고 보시나요? 제가 왜 이렇게 생각하는지 말씀드리자면, 이건 마치 실리콘 산업을 떠올리게 합니다. 제가 90년대에 컴퓨터를 살 때를 기억합니다. 다양한 특수 목적 프로세서들이 있었습니다. "이건 문자열 매칭용, 이건 부동소수점용, 이건 암호화용"처럼 CPU를 대체하는 다양한 칩들이 있었습니다.
결국 범용성이 매우 강력하게 작용했고, 그로 인해 인텔과 AMD 같은 기업들이 등장하는 특정 유형의 경제 구조가 형성되었습니다. 물론 이러한 칩을 만드는 데는 막대한 비용이 들었습니다.
따라서 두 가지 미래를 상상할 수 있습니다. 하나는 범용성이 매우 강력해서 시간이 지남에 따라 대규모 모델이 모든 기능을 흡수하는 미래입니다. 다른 하나는 다양한 목적의 모델들이 산재하고, 설계 공간에 다양한 선택지가 존재하는 파편화된 미래입니다. OpenAI가 유일무이하게 모든 것을 차지할 것 같으신가요, 아니면 다양한 모델들이 공존할 것 같으신가요?
미라: 그것은 당신이 무엇을 하려는지에 달려 있습니다. 분명한 것은, 현재의 흐름상 AI 시스템이 우리가 하는 일의 점점 더 많은 부분을 수행하게 될 것이라는 점입니다. 이 시스템들은 자율적으로 운영될 수 있지만, 방향성, 지침, 감독은 여전히 인간이 제공해야 합니다. 저는 매일 반복되는 많은 일을 하지 않고, 다른 일에 집중하고 싶습니다. 아마도 매일 10~12시간 일할 필요 없이, 더 적은 시간으로 더 높은 생산성을 낼 수 있게 될지도 모릅니다. 제가 바라는 방향입니다. 플랫폼 측면에서도 현재 우리는 API를 통해 매우 작은 모델부터 최첨단 모델까지 다양한 모델을 제공하고 있습니다.
항상 가장 강력하고 능력 있는 모델을 사용할 필요는 없습니다. 때로는 특정 사용 사례에 딱 맞는 모델이 필요하며, 그럴 경우 훨씬 더 경제적입니다. 따라서 다양한 스펙트럼이 존재할 것이라 생각합니다. 하지만 플랫폼 비즈니스의 관점에서 보면, 우리는 분명히 사람들이 우리의 모델 위에서 무언가를 구축하기를 원합니다. 우리는 그들에게 도구를 제공하고, 쉽게 접근하고 제어할 수 있도록 하며, 자신의 데이터를 가져와 모델을 커스터마이징할 수 있게 만들고자 합니다. 사용자는 모델 자체보다는 그 위에 구축하는 레이어에 집중하여 제품을 정의할 수 있습니다. 사실 이 작업은 매우 어렵습니다. 현재 많은 관심이 '더 많은 모델 만들기'에 쏠려 있지만, 이러한 모델 위에 좋은 제품을 만드는 일은 훨씬 더 어렵습니다.
앞으로 5~10년
마틴: 앞으로 3년, 5년, 또는 10년 후에 이 모든 것이 어디로 향할지 예측해주실 수 있으신가요?
미라: 저는 현재의 기초 모델들이 텍스트를 통해 세계를 훌륭하게 표현하고 있다고 생각합니다. 우리는 여기에 이미지, 비디오 등 다른 모드들을 추가하고 있으며, 이를 통해 모델이 우리가 사는 세계를 인간이 이해하고 관찰하는 방식처럼 보다 포괄적으로 인식할 수 있게 됩니다. 세계는 단지 글자 속에만 존재하지 않으며, 이미지 속에도 존재합니다. 우리는 분명히 이 방향으로 나아가고 있으며, 사전 훈련 단계에서 모든 모달리티를 통합한 더 큰 모델을 만들고자 합니다. 우리는 사전 훈련된 모델이 인간처럼 세계를 이해하기를 진정으로 원합니다.
출력 단계에서는 인간의 피드백을 포함한 강화학습을 도입하고 있습니다. 모델이 사용자가 요구하는 일을 정확히 수행하고, 그 결과가 신뢰할 수 있기를 바랍니다. 이를 위해서는 많은 노력이 필요하며, 아마도 웹 브라우징 기능을 도입해 새로운 정보를 수집하고, 출처를 인용하며, 환각 문제를 해결해야 할 수도 있습니다. 불가능하다고 생각하지 않습니다. 충분히 달성 가능하다고 봅니다.
제품 측면에서는 이러한 모든 기술을 사람들이 협업할 수 있는 제품군으로 통합하고, 사람들이 위에서 무언가를 구축할 수 있는 플랫폼을 제공하고자 합니다. 정말 먼 미래를 바라보면, 이러한 모델들은 매우 강력해질 것입니다. 그러나 동시에 이러한 강력한 모델이 우리의 의도와 맞지 않을 경우에 대한 두려움도 커질 것입니다. 가장 큰 과제 중 하나는 '슈퍼 일관성(Super Alignment)'이며, 이는 매우 어려운 기술적 도전입니다. OpenAI에는 이 문제에 집중하는 전담 팀이 존재합니다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
