라빗(Rabbit) 창립자이자 CEO 뤼청(吕骋)의 최신 대담: R1은 아이폰 킬러라기보다는 AI + 아이팟에 가깝다
이것은 라비트(Rabbit) CEO 뤼청(Jesse Lyu)가 CES 이후 실리콘밸리의 유명한 엔젤투자자 제이슨 칼라카니스(Jason Calacanis)와 This Week Startup 프로그램에서 나눈 최신 대담이다. 90분에 달하는 이 인터뷰는 그의 최신 제품 철학을 자세히 설명하고 있다.
뤼청은 기술 진화가 동일한 문제를 해결하되 더 직관적인 방식으로 수행된다고 강조했다. 그는 LAM(Large Action Model)의 작동 원리를 상세히 설명하며, LAM은 효율성을 높이고 시간을 절약하기 위한 진정한 타임 세이빙 장치로, 사용자가 다른 일에 집중할 수 있도록 해주며 이것이 회사의 핵심 동력이라고 밝혔다.
또한 그는 10여 년 전부터 시작한 하드웨어 스타트업의 도전과 과거와 현재 하드웨어 창업의 차이점에 대해 이야기하며, 하드웨어 반복 주기의 단축, 선전(Shenzhen) 등의 제조 능력, 저지연 기술이 AI 및 데이터센터 에너지 소모에 미칠 수 있는 잠재적 영향에 대한 우려도 언급했다.
다음은 이번 대담의 전문 내용이다:
제이슨 칼라카니스: 지난주 우리는 CES에서 가장 주목받은 신제품 중 하나인 Rabbit R1에 대해 다뤘다. 라스베이거스에서 열리는 소비자 가전 전시회인데, 여러분이 X/Twitter에서 시연 영상을 보셨을 수도 있다. 매우 멋져 보이는 제품으로, 주머니에 넣고 다닐 수 있는 휴대용 AI 동반자다.
탐색을 위한 바퀴, 회전 가능한 카메라, LED 스크린, 그리고 내가 가장 좋아하는 밝고 화사한 오렌지색까지, 현장의 스타 제품이었다.
매우 인상적인 시연을 했고, 오늘은 이 제품에 대해 창립자를 초대해 이야기를 나누고자 한다. 어느 정도 복고적이기도 하지만, 맞춤형 LLM과 200달러라는 가격대가 모두를 흥분하게 만들었다.
이미 6만 대 이상 판매되었으며, 지난 5일간 매일 약 1만 대씩 팔렸다. 캘리포니아주 산타모니카에 위치한 Rabbit의 창립자 제시 리ュー(Jesse Lyu)가 여기 있다.
제시, 안녕하세요? 만나서 반갑습니다. 당신의 장치가 이렇게 큰 반응을 일으킬 것이라 예상하셨나요? LG의 무선 투명 OLED TV 외에 가장 핫한 제품이 될 거라고 생각했었나요? 많은 사람들이 그 투명 TV에도 흥분했지만, 저는 투명 TV가 무엇에 쓰이는지조차 모르겠습니다. 벽에 걸면 벽 뒤까지 보이나요? 저에게는 전혀 의미가 없네요. 어떤 기분인가요? 이런 반응을 예상하셨나요?
제시 뤼: 전혀 예상하지 못했습니다. 솔직히 말씀드리면, 저희는 관객들에 대해 매우 조심스러웠고, 여러분께도 솔직합니다. 첫날 약 500대 정도, 초기 시장 수용자들이 3000대 정도 팔릴 것으로 예상했고, 그것이 전부일 줄 알았습니다. 하지만 필요할 경우 주문량을 늘릴 준비는 되어 있었습니다.
대안 계획도 있었지만, 저는 팀 내에서 가장 보수적인 사람이었습니다. 마케팅팀과 디자인팀은 저보다 자신감이 있었겠지만, 저는 매우 보수적이었죠.
한 가지 말씀드리고 싶은 것은, 저는 이 제품을 정말 좋아합니다. 첫 번째 프로토타입은 실제로 스크린이 달린 라즈베리 파이였습니다. 우리 팀은 아주 소규모였고, 작년 초에는 일부 사용자들을 대상으로 LLM의 기능 중 하나인 사전에 Spotify 재생 기능을 웹 버전으로 출시했는데, 반응이 좋았습니다.
저는 약 4개월 전에 처음 프로토타입을 갖게 되었는데, 크기는 스마트폰 정도였고, 약 8개월 전에는 수작업으로 만든 사전 양산 프로토타입을 받았습니다. 계속摆弄하고 있었죠. 반면에, 우리가 그냥 괴짜들일 뿐이고, 이것은 우리만의 장난감일지도 모른다는 걱정도 있었습니다.
제이슨 칼라카니스: 자신을 위해 즐거움을 주는 것을 만들면, 적어도 고객 한 명은 확보한 것입니다. 바로 자신이죠. 이제 다른 고객이 있는지 여부만 파악하면 됩니다.
이 미친 듯한 가격부터 시작해보죠. 이 장치는 200달러입니다. 구독료도 없습니다. LTE 카드를 장치 안에 넣고 싶다면 데이터 구독이 필요하고,
5G를 추가하고 싶다면 스스로 알아서 하면 됩니다. Google의 데이터 카드를 구매하면 되는데, 월 20~30달러 정도로 매우 저렴합니다. 이 장치가 200달러밖에 안 하는데, 하드웨어도 매우 정교한데 어떻게 수익을 낼 계획이신가요? 이걸 어떻게 사업으로 만들어 나갈 건가요?
제시 뤼: 비즈니스적으로 보면, 이건 가장 자주 묻는 질문 중 하나입니다.
우선 말씀드리면, 제이슨, 우리는 디자인과 하드웨어 비용 사이에서 완벽한 균형을 찾기 위해 매우 노력했습니다. 제가 정확한 하드웨어 비용 숫자를 알려드릴 수는 없지만, 공유하도록 금지되어 있기 때문입니다. 하지만 하드웨어에서 분명히 수익을 내고 있습니다.
제가 관찰하고 지난 커리어에서 배운 바에 따르면, 하드웨어의 매출총이익률은 매우 낮습니다. 휴대폰을 보면, 매출총이익률이 -25%에서 7~8% 정도이며, 그뿐입니다. 그럼에도 불구하고 대부분은 하드웨어로 수익을 내려고 하고, 명백히 구독 서비스를 통해 수익을 냅니다.
eSIM 대신 동일한 트레이를 제작한 이유는 두 가지입니다. 첫째, eSIM은 더 비싼 부품이 필요하지만 동일한 트레이는 필요 없어 장치의 하드웨어 비용을 더욱 절감할 수 있기 때문입니다. 그러나 더 중요한 이유는 미국처럼 특정 지역이 아니라 여러 목적지에 제품을 판매하고 싶었기 때문입니다.
Verizon, T-Mobile 또는 ATT 같은 통신사들과 협상을 해야 합니다. 하지만 저희는 너무 빠르게 진행되어 일 년간 그런 회사들과 앉아 협상할 시간이 없었습니다. 지금은 오히려 그들이主动으로 연락해주고 있어서 매우 좋습니다. 따라서 모든 결정은 전략적인 것이었습니다.
우선 한 가지 바로잡고 싶은 게 있습니다. 사실 당신의 우리 관련 마지막 회차를 보셨다면, 우리는 어떤 LLM도 제작하지 않았다는 점입니다. 우리는 신경기호(Neuro-symbolic) 모델을 사용하고 있으며, 이는 일반적인 LLM이 아닙니다. GPT, Bard, Grok 등을 말할 때, 이들은 Transformer 기반으로, 클라우드 GPU를 대량으로 사용해 훈련하고 올바른 결과를 얻어야 합니다.
어떤 스타트업도 갑자기 자체 LLM을 만들 수 없습니다. 3000만 달러를 조달한다고 해도 불가능합니다. 기록상 우리도 그렇게 하지 않았음을 말씀드립니다. 우리는 모든 최고의 언어 모델 및 소형 언어 모델과 협력하고 있습니다. 오픈소스 언어 모델이 있다면 앞으로도 고려할 것입니다.
기본적으로 우리는 내부 평가 시스템을 구축하여 주요 공급업체들의 성능을 지속적으로 모니터링하고 유연하게 전환할 수 있으며, 이것이 RabbitOS가 작동하는 방식입니다. 하지만 우리는 LAM(Large Action Model)에 집중하고 있습니다.
정확히 알고 있지만, 언어 모델 또는 Transformer는 언어 이해를 향상시키기 위해 설계되었지만, 적어도 현재로서는 작업 완료 측면에서는 매우 부진하며, API와 함께 작업하는 것도 좋아하지 않습니다. API에는 많은 문제가 있기 때문입니다.
첫째, 모든 공급업체가 당신을 위해 API를 제공할 것이라고 장담할 수 없습니다. OpenAI의 입장에서는 API를 쉽게 만들도록 장려하거나 대기업이 API를 구축하도록 장려할 수 있지만, 스타트업 입장에서는 갑자기 2000개의 공급업체가 당신의 형식에 맞춰 API를 운영하도록 설득하기 어렵습니다.
모든 API를 확보한다고 해도, 종종 App의 모든 기능을 완전히 복제하지 못합니다. 예를 들어, 제가 이전 회사인 레이븐(Raven)에서 Uber API와 협력했을 때, 그들의 API는 10가지 작업 중 3가지만 처리할 수 있었고, App의 모든 기능을 구현하도록 설득하기가 매우 어려웠습니다. 왜냐하면 그들에게는 동기가 없었기 때문입니다. 그래서 우리는 API를 좋아하지 않습니다.
그래서 우리는 범용 솔루션을 원했고, 범용 솔루션을 위한 AI를 만들었습니다. Android 앱, iOS 앱, Windows 앱 등 어떤 앱이든 상관없이 범용 솔루션을 구축해야 했습니다. 언어 모델이 동작을 트리거하도록 설계되지 않았다는 것을 알고 있었기 때문입니다.
실제로 우리는 신경기호(Neuro-symbolic) 방식을 사용하기 시작했습니다. 데이터 주석 회사와 협력하기 시작했습니다. 자체 평가에 따라 다양한 소프트웨어와 실제 인간이 상호작용하는 데이터를 수집하기 시작했습니다. 예를 들어, Uber, Spotify 등 일반적인 앱들입니다.
이 작업을 약 2년 반 전부터 시작했습니다. 다양한 소프트웨어와 실제 인간이 상호작용하는 데이터를 수집한 후, 오늘날의 LAM인 신경기호 알고리즘을 구축했습니다. 이러한 클립들을 LAM에 입력하고 모델이 클립을 프레임별로 읽도록 요청할 수 있습니다.
제이슨 칼라카니스: 시간이 지남에 따라 LAM은 화면의 픽셀을 이해하게 되고, 이것이 앱이라는 것을 알고, 앱에서 어디를 클릭했는지도 압니다. 누군가 Rabbit에게 "내게 Uber 럭셔리카를 예약해줘. 내가 집에 돌아갈 때 다섯 가족분의 초밥을 준비해둬. 롤과 채식 옵션도 포함시켜."라고 말하면, 수백, 수천 번의 앱 내 상호작용을 훈련시켰기 때문에 이를 수행하는 방법을 알고 있다는 뜻인가요? 얼마나 많은 상호작용 횟수가 필요한가요? 제가 당신이 하는 일을 올바르게 설명하고 있나요?
제시 뤼: 매우 정확하게 설명하셨습니다. 우선, 우리는 사용자의 조작을 기록하지 않습니다. 테스트 그룹이 있으며, 그들에게 과제를 할당합니다. 실제로 데이터 주석 파트너와 협력하여 모든 클립이 의도적으로 수집되도록 하고, 누구의 개인정보도 침해하지 않습니다.
사용자의 화면을 기록하는 시스템을 설치하지 않습니다. 하지만 당신의 이해는 정확합니다. 우리는 실제로 Rabbit 연구를 통해 전체 논문을 발표했으며, 그 안에 뒷이야기가 포함되어 있습니다. 거기에 가서 논문을 확인해보세요.
우리는 실제 인간이 이러한 앱과 상호작용하는 데이터를 수집했습니다. 매우 아이러니한 사실은, 신경기호가 GPU보다 CPU에서 더 잘 작동한다는 것입니다. 따라서 OpenAI나 어떤 LLM과 비교해도 우리의 클라우드 배포는 매우 합리적이며, 수백만 달러의 비용이나 수백만 달러를 논하지 않습니다.
충분히 좋은 GPU 클러스터와 충분히 좋은 CPU 클라우드 컴퓨팅을 보유하고 있습니다. 요청에 따라 데이터를 수집하지 않습니다. 사람에게 자유롭게 놀게 하며, 예를 들어 우리가 데이터를 수집하는 방식입니다. 배치된 작업은 "Spotify에서 10분 동안 마음껏 시도해보고 가능한 많은 작업을 하세요. 이 노래를 재생하라, 여기를 클릭하라, 저것을 하라는 식으로 지시하지 않겠습니다. 자유롭게 10분간 탐색하세요."라는 식입니다.
신경기호 알고리즘이 기존 RPA와 가장 크게 다른 점입니다. RPA에 익숙하시다면, 기본적으로 화면 조작을 기록하고, 미리 프로그래밍된 순서를 배포하여 마우스, 커서를 x, y 좌표 위치로 이동시키는 것이며, 절대 좌표를 기반으로 합니다.
제이슨 칼라카니스: RPA를 말씀하시는 겁니까?
제시 뤼: 맞습니다.
제이슨 칼라카니스: 로봇을 프로그래밍할 때, 실제로 로봇 팔을 들어올려 물건을 집어 이 상자에 넣고, 다른 물체를 집어 B 상자에 넣는 행동을 기록하고, 그것을 배우며, 이후 반복해서 실행할 수 있습니다. 실제로 그 작업을 완료한 것입니다. 마치 원숭이에게 바나나 까는 법을 보여주고, 그 방식대로 까게 하는 것과 거의 같습니다. 원숭이 보고, 원숭이 배우는 거죠?
제시 뤼: 그것이 RPA입니다. 하지만 신경기호는 한 발짝 더 나아갔습니다. 화면의 절대 좌표를 통해 모든 요소를 식별하는 것이 아니라, 기호적 접근법을 통해 일부 요소를 직접 추출하고 자동으로 레이블을 붙이며 추론하기 때문입니다. 즉, 앱이 UI를 완전히 변경해도 상관없다는 의미입니다.
제이슨 칼라카니스: 알겠습니다. Spotify가 앱을 재설계해 팟캐스트를 탭에서 꺼내 위쪽에 두거나, 햄버거 메뉴 아래에 두더라도, 여전히 '팟캐스트'라는 단어를 인식하고 Spotify에서 팟캐스트를 찾는 위치를 안다는 말씀이군요.
제시 뤼: 완전히 맞습니다. 기본 논리는 현대 소프트웨어가 인간의 눈이 정보를 처리하도록 설계되어 있기 때문에, 설정이 있어야 하며, 기호와 텍스트, 검색창 등이 있어야 한다는 점입니다.
단순히 GPT-4 위에 하드웨어를 구축하는 것과 비교해 이점이 있습니다. 우선 한 가지 바로잡고 싶은 것은, 우리는 어떤 LLM도 만들지 않고, LLM과 협력하지만, 또한 LAM이라는 신경기호 접근법을 만들었다는 점입니다.
제가 Rabbit에게 "초밥 다섯 가족분을 주문해줘, 이렇게 많은 음식을 준비하고..."라고 말하면, 그것은 Uber Eats 앱이나 Doordash 앱을 사용하는 방법을 알고 있습니다. 이제 Rabbit 장치는 이 요청을 클라우드의 어딘가로 보냅니다.
제이슨 칼라카니스: 저는 이미 웹 인터페이스를 통해 인증을 완료했고, Uber Eats, Doordash 계정도 인증했습니다. 내가 좋아하는 초밥집도 알고 있으므로 주문 프로세스를 시작합니다. 그러면 제게 돌아와서 "이렇게 주문하는 게 맞습니까?"라고 확인하고, 저는 네라고 답합니다. 그 후 어떤 일이 발생합니까? 클라우드에 있는 시뮬레이터가 나타나고, 내 로그인 인증이 적용된 웹 시뮬레이터를 갖게 되는데, 어떻게 작동하는지요?
제시 뤼: 우선 인증부터 시작하겠습니다. 이 장치를 고려하면, 이전 세대 장치와 작동 방식이 완전히 다릅니다. 사전에 설치된 소프트웨어가 없기 때문입니다. 아무것도 사전 설치되지 않았습니다. 그것은 단지 AI이며, 사용자가 어떤 서비스를 활성화할지 선택할 수 있습니다. 이 장치를 얼마나 복잡하고 고급스럽게 만들지 선택할 수 있습니다.
"이건 멋져 보이는 iPod 같아. 나는 음악 듣는 데만 쓰고 싶어."라고 말하면, 음악 기능을 해제하고 원하는 공급업체를 선택하면, 음악만 재생됩니다.
하지만 내일 배달 주문을 시작하고 싶다면 그 기능을 해제해야 합니다. 로그인 과정에 대한 당신의 이해는 정확합니다. IQ/iCloud의 미니 버전과 비슷한 웹 포털이 있는데, 거기서 모든 인증 설정과 기능 관리를 돕습니다.
웹사이트에 접속하면, 본질적으로 원하는 서비스를 선택할 수 있습니다. 다시 말하지만, LAM 입장에서 Spotify, YouTube Music, Apple Music은 차이가 없습니다. 모두 인터페이스일 뿐입니다. 사실 Expedia와 YouTube Music 사이에도 차이가 없습니다. 모두 인터페이스입니다.
원하는 선호 서비스를 선택할 수 있도록 자유를 드립니다. 거기에 가서 'Spotify에 연결' 버튼을 클릭하면, 이후 Spotify 로그인 화면으로 리디렉션됩니다. 귀하의 인증 정보를 저장하거나 건드리지 않습니다.
Spotify, Uber 또는 Doordash를 열고, 해당 서비스를 통해 로그인하면, 이 계정이 RabbitOS와 연결되었다는 것을 인식합니다. 이후 클라우드에서 매우 혁신적인 구조가 발생합니다.
우리는 슈퍼컴퓨터를 보유하고 있으며, 제이슨이 자신의 Rabbit과 Doordash에서 햄버거 주문을 논의할 때 발생하는 일은, 먼저 제이슨이 Doordash 또는 Uber Eats에 로그인했는지 확인한 후, 제이슨이 Doordash를 선택했다면, 그 슈퍼컴퓨터에서 LAM이 Doordash 앱 또는 웹사이트와 가상으로 상호작용합니다. 당신은 이것을 볼 수 없지만, 갑자기 모든 것이 완료됩니다. 왜냐하면 AI이기 때문입니다.
그런 다음 Rabbit의 테마 인터페이스를 다시 렌더링하여 결과를 제공합니다. 당신은 호스트와 직접 상호작용하는 것이 아니라, 대화만 하고, 의도가 LLM으로 전달됩니다.
제이슨 칼라카니스: 당신은 그것을 하기를 원하고, LAM이 가상 환경에서 실행한 후 결과를 장치에 다시 렌더링합니다. 이게 작동 방식이군요. 이렇게 하려면 Spotify의 허가를 받아야 합니까, 아니면 데이터를 훈련한 후 가능하다는 말씀이신가요? 허가는 좋지만, 굳이 필요 없어 보이네요.
제시 뤼: 물론, 이런 사람들로부터 허가를 받는 것은 좋지만, 또는 허가라기보다는 더 나은 비즈니스 모델을 개발해야 합니다. 제게는 이 상황이 초기 시절 조브스가 소니에 전화를 걸어 "내가 이 장치를 갖고 있으니 내일부터 각 곡당 9센트를 달라"고 말했던 것과 비슷하게 느껴집니다.
우선, 우리는 새로운 사용자를 생성하지 않으며, 가짜 사용자를 생성하지도 않습니다. 사전 결제 사용자 UIU를 생성하지도 않습니다. 당신은 제이슨이며, 자신의 인증 하에 그들의 인터페이스를 사용해 그들의 서비스를 이용하는 것이며, 마치 휴대폰이나 TV에서 사용하는 것과 같습니다.
우리는 규정과 계약을 연구하고 이해하려는 데 많은 시간을 들였습니다. 우리 입장에서는 그들이 인터페이스를 닫지 않는 한 불가능한 일이며, 우리는 어떤 규정도 위반하지 않기 때문입니다. 심지어 가짜 사용자 지출을 생성하지도 않습니다. 낭비가 많습니다.
Sunbird의 문자 메시지 우회 Android를 보셨는지 모르겠습니다. 많은 이상한 방법으로 설정할 수 있지만, 우리는 그런 설정을 하지 않았습니다.
제이슨 칼라카니스: 매우 논리적입니다. 그들에게는 단지 음성 인터페이스를 통해 앱과 상호작용하고, 화면에서 몇 번 확인하는 것뿐이기 때문입니다.
1.0 버전 또는 0.1 버전을 출시한 초기 단계에서 이 상호작용은 어떻게 작동했나요? 만약 식당이 배달에 두 시간이 걸리거나 배달을 중단한다면요?
제시 뤼: 훌륭한 질문입니다. 우리가 해결하려고 노력하고 있는 새로운 문제입니다. 직접 조작하는 경우는 확실히 알고 있습니다. 바로 트리거되며, "행운"을 듣고 싶으면 바로 재생됩니다.
즉시 도착하고 싶다면 매우 쉽지만, 또 다른 경우도 발견했습니다. 제가 주제 강연에서 보여드리지 않은 이유 중 일부는, Expedia를 통해 전체 여행 일정을 예약하거나, 내 상상과 상당히 관련된 내부 항목을 예약한 것입니다. 기본적으로 당신이 반복해서 확인할 수 있는 방식을 만들어주고 싶었습니다.
정말 그렇습니다. 여러분 모두가 그런 뜻을 가지고 있고, 저 역시 마찬가지입니다. 따라서 카테고리를 분리해야 합니다. Uber를 타고 집에 가고 싶을 때처럼 간단한 경우도 있습니다.
앞으로 더 복잡한 텍스트가 있을 경우, 실제 문서의 사본을 Rabbit Hole 웹 포털에서 볼 수 있게 하려고 합니다. 이것이 우리가 설계하고자 하는 방식입니다. 항상 확인할 수 있는 포털을 가져야 하며, 더 공식적인 것, 백업, 메모, 회의 요약 등 모든 것은 흰색 포털에 동기화됩니다. 그래서 저는 그것을 우리의 미니 클라우드 버전으로 생각하며, 실제로 작습니다.
제이슨 칼라카니스: iPhone과 두께가 정확히 동일한, 완전히 반 아이폰입니다.
제시 뤼: 저는 손이 매우 작아서, 많은 사람들이 실제 크기를 오해합니다. 우리는 실제로 스크린을 제거할지 여부를 논의했는데, 우리에게는 단점이기 때문입니다.
제이슨 칼라카니스: iPod Shuffle은 매우 작은 제품이었습니다. 그래서 단지 작은 녹음기처럼 변했고, 시계로 만들 수도 있고, 수많은 형태로 만들 수 있습니다. 정확히 말해, 디자인 회사를 데리고 와서 이 제품을 디자인했고, 아마 어떻게
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
