La dernière discussion avec Lu Cheng, fondateur et PDG de Rabbit : « R1 ressemble davantage à un iPod doté d'IA qu'à un tueur d'iPhone »
TechFlow SélectionTechFlow Sélection
La dernière discussion avec Lu Cheng, fondateur et PDG de Rabbit : « R1 ressemble davantage à un iPod doté d'IA qu'à un tueur d'iPhone »
Lü Cheng : Effectivement, gagner de l'argent sur le plan matériel. R1 choisit le matériel par nécessité plutôt que par préférence, et utilise un modèle neuro-symbolique au lieu d'un LLM.
Dédié à des analyses Web3 approfondiesVoici le dernier dialogue entre Jesse Lyu, PDG de Rabbit, et l'investisseur en série de renommée dans la Silicon Valley, Jason Calacanis, sur l'émission « This Week Startup », après le CES. Lors de cet entretien de 90 minutes, il expose en détail sa réflexion la plus récente sur son produit.
Jesse Lyu insiste sur le fait que l'évolution technologique vise à résoudre les mêmes problèmes, mais d'une manière plus intuitive. Il explique en détail le fonctionnement du modèle LAM (Large Action Model). Conçu pour améliorer l'efficacité et gagner du temps, ce véritable dispositif d'économie temporelle permet aux utilisateurs de se concentrer davantage sur d'autres tâches. Cette philosophie constitue le moteur central de l'entreprise.
Il partage également ses expériences personnelles sur les défis rencontrés lorsqu'il a commencé il y a une dizaine d'années dans la création d'une entreprise matérielle, ainsi que les différences entre le secteur matériel aujourd'hui et par le passé. Il aborde notamment le raccourcissement des cycles d'itération du matériel, les capacités de fabrication à Shenzhen et autres lieux, et s'interroge sur l'impact potentiel des technologies à faible latence sur la consommation énergétique de l'IA et des centres de données.
Voici le contenu intégral de cet entretien :
Jason Calacanis : Lors de notre émission précédente, nous avons parlé du Rabbit R1, l'un des produits les plus remarquables du CES, la foire internationale de l’électronique grand public organisée à Las Vegas. Peut-être avez-vous vu sur X/Twitter sa démonstration vidéo. Ce produit semble vraiment impressionnant : un compagnon IA portable, pouvant tenir dans une poche.
Il dispose d’une molette pour la navigation, d’un appareil photo pivotant, d’un écran LED – je suppose –, et d’un orange vif et lumineux, ma couleur préférée. C’était la star incontestée de l’événement.
Leur démonstration était excellente. Aujourd’hui, nous accueillons son fondateur pour en parler. D’un certain point de vue, il a un côté rétro, mais avec un LLM personnalisé et un prix de 200 dollars, tout le monde est enthousiaste.
Ils ont déjà vendu plus de 60 000 unités de cet appareil. Au cours des cinq derniers jours, ils en ont vendu environ 10 000 par jour. Jesse Lyu, le fondateur de Rabbit, est ici. L’entreprise est basée à Santa Monica, en Californie.
Jesse, comment allez-vous ? Enchanté de vous rencontrer. Vous attendiez-vous à ce que votre appareil suscite une telle réaction ? Pensiez-vous qu’il deviendrait le produit le plus populaire, après la première télévision OLED sans fil et transparente de LG ? Beaucoup sont aussi excités par cette télévision transparente, bien que j’ignore encore son utilité. Si elle est posée contre un mur, verrons-nous au-delà du mur ? Pour moi, cela n’a aucun sens. Quel effet cela fait-il ? Vous y attendiez-vous ?
Jesse Lyu : Pas du tout. Honnêtement, nous avons été très prudents vis-à-vis du public, et je suis franc avec vous : nous pensions peut-être vendre 500 unités le premier jour, atteindre 3 000 unités avec les premiers adopteurs, et ce serait tout. Mais nous étions prêts à passer de plus grandes commandes si nécessaire.
Nous avions également un plan B, mais j’étais le plus prudent de l’équipe. Notre équipe marketing et notre équipe design avaient probablement plus confiance que moi, mais personnellement, j’ai toujours été très prudent.
Une chose que je dois mentionner : j’aime ce produit. Le premier prototype était en réalité un Raspberry Pi avec un écran. Étant une petite équipe de niche, nous avons lancé une version web l’année dernière pour tester auprès d’un petit groupe d’utilisateurs une fonctionnalité du LLM, comme jouer à l’avance une chanson Spotify, et cela a très bien fonctionné.
J’aime ce produit car j’ai eu le premier prototype il y a environ quatre mois, ressemblant à peu près à un téléphone. J’avais déjà un prototype manuel préliminaire il y a huit mois. Je joue constamment avec lui. D’un autre côté, j’étais un peu inquiet : peut-être ne sommes-nous qu’un groupe de geeks, et ce n’est qu’un gadget pour nous-mêmes.
Jason Calacanis : Fabriquer quelque chose qui vous procure du plaisir garantit au moins un client : vous-même. Ensuite, il suffit de découvrir s’il existe d’autres clients.
Commençons par ce prix fou : l’appareil coûte 200 dollars. J’ai vérifié, il n’y a pas de frais d’abonnement. Si vous voulez insérer une carte LTE, vous devez avoir un abonnement de données,
et si vous souhaitez utiliser la 5G, c’est à vous de vous en occuper. Il suffit d’acheter une carte de données Google, environ 20 à 30 dollars par mois, assez bon marché. Si l’appareil ne coûte que 200 dollars et que le matériel est si soigné, comment comptez-vous en tirer profit ? Je me demande comment vous pouvez en faire une entreprise viable ?
Jesse Lyu : Je pense que, d’un point de vue commercial, c’est l’une des questions les plus fréquentes.
Tout d’abord, je peux vous dire, Jason, que nous avons travaillé très dur pour trouver l’équilibre parfait entre conception et coût du matériel. Bien que je ne puisse pas vous donner un chiffre exact du coût matériel, car je n’ai pas le droit de le divulguer, nous réalisons effectivement un bénéfice sur le matériel.
D’après mes observations et mon expérience passée, la marge brute du matériel est très faible. Si on regarde les téléphones, la marge brute se situe entre -25 % et 7 ou 8 %. Malgré cela, la plupart essaient de gagner de l’argent via le matériel, mais surtout via les abonnements.
Deux raisons motivaient le choix de fabriquer un plateau identique à celui de l’eSIM : premièrement, nous voulions réduire davantage le coût matériel de l’appareil, car l’eSIM nécessite des composants plus coûteux, contrairement au plateau standard. Deuxièmement, et surtout, nous voulions vendre le produit dans plusieurs destinations, pas seulement aux États-Unis.
Nous aurions dû négocier avec des opérateurs comme Verizon, T-Mobile ou ATT. Nous avancions trop vite pour prendre le temps de discuter pendant un an avec ces entreprises, mais maintenant ils nous contactent directement, ce qui est excellent. Tout cela relève donc d’une décision stratégique.
Tout d’abord, je voudrais corriger un point. Après avoir vu votre dernier épisode sur nous, nous ne fabriquons aucun LLM. Nous utilisons un modèle neuro-symbolique, qui n’est pas un LLM. Généralement, quand on parle de LLM, on pense à GPT, Bard, Grok, etc., tous basés sur Transformer, nécessitant d’importantes GPU cloud pour l’entraînement et obtenir les bons résultats.
Aucune startup ne peut brusquement créer son propre LLM, même avec 30 millions de dollars levés. Pour la postérité, nous ne faisons pas cela. Nous collaborons avec tous les meilleurs modèles linguistiques et petits modèles linguistiques. S’il existe des modèles linguistiques open source, nous envisagerons de les utiliser à l’avenir.
Fondamentalement, nous avons mis en place un système d’évaluation interne pour surveiller continuellement les performances de tous les principaux fournisseurs, ce qui nous permet de changer facilement. C’est ainsi que fonctionne RabbitOS, mais nous nous concentrons sur le LAM (Large Action Model).
Nous savons précisément que les modèles linguistiques ou Transformer ont été conçus pour mieux comprendre le langage, mais qu’ils sont actuellement très mauvais pour accomplir des tâches. De plus, nous n’aimons pas travailler avec des API, car elles posent de nombreux problèmes.
Premièrement, vous devez supposer que tout le monde vous fournira une API, ce qui n’est pas le cas. Pour OpenAI, il est encourageant, ou les grandes entreprises encouragent à construire leurs API plus facilement, mais pour une startup, il est difficile de convaincre soudainement 2 000 fournisseurs de travailler selon votre format d’API.
Même si vous possédez toutes les API, elles ne reproduisent souvent pas entièrement toutes les fonctionnalités de l’application. Par exemple, lorsque ma précédente entreprise, Raven, a collaboré avec l’API Uber, celle-ci ne pouvait accomplir que 3 tâches sur 10. Convaincre Uber d’intégrer toutes les fonctionnalités de l’application était très difficile, car ils n’en avaient aucun intérêt. C’est pourquoi nous n’aimons pas les API.
C’est pourquoi nous voulions une solution universelle, et créer une IA pour cette solution universelle. Que ce soit une application Android, iOS ou Windows, quelle que soit l’application, nous voulions concevoir une solution universelle, sachant que les modèles linguistiques ne sont pas conçus pour déclencher des actions.
Nous avons donc utilisé initialement une approche neuro-symbolique. Nous avons commencé à collaborer avec des entreprises d’annotation de données. Selon notre propre évaluation, nous avons commencé à collecter des données sur les interactions humaines réelles avec différents types de logiciels, comme Uber, Spotify, etc.
Nous avons commencé ce processus il y a environ deux ans et demi. Nous avons collecté des données sur les interactions humaines avec divers logiciels, puis nous avons développé un algorithme neuro-symbolique, qui est aujourd’hui le LAM. Vous pouvez insérer toutes ces séquences dans le LAM et demander à notre modèle de lire chaque image.
Jason Calacanis : Avec le temps, le LAM apprend les pixels présents sur l’écran, il reconnaît une application, sait où l’utilisateur clique dans l’application. Donc, quand quelqu’un dit à Rabbit : « Commande-moi un Uber Premium. Quand je rentre chez moi, j’aimerais que cinq portions familiales de sushis soient prêtes, avec quelques rouleaux et des options végétariennes. » Il saura comment faire, car vous l’avez entraîné maintes fois, observant des centaines d’interactions dans une application. Combien d’interactions sont nécessaires ? Ai-je correctement décrit ce que vous faites ?
Jesse Lyu : Vous avez bien compris. Premièrement, nous n’enregistrons jamais les actions des utilisateurs. Nous avons un groupe-test auquel nous attribuons des tâches. Nous travaillons en réalité avec des partenaires d’annotation de données pour garantir que toutes les séquences sont collectées intentionnellement, sans violer la vie privée de personne.
Nous n’installons jamais de système pour enregistrer l’écran des utilisateurs. Mais votre compréhension est correcte. Nous avons publié un article complet sur la recherche Rabbit, contenant les détails du processus. Vous pouvez aller consulter cet article.
Nous avons collecté des données à partir d’interactions humaines réelles avec ces applications. Ironiquement, les algorithmes neuro-symboliques fonctionnent mieux sur CPU que sur GPU, donc comparé à OpenAI ou à tout autre LLM, notre déploiement cloud est très raisonnable. Nous ne parlons pas de millions de dollars, ni même de centaines de milliers.
Nous disposons d’un cluster GPU suffisamment performant et d’un cloud computing CPU suffisamment bon. Nous ne collectons pas les données par requête. Nous demandons simplement aux gens de jouer librement. Par exemple, notre méthode de collecte consiste à dire : « Vous avez 10 minutes sur Spotify, faites ce que vous voulez, essayez autant de choses que possible. Je ne vais pas vous dire de jouer cette chanson, cliquez ici, faites cela ; vous êtes libres d’explorer pendant 10 minutes. »
L’algorithme neuro-symbolique diffère fondamentalement du RPA traditionnel. Si vous connaissez le RPA, il enregistre essentiellement les opérations d’écran, puis déploie une séquence préprogrammée pour naviguer avec la souris ou le curseur vers des coordonnées x, y spécifiques, basées sur des coordonnées absolues.
Jason Calacanis : Vous parlez de RPA ?
Jesse Lyu : Exactement.
Jason Calacanis : Quand vous programmez un robot, vous pouvez littéralement prendre le bras du robot, le déplacer pour ramasser un objet, le mettre dans cette boîte, puis ramasser un autre objet et le mettre dans la boîte B. Il enregistre cette action, l’apprend, puis peut la répéter indéfiniment. Vous avez réalisé cette tâche, c’est presque comme montrer à un singe comment éplucher une banane, puis il l’épluche comme vous. Singe voit, singe fait, en gros ?
Jesse Lyu : C’est exactement cela, le RPA. Mais l’approche neuro-symbolique va plus loin, car nous n’identifions pas ces éléments par des coordonnées absolues à l’écran. Nous extrayons directement certains éléments par une méthode symbolique, les marquons automatiquement et effectuons un raisonnement. Cela signifie que même si une application change complètement son interface utilisateur, cela n’a aucune importance.
Jason Calacanis : Je comprends. Donc, quand Spotify redessine son application, déplace les podcasts hors des onglets, les met en haut ou dans un menu hamburger, il reconnaît toujours le mot « podcast » et l’endroit où trouver les podcasts dans Spotify.
Jesse Lyu : Tout à fait. Car la logique de base est que ces logiciels modernes sont conçus pour être traités par les yeux humains. Ils doivent donc avoir certaines configurations, des symboles, du texte, une barre de recherche, etc.
Comparé à simplement construire du matériel par-dessus GPT-4, c’est un avantage pour nous. Tout d’abord, je tiens à clarifier : nous ne créons aucun LLM, nous collaborons avec des LLM, mais nous avons créé le LAM, une approche neuro-symbolique.
Quand je dis à Rabbit : « Commande-moi des sushis, cinq personnes, tel montant de nourriture, etc. », il sait comment utiliser l’application Uber Eats ou Doordash. Ensuite, l’appareil Rabbit envoie cette requête vers un endroit dans le cloud.
Jason Calacanis : J’ai déjà authentifié cette requête via une interface web, j’ai validé mes comptes Uber Eats et Doordash. Il connaît mon restaurant de sushis préféré, puis lance le processus de commande. Ensuite, je suppose qu’il revient vers moi en disant : « Juste pour confirmer, c’est bien ce que vous voulez ? » Je réponds oui. Que fait-il alors ? Il ouvre un émulateur dans le cloud, puis vous avez un émulateur web avec mon authentification. Comment cela fonctionne-t-il ?
Jesse Lyu : Commençons par l’authentification. Car si vous considérez cet appareil, il fonctionne complètement différemment des générations précédentes, car il n’a aucun logiciel préinstallé. Il n’a rien d’installé d’avance. C’est juste une IA, et vous choisissez quels services activer. Vous décidez du niveau de complexité et d’avancement de l’appareil.
Si vous dites : « C’est un iPod cool, je veux juste écouter de la musique », vous débloquez la fonction musique, choisissez n’importe quel fournisseur, et il ne fera que jouer de la musique.
Mais demain, si vous voulez commencer à commander des repas, vous devez déverrouiller cette fonction. Votre compréhension du processus d’authentification est correcte. Nous avons un portail web, un peu comme notre propre mini-version d’iCloud. Si vous comprenez cela, il facilite tous les paramètres d’authentification et la gestion des fonctionnalités.
Vous allez sur le site web, vous sélectionnez essentiellement n’importe quel service que vous souhaitez débloquer, car encore une fois, pour le LAM, Spotify, YouTube Music ou Apple Music, il n’y a aucune différence, ce sont tous des interfaces. En fait, Expedia et YouTube Music n’ont même pas de différence, ce sont tous des interfaces.
Nous vous donnons la liberté de choisir vos services préférés. Vous allez là-bas, cliquez sur le bouton « Se connecter à Spotify », puis vous êtes redirigé vers l’interface de connexion de Spotify. Nous ne sauvegardons pas vos identifiants, nous ne les touchons pas.
Vous ouvrez Spotify, Uber ou Doordash, vous vous connectez via leur interface, puis nous reconnaissons que ce compte est désormais lié à RabbitOS. Ensuite, dans notre cloud, il existe une structure très innovante.
Nous avons un supercalculateur. Quand Jason parle à son Rabbit pour commander un hamburger via Doordash, voici ce qui se passe : d’abord, nous vérifions si Jason est connecté à Doordash ou Uber Eats, puis nous voyons qu’il choisit Doordash. Ensuite, sur ce supercalculateur, le LAM interagit virtuellement avec l’application ou le site web de Doordash. Vous ne voyez pas tout cela, car tout se termine soudainement, car c’est une IA.
Puis, nous recréons l’interface thématique de Rabbit pour vous fournir les résultats. Vous n’interagissez pas directement avec l’hôte, vous dialoguez simplement avec lui, et l’intention est transmise au LLM.
Jason Calacanis : Vous voulez faire cela, puis le LAM exécute l’action dans un environnement virtuel, et les résultats sont recréés sur votre appareil. C’est ainsi que cela fonctionne. Avez-vous besoin de l’autorisation de Spotify pour faire cela, ou pouvez-vous le faire une fois que vous avez entraîné le modèle sur les données ? Obtenir une licence serait bien, mais on dirait que vous pourriez le faire sans.
Jesse Lyu : Oui. Bien sûr, obtenir leur autorisation serait bien, ou plutôt, je ne devrais pas dire autorisation, nous devrions développer un meilleur modèle économique. Pour moi, c’est un peu comme au début, quand Jobs appelait Sony en disant : « À partir de demain, parce que nous avons cet appareil, chaque chanson coûtera 9 cents. » Je trouve que c’est un peu similaire.
Premièrement, nous ne créons pas de nouveaux utilisateurs, ni d’utilisateurs fictifs, ni d’interfaces prépayées UIU. Vous êtes Jason, utilisant leur interface sous votre propre authentification pour utiliser leurs services, comme vous le feriez sur votre téléphone ou votre télévision.
Nous avons passé beaucoup de temps à étudier les conditions d’utilisation et essayons de les comprendre. Pour nous, sauf s’ils ferment leur interface — ce qui est impossible — nous ne violons aucune règle, et nous ne créons même pas de faux utilisateurs gaspillant des ressources. Il y a beaucoup de gaspillage.
Je ne sais pas si vous avez vu le contournement par SMS de Sunbird sur Android, il existe de nombreuses méthodes étranges pour le configurer, mais nous n’avons rien mis en place de tel.
Jason Calacanis : Cela est très logique, car pour eux, ce n’est qu’un utilisateur utilisant leur application via une interface vocale, avec quelques confirmations à l’écran.
À quel stade, lors de la version 1.0 ou 0.1 que vous avez publiée, comment fonctionnait cette interaction ? Si le restaurant met deux heures à livrer, ou s’il arrête les livraisons ?
Jesse Lyu : Excellente question, c’est un nouveau problème sur lequel nous travaillons activement. Une partie de ce que nous savons exactement, c’est que si c’est une opération directe, cela déclenche directement le service. Si vous voulez écouter « Lucky », c’est parti, jouez « Lucky ».
Si vous voulez y aller immédiatement, c’est facile. Mais nous avons découvert d’autres situations. Certaines raisons que je n’ai pas montrées lors de mon discours, c’est que j’ai utilisé Expedia pour réserver des choses internes ou des projets de voyage similaires à ceux que j’imaginais. Fondamentalement, nous voulons créer un moyen pour que vous puissiez vérifier à nouveau.
Exactement. Chacun d’entre vous a cette intention, moi aussi. Nous devons donc séparer les catégories. Dans certains cas, comme demander à Uber de vous raccompagner chez vous, c’est simple.
S’il s’agit de textes plus complexes à l’avenir, vous devriez pouvoir voir sur votre portail web Rabbit Hole une copie du document réel. C’est ainsi que nous voulons concevoir cela. Vous pouvez toujours avoir un portail pour vérifier, des documents légaux, des sauvegardes, vos notes, vos résumés de réunion, toutes ces choses seront synchronisées sur ce portail blanc. C’est pourquoi je le compare davantage à notre mini-version du cloud, qui est en réalité très petit.
Jason Calacanis : Il a exactement la taille d’un iPhone, épaisseur équivalente à l’iPhone 15.
Jesse Lyu : Parce que j’ai très petite main, beaucoup de gens se trompent sur la taille réelle. Nous avons même débattu de supprimer l’écran, car pour nous, c’est un inconvénient.
Jason Calacanis : L’iPod Shuffle était un produit très petit. Donc, il se transforme simplement en un petit magnétophone, ou quoi que vous puissiez en faire une montre, vous pouvez en faire n’importe quoi. Exactement, guidez-moi à travers le studio de conception. Vous avez fait appel à une société de design exceptionnelle pour le concevoir. Peut-être pouvez-vous parler de la manière dont vous l’avez utilisée pour le concevoir, ainsi que de l’inspiration derrière l’appareil, car il semble à la fois moderne et rétro.
Jesse Lyu : C’est emblématique. Je ne suis pas sûr d’avoir la confiance de dire qu’il est devenu emblématique, mais j’ai vu beaucoup de gens créer des boîtiers
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
