a16z en conversation avec le CTO d'OpenAI : de la théorie à la pratique, comment la technologie IA stimule-t-elle l'innovation future ?
TechFlow SélectionTechFlow Sélection
a16z en conversation avec le CTO d'OpenAI : de la théorie à la pratique, comment la technologie IA stimule-t-elle l'innovation future ?
Bien qu'à l'avenir aucun modèle unique ne dominera le paysage, car les utilisateurs finiront par choisir l'outil qui répond le mieux à leurs besoins.
Dédié à des analyses Web3 approfondiesPar Saint Paul
Après le lancement de ChatGPT par OpenAI fin 2022, la compréhension des investisseurs sur le domaine de l’intelligence artificielle (IA) s’est considérablement approfondie. La chaîne industrielle de l’IA peut être grossièrement divisée en trois segments : les fournisseurs de technologies clés, les systèmes d’IA et les utilisateurs d’applications d’IA. Selon la perception générale des investisseurs mondiaux, l’IA est désormais considérée comme un domaine d’investissement stratégique pour les années à venir, similaire à l’informatique il y a 30 ans ou à Internet il y a 20 ans. Et surtout, les applications concrètes sont déjà une réalité.
Pour comprendre les investissements dans des domaines spécifiques, nous devons toujours apprendre des investisseurs immergés dans ces industries. Le célèbre fonds de capital-risque A16Z continue de miser fortement sur l’IA. Récemment, ils ont interviewé Mira Murati, CTO d’OpenAI, qui a partagé l’histoire derrière ChatGPT ainsi que ses réflexions sur l’avenir de l’IA et de l’interaction homme-machine.
Résumé
-
L’origine de ChatGPT remonte à une réflexion sur la manière de construire un système d’IA sûr, en utilisant l’apprentissage par renforcement avec feedback humain.
-
OpenAI redéfinit la manière dont les gens interagissent avec l’information numérique, en créant un assistant presque compagnon, en renforçant continuellement la cohérence et la sécurité des systèmes d’IA. Grâce à une approche orientée produit, ils recueillent des retours d’utilisateurs du monde réel, plutôt que de rester enfermés dans un laboratoire.
-
Au-delà du texte, ChatGPT intègre progressivement des images, des vidéos et d’autres modalités. Ces modèles peuvent ainsi mieux comprendre notre environnement, de manière analogue à la façon dont nous percevons le monde.
-
Il n’y aura probablement pas un seul modèle dominant à l’avenir, car les utilisateurs choisiront inévitablement les outils les mieux adaptés à leurs besoins spécifiques.
Profil de Mira Murati
Mira est née en Albanie juste après la chute du régime communiste, une époque où ce pays ressemblait beaucoup à la Corée du Nord actuelle. Dans un contexte marqué par le changement et l’incertitude, l’éducation était la clé de tout. À cette époque, hormis les livres, il existait peu de divertissements. Mira cherchait des réponses dans les livres, attirée par les vérités stables et profondes qu’offre la science, contrairement aux disciplines humaines comme l’histoire ou la sociologie, dont les sources lui semblaient douteuses, étant donné leur nature changeante. Son environnement a donc naturellement orienté son intuition vers les sciences et les mathématiques. Fondamentalement, ce qu’elle fait aujourd’hui chez OpenAI reste centré sur les mathématiques.
Grâce à ses excellents résultats scolaires, elle a obtenu une bourse et a terminé ses deux dernières années de lycée au Canada.
À l’université, elle a choisi l’ingénierie mécanique, convaincue que c’était le meilleur moyen d’appliquer les connaissances à des problèmes concrets du monde réel. Elle s’intéressait particulièrement aux transports durables et aux énergies renouvelables. Son projet de fin d’études consistait à concevoir une voiture de course hybride à supercondensateur.
Peu après, elle a rejoint Tesla, où elle a travaillé sur le double moteur du Model S. Elle a commencé dès les premières phases de conception du Model X, puis a finalement dirigé le lancement complet du projet.
C’est durant son passage chez Tesla qu’elle a développé un vif intérêt pour les applications de l’IA, notamment la conduite autonome, qui utilise l’IA et la vision par ordinateur pour transformer radicalement les modes de transport. Elle a alors commencé à explorer plus largement les différentes applications possibles de l’IA, ce qui a accru son intérêt pour les transformations que l’IA pouvait induire dans le monde.
Plus précisément, elle s’est intéressée à la manière dont l’IA pourrait influencer l’interaction homme-machine et la relation globale entre les humains et l’information. Elle s’est également passionnée pour le calcul spatial. Elle a ensuite rejoint Leap Motion, une entreprise de technologie avancée, en tant que vice-présidente produits et ingénierie. Cette expérience a renforcé ses compétences en développement produit.
(Petite anecdote : David Holz, fondateur de Leap Motion, a fondé après sa vente Midjourney, une autre application d’IA aujourd’hui extrêmement populaire.)
En 2018, Mira a rejoint OpenAI. Dès lors, elle a commencé à réfléchir davantage à ce qui se passerait si l’on ne se concentrait que sur la généralité.
De plus, à travers ses propos sur la méthodologie de recherche, on perçoit bien son esprit d’exploration nécessaire à l’innovation technologique dans des environnements incertains :
-
Parfois, vous vous endormez et vous vous réveillez avec une nouvelle idée. Au fil de jours ou de semaines, vous arrivez à la solution finale. Ce n’est pas une récompense rapide, ni nécessairement un processus itératif.
-
C’est presque une autre manière de penser : vous développez une intuition, mais aussi une discipline pour aborder les problèmes et croire que vous trouverez une solution. Avec le temps, vous développez une intuition quant à savoir quels sont vraiment les problèmes essentiels à résoudre.
Résumé de l’entretien
Le fonds A16Z, pionnier dans les investissements IA, a mené cet entretien avec Mira Murati via son gestionnaire de fonds Martin. Mira y raconte l’histoire de ChatGPT et partage sa vision de l’avenir de l’IA et de l’interaction homme-machine. On voit clairement que, forte d’un parcours en management produit, elle accorde une grande importance à l’aspect pratique et applicatif des produits.
Martin : Pensez-vous que nous soyons aujourd’hui confrontés davantage à des problèmes systémiques ou à des défis techniques ?
Mira : Les deux. Les questions systémiques et techniques sont immenses. Nous déployons ces technologies et essayons de les étendre, de les rendre plus efficaces et accessibles. Cela signifie que vous n’avez pas besoin de maîtriser la complexité du machine learning pour pouvoir les utiliser.
On peut observer le contraste entre la fourniture de ces modèles via API et leur distribution via ChatGPT. Il s’agit fondamentalement de la même technologie, avec une petite différence : ChatGPT incorpore l’apprentissage par renforcement avec feedback humain. Cela fait toute la différence en termes de capacité à capter l’attention des gens, à susciter leur enthousiasme et à les inciter à utiliser cette technologie quotidiennement.
L’interface en langage naturel
Martin : Je trouve aussi très intéressant l’API de ChatGPT. Chaque fois que j’utilise ces modèles dans un programme, j’ai l’impression d’envelopper un supercalculateur dans un boulier. Parfois, je me dis : « Je vais donner un clavier et une souris au modèle, et le laisser programmer. » L’API est en anglais ; je lui dis quoi faire, et il effectue toute la programmation. Je suis curieux : lorsque vous concevez quelque chose comme ChatGPT, pensez-vous que l’interface évoluera vers le langage naturel, ou croyez-vous que la programmation traditionnelle gardera une place importante ?
Mira : La programmation devient moins abstraite avec ChatGPT. Nous pouvons désormais dialoguer avec l’ordinateur en langage naturel, à haut débit. Mais un autre aspect est que cette technologie nous aide à comprendre comment collaborer véritablement avec elle, plutôt que simplement la programmer. La couche de programmation devient de plus en plus accessible, car on peut désormais programmer en langage naturel. Ce que nous observons avec ChatGPT, c’est que vous pouvez collaborer avec le modèle comme avec un partenaire ou un collègue.
Martin : Il sera intéressant de voir l’évolution. Vous avez choisi d’intégrer une API à ChatGPT, mais un collègue n’a pas d’API. On discute avec un collègue. À long terme, ces interfaces pourraient-elles évoluer vers un usage exclusif du langage naturel ? Ou pensez-vous qu’il faudra toujours une composante basée sur une machine à états finis, c’est-à-dire un ordinateur classique ?
Mira : Nous sommes à un tournant : nous redéfinissons la manière dont nous interagissons avec l’information numérique, grâce à ces systèmes d’IA. Peut-être aurons-nous plusieurs systèmes d’IA, chacun doté de capacités différentes. Peut-être aurons-nous un système généraliste qui nous accompagne partout, connaissant mon passé, mes activités du jour, mes objectifs professionnels et personnels, m’aidant à avancer, me guidant, etc. Vous imaginez à quel point cela serait puissant.
Nous sommes à un moment charnière de cette transformation. Nous ne savons pas encore exactement à quoi ressemblera l’avenir. Notre stratégie consiste à rendre ces outils et technologies accessibles à un maximum de personnes afin qu’elles puissent expérimenter, et que nous puissions observer les résultats. C’est la stratégie que nous avons adoptée dès le départ.
La semaine dernière, nous craignions que ChatGPT ne soit pas assez bon. Nous l’avons lancé, et les utilisateurs nous ont dit qu’il excellait dans de nouveaux cas d’usage. Quand on rend ces outils faciles d’accès et utilisables par tous, de telles choses arrivent.
Feuille de route d’OpenAI
Martin : En matière d’IA, les gens ne savent pas encore bien comment penser. Il faut des repères, des choix. Chez OpenAI, vous devez décider de ce qui vient ensuite. Pourriez-vous nous décrire votre processus décisionnel : comment décidez-vous de ce que vous faites, de ce que vous priorisez, de ce que vous publiez ou de votre positionnement ?
Mira : Si l’on examine l’origine de ChatGPT, ce n’était pas initialement un produit que nous souhaitions lancer. En réalité, ses racines remontent à plus de cinq ans, quand nous réfléchissions à la manière de construire un système d’IA sûr. On ne veut pas forcément que les humains écrivent directement les fonctions objectif, car cela pourrait entraîner des erreurs dangereuses, surtout avec des objectifs complexes.
C’est là qu’intervient l’apprentissage par renforcement avec feedback humain. Ce que nous tentons de réaliser, c’est aligner les systèmes d’IA avec les valeurs humaines, en intégrant les retours des utilisateurs. Grâce à ces feedbacks, le système a plus de chances de faire ce qu’on attend de lui, et moins de risques de produire des comportements indésirables. Après avoir développé GPT-3 et l’avoir mis à disposition via API, nous avons pu appliquer pour la première fois nos recherches sur la sécurité à un cas réel. Cela a été rendu possible grâce au modèle dit « instruction-following » (suivi d’instructions).
Nous avons utilisé cette méthode pour collecter des prompts auprès des clients utilisant l’API, puis fait générer des feedbacks par des prestataires externes afin que le modèle puisse apprendre. À partir de ces données, nous avons affiné le modèle et créé un modèle capable de suivre des instructions. Celui-ci a plus de probabilités de respecter l’intention de l’utilisateur, de faire précisément ce qu’on attend de lui. C’est puissant, car la sécurité en IA n’est plus seulement un concept théorique : nous entrons dans une ère où il s’agit d’intégrer concrètement la sécurité dans les systèmes d’IA.
Bien sûr, dans les grands modèles linguistiques, les concepts et les idées du monde réel sont magnifiquement représentés. Mais en sortie, de nombreux problèmes persistent. L’un des plus importants est sans doute l’hallucination. Nous travaillons activement sur ce problème, ainsi que sur la question de la véracité. Comment faire exprimer l’incertitude à ces modèles ?
Le prédécesseur de ChatGPT était en réalité un autre projet appelé WebGPT, qui utilisait la récupération d’informations et citait ses sources. Ce projet s’est transformé en ChatGPT parce que nous trouvions que le dialogue avait quelque chose de particulier : il permet de poser des questions, de corriger, et d’exprimer l’incertitude.
Martin : De découvrir continuellement des erreurs, car on interagit…
Mira : Exactement. Cette interaction permet d’atteindre une vérité plus profonde. Nous avons commencé à suivre cette direction avec GPT-3 et GPT-3.5. Du point de vue de la sécurité, nous étions très enthousiastes. Mais une chose que les gens oublient, c’est qu’à ce moment-là, nous avions déjà commencé à entraîner GPT-4. En interne, nous étions très excités par GPT-4, et nous avions presque mis ChatGPT de côté. Puis nous avons réalisé : « Nous allons passer six mois à travailler sur l’alignement et la sécurité de GPT-4 », et nous avons réfléchi à ce que nous pouvions faire. L’une des principales actions a été de remettre ChatGPT entre les mains de chercheurs, afin qu’ils nous donnent leur retour, grâce à ce mode conversationnel. L’objectif initial était d’obtenir des retours de chercheurs pour améliorer GPT-4, le rendre plus aligné, plus sûr, plus robuste et plus fiable.
Martin : Quand vous parlez d’« alignement et de sécurité », cela inclut-il le fait que le système fasse correctement ce qu’on lui demande ? Ou par « sécurité », entendez-vous protéger contre certains dangers ?
Mira : Par « alignement », j’entends généralement que le système correspond à l’intention de l’utilisateur, qu’il fait exactement ce qu’on souhaite. Mais la sécurité inclut d’autres aspects, comme la prévention des abus, lorsque l’utilisateur tente délibérément d’obtenir des sorties nuisibles. Avec ChatGPT, nous travaillons à rendre le modèle plus susceptible de faire ce qu’on attend de lui, donc plus aligné. Nous cherchons aussi à résoudre le problème des hallucinations, qui est clairement extrêmement difficile.
Je pense que cette méthode d’apprentissage par renforcement avec feedback humain, si nous y parvenons bien, pourrait être tout ce dont nous avons besoin.
Martin : Donc, pas de plan grandiose ? Il suffit d’avancer pas à pas ?
Mira : Oui. Et toutes les petites décisions que vous prenez en chemin. Peut-être que la décision stratégique prise il y a quelques années de poursuivre un produit a rendu cet objectif plus réalisable. Nous l’avons fait parce que nous pensions qu’il était impossible de développer ces technologies uniquement en laboratoire, isolés du monde réel, sans les retours d’utilisateurs concrets. C’était notre hypothèse. Je pense que cela nous a aidés à prendre certaines décisions et à construire les infrastructures nécessaires pour finalement déployer des outils comme ChatGPT.
La loi d’échelle
Martin : Pouvez-vous rappeler la loi d’échelle ? Je pense que c’est une grande question pour tout le monde. La vitesse des progrès est stupéfiante. Mais l’histoire de l’IA semble montrer que l’on atteint un point de rendements décroissants, non paramétriques, une sorte de ralentissement progressif. Selon vous – et vous êtes probablement l’une des personnes les plus avisées sur ce sujet – pensez-vous que la loi d’échelle va tenir, et que nous continuerons à progresser, ou croyez-vous que nous nous dirigeons vers des rendements décroissants ?
Mira : Il n’existe aucune preuve indiquant que, en continuant à agrandir les modèles sur les axes des données et du calcul, nous n’obtiendrons pas des modèles meilleurs et plus puissants. Savoir si cela mènera jusqu’à l’AGI (intelligence artificielle générale), c’est une autre question. Sur ce chemin, d’autres percées et progrès seront probablement nécessaires. Pour tirer pleinement profit de ces grands modèles, la loi d’échelle a encore de beaux jours devant elle.
Martin : Comment définissez-vous l’AGI ?
Mira : Dans la charte d’OpenAI, nous la définissons comme un système informatique capable d’accomplir de manière autonome la majorité des tâches intellectuelles.
Martin : J’étais en train de déjeuner avec Robert Nishihara d’Anyscale. Il a posé une question que j’appelle maintenant la « question de Robert Nishihara ». Je pense qu’elle illustre bien la situation. Il a dit : « Il existe un continuum entre l’ordinateur et Einstein. Tu passes de l’ordinateur au chat, du chat à un humain lambda, de l’humain lambda à Einstein. » Puis il a posé la question : « Où en sommes-nous sur ce continuum ? Quels problèmes seront résolus ? »
Tout le monde a convenu que nous savons comment passer d’un chat à un humain moyen. Nous ne savons pas encore comment passer de l’ordinateur au chat, car il s’agit d’un problème de perception universelle. Nous en sommes proches, mais pas tout à fait là. Et nous ne savons vraiment pas comment passer à Einstein — c’est justement ce qui définit le raisonnement.
Mira : Par affinage, on peut obtenir beaucoup. Mais globalement, je pense que, sur la plupart des tâches, nous sommes aujourd’hui au niveau d’un stagiaire. Le problème est celui de la fiabilité. On ne peut pas compter entièrement sur le système pour faire constamment ce qu’on attend de lui. Sur beaucoup de tâches, il échoue encore. Comment améliorer la fiabilité avec le temps ? Et comment étendre les nouvelles fonctionnalités que ces modèles peuvent offrir ?
Je pense qu’il est important de prêter attention à ces capacités émergentes, même si elles sont très peu fiables. Surtout pour ceux qui créent des entreprises aujourd’hui, vous devez vraiment réfléchir à : « Qu’est-ce qui est possible aujourd’hui ? Qu’est-ce que vous voyez apparaître ? » Ces modèles deviendront rapidement plus fiables.
Un seul modèle dominera-t-il tout ?
Martin : Je vais bientôt vous demander une prédiction sur l’avenir. Mais auparavant, je vais poser une question égoïste : selon vous, quelle sera l’économie de ce secteur ? Je vais vous dire ce que cela me rappelle : l’industrie du silicium. Je me souviens qu’aux années 90, quand on achetait un ordinateur, il y avait plein de processeurs spécialisés étranges : « Celui-ci fait la correspondance de chaînes, celui-là le flottant, celui-là le chiffrement », tous consommant du CPU.
Finalement, la généralité s’est révélée extrêmement puissante, créant un certain type d’économie, avec Intel et AMD comme acteurs principaux. Bien sûr, fabriquer ces puces coûte cher.
On peut imaginer deux futurs. Dans l’un, la généralité est très puissante, et au fil du temps, les grands modèles absorbent toutes les fonctions. Dans l’autre, il y aura une multitude de modèles différents, fragmentés, occupant divers points de l’espace de conception. Quelle est votre intuition : OpenAI domine-t-il seul, ou y aura-t-il une grande diversité de modèles ?
Mira : Cela dépend de ce que vous voulez faire. Clairement, la trajectoire actuelle montre que ces systèmes d’IA feront de plus en plus de tâches que nous accomplissons aujourd’hui. Ils pourront agir de manière autonome, mais ils auront besoin de direction, de conseils et de supervision. Personnellement, je ne veux pas passer mon temps à faire des tâches répétitives. Je veux me concentrer sur autre chose. Peut-être n’aurons-nous plus besoin de travailler 10 à 12 heures par jour, et pourrons-nous réduire notre temps de travail tout en augmentant notre productivité. C’est ce que j’espère. En ce qui concerne la plateforme, même aujourd’hui, vous pouvez voir que nous proposons via l’API de nombreux modèles, allant des plus petits à nos modèles de pointe.
Les gens n’ont pas toujours besoin d’utiliser les modèles les plus puissants. Parfois, ils ont juste besoin d’un modèle adapté à leur cas d’usage spécifique, et cela coûte bien moins cher. Je pense qu’il y aura un spectre. Concernant notre vision de la plateforme, nous voulons clairement encourager les gens à construire par-dessus nos modèles. Nous voulons leur fournir des outils simples, leur donner un accès et un contrôle croissants. Vous pouvez apporter vos propres données, personnaliser les modèles. Vous pouvez vous concentrer sur les couches supérieures et définir des produits, ce qui est en réalité extrêmement difficile. Aujourd’hui, beaucoup d’attention est portée sur la création de nouveaux modèles, mais construire de bons produits au-dessus de ces modèles est très compliqué.
Les 5 à 10 prochaines années
Martin : J’aimerais que vous puissiez prédire où tout cela nous mènera dans 3, 5 ou 10 ans.
Mira : Je pense que les modèles de base actuels ont une excellente représentation du monde à travers le texte. Nous ajoutons progressivement d’autres modalités, comme les images, les vidéos et d’autres éléments, afin que ces modèles comprennent notre monde de façon plus complète, similaire à notre propre manière de percevoir et d’observer le monde. Le monde n’existe pas seulement dans les mots, mais aussi dans les images. Nous allons clairement dans cette direction : nous aurons des modèles plus vastes, entraînés préalablement sur toutes ces modalités. Nous voulons vraiment que ces modèles pré-entraînés comprennent le monde comme nous le faisons.
Concernant la sortie des modèles, nous introduisons l’apprentissage par renforcement avec feedback humain. Nous voulons que le modèle fasse exactement ce que nous lui demandons, de manière fiable. Cela nécessite beaucoup de travail, et peut-être l’introduction de la navigation web, pour accéder à de nouvelles informations, citer des sources et résoudre le problème des hallucinations. Je ne pense pas que ce soit impossible. Je pense que c’est réalisable.
Sur le plan produit, nous souhaitons intégrer tout cela dans un ensemble d’outils collaboratifs utilisables par les gens, et fournir une plateforme sur laquelle d’autres pourront construire. Si l’on regarde plus loin, ces modèles seront extrêmement puissants. Évidemment, cela suscite une grande crainte : que ces modèles très puissants soient mal alignés avec nos intentions. Un défi majeur est ce qu’on appelle le « Super Alignment » — un défi technique difficile. Chez OpenAI, nous avons une équipe entière dédiée à ce problème.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
