Le scientifique en chef de l'IA chez Meta, Yann LeCun, critique à nouveau l'IA générative
TechFlow SélectionTechFlow Sélection
Le scientifique en chef de l'IA chez Meta, Yann LeCun, critique à nouveau l'IA générative
Les modèles open source dépassent lentement mais sûrement les modèles fermés.
Dédié à des analyses Web3 approfondiesSource : Magazine China Entrepreneurs
Crédit image : Généré par Wuji AI
« Abandonnez les modèles génératifs, ne cherchez pas à étudier les LLM (modèles linguistiques volumineux), nous ne pouvons pas atteindre le niveau d’intelligence humaine en entraînant l’IA uniquement sur du texte. » Récemment, Yann LeCun, scientifique en chef de l'IA chez Meta, a de nouveau critiqué sévèrement l'IA générative lors du sommet Action Intelligence Artificielle 2025 à Paris.
Yann LeCun pense que bien que les grands modèles actuels fonctionnent efficacement, leur processus de raisonnement diverge, et les tokens générés peuvent sortir du champ des réponses raisonnables, ce qui explique pourquoi certains grands modèles produisent des hallucinations. Bien que de nombreux modèles génératifs actuels permettent à l’IA de réussir l’examen du barreau ou de résoudre des problèmes mathématiques, ils sont incapables de faire les tâches ménagères. Ce qui pour les humains est une action sans réflexion est très complexe pour l’IA générative.
Il ajoute que les modèles génératifs ne conviennent absolument pas à la création vidéo. Les modèles d’IA capables de générer des vidéos que l’on voit actuellement ne comprennent pas le monde physique ; ils se contentent de produire de belles images. Yann LeCun soutient les modèles capables de comprendre le monde physique, et il propose une architecture prédictive d’embedding conjoint (JEPA) plus adaptée à la prédiction du contenu vidéo. Il reste convaincu que seule une IA capable de véritablement comprendre le monde physique pourra atteindre un niveau d’intelligence équivalent à celui de l’humain.
Enfin, Yann LeCun insiste sur la nécessité d'une plateforme d'intelligence artificielle open source. À l'avenir, nous aurons des assistants virtuels généralistes qui géreront toutes nos interactions avec le monde numérique. Ces assistants devront parler toutes les langues du monde, comprendre toutes les cultures, tous les systèmes de valeurs et tous les centres d’intérêt. Un tel système d’IA ne peut venir de quelques rares entreprises de la Silicon Valley ; cela doit être réalisé grâce à une collaboration efficace.
Voici ses points clés :
1. Nous avons besoin d’une intelligence au niveau humain, car nous sommes habitués à interagir avec des personnes. Nous attendons des systèmes d’IA dotés d’un niveau d’intelligence comparable à celui de l’humain. À l’avenir, des assistants d’IA omniprésents serviront de pont entre l’humain et le monde numérique, facilitant ainsi l’interaction entre l’humain et ce monde.
2. Nous ne pouvons pas atteindre le niveau d’intelligence humaine en entraînant l’IA uniquement sur du texte. C’est impossible.
3. Chez Meta, nous appelons cette IA capable d’atteindre le niveau d’intelligence humaine « intelligence mécanique avancée ». Nous n’aimons pas le terme « AGI » (intelligence artificielle générale), nous préférons « AMI », qui se prononce comme le mot français « ami ».
4. Les modèles génératifs ne conviennent absolument pas à la création vidéo. Vous avez peut-être vu des modèles d’IA capables de générer des vidéos, mais ils ne comprennent pas vraiment la physique, ils ne font que générer de belles images.
5. Si vous êtes intéressé par une IA atteignant le niveau d’intelligence humaine et que vous travaillez dans le milieu académique, n’étudiez pas les LLM, car vous seriez en concurrence avec des centaines d’équipes disposant de dizaines de milliers de GPU, ce qui n’a aucun sens.
6. La plateforme d’IA doit être partagée. Elle devra parler toutes les langues du monde, comprendre toutes les cultures, tous les systèmes de valeurs et tous les centres d’intérêt. Aucune entreprise au monde ne peut entraîner seul un tel modèle de base ; cela doit être accompli par une collaboration efficace.
7. Les modèles open source dépassent lentement mais sûrement les modèles fermés.
Texte intégral de son intervention (version abrégée) :
Pourquoi avons-nous besoin d'une IA au niveau de l'intelligence humaine ?
Comme chacun sait, nous avons besoin d’une intelligence artificielle au niveau humain. Ce n’est pas seulement une question scientifique passionnante, c’est aussi une exigence produit. À l’avenir, nous porterons des dispositifs intelligents, comme des lunettes intelligentes, qui nous permettront d’accéder à tout moment à un assistant IA et d’interagir avec lui.
Nous avons besoin d’une intelligence au niveau humain parce que nous sommes habitués à interagir avec des personnes. Nous espérons voir apparaître des systèmes d’IA dotés d’un niveau d’intelligence comparable à celui de l’humain. À l’avenir, des assistants d’IA omniprésents serviront de pont entre l’humain et le monde numérique, facilitant ainsi l’interaction entre l’humain et ce monde. Mais comparés aux humains et aux animaux, les systèmes d’apprentissage automatique actuels sont encore très mauvais. Nous n’avons pas encore construit de machines capables d’apprendre comme les humains, ni dotées de bon sens ou de compréhension du monde matériel. Animaux et humains peuvent agir selon le bon sens, des comportements fondamentalement motivés par des objectifs.
Ainsi, les systèmes d’intelligence artificielle utilisés aujourd’hui par presque tout le monde ne possèdent pas les caractéristiques que nous souhaitons. Ils génèrent récursivement des tokens les uns après les autres, puis utilisent les tokens marqués pour prédire le token suivant. On entraîne ces systèmes en plaçant l’information à l’entrée, puis en essayant de la faire réapparaître en sortie. C’est une structure causale, on ne peut pas tricher ni utiliser une entrée spécifique pour prédire elle-même, on ne peut que regarder les tokens voisins. Cela rend le système très efficace. On l’appelle communément grand modèle universel, capable de générer du texte, des images.
Mais ce processus de raisonnement diverge : chaque fois que vous générez un token, il risque de sortir du champ des réponses raisonnables, et vous éloigner davantage de la bonne réponse. Si cela arrive, rien ne permet de corriger cela par la suite, ce qui explique pourquoi certains grands modèles produisent des hallucinations, disent n’importe quoi.
Ces intelligences artificielles actuelles ne peuvent pas reproduire l’intelligence humaine. Nous ne pouvons même pas reproduire celle d’animaux comme les chats ou les rats, qui comprennent les règles du monde physique et réalisent des actions basées sur le bon sens, sans planification. Un enfant de 10 ans peut ranger la vaisselle et essuyer la table sans avoir besoin d’apprendre, un jeune de 17 ans peut apprendre à conduire en 20 heures, mais nous ne sommes pas encore capables de fabriquer un robot domestique. Cela montre que notre recherche et développement en IA manquent encore quelque chose de très important.
Notre IA actuelle peut réussir l’examen du barreau, résoudre des problèmes mathématiques, démontrer des théorèmes, mais elle ne peut pas faire le ménage. Ce que nous considérons comme des tâches qu’on fait sans réfléchir est extrêmement complexe pour les robots d’IA, alors que ce que nous pensons être propre à l’humain — comme le langage, les échecs, la poésie — les IA et robots actuels peuvent le faire facilement.
Nous ne pouvons pas atteindre le niveau d’intelligence humaine en entraînant l’IA uniquement sur du texte. C’est impossible. Certains intérêts acquis affirment que l’intelligence de l’IA atteindra le niveau d’un docteur humain l’année prochaine, mais c’est totalement irréaliste. L’IA peut atteindre le niveau d’un docteur humain dans certains domaines spécifiques comme les échecs ou la traduction, mais pas les grands modèles universels. Si vous entraînez ces modèles d’IA spécialisés sur des problèmes spécifiques, et si votre problème est standard, la réponse sera générée en quelques secondes. Mais si vous modifiez légèrement la formulation de la question, l’IA pourrait donner la même réponse, car elle n’a pas réellement réfléchi au problème. Nous avons donc encore besoin de temps pour obtenir un système d’IA atteignant le niveau d’intelligence humaine.
Non pas "AGI", mais "AMI"
Chez Meta, nous appelons ce type d’IA capable d’atteindre le niveau d’intelligence humaine « intelligence mécanique avancée ». Nous n’aimons pas le terme « AGI » (intelligence artificielle générale), nous préférons « AMI », qui se prononce comme le mot français « ami ». Nous avons besoin de modèles capables de collecter des informations via des capteurs et d’apprendre, de manipuler ces informations mentalement, d’apprendre la physique 2D à partir de vidéos. Par exemple, des systèmes dotés d’une mémoire persistante, capables de planifier des actions hiérarchiquement, et capables de raisonner, puis de concevoir des systèmes contrôlables et sûrs plutôt que de simplement les ajuster.
Actuellement, je sais qu’une seule façon de construire de tels systèmes : changer la manière dont les systèmes d’IA effectuent le raisonnement. La méthode actuelle des LLM consiste à exécuter un nombre fixe de couches de réseau neuronal (Transformer) pour générer un token et l’insérer, puis à exécuter à nouveau un nombre fixe de couches. Le problème de cette méthode est que peu importe si la question est simple ou complexe, quand on demande au système de répondre « oui » ou « non », il consommera la même quantité de calcul. Alors les gens trichent constamment, en indiquant au système comment répondre. Les humains connaissent cette astuce de raisonnement : faire générer plus de tokens au système, ce qui augmente la puissance de calcul nécessaire pour répondre.
En réalité, le raisonnement ne fonctionne pas ainsi. Dans de nombreux domaines, notamment l’IA statistique classique et la prédiction structurelle, le raisonnement fonctionne ainsi : on dispose d’une fonction mesurant la compatibilité ou incompatibilité entre vos observations et vos sorties. Le processus de raisonnement consiste à trouver la valeur qui compresse au minimum l’espace d’information et donne la sortie. Cette fonction s’appelle fonction d’énergie. Quand le résultat ne correspond pas, le système effectue une optimisation et raisonne. Si le problème est plus difficile, le système passera plus de temps à raisonner, autrement dit, il mettra plus de temps à réfléchir aux problèmes complexes.
Dans l’IA classique, beaucoup de choses concernent le raisonnement et la recherche, donc toute optimisation d’un problème de calcul peut se ramener à un problème de raisonnement ou de recherche. Ce type de raisonnement ressemble davantage à ce que les psychologues appellent système 2, c’est-à-dire réfléchir avant d’agir. Le système 1 correspond aux actions que l’on peut faire sans réfléchir, ce qui devient inconscient.
Source : capture vidéo
J’explique brièvement les modèles d’énergie : on peut capturer les dépendances entre variables via une fonction d’énergie. Supposons une observation X et une sortie Y. Quand X et Y sont compatibles, la fonction d’énergie prend une valeur faible ; quand X et Y sont incompatibles, elle prend une valeur élevée. Vous ne voulez pas simplement calculer Y à partir de X, vous voulez une fonction d’énergie mesurant le degré d’incompatibilité. Étant donné un X, vous cherchez un Y ayant une énergie faible.
Examinons maintenant en détail comment construire une architecture de modèle du monde, et son lien avec la pensée ou la planification. Ce système fonctionne ainsi : observer le monde passe par un module perceptuel, qui résume l’état du monde. Bien sûr, l’état du monde n’est pas entièrement observable, donc vous devrez peut-être combiner cela avec la mémoire, qui contient vos idées sur l’état du monde. Cette combinaison forme un modèle du monde.
Qu’est-ce qu’un modèle du monde ? Un modèle du monde fournit un résumé de l’état actuel du monde. Dans un espace de représentation abstrait, il vous donne une séquence d’actions imaginées, et votre modèle du monde prédit l’état du monde après ces actions. Si je vous demande d’imaginer un cube flottant devant vous, puis de tourner ce cube verticalement de 90°, à quoi ressemblerait-il ? Vous pouvez facilement imaginer mentalement son apparence après la rotation.
Je pense que nous aurons une intelligence au niveau humain avant d’avoir une IA audiovisuelle véritablement opérationnelle. Si nous disposons de ce modèle du monde, capable de prédire les résultats d’une série d’actions, nous pouvons l’entrer dans un objectif de tâche, utilisé pour mesurer dans quelle mesure l’état final prédit satisfait l’objectif que nous nous sommes fixé. C’est simplement une fonction objectif. Nous pouvons également définir certaines contraintes, que nous voyons comme des conditions nécessaires au fonctionnement sécurisé du système. Avec ces contraintes, la sécurité du système est garantie, vous ne pouvez pas les outrepasser, elles sont strictement imposées, hors du champ de l’entraînement et du raisonnement.
Une série d’actions doit maintenant utiliser un modèle du monde, appliqué plusieurs fois sur plusieurs pas temporels. Si vous exécutez la première action, il prédit l’état après son achèvement, puis vous faites la deuxième action, il prédit le nouvel état, et ainsi de suite le long de cette trajectoire. Vous pouvez aussi définir l’objectif de la tâche et les contraintes. Si le monde n’est pas complètement déterminé et prévisible, le modèle du monde pourrait avoir besoin de variables latentes pour expliquer tout ce que nous n’observons pas du monde, ce qui introduit un biais dans nos prédictions. En fin de compte, nous voulons un système capable de planification hiérarchique. Il pourrait avoir plusieurs niveaux d’abstraction : au niveau inférieur, nous planifions des actions élémentaires, comme le contrôle musculaire de base. Au niveau supérieur, nous pouvons planifier des actions macroscopiques abstraites. Par exemple, assis dans mon bureau à l’université de New York, je décide d’aller à Paris. Je peux diviser cette tâche en deux sous-tâches : aller à l’aéroport et prendre l’avion. Puis planifier en détail chaque étape : prendre mon sac, sortir, prendre un taxi, utiliser l’ascenseur, acheter un billet…
Nous ressentons rarement que nous faisons une planification hiérarchique, ce sont presque toujours des gestes inconscients, mais nous ne savons pas comment enseigner cela à la machine. Presque tous les processus d’apprentissage automatique impliquent une planification hiérarchique, mais chaque niveau est guidé manuellement. Nous devons entraîner une architecture capable d’apprendre elle-même ces représentations abstraites, non seulement l’état du monde, mais aussi la prédiction du modèle du monde, et prédire des actions abstraites à différents niveaux d’abstraction, afin que l’apprentissage automatique puisse réaliser inconsciemment la planification hiérarchique comme les humains.
Comment permettre à l'IA de comprendre le monde ?
Forts de toutes ces réflexions, j’ai rédigé il y a trois ans un long article expliquant les domaines vers lesquels, selon moi, la recherche en IA devrait se diriger. J’ai écrit cet article avant l’essor de ChatGPT, et jusqu’à aujourd’hui, mon avis sur cette question n’a pas changé. ChatGPT n’a rien changé. Cet article portait sur la voie vers une intelligence mécanique autonome. Nous l’appelons désormais intelligence mécanique avancée, car le mot « autonome » effraie les gens. J’ai présenté ce concept à plusieurs reprises lors de conférences.
Pour permettre à un système de comprendre le fonctionnement du monde, une méthode courante consiste à entraîner, sur des vidéos, selon le processus utilisé auparavant pour entraîner les systèmes de traitement du langage naturel. Si un système peut prédire ce qui va se passer dans une vidéo, vous lui montrez un court extrait, puis lui demandez de prédire la suite. Entraîner la prédiction permet effectivement au système de comprendre la structure fondamentale du monde. Cela fonctionne bien pour le texte, car prédire un mot est relativement simple, le nombre de mots est limité, tout comme le nombre de tokens possibles. Nous ne pouvons pas prédire avec précision quel mot suivra un autre ou quel mot manque dans un texte, mais nous pouvons estimer la probabilité de chaque mot du dictionnaire.
Mais nous ne pouvons pas faire cela avec les images ou les vidéos. Nous n’avons pas de bonnes méthodes pour représenter la distribution des images vidéo. Chaque tentative rencontre presque toujours des difficultés mathématiques. Vous pouvez donc essayer d’utiliser les statistiques et les mathématiques inventées par les physiciens pour résoudre ce problème. En fait, il vaut mieux abandonner complètement l’idée de modélisation probabiliste.
Car nous ne pouvons pas prédire avec précision ce qui va arriver dans le monde. Entraîner un système à prédire seulement une image ne fonctionne pas bien. La solution est donc de développer une nouvelle architecture, que j’appelle architecture de prédiction par embedding conjoint (JEPA). Les modèles génératifs ne conviennent absolument pas à la création vidéo. Vous avez peut-être vu des modèles d’IA capables de générer des vidéos, mais ils ne comprennent pas vraiment la physique, ils ne font que générer de belles images. L’idée de JEPA est d’exécuter simultanément les observations et les sorties, de sorte qu’on ne prédise plus seulement des pixels, mais ce qui se passe dans la vidéo.
Source : capture vidéo
Comparons ces deux architectures. À gauche, l’architecture générative : vous entrez X (l’observation) dans un encodeur, puis vous prédisez Y, une prédiction simple. À droite, l’architecture JEPA : vous exécutez simultanément X et Y, ainsi que des encodeurs éventuellement identiques ou différents, puis vous prédisez la représentation de Y à partir de la représentation de X dans cet espace abstrait. Cela pousse le système à apprendre fondamentalement un encodeur capable d’éliminer tout ce que vous ne pouvez pas prédire, ce que nous faisons réellement.
Lorsque nous filmons dans une pièce, la caméra bouge, et ni un humain ni une IA ne peuvent prédire qui apparaîtra dans l’image suivante, ni quelle sera la texture des murs ou du sol. Beaucoup de choses sont fondamentalement imprévisibles. Plutôt que d’insister pour faire des prédictions probabilistes sur des éléments imprévisibles, mieux vaut abandonner cette prédiction et apprendre une représentation où tous ces détails sont essentiellement éliminés, simplifiant ainsi la prédiction. Nous simplifions le problème.
Les architectures JEPA ont diverses variantes. Ici, je ne discuterai pas des variables latentes, mais des conditions d’action, qui sont la partie la plus intéressante, car elles constituent véritablement des modèles du monde. Vous avez une observation X, l’état actuel du monde, vous entrez l’action que vous envisagez dans un encodeur, cet encodeur étant le modèle du monde, et il vous prédit la représentation de l’état du monde après cette action. C’est ainsi que vous planifiez.
Récemment, nous avons mené des recherches approfondies sur Video JEPA. Comment fonctionne ce modèle ? Par exemple, extraire d’abord 16 images consécutives d’une vidéo comme échantillon d’entrée, puis masquer et corrompre certaines images, avant d’entrer ces images partiellement altérées dans un encodeur, tout en entraînant simultanément un module de prédiction capable de reconstruire la représentation complète de la vidéo à partir des informations visuelles incomplètes. Les expériences montrent que cette méthode d’apprentissage auto-supervisé présente des avantages significatifs, les caractéristiques profondes apprises pouvant être directement transférées à des tâches descendantes comme la classification d’actions vidéo, obtenant de très bons résultats dans plusieurs benchmarks.
Une chose très intéressante : si vous montrez à ce système une vidéo où se produit quelque chose de très étrange, le système vous indique en réalité que son erreur de prédiction augmente fortement. Vous filmez une vidéo, prenez 16 images pour mesurer l’erreur de prédiction du système. Si quelque chose d’étrange se produit, par exemple un objet disparaît spontanément ou change de forme, l’erreur de prédiction augmente. Cela vous indique que, bien que le système soit simple, il a appris un certain niveau de bon sens, capable de vous signaler si quelque chose de très étrange se produit dans le monde.
Je souhaite partager notre dernier travail : DINO-WM (une nouvelle méthode pour construire un modèle dynamique visuel sans reconstruction du monde visuel). Entraîner un prédicteur à partir d’une image du monde, puis le faire passer par un encodeur DINO, puis le robot peut effectuer une action, ce qui donne l’image suivante de la vidéo. Cette image est à nouveau passée dans l’encodeur DINO, produisant une nouvelle image, puis on entraîne le prédicteur à prédire ce qui va se passer selon l’action effectuée.
La planification est très simple : vous observez un état initial, vous le faites passer par l’encodeur DINO, puis vous exécutez plusieurs fois le modèle du monde avec des actions imaginées à plusieurs moments et étapes. Vous avez un état cible, représenté par une image cible, par exemple en la faisant passer dans l’encodeur, puis vous calculez l’écart dans l’espace de représentation entre l’état prédit et l’état représentant l’image cible, et vous trouvez la séquence d’actions au coût minimal.
Source : capture vidéo
C’est un concept très simple, mais très efficace. Supposons que vous ayez un petit motif en T que vous voulez pousser vers une position spécifique. Vous savez où il doit aller, car vous avez mis l’image de cette position dans l’encodeur, ce qui vous donne un état cible dans l’espace de représentation. Lorsque vous effectuez une série d’actions planifiées, ce qui se passe réellement dans le monde, vous voyez la prédiction mentale interne de la séquence d’actions planifiée par le système, que vous entrez dans un décodeur, produisant une représentation graphique de l’état interne.
Abandonnez l'étude des modèles génératifs
Enfin, j’ai quelques conseils à partager. Tout d’abord, abandonnez les modèles génératifs. C’est actuellement la méthode la plus populaire, tout le monde l’étudie. Vous pouvez étudier JEPA, ce ne sont pas des modèles génératifs, ils prédisent dans un espace de représentation ce qui va arriver dans le monde. Abandonnez l’apprentissage par renforcement, je le dis depuis longtemps, c’est inefficace. Si vous êtes intéressé par une IA atteignant le niveau d’intelligence humaine et que vous travaillez dans le milieu académique, n’étudiez pas les LLM, car vous êtes en concurrence avec des centaines d’équipes disposant de dizaines de milliers de GPU, ce qui n’a aucun sens. De nombreux problèmes restent à résoudre dans le milieu académique : les algorithmes de planification sont très inefficaces, nous devons trouver de meilleures méthodes. Les JEPA avec variables latentes dans la planification hiérarchique sous incertitude sont un problème complètement non résolu, ce qui invite les chercheurs à explorer.
À l’avenir, nous aurons des assistants virtuels généralistes qui nous accompagneront en permanence et réguleront toutes nos interactions avec le monde numérique. Nous ne pouvons pas laisser ces systèmes d’IA provenir de quelques rares entreprises de la Silicon Valley ou de Chine. Cela signifie que la plateforme sur laquelle nous construisons ces systèmes doit être open source et largement accessible. L’entraînement de ces systèmes est très coûteux, mais une fois que vous avez un modèle de base, l’ajustement fin pour des applications spécifiques est relativement peu coûteux, abordable pour beaucoup.
La plateforme d’IA doit être partagée. Elle doit parler toutes les langues du monde, comprendre toutes les cultures, tous les systèmes de valeurs et tous les centres d’intérêt. Aucune entreprise au monde ne peut entraîner seul un tel modèle de base ; cela doit être accompli par une collaboration efficace.
Par conséquent, une plateforme d’intelligence artificielle open source est indispensable. La crise que je vois en Europe et ailleurs est que la compétition géopolitique pousse certains gouvernements à interdire pratiquement la publication de modèles open source, car ils veulent garder secrets leurs découvertes scientifiques pour conserver leur avance. C’est une énorme erreur. Quand vous faites de la recherche en secret, vous prenez du retard, c’est inévitable. Ce qui va se passer, c’est que tous les autres pays adopteront les technologies open source, et nous vous dépasserons. C’est exactement ce qui se passe actuellement. Les modèles open source dépassent lentement mais sûrement les modèles fermés.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
