WAIC 2025 : L'IA continuera certainement de progresser, éviter de devenir le « méchant ultime » est un défi pour l'humanité
TechFlow SélectionTechFlow Sélection
WAIC 2025 : L'IA continuera certainement de progresser, éviter de devenir le « méchant ultime » est un défi pour l'humanité
Un consensus qui n'est pas un consensus.
Dédié à des analyses Web3 approfondiesAuteur :Jingyu
Le Congrès mondial d'intelligence artificielle de Shanghai (WAIC) redevient populaire !
Le 26 juillet 2025, le WAIC de cette année a attiré plus de 1 200 invités venant de plus de 30 pays et régions, dont 12 lauréats de prix prestigieux tels que le prix Turing ou le prix Nobel, plus de 80 académiciens chinois et étrangers, ainsi que des représentants de plusieurs laboratoires internationaux de premier plan.
Lors de l'ouverture le 26 juillet, Geoffrey Hinton, lauréat du prix Nobel 2024 et figure emblématique du secteur de l'IA, a prononcé un discours. Ce chercheur connu pour défendre la « thèse de la menace de l'IA » a réitéré les dangers liés au développement désordonné de l'IA, appelant à la création d’un « réseau de sécurité mondial » pour la recherche en IA.
Par ailleurs, Yan Junjie, fondateur et PDG de MiniMax, une jeune entreprise chinoise en plein essor dans le domaine de l'IA, a déclaré lors de son intervention que l’IA de plus en plus puissante n’a pratiquement aucune limite à son développement, et avec la baisse des coûts d'entraînement, « l’IA future sera plus accessible à tous ».
En outre, Peng Zhihui (Zhihui Jun), cofondateur et directeur technique de la start-up robotique chinoise Agibot, récemment évoquée dans des rumeurs d’introduction en bourse par acquisition d’une société cotée, a présenté sur scène une « comédie à deux » avec son robot灵犀 X2, illustrant de façon concrète la relation de partenariat entre les robots et les humains.
Un lion ou un bébé, tout a besoin de surveillance
Même si ses anciens élèves dominent désormais la moitié du secteur technologique de l'IA à Silicon Valley, Geoffrey Hinton, le « maître fondateur » de l'IA, continue d'aller à contre-courant de ses pairs, défendant fermement la « thèse de la menace de l'IA ».
Lors du congrès WAIC le 26 juillet, Hinton a réaffirmé ses inquiétudes face au développement accéléré de l'IA.
En retracant brièvement les 30 dernières années d'évolution technologique de l'IA jusqu'à l'ère actuelle des grands modèles, Hinton estime que la manière dont ces grands modèles comprennent le langage est similaire à celle des humains.
« Les êtres humains pourraient bien être de grands modèles linguistiques, capables comme eux de produire des hallucinations et de nombreux discours hallucinatoires », a-t-il déclaré. Cette remarque correspond parfaitement aux mèmes actuels sur les réseaux sociaux traitant de l’humain-machine.
Cependant, comparé au « cerveau carboné » humain, le « cerveau silicium » de l'IA dispose d'avantages intrinsèques : stockage, copie et transmission instantanée. Cela signifie qu’avec l’avancement technologique, la communauté s’accorde à penser qu’il ne faudra qu’un peu de temps avant que des IA plus intelligentes que l’humain apparaissent. En tant qu’entités autonomes, ces intelligences exigeront inévitablement leur « survie » et leur « contrôle ».
Hinton pense que l'IA actuelle ressemble encore à un « enfant de trois ans », facilement manipulable par les humains, mais que cela pourrait changer. Il compare aussi l'IA actuelle à un petit lion : élever un lion ne laisse que deux options : « soit l'entraîner à ne pas vous attaquer, soit l'éliminer ».
Or, au vu des progrès mondiaux actuels en IA, aucun pays ne peut véritablement « éliminer l’IA » en arrêtant purement et simplement son développement technologique. Il ne reste donc qu'une seule voie : la création d’une agence mondiale de sécurité de l’IA, chargée d’entraîner l’IA afin qu’elle devienne « bienveillante ».
« Comment former une IA qui ne veut pas dominer l'humanité ? Telle est la question ultime à laquelle l'humanité doit faire face », a conclu Hinton.
Les uns demandent la régulation, les autres veulent assouplir les règles
De telles déclarations, profondément réfléchies, ont marqué le WAIC. Pourtant, dans l'Amérique du Nord où se situe Hinton, elles passent un peu pour malvenues. Les entreprises fondées par ses anciens étudiants, OpenAI et Anthropic, valent désormais des milliers de milliards de dollars, sans parler des énormes investissements consentis par les fonds de capital-risque de Silicon Valley dans les start-ups d’IA ces deux dernières années.
Un indicateur frappant : avec la hausse des dépenses de lobbying des entreprises d’IA auprès du gouvernement américain, les autorités réglementaires ont officiellement levé les freins au développement de l’IA.
Toujours cette semaine, le 23 juillet selon l'heure locale américaine, le président Donald Trump a publié la feuille de route pour l’intelligence artificielle (The AI Action Plan). Ce document fixe les priorités réglementaires américaines en matière de données, normes et talents afin de maintenir l’avance stratégique des États-Unis :
-
Accroître les investissements en R&D : augmenter fortement les investissements fédéraux à long terme dans la recherche fondamentale et appliquée en IA, notamment dans les domaines de la prochaine génération d’IA, de la sécurité de l’IA et d’une IA fiable.
-
Débloquer les ressources de données pour l’IA : favoriser l’ouverture sécurisée des vastes ensembles de données détenus par le gouvernement fédéral aux chercheurs et au public, fournissant ainsi du « carburant » de haute qualité pour l’entraînement des modèles.
-
Définir des normes techniques pour l’IA : conduire, en collaboration avec le secteur industriel et académique, l’élaboration de références, normes et règles mondiales pour l’IA, garantissant que les systèmes soient sûrs, fiables, explicables et équitables.
-
Former la main-d’œuvre à l’IA : réformer l’éducation STEM, promouvoir les apprentissages et les programmes de recyclage, attirer et retenir les meilleurs talents mondiaux en IA, afin de constituer un vivier humain pour l’économie de l’IA.
-
Renforcer la coopération internationale : créer une alliance sur l’IA avec les alliés et partenaires, définir ensemble des règles, contrer les abus de l’IA par les « États autoritaires », et promouvoir des applications ouvertes et démocratiques de l’IA.
-
Protéger les technologies clés : renforcer la protection des technologies, algorithmes et matériels clés américains en IA (notamment les semi-conducteurs), par des contrôles à l’exportation et des examens d’investissement, empêchant ainsi le transfert de technologie vers des concurrents stratégiques.
On constate clairement que les États-Unis donnent maintenant le feu vert au développement de l’IA, tout en utilisant les questions géopolitiques pour empêcher leurs concurrents de partir du même pied.
L’ère de l’expérience pour les robots est arrivée
Dans l’enceinte du WAIC cette année, les robots humanoïdes ont été sans conteste le point fort le plus captivant.
Lors de la session principale, Peng Zhihui (Zhihui Jun), cofondateur d’Agibot, a présenté sur scène une « comédie à deux » homme-machine avec le robot灵犀 X2.
La comédie à deux repose sur le jeu, l’imitation, la provocation et le chant ; entre humains et robots, ce qui compte, c’est la « compréhension mutuelle ». Le灵犀 X2 a affirmé sur scène que la collaboration entre humains et robots devait reposer sur un « consensus ». Mais comment instaurer un tel consensus et franchir les obstacles clés de la collaboration homme-machine ? Zhihui Jun affirme que c’est là une voie stratégique que son entreprise entend explorer en profondeur, et qu’il est crucial d’avancer avec davantage d’acteurs du secteur.
C’est pourquoi il a annoncé sur place le programme open source « Agibot Lingqu OS », espérant collaborer avec un plus grand nombre d’acteurs pour favoriser l’intégration de l’écosystème robotique actuel et permettre des percées dans les nouvelles technologies de l’intelligence incarnée.
Pour appuyer l’intelligence incarnée, Richard Sutton, professeur au département d’informatique de l’Université d’Alberta aux États-Unis et lauréat du prix Turing 2024, a participé au congrès par liaison vidéo. Selon lui, les données utilisées pour entraîner les grands modèles sont presque épuisées. Mais il ne faut pas désespérer : cela signifie que la prochaine ère de l’IA — l’ère de l’expérience (the Era of Experience) — est imminente.
Contrairement à l’entraînement de l’IA sur des données « statiques », on pourra désormais permettre à l’IA d’apprendre comme un nourrisson humain, en « expérimentant » l’environnement extérieur et les objets, afin d’acquérir des connaissances et d’améliorer ses capacités. Même si cet objectif semble encore lointain, un grand nombre de start-ups robotiques s’entraînent déjà activement dans le « monde physique ».
C’est pourquoi des experts de haut niveau comme Li Feifei ont fait la transition de l’« IA » à l’« IA physique », soulignant que pour que l’intelligence artificielle pénètre vraiment le monde réel, elle doit nécessairement comprendre et apprendre le monde entier sous un angle tridimensionnel.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
极客公园
