L'article d'OpenAI : Le point de singularité douce est arrivé, un tournant majeur pour l'humanité en 2030
TechFlow SélectionTechFlow Sélection
L'article d'OpenAI : Le point de singularité douce est arrivé, un tournant majeur pour l'humanité en 2030
Puissions-nous avancer de manière stable, exponentielle et sans heurts vers l'ère de l'intelligence superposée.
Dédié à des analyses Web3 approfondiesAuteur : JYH, XinZhiyuan
Le long article signé par Sam Altman intitulé « La singularité douce » a provoqué un séisme dans la communauté de l'IA. Il y annonce que l'humanité s'achemine vers l'ère de l'intelligence superposée, et que la singularité ne surviendra pas du jour au lendemain, mais s'insinuera progressivement.
Suite au lancement fracassant d'o3-pro, Altman a publié sans tarder son dernier billet — « La singularité douce ».
Dès les premières lignes, une sensation d'urgence saisit le lecteur :
L'humanité a franchi l'« horizon des événements » du développement de l’IA, et entre désormais dans une phase d’accélération exponentielle.
Pour Altman, la singularité n’arrive pas en une nuit, elle s’infiltre peu à peu : ce qui était étonnant devient normal, ce qui était normal devient le minimum attendu.
Dans le texte, il livre également ses prévisions sur la trajectoire technologique des cinq prochaines années :
-
2025 : les agents intelligents pourront accomplir des tâches cognitives réelles (comme la programmation), redéfinissant ainsi les modes de travail ;
-
2026 : l’IA pourrait acquérir la capacité de découvrir de nouvelles connaissances ;
-
2027 : les robots devraient être capables d’exécuter des missions dans le monde physique ;
-
2030 : la productivité individuelle dépassera largement celle de 2020, entraînant de profonds bouleversements dans les modes de production sociale.
À noter : cet article est le dernier écrit entièrement de la main d’Altman, sans aucune assistance d’IA.
Il souligne également un aspect souvent négligé : la consommation énergétique par requête de ChatGPT.
Chaque requête moyenne de ChatGPT consomme environ 0,34 watt-heure d’électricité, soit l’équivalent du fonctionnement d’un four pendant un peu plus d’une seconde, ou d’une ampoule basse consommation allumée quelques minutes.
De plus, chaque requête nécessite environ 0,000085 gallon d’eau, soit environ un quinzième de cuillère à café.
Voyons maintenant, à travers le regard d’Altman, l’avenir de l’IA.
L'humanité vient de franchir un point de basculement
Nous avons déjà traversé l’horizon des événements (event horizon). L’« élévation » a commencé.
En astrophysique, tout événement au-delà de l’horizon des événements ne peut plus affecter un observateur extérieur.
L’humanité est désormais à un pas de construire une intelligence numérique superposée. Pourtant, jusqu’à présent, ce processus s’est avéré bien plus paisible que prévu.
Les robots ne courent pas encore partout, la majorité des gens ne discutent pas encore toute la journée avec l’IA. Nous continuons à naître, vieillir, tomber malades et mourir, l’espace reste difficile d’accès, et l’univers recèle encore bien des mystères.
Pourtant, nous avons bel et bien conçu des systèmes intelligents surpassant l’humain dans de nombreux domaines, susceptibles d’amplifier considérablement la productivité. Des percées scientifiques autrefois jugées impossibles ont été réalisées. Ce sont précisément ces avancées précieuses qui ont permis la création de systèmes comme GPT-4 et o3, qui nous guideront vers un avenir plus lointain.
L’IA contribuera à divers égards au monde.
Elle accélérera la science, améliorera la productivité, et propulsera la qualité de vie vers de nouveaux sommets. L’avenir sera bien plus radieux qu’aujourd’hui. Le progrès scientifique est le moteur principal du développement global. À cette perspective d’infinités futures, on ne peut qu’être empli d’enthousiasme.
Selon un certain sens fondamental, ChatGPT est déjà plus puissant que n’importe quel humain dans l’histoire.
Des centaines de millions d’utilisateurs comptent sur lui quotidiennement pour des tâches de plus en plus cruciales : une petite nouvelle fonctionnalité peut avoir un impact positif massif, tandis qu’une légère déviation, multipliée par des centaines de millions d’utilisations, peut aussi causer de graves dommages.
Un calendrier sur cinq ans : 2030, prochaine étape clé
En 2025, les agents d’IA capables de véritables travaux cognitifs sont arrivés, transformant durablement la manière de programmer. En 2026, pourrions-nous voir apparaître des systèmes capables de découvrir de nouvelles connaissances ? En 2027, des robots capables d’agir dans le monde physique pourraient voir le jour.
De plus en plus de personnes pourront créer des logiciels et de l’art. Mais la demande mondiale pour ces deux domaines augmentera également. Tant que les nouveaux outils seront adoptés, les experts conserveront probablement leur avance sur les novices.
En résumé, d’ici 2030, l’efficacité individuelle dépassera largement celle de 2020. Ce changement sera spectaculaire, et beaucoup trouveront des façons d’en tirer parti.
Mais sur certains aspects importants, 2030 ne sera peut-être pas si différent. Les gens continueront d’aimer leurs familles, d’exprimer leur créativité, de jouer, de nager dans les lacs.
Toutefois, sur d’autres aspects tout aussi essentiels, 2030 pourrait différer radicalement de toutes les ères précédentes. Nous ignorons encore jusqu’où l’intelligence artificielle pourra dépasser l’humain, mais nous sommes sur le point de le découvrir.
Dans les années 2030, l’intelligence et l’énergie — c’est-à-dire la créativité, et la capacité à transformer les idées en réalité — deviendront abondantes comme jamais.
Ces deux facteurs ont longtemps limité le progrès humain. Avec une intelligence et une énergie suffisantes (et une bonne gouvernance), nous pourrions théoriquement tout posséder.
Le cercle vertueux de l’IA s’accélère : la singularité s’installe silencieusement
Nous vivons déjà à l’ère incroyable de l’intelligence numérique. Après le choc initial, la plupart des gens s’y sont habitués.
Nous passons rapidement de l’émerveillement face à un paragraphe bien rédigé, à l’attente d’un roman littérairement parfait ; de l’étonnement devant un diagnostic médical salvateur, à l’attente d’un traitement curatif ; de la surprise face à un petit programme écrit par IA, à l’attente qu’elle crée une entreprise entière.
C’est ainsi que progresse la singularité : les miracles d’hier deviennent les standards d’aujourd’hui, puis les attentes minimales de demain.
Des scientifiques d’OpenAI rapportent que leur productivité a triplé depuis l’utilisation de l’IA.
L’IA avancée a une importance capitale, mais rien n’est peut-être plus crucial que son utilisation pour accélérer sa propre recherche. Nous pourrions découvrir de nouveaux supports de calcul, des algorithmes meilleurs, et d’autres surprises inattendues. Si dix ans de recherche peuvent être accomplis en un an, voire un mois, la vitesse du progrès sera radicalement différente.
À partir de maintenant, les outils existants nous aideront à obtenir des percées scientifiques plus profondes, et à concevoir des systèmes d’IA encore meilleurs.
Bien sûr, cela ne signifie pas que les systèmes d’IA mettent eux-mêmes à jour leur code de façon autonome, mais c’est déjà une forme embryonnaire d’amélioration récursive. D’autres boucles d’auto-renforcement sont déjà en marche.
La création massive de valeur économique lance un cercle vertueux d’expansion des infrastructures, afin de soutenir ces IA de plus en plus puissantes.
Et la fabrication de robots par d’autres robots n’est plus si lointaine — dans un certain sens, cela inclut même la construction de centres de données par d’autres centres de données.
Si nous devons fabriquer manuellement le premier million de robots humanoïdes, mais qu’ensuite ils gèrent toute la chaîne d’approvisionnement — extraction et raffinage des minéraux, conduite de camions, gestion d’usines, etc. — pour produire davantage de robots, qui à leur tour construiront plus d’usines de puces et de centres de données, alors la vitesse du progrès sera fondamentalement différente.
Avec l’automatisation de la production des centres de données, le coût de l’intelligence finira par se rapprocher du coût de l’électricité.
(On s’interroge souvent sur la consommation énergétique de chaque requête à ChatGPT : en moyenne, environ 0,34 watt-heure, équivalent à une seconde de fonctionnement d’un four, ou quelques minutes pour une ampoule basse consommation. Et environ 0,000085 gallon d’eau, soit un quinzième de cuillère à café.)
En approchant de l’AGI, les miracles de l’IA deviennent ordinaires
Le progrès technologique continuera de s’accélérer, et les humains s’adapteront, comme toujours.
Il y aura certes des ajustements douloureux, comme la disparition complète de certains emplois, mais d’un autre côté, la croissance de la richesse mondiale sera si rapide que nous pourrons sérieusement envisager de nouvelles politiques auparavant impensables.
Peut-être ne conclurons-nous pas immédiatement un nouveau contrat social, mais en regardant en arrière quelques décennies plus tard, l’accumulation quantitative aura mené à une transformation qualitative.
Comme l’histoire nous l’a montré, nous trouverons de nouveaux objectifs et de nouveaux besoins, et intégrerons rapidement les nouveaux outils. Les attentes monteront, mais la capacité augmentera tout aussi vite, et la qualité de vie de chacun s’améliorera.
L’évolution des métiers après la révolution industrielle en est un bon exemple
Les humains créeront des choses toujours meilleures les uns pour les autres.
Face à l’IA, les humains gardent un avantage durable, important et unique : nous sommes naturellement préoccupés par les autres et par leurs pensées, contrairement aux machines.
Un paysan d’il y a mille ans, voyant le travail de beaucoup d’entre nous aujourd’hui, dirait que ce sont des « faux métiers », penserait que les modernes ne font que s’amuser après avoir mangé et bu, livrés à des plaisirs oisifs.
J’espère que les gens de dans mille ans, regardant notre époque, jugeront aussi nos métiers comme très « fictifs », tout en reconnaissant pleinement que ceux qui les exercent y trouvent un sens profond et une grande satisfaction.
La vitesse d’apparition de nouveaux miracles est stupéfiante.
Aujourd’hui, nous peinons même à imaginer les découvertes de 2035 —
Peut-être résoudrons-nous cette année l’énigme de la physique des hautes énergies, et l’année prochaine commencerons-nous la colonisation spatiale ; ou ferons-nous une percée majeure en science des matériaux cette année, et disposerons-nous l’année suivante d’une véritable interface cerveau-machine à haut débit.
Beaucoup choisiront de vivre comme avant, mais certains choisiront peut-être de « se connecter ».
Vu de loin, tout cela semble inconcevable. Mais quand nous y serons, peut-être serons-nous impressionnés, tout en restant capables de faire face.
D’un point de vue relatif, la singularité advient progressivement, la fusion s’opère lentement.
Nous gravissons la courbe longue et exponentielle de la technologie : en regardant devant, elle paraît trop abrupte pour être escaladée ; en regardant derrière, elle semble plate et banale. Mais c’est toujours une courbe lisse.
(Imaginez en 2020, si quelqu’un avait prédit qu’en 2025 nous aurions presque atteint l’AGI, cela aurait semblé totalement absurde. Comparez cela au chemin réellement parcouru ces cinq dernières années.)
Un cerveau super intelligent : une mission colossale
De grandes opportunités vont de pair avec de grands défis.
Nous devons bien sûr résoudre les problèmes de sécurité sur les plans technique et social, mais étant donné l’impact économique colossal, il est également crucial de rendre l’intelligence superposée accessible à tous.
La meilleure voie serait peut-être la suivante :
D’abord, résoudre le problème d’alignement (alignment problem). Cela signifie garantir fortement que les systèmes d’IA apprennent et agissent conformément aux véritables objectifs poursuivis collectivement par l’humanité à long terme.
Le flux d’actualités des réseaux sociaux est un exemple d’IA aux objectifs désalignés : les algorithmes sont extrêmement efficaces pour vous pousser à rafraîchir sans cesse, comprennent parfaitement vos préférences à court terme, mais ils exploitent justement un mécanisme de votre cerveau qui prend le pas sur vos préférences à long terme.
Ensuite, se concentrer sur la démocratisation de l’intelligence superposée, en la rendant bon marché, facilement accessible, et non excessivement concentrée entre les mains d’un individu, d’une entreprise ou d’un pays.
La société est résiliente, créative et adaptable. Si nous pouvons canaliser la volonté collective et la sagesse humaine, alors même si nous commettons de nombreuses erreurs, et que certaines situations dégénèrent, nous apprendrons rapidement, nous adapterons, et maximiserons les bénéfices tout en minimisant les risques grâce à cette technologie.
Il semble crucial de donner aux utilisateurs une liberté suffisante dans les limites générales que la société doit définir. Plus tôt le monde entier commencera à discuter de ces limites et à définir l’alignement collectif (collective alignment), mieux ce sera.
Toute l’industrie, et pas seulement OpenAI, construit un cerveau pour le monde.
Il sera hautement personnalisé, facilement accessible à tous ; notre seul goulot d’étranglement sera désormais la qualité des idées.
Depuis longtemps, les développeurs dans les cercles technologiques se moquent des « rois des idées » — ceux qui ont des concepts mais doivent chercher une équipe pour les réaliser. Pourtant, selon Altman, leur heure de gloire est venue.
Aujourd’hui, OpenAI joue plusieurs rôles, mais son identité première est celle d’une entreprise de recherche sur l’intelligence superposée.
La route est longue, la mission immense, mais la majeure partie du chemin est déjà éclairée, et les zones d’ombre disparaissent rapidement. Avoir la chance de travailler sur ce que nous aimons, nous remplit de gratitude.
« Une intelligence si bon marché qu’on n’a plus besoin de la mesurer » est à portée de main. Cela peut sembler fou, mais si en 2020 on vous avait dit que le monde aurait cet aspect aujourd’hui, cela aurait semblé encore plus fou que nos prévisions actuelles pour 2030.
Que nous puissions avancer calmement, de façon exponentielle et sans heurts, vers l’ère de l’intelligence superposée.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
