AI + Web3 : La voie de l'avenir (2) - L'écosystème des infrastructures
TechFlow SélectionTechFlow Sélection
AI + Web3 : La voie de l'avenir (2) - L'écosystème des infrastructures
Les principaux projets de la couche infrastructurelle de l'industrie AI+Web3 reposent essentiellement sur une narration centrée autour des réseaux de calcul décentralisés, misant principalement sur un faible coût, utilisant l'incitation par jetons comme moyen principal d'extension du réseau, et visant surtout à servir les clients AI+Web3.
Dédié à des analyses Web3 approfondiesRédaction : Future3 Campus
Il s'agit du deuxième volet du rapport d'étude sectorielle AI+Web3 de Future3 Campus, qui détaille le potentiel de développement, la logique narrative et les projets phares au niveau des infrastructures. Premier volet : La voie future du développement AI+Web3 (1) : paysage industriel et logique narrative.
Les infrastructures constituent une direction de croissance certaine pour le développement de l’IA
Une demande exponentielle en puissance de calcul pour l’IA
Ces dernières années, la demande en puissance de calcul a connu une croissance rapide, notamment après l’apparition des grands modèles LLM, relançant ainsi fortement le marché des calculateurs hautes performances. Selon les données d’OpenAI, depuis 2012, la quantité de calcul utilisée pour entraîner les plus grands modèles d’IA a augmenté de façon exponentielle, doublant environ tous les 3 à 4 mois, un rythme bien supérieur à celui prévu par la loi de Moore. La croissance de la demande en applications IA a entraîné une forte augmentation de la demande en matériel informatique ; on estime qu’en 2025, la demande en matériel de calcul liée aux applications IA augmentera d’environ 10 % à 15 %.
Sous l’effet de cette demande, les revenus du centre de données du fabricant de GPU NVIDIA ont continué à croître : au deuxième trimestre 2023, ils ont atteint 10,32 milliards de dollars, soit une hausse de 141 % par rapport au premier trimestre 2023 et de 171 % par rapport à l’année précédente. Au cours du quatrième trimestre fiscal 2024, les activités liées au centre de données représentaient plus de 83 % des revenus totaux, en hausse de 409 % sur un an, dont 40 % consacrés aux scénarios d’inférence de grands modèles, témoignant ainsi d’une forte demande en puissance de calcul haute performance.
La nécessité de traiter d’énormes volumes de données impose également des exigences accrues en matière de stockage et de mémoire matérielle, particulièrement durant la phase d’entraînement des modèles, où de nombreux paramètres doivent être entrés et de grandes quantités de données stockées. Les puces de stockage utilisées dans les serveurs d’IA comprennent principalement : la mémoire à bande passante élevée (HBM), la DRAM et les SSD. Pour les scénarios d’utilisation des serveurs d’IA, il faut fournir une capacité plus grande, des performances plus élevées, une latence plus faible et une vitesse de réponse plus rapide. Selon les estimations de Micron, la quantité de DRAM dans un serveur d’IA est 8 fois supérieure à celle d’un serveur traditionnel, tandis que la NAND est 3 fois plus élevée.
Un déséquilibre offre-demande entraînant un coût élevé du calcul
En général, la puissance de calcul est principalement utilisée lors des phases d’entraînement, d’ajustement fin et d’inférence des modèles d’IA. En particulier pendant les phases d’entraînement et d’ajustement fin, où les données et les paramètres sont plus volumineux et la charge de calcul plus importante, les exigences en interconnexion pour le calcul parallèle sont également plus élevées. Cela implique donc des matériels GPU plus performants, généralement des grappes de GPU haute performance. Avec le développement des grands modèles, la complexité du calcul augmente fortement, nécessitant davantage de matériel haut de gamme pour répondre aux besoins d’entraînement des modèles.
Prenons GPT-3 comme exemple : avec 13 millions d’utilisateurs indépendents accédant au modèle, la demande correspondante en puces serait de plus de 30 000 GPU A100. Le coût initial d’investissement atteindrait alors le chiffre stupéfiant de 800 millions de dollars, et les frais quotidiens d’inférence du modèle seraient estimés à 700 000 dollars.
Par ailleurs, selon des rapports sectoriels, au quatrième trimestre 2023, l’offre mondiale de GPU NVIDIA était strictement limitée, provoquant un déficit évident entre l’offre et la demande à l’échelle mondiale. La production de NVIDIA dépend fortement de la capacité de TSMC, de la HBM et de l’emballage CoWos, et le problème de pénurie sévère du H100 devrait perdurer jusqu’à la fin 2024.
La combinaison d'une demande croissante en GPU haut de gamme et d'une offre restreinte a conduit à des prix élevés pour les matériels tels que les GPU, en particulier pour des entreprises comme NVIDIA qui dominent le cœur de la chaîne industrielle, permettant ainsi d’accumuler davantage de rente grâce à leur position monopolistique. Par exemple, le coût matériel de la carte accélérateur H100 d’NVIDIA est d’environ 3 000 dollars, mais son prix atteignait déjà environ 35 000 dollars à l’été 2023, voire dépassait 40 000 dollars sur eBay.
Les infrastructures d’IA occupent une place centrale dans la croissance de valeur de la chaîne industrielle
Selon Grand View Research, le marché mondial du cloud IA était évalué à 62,63 milliards de dollars en 2023 et devrait atteindre 647,6 milliards de dollars en 2030, avec un taux de croissance annuel composé de 39,6 %. Ces chiffres reflètent le fort potentiel de croissance des services cloud IA et leur part importante dans toute la chaîne de valeur de l’IA.
D’après les estimations d’a16z, une grande partie des fonds du marché AIGC (contenu généré par IA) aboutit finalement aux entreprises d’infrastructure. En moyenne, les entreprises applicatives consacrent environ 20 à 40 % de leurs revenus à l’inférence et à l’ajustement fin pour chaque client. Ce montant est généralement payé directement aux fournisseurs de cloud ou aux fournisseurs tiers de modèles, qui eux-mêmes dépensent environ la moitié de leurs revenus en infrastructure cloud. On peut donc raisonnablement supposer que 10 à 20 % du revenu total actuel du marché AIGC revient aux fournisseurs de cloud.
En outre, une part encore plus importante de la demande en puissance de calcul concerne l’entraînement de grands modèles d’IA, comme les divers LLM. Pour les startups spécialisées dans les modèles, 80 à 90 % de leurs coûts sont consacrés à l’utilisation de puissance de calcul. En résumé, les infrastructures de calcul IA (incluant cloud et matériel) devraient représenter plus de 50 % de la valeur totale au début du marché.
Calcul d’IA décentralisé
Comme mentionné ci-dessus, le coût élevé du calcul centralisé actuel découle largement de la forte demande en infrastructures hautes performances pour l’entraînement de l’IA. Pourtant, de nombreuses ressources de calcul restent inexploitées sur le marché, créant un certain déséquilibre entre l’offre et la demande. Les principales raisons sont :
-
En raison des contraintes de mémoire, la relation entre la complexité du modèle et le nombre requis de GPU n’est pas linéaire : les GPU actuels offrent un avantage en puissance de calcul, mais l’entraînement des modèles nécessite de stocker de nombreux paramètres en mémoire. Par exemple, pour entraîner un modèle GPT-3 de 175 milliards de paramètres, il faut conserver plus de 1 To de données en mémoire — ce qui dépasse la capacité de tout GPU actuel. Il faut donc utiliser plusieurs GPU pour effectuer des calculs et stockages parallèles, ce qui entraîne inévitablement un gaspillage de puissance de calcul. Par exemple, si l’on passe de GPT-3 à GPT-4, la taille des paramètres augmente d’environ 10 fois, mais le nombre de GPU requis augmente de 24 fois (sans compter l’allongement du temps d’entraînement). Selon certaines analyses, OpenAI aurait utilisé environ 2,15e25 FLOPS pour entraîner GPT-4, avec environ 25 000 GPU A100 pendant 90 à 100 jours, avec un taux d’utilisation du calcul estimé entre 32 % et 36 %.
Face à ces problèmes, concevoir des puces haute performance ou des puces ASIC spécialisées mieux adaptées au travail de l’IA est une voie explorée par de nombreux développeurs et grandes entreprises. Une autre approche consiste à exploiter pleinement les ressources informatiques existantes, en construisant un réseau de calcul distribué, afin de réduire le coût du calcul via la location, le partage et la planification des ressources. De plus, le marché dispose actuellement de nombreux GPU et CPU grand public inutilisés, dont la puissance individuelle est modeste, mais qui peuvent néanmoins répondre à certains besoins de calcul, en particulier lorsqu'ils sont combinés avec des puces hautes performances. Leur disponibilité abondante permet, via une planification par réseau distribué, de réduire encore davantage les coûts.
Le calcul distribué devient donc une direction clé pour le développement des infrastructures d’IA. En outre, puisque Web3 partage des concepts similaires avec la distribution, les réseaux de calcul décentralisés représentent aujourd’hui l’une des principales directions d’application de l’infrastructure combinant Web3 et IA. Actuellement, les plateformes de calcul décentralisées Web3 offrent généralement des prix inférieurs de 80 à 90 % par rapport aux clouds centralisés.
Bien que le stockage constitue une infrastructure essentielle pour l’IA, les exigences de grande échelle, d’utilisabilité et de faible latence donnent actuellement un avantage significatif aux solutions centralisées. En revanche, les réseaux de calcul distribués, grâce à leur avantage de coût marqué, disposent d’un marché plus tangible et peuvent profiter davantage de la croissance explosive du marché de l’IA.
-
L’inférence de modèles et l’entraînement de petits modèles sont actuellement les cas d’usage principaux du calcul distribué. En raison de la dispersion des ressources de calcul, le calcul distribué accroît inévitablement les problèmes de communication entre GPU, ce qui diminue les performances. Il convient donc particulièrement aux scénarios nécessitant peu de communication et supportant le parallélisme, comme la phase d’inférence des grands modèles d’IA ou l’entraînement de modèles à faible volume de paramètres, où l’impact sur les performances est moindre. En réalité, à mesure que les applications IA évolueront, l’inférence deviendra la demande principale au niveau applicatif ; la plupart des entreprises ne seront pas en mesure d’entraîner de grands modèles, ce qui laisse au calcul distribué un potentiel de marché durable.
-
-
Des cadres d’entraînement distribués haute performance conçus pour le calcul massivement parallèle continuent d’émerger. Par exemple, des frameworks open source innovants comme Pytorch, Ray et DeepSpeed offrent aux développeurs un soutien renforcé pour utiliser le calcul distribué dans l’entraînement des modèles, améliorant ainsi l’applicabilité future du calcul distribué sur le marché de l’IA.
Logique narrative des projets d’infrastructure combinant IA et Web3
Nous constatons que la demande pour des infrastructures d’IA distribuées est forte et qu’elle présente un fort potentiel de croissance à long terme, ce qui en fait un domaine propice aux récits attractifs et apprécié par les capitaux. Actuellement, les principaux projets de la couche infrastructurelle du secteur IA+Web3 reposent majoritairement sur la narration d’un réseau de calcul décentralisé, mettant en avant un coût réduit, utilisant des incitations par jetons pour développer le réseau, et ciblant spécifiquement les clients IA+Web3. Ils se divisent en deux catégories principales :
1.Des plateformes relativement pures de partage et de location de ressources de cloud computing décentralisées : de nombreux projets IA précoces, comme Render Network ou Akash Network, s’inscrivent dans cette catégorie ;
-
La ressource en puissance de calcul comme principal avantage concurrentiel : l’avantage concurrentiel clé repose généralement sur l’accès à un grand nombre de fournisseurs de puissance de calcul, permettant de construire rapidement un réseau de base et d’offrir aux clients des produits faciles à utiliser. Sur le marché précoce, les entreprises de cloud computing et les mineurs sont souvent mieux placés pour pénétrer ce secteur.
-
Faible seuil technique et mise sur le marché rapide : pour des produits matures comme Render Network ou Akash Network, des données de croissance concrètes sont déjà visibles, leur conférant un certain avantage de premier entrant.
-
Nouveaux entrants avec produits fortement homogènes : en raison de l’engouement actuel pour ce segment et de la faible barrière d’entrée, un grand nombre de nouveaux projets axés sur le partage ou la location de puissance de calcul ont récemment fait leur apparition, mais leurs produits sont souvent très similaires, manquant encore de différenciation compétitive.
-
Orientation vers des clients aux besoins de calcul simples : par exemple, Render Network sert principalement les besoins de rendu, et Akash Network propose majoritairement des ressources CPU. La location de ressources de calcul simples répond généralement à des tâches IA basiques, sans pouvoir couvrir l’ensemble du cycle de vie des tâches complexes comme l’entraînement, l’ajustement fin ou l’inférence de modèles avancés.
2.Des plateformes proposant du calcul décentralisé + des services de flux ML : de nouveaux projets récents ayant levé des fonds importants, comme Gensyn, io.net ou Ritual ;
-
Le calcul décentralisé élève le socle d’évaluation. Puisque la puissance de calcul est une narration certaine pour le développement de l’IA, les projets dotés d’une base en puissance de calcul bénéficient généralement de modèles économiques plus stables et prometteurs, justifiant des valorisations plus élevées que les projets purement intermédiaires.
-
Les services intermédiaires créent un avantage différencié. Cette couche intermédiaire constitue précisément la partie où ces infrastructures de puissance de calcul peuvent se démarquer, par exemple avec des oracles et vérificateurs assurant la synchronisation des calculs hors et sur chaîne, ou des outils de déploiement et gestion pour les workflows complets d’IA. Étant donné que les workflows IA impliquent collaboration, rétroaction continue et haute complexité, et mobilisent la puissance de calcul à plusieurs étapes, une infrastructure intermédiaire plus ergonomique, collaborative et capable de répondre aux besoins complexes des développeurs IA est compétitive, surtout dans l’écosystème Web3, où elle doit aussi répondre aux besoins spécifiques des développeurs Web3. Ces services sont mieux placés pour capter le marché potentiel des applications IA, plutôt que de simplement supporter des tâches de calcul basiques.
-
Équipes projet généralement expérimentées dans l’exploitation ML. Les équipes capables de fournir ces services intermédiaires doivent avoir une compréhension approfondie de l’ensemble du processus de travail ML pour mieux répondre aux besoins tout au long du cycle de vie des développeurs. Bien que ces services utilisent souvent des frameworks et outils open source existants, sans nécessairement innover technologiquement, ils exigent néanmoins des équipes expérimentées et dotées de solides compétences techniques, ce qui constitue un avantage concurrentiel pour le projet.
Grâce à des prix plus avantageux que les services cloud centralisés tout en offrant une expérience similaire, ces projets ont reçu le soutien de plusieurs grands investisseurs, bien qu’ils soient techniquement plus complexes et en phase de narration et développement, sans produit final encore disponible.
Projets représentatifs
Render Network
Render Network est une plateforme mondiale de rendu basée sur la blockchain, offrant des GPU distribués pour fournir aux créateurs des services de rendu 3D à moindre coût et plus rapides. Une fois le résultat validé par le créateur, le réseau blockchain récompense les nœuds concernés en jetons. La plateforme fournit un réseau de planification et d’allocation des GPU distribués, attribuant les tâches en fonction de l’utilisation et de la réputation des nœuds, maximisant ainsi l’efficacité du calcul, réduisant les ressources inutilisées et abaissant les coûts.
Le jeton RNDR de Render Network sert de moyen de paiement sur la plateforme : les créateurs paient leurs services de rendu avec RNDR, tandis que les prestataires obtiennent des récompenses RNDR en fournissant de la puissance de calcul. Le prix du service de rendu est ajusté dynamiquement selon l’utilisation actuelle du réseau.
Le rendu est un cas d’usage relativement adapté et mature pour l’architecture de calcul distribué, car la tâche peut être divisée en plusieurs sous-tâches exécutées en parallèle, avec peu de communication ou interaction requise entre elles, minimisant ainsi les inconvénients de l’architecture distribuée tout en exploitant pleinement un large réseau de nœuds GPU pour réduire efficacement les coûts.
Ainsi, la demande utilisateur de Render Network est notable : depuis sa création en 2017, plus de 16 millions d’images et près de 500 000 scènes ont été rendues sur le réseau, avec une tendance à la croissance tant pour le nombre d’images rendues que pour le nombre de nœuds actifs. En outre, au premier trimestre 2023, Render Network a lancé une intégration native de l’ensemble d’outils Stability AI, permettant aux utilisateurs d’exécuter des tâches Stable Diffusion, étendant ainsi son activité au-delà du rendu vers le domaine de l’IA.
Gensyn.ai
Gensyn est un réseau mondial de supercalculateur destiné au calcul en apprentissage profond, basé sur un protocole L1 Polkadot. En 2023, il a levé 43 millions de dollars lors d’un tour de série A mené par a16z.
Dans sa narration, Gensyn inclut non seulement un cluster de puissance de calcul distribué au niveau infrastructure, mais aussi un système de validation supérieur, capable de prouver que les calculs massifs exécutés hors chaîne respectent bien les exigences définies sur chaîne — autrement dit, valider via la blockchain, pour créer un réseau d’apprentissage machine sans confiance.
Concernant le calcul distribué, Gensyn peut intégrer des centres de données disposant de capacités excédentaires, ainsi que des ordinateurs portables personnels équipés de GPU potentiels. Il connecte ces appareils en un unique cluster virtuel, accessible à la demande par les développeurs en mode point à point. Gensyn créera un marché dont les prix sont déterminés par la dynamique du marché et ouvert à tous les participants, permettant d’atteindre un équilibre juste sur le coût unitaire du calcul ML.
Le système de validation est un concept encore plus crucial chez Gensyn. Il vise à garantir que les tâches d’apprentissage machine sont correctement accomplies selon les demandes. À cet effet, il a développé une méthode de validation plus efficace, reposant sur trois technologies clés : preuves probabilistes d’apprentissage, protocole de localisation précis basé sur les graphes, et jeu incitatif inspiré de Truebit. Comparé aux méthodes traditionnelles de validation par duplication dans les blockchains, cette approche est nettement plus efficace. Les participants au réseau comprennent les soumissionnaires, les solveurs, les vérificateurs et les dénonciateurs, assurant ainsi le bon déroulement du processus de validation.
Selon les tests combinés présentés dans le livre blanc de Gensyn, ses principaux avantages actuels sont :
-
Réduction du coût d’entraînement des modèles d’IA : le coût horaire estimé du calcul équivalent à un NVIDIA V100 sur le protocole Gensyn serait d’environ 0,40 dollar, soit 80 % moins cher que le calcul à la demande d’AWS.
-
Réseau de validation sans confiance plus efficace : selon les tests du livre blanc, le surcoût temporel du protocole Gensyn pour l’entraînement de modèles est 1 350 % plus performant que la duplication Truebit, et 2 522 477 % plus performant qu’Ethereum.
Toutefois, comparé à l’entraînement local, le calcul distribué entraîne inévitablement un allongement du temps d’entraînement à cause des communications et du réseau. Selon les données de test, le protocole Gensyn ajoute environ 46 % de surcoût temporel à l’entraînement des modèles.
Akash network
Akash Network est une plateforme de cloud computing distribué qui combine différents composants technologiques, permettant aux utilisateurs de déployer et gérer efficacement et de manière flexible leurs applications dans un environnement cloud décentralisé. En termes simples, elle permet aux utilisateurs de louer des ressources de calcul distribuées.
La base d’Akash repose sur de multiples fournisseurs d’infrastructures répartis à travers le monde, offrant des ressources en CPU, GPU, mémoire et stockage, mises à disposition via des clusters Kubernetes. Les utilisateurs peuvent déployer leurs applications sous forme de conteneurs Docker pour bénéficier de services d’infrastructure à moindre coût. De plus, Akash utilise un système d’« enchères inversées », permettant de réduire encore davantage les prix des ressources. Selon les estimations officielles d’Akash, ses services coûtent plus de 80 % de moins que les serveurs centralisés.
io.net
io.net est un réseau de calcul décentralisé reliant des GPU distribués à l’échelle mondiale, fournissant de la puissance de calcul pour l’entraînement et l’inférence de modèles d’IA. io.net vient de lever 30 millions de dollars lors d’un tour de série A, atteignant une valorisation de 1 milliard de dollars.
Comparé à Render ou Akash, io.net est un réseau de calcul décentralisé plus complet et extensible, intégrant des outils de développement à plusieurs niveaux. Ses caractéristiques incluent :
-
Aggrégation de ressources de calcul plus vastes : centres de données indépendants, mineurs cryptographiques, ainsi que GPU provenant de projets cryptographiques comme Filecoin ou Render.
-
Support centré sur les besoins en IA : les fonctionnalités principales incluent l’inférence par lots et les services de modèles, l’entraînement parallèle, l’ajustement hyperparamétrique parallèle et l’apprentissage par renforcement.
-
Stack technique plus complet pour des workflows d’environnement cloud plus efficaces : incluant divers outils d’orchestration, des frameworks ML (allocation des ressources, exécution d’algorithmes, entraînement et inférence de modèles), des solutions de stockage de données, des outils de surveillance et de gestion des GPU, etc.
-
Capacité de calcul parallèle : intégration de Ray, un framework open source de calcul distribué, tirant parti de son parallélisme natif pour paralléliser facilement les fonctions Python, permettant ainsi une exécution dynamique des tâches. Son stockage en mémoire assure un partage rapide des données entre tâches, éliminant les retards de sérialisation. De plus, io.net ne se limite pas à Python, mais intègre aussi d’autres frameworks ML leaders comme PyTorch et TensorFlow, lui conférant une meilleure extensibilité.
Sur le plan tarifaire, io.net prévoit que ses prix seront environ 90 % inférieurs à ceux des services cloud centralisés.
De plus, le jeton IO coin d’io.net sera à l’avenir principalement utilisé pour les paiements et récompenses au sein de l’écosystème, ou les demandeurs pourront brûler des IO coin selon un modèle similaire à Helium pour obtenir un stablecoin appelé « crédit IOSD » et effectuer des paiements.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
