Décryptage de la stack technologique de l'entraînement et de l'inférence en intelligence artificielle : du silicium à l'intelligence
TechFlow SélectionTechFlow Sélection
Décryptage de la stack technologique de l'entraînement et de l'inférence en intelligence artificielle : du silicium à l'intelligence
La pile technologique de l'IA est une architecture en couches composée de matériel et de logiciels, qui constitue le pilier de la révolution actuelle de l'intelligence artificielle.
Dédié à des analyses Web3 approfondiesRédaction : IOSG Ventures
Le développement fulgurant de l'intelligence artificielle repose sur une infrastructure complexe. La pile technologique de l'IA est une architecture en couches composée de matériel et de logiciels, qui constitue le pilier de la révolution actuelle en matière d'IA. Nous allons ici analyser en profondeur les principales couches de cette pile technologique et expliquer la contribution de chacune à l'élaboration et au déploiement de l'IA. Enfin, nous réfléchirons à l'importance de maîtriser ces bases, notamment lorsqu'il s'agit d'évaluer les opportunités dans le domaine du croisement entre cryptomonnaies et IA, comme les projets DePIN (infrastructures physiques décentralisées), par exemple les réseaux de GPU.
1. Couche matérielle : la base en silicium
Au niveau le plus bas se trouve le matériel, qui fournit la puissance de calcul physique nécessaire à l’IA.
-
CPU (processeur central) : c’est le processeur fondamental du calcul. Il excelle dans les tâches séquentielles et joue un rôle essentiel dans le calcul généraliste, y compris le prétraitement des données, les petites tâches d’IA et la coordination d’autres composants.
-
GPU (processeur graphique) : initialement conçu pour le rendu graphique, il est devenu un élément clé de l’IA grâce à sa capacité à effectuer simultanément un grand nombre de calculs simples. Cette capacité de traitement parallèle rend le GPU particulièrement adapté à l’entraînement des modèles d’apprentissage profond. Sans le développement des GPU, les modèles GPT modernes n’auraient pas été réalisables.
-
Accélérateurs IA : ce sont des puces spécialement conçues pour les charges de travail liées à l’IA. Elles sont optimisées pour les opérations courantes en IA et offrent de hautes performances et une grande efficacité énergétique pour les tâches d’entraînement et d’inférence.
-
FPGA (matrice de portes programmables) : ils offrent de la flexibilité grâce à leur caractéristique reprogrammable. Ils peuvent être optimisés pour des tâches IA spécifiques, notamment dans les scénarios d’inférence nécessitant une faible latence.
2. Logiciel de base : le middleware
Cette couche de la pile technologique IA est cruciale car elle fait le pont entre les cadres avancés d’IA et le matériel sous-jacent. Des technologies telles que CUDA, ROCm, OneAPI et SNPE renforcent la connexion entre les frameworks avancés et des architectures matérielles spécifiques, permettant ainsi une optimisation des performances.
En tant que couche logicielle propriétaire de NVIDIA, CUDA est la pierre angulaire de l’ascension de l’entreprise sur le marché du matériel IA. Le leadership de NVIDIA découle non seulement de ses avantages matériels, mais aussi de l’effet réseau puissant créé par son intégration logicielle et son écosystème.
L’influence majeure de CUDA provient de son intégration profonde dans la pile technologique IA et de la suite complète de bibliothèques optimisées qu’il propose, désormais considérées comme une norme de facto dans le domaine. Cet écosystème logiciel crée un effet réseau puissant : les chercheurs et développeurs spécialisés en IA qui maîtrisent CUDA diffusent son utilisation dans leurs processus d’entraînement, tant dans le milieu académique qu’industriel.
Ce cercle vertueux renforce davantage la position dominante de NVIDIA, puisque l’écosystème d’outils et de bibliothèques basés sur CUDA devient de plus en plus indispensable aux praticiens de l’IA.
Cette symbiose entre matériel et logiciel ne fait pas seulement consolider la position de NVIDIA à la pointe du calcul IA, mais lui confère également une capacité de fixation des prix significative, chose rare dans un marché du matériel généralement soumis à la concurrence pure.
La domination de CUDA et le relatif anonymat de ses concurrents peuvent être attribués à une série de facteurs ayant créé des barrières à l’entrée importantes. L’avantage précoce de NVIDIA dans le calcul accéléré par GPU a permis à CUDA de construire un écosystème solide avant que ses concurrents ne puissent s’établir. Bien que des entreprises comme AMD et Intel disposent d’un matériel performant, leurs couches logicielles manquent des bibliothèques et outils nécessaires et ne parviennent pas à s’intégrer parfaitement à la pile technologique existante — voilà pourquoi un fossé si large existe entre NVIDIA/CUDA et ses rivaux.
3. Compilateurs : les traducteurs
TVM (Tensor Virtual Machine), MLIR (Multi-Level Intermediate Representation) et PlaidML proposent différentes solutions aux défis d’optimisation des charges de travail IA sur diverses architectures matérielles.
Issu de recherches menées à l’Université de Washington, TVM a rapidement attiré l’attention grâce à sa capacité à optimiser les modèles d’apprentissage profond pour différents types d’appareils, allant des GPU haute performance aux dispositifs embarqués limités en ressources. Son atout principal réside dans son processus d’optimisation bout-en-bout, particulièrement efficace dans les cas d’inférence. Il abstrait complètement les différences entre les fournisseurs et le matériel sous-jacent, permettant aux charges de travail d’inférence de fonctionner sans heurt sur différents matériels, qu’il s’agisse de dispositifs NVIDIA, AMD ou Intel.
Cependant, au-delà de l’inférence, la situation devient plus complexe. L’objectif ultime d’un calcul interchangeable pour l’entraînement IA n’a pas encore été atteint. Toutefois, plusieurs initiatives méritent d’être mentionnées à ce sujet.
MLIR, un projet de Google, adopte une approche plus fondamentale. En proposant une représentation intermédiaire unifiée pour plusieurs niveaux d’abstraction, il vise à simplifier l’ensemble de l’infrastructure de compilation, tant pour les cas d’usage d’inférence que d’entraînement.
PlaidML, aujourd’hui dirigé par Intel, se positionne comme un outsider dans cette course. Il met l’accent sur la portabilité à travers de multiples architectures matérielles (y compris celles qui sortent du cadre des accélérateurs IA traditionnels), envisageant un futur où les charges de travail IA pourraient s’exécuter sans friction sur toutes sortes de plates-formes de calcul.
Si l’un de ces compilateurs parvenait à s’intégrer parfaitement à la pile technologique sans nuire aux performances du modèle ni nécessiter de modifications supplémentaires de la part des développeurs, cela pourrait fortement menacer la position dominante de CUDA. Pour l’instant, MLIR et PlaidML ne sont pas suffisamment matures ni bien intégrés dans la pile technologique IA ; ils ne constituent donc pas une menace immédiate pour la suprématie de CUDA.
4. Calcul distribué : les coordinateurs
Ray et Horovod représentent deux approches différentes du calcul distribué dans le domaine de l’IA, chacune répondant au besoin crucial de mise à l’échelle pour les applications IA de grande ampleur.
Développé par le RISELab de l’UC Berkeley, Ray est un framework de calcul distribué généraliste. Il brille par sa flexibilité, permettant de distribuer divers types de charges de travail, même en dehors du machine learning. Le modèle basé sur des « acteurs » dans Ray simplifie considérablement la parallélisation du code Python, ce qui le rend particulièrement adapté à l’apprentissage par renforcement et à d’autres tâches d’IA nécessitant des flux de travail complexes et variés.
Horovod, initialement conçu par Uber, se concentre sur l’implémentation distribuée du deep learning. Il offre une solution simple et efficace pour étendre le processus d’entraînement de modèles de deep learning sur plusieurs GPU et nœuds serveurs. Ce qui distingue Horovod, c’est son ergonomie et son optimisation pour l’entraînement parallèle des réseaux neuronaux, ce qui lui permet de s’intégrer parfaitement avec les frameworks principaux comme TensorFlow et PyTorch. Les développeurs peuvent ainsi facilement étendre leur code d’entraînement existant sans avoir à modifier massivement leur code source.
5. Conclusion : perspective crypto
L’intégration avec la pile IA existante est essentielle pour les projets DePIN visant à construire des systèmes de calcul distribués. Une telle intégration garantit la compatibilité avec les workflows et outils IA actuels, abaissant ainsi le seuil d’adoption.
Dans le domaine des cryptomonnaies, les réseaux GPU actuels, qui sont essentiellement des plateformes de location décentralisée de GPU, marquent les premiers pas vers une infrastructure de calcul distribuée plus sophistiquée. Ces plateformes ressemblent davantage à des marchés de type Airbnb qu’à un cloud distribué. Bien qu’utiles pour certaines applications, elles ne sont pas encore suffisantes pour supporter un entraînement véritablement distribué, pourtant indispensable à l’avancement du développement IA à grande échelle.
Les standards actuels de calcul distribué comme Ray et Horovod ne sont pas conçus pour des réseaux mondialement distribués. Pour que des réseaux décentralisés fonctionnels soient opérationnels, une autre couche de framework doit être développée. Certains sceptiques vont jusqu’à affirmer que, du fait que les modèles Transformer nécessitent des communications intensives et l’optimisation de fonctions globales pendant l’apprentissage, ils seraient incompatibles avec les méthodes d’entraînement distribué. En revanche, les optimistes tentent de proposer de nouveaux frameworks de calcul distribué capables de fonctionner efficacement avec du matériel réparti à l’échelle mondiale. Yotta est l’une des startups qui cherchent à résoudre ce problème.
NeuroMesh va encore plus loin. Elle redéfinit de manière particulièrement innovante le processus d’apprentissage machine. En utilisant des réseaux à codage prédictif (PCN) afin de converger vers une minimisation locale des erreurs, plutôt que de chercher directement l’optimum de la fonction de perte globale, NeuroMesh surmonte un goulot d’étranglement fondamental de l’entraînement IA distribué.
Cette approche permet non seulement un niveau de parallélisation sans précédent, mais rend également possible l’entraînement de modèles sur du matériel GPU grand public (comme la RTX 4090), démocratisant ainsi l’entraînement de l’IA. Plus précisément, la puissance de calcul d’un GPU 4090 est similaire à celle d’un H100, mais en raison d’une bande passante insuffisante, elle est sous-utilisée durant l’entraînement des modèles. Puisque les PCN réduisent l’importance de la bande passante, l’utilisation de ces GPU moins coûteux devient viable, pouvant entraîner des économies substantielles en coûts et des gains d’efficacité.
GenSyn, une autre startup ambitieuse du secteur crypto-IA, vise à construire un ensemble de compilateurs. Le compilateur de GenSyn permettrait à tout type de matériel informatique d’être utilisé de façon transparente pour des tâches d’IA. Par analogie, tout comme TVM agit pour l’inférence, GenSyn cherche à créer un outil similaire pour l’entraînement de modèles.
S’il réussit, cela pourrait étendre considérablement les capacités des réseaux de calcul IA décentralisés, en exploitant efficacement une grande diversité de matériel pour traiter des tâches IA plus complexes et variées. Cette vision ambitieuse, bien que difficile en raison de la complexité inhérente à l’optimisation sur des architectures matérielles hétérogènes et des risques techniques élevés, pourrait, si elle était exécutée avec succès et si les obstacles comme la performance des systèmes hétérogènes étaient surmontés, fragiliser la position dominante de CUDA et de NVIDIA.
Concernant l’inférence : l’approche d’Hyperbolic, qui combine inférence vérifiable et réseau décentralisé de ressources de calcul hétérogènes, illustre une stratégie relativement pragmatique. En tirant parti de standards de compilation comme TVM, Hyperbolic peut exploiter une large gamme de configurations matérielles tout en préservant performance et fiabilité. Il peut agréger des puces provenant de multiples fabricants (de NVIDIA à AMD, Intel, etc.), incluant à la fois du matériel grand public et du matériel haut de gamme.
Ces avancées dans le domaine du croisement crypto-IA annoncent un futur où le calcul IA pourrait devenir plus distribué, plus efficace et plus accessible. Le succès de ces projets dépendra non seulement de leurs avantages technologiques, mais aussi de leur capacité à s’intégrer de façon transparente aux workflows IA existants et à répondre aux préoccupations concrètes des praticiens et des entreprises en IA.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
IOSG Ventures
