Delphi Labs : Plusieurs modèles d'IA seront en concurrence, quelles applications cryptographiques soutenons-nous ?
TechFlow SélectionTechFlow Sélection
Delphi Labs : Plusieurs modèles d'IA seront en concurrence, quelles applications cryptographiques soutenons-nous ?
Nous sommes encore au stade initial de l'ère de l'intelligence artificielle (IA), surtout à l'ère de la désintelligente artificielle (deAI).
Dédié à des analyses Web3 approfondiesAuteur : Delphi Labs
Traduction : TechFlow
Cet article a été rédigé par Luke Saunders (lukedelphi) et Jose Macedo (ZeMariaMacedo).
L'intelligence artificielle (IA) représente la plus grande révolution technologique de l'histoire, déclenchant une course aux armements technologiques sans précédent. Les modèles actuels d’IA se classent déjà parmi les 10 % supérieurs dans la plupart des examens universitaires standardisés, surpassant les humains dans de nombreuses tâches — y compris la recherche en IA elle-même. Même à leur niveau actuel, ils ont un impact transformationnel sur de nombreux secteurs comme la recherche, le service client, la création de contenu, la programmation et l’éducation.
Nous prévoyons que les capacités, les investissements et l’impact sociétal de l’IA s’accéléreront davantage encore. Toutes les grandes entreprises technologiques comprennent que l’IA est essentielle pour leurs activités et investissent en conséquence. NVIDIA, dont les revenus constituent le meilleur indicateur des dépenses capitalistiques liées à l’IA, devrait dépasser 100 milliards de dollars en 2024, soit plus du double de 2023 et plus de quatre fois ses revenus de l’année précédente.
Sundar Pichai, PDG de Google, résume ainsi la vision des investissements en IA :
« Pour nous, le risque de sous-investir est de loin supérieur au risque de surinvestir. »
Parallèlement, les startups réalisent que l’IA constitue une force disruptive capable de remplacer des entreprises existantes depuis des décennies. Au cours des 18 derniers mois, environ 83 milliards de dollars ont été investis dans des startups spécialisées en IA.
Étant donné que les capacités de l’IA croissent souvent de manière exponentielle avec la puissance de calcul, il est fort probable que nous atteignions quelque chose proche de l’intelligence générale artificielle (AGI) d’ici une dizaine d’années.
Source : Situational Awareness
Auteur : leopoldasch
Dans cet article, nous affirmons que la dynamique concurrentielle mènera à un monde comptant des millions de modèles, et que la cryptographie constitue la base idéale pour ce monde multi-modèle. Nous expliquerons d’abord pourquoi nous pensons que ce monde multi-modèle est une conséquence inévitable de l’évolution de l’IA. Ensuite, nous présenterons les avantages uniques offerts par la cryptographie dans le domaine de l’IA. Enfin, nous proposerons une architecture technologique combinant crypto et IA, accompagnée d’exemples concrets de projets qui nous intéressent.
Il existe de solides arguments philosophiques et moraux en faveur de la combinaison entre l’IA open source et la cryptographie, largement discutés ailleurs. Nous partageons pleinement ces vues, qui font partie intégrante de notre motivation à développer dans ce domaine. Toutefois, dans cet article, nous nous concentrerons sur les raisons pratiques pour lesquelles la combinaison crypto-IA devrait l’emporter, plutôt que sur les arguments moraux selon lesquels elle devrait l’emporter.
Supermodèles contre écosystème multi-modèle
Actuellement, nous nous dirigeons vers un monde où quelques grandes entreprises technologiques verticalement intégrées produisent des « supermodèles » qui dominent tous les autres domaines.
Toutefois, nous pensons que cette situation n’est pas finale, pour plusieurs raisons :
-
Problèmes de risque : Les organisations, entrepreneurs et développeurs créant des expériences basées sur l’IA ne souhaitent pas dépendre d’une seule entreprise fermée, pouvant modifier les modèles, changer les conditions d’utilisation ou même cesser complètement de leur fournir des services à tout moment.
-
Compromis coût-performance : Les modèles extrêmement volumineux et généralistes privilégiés par les grandes entreprises technologiques sont nécessairement coûteux à entraîner et à exécuter. Cela les rend trop chers et excessivement performants pour de nombreux cas d’usage. Bien que cela ne soit pas encore un facteur clé, car peu de personnes pensent à la rentabilité aujourd’hui, à mesure que l’IA évoluera, les utilisateurs chercheront à optimiser le coût minimal requis pour obtenir le niveau de performance souhaité. Sur de nombreuses tâches, les grands modèles ne sont pas compétitifs. De nombreuses recherches soutiennent ce point de vue, montrant que des modèles plus petits et spécialisés surpassent les modèles généralistes dans divers domaines : diagnostic d’imagerie médicale, détection de fraude, reconnaissance vocale et bien d’autres encore (voir ici).
-
Intégration verticale : Comme Apple l’a prouvé à maintes reprises, les meilleurs produits résultent souvent d’une intégration verticale complète de la pile technologique. Les entrepreneurs ambitieux chercheront donc un avantage concurrentiel en développant leurs propres modèles spécialisés pour leurs produits pilotés par l’IA. Cela leur permet de capturer davantage de valeur et attire ainsi plus d’investissements.
-
Problèmes de confidentialité : L’IA deviendra une technologie centrale dans les flux de travail organisationnels, comme aucune autre auparavant. Beaucoup d’organisations hésiteront à confier leurs données sensibles à ces modèles.
Pour toutes ces raisons, nous pensons qu’il est plus probable que nous entrions dans un monde composé de nombreux modèles plus petits et spécialisés, personnalisés pour des cas d’usage spécifiques et économiquement viables. Les développeurs d’applications et les utilisateurs utiliseront des modèles open source comme LLaMA ou ceux fournis par MistralAI comme base, puis affineront leurs propres modèles spécialisés, souvent à l’aide de données propriétaires. De nombreux modèles continueront de fonctionner sur serveur, mais les applications plus petites et soucieuses de confidentialité s’exécuteront localement sur les appareils clients, tandis que celles nécessitant une résistance à la censure pourraient recourir à des plateformes de calcul décentralisées.
Ce sera un monde de briques modulaires d’IA, où les développeurs et entrepreneurs rivalisent pour apporter de la valeur aux utilisateurs, qui peuvent choisir et combiner librement différents services selon leurs besoins spécifiques. Des infrastructures telles que le routage, l’orchestration, la composition, les paiements et bien d'autres doivent être construites pour déconstruire la pile technologique du « modèle divin » et servir cette nouvelle économie de l’IA. C’est aussi le monde où la cryptomonnaie peut prospérer.
Crypto et Intelligence Artificielle
Intuitivement, la cryptomonnaie semble être un domaine à forte applicabilité dans ce monde multi-modèle. Toutefois, cet engouement a conduit de nombreux investisseurs mal informés à allouer massivement du capital dans ce secteur. À l’instar des bulles d’infrastructure passées, de nombreux projets reçoivent des financements et sont développés alors qu’ils n’auraient peut-être pas dû exister. Il devient donc difficile d’identifier les sous-secteurs réellement porteurs dans l’espace crypto-IA, amenant beaucoup à considérer l’ensemble du domaine comme un simple Meme sans valeur fondamentale.
Nous pensons que ce n’est pas un Meme. Certes, ce monde multi-modèle pourrait théoriquement exister sans cryptomonnaie. Cependant, il est crucial de se concentrer sur les caractéristiques différenciantes uniques de la crypto, afin de créer des produits véritablement révolutionnaires — voire idéalement impossibles à construire sans elle. Pour cela, nous identifions d’abord les attributs uniques de la crypto, puis montrons comment ils peuvent être appliqués à l’IA pour créer de meilleurs produits. Ensuite, nous explorerons la pile technologique crypto-IA et présenterons des exemples pertinents.
-
Couche de coordination : Les infrastructures blockchain excellent dans la coordination collective sans contrôle centralisé. Elles sont particulièrement efficaces pour surmonter le problème classique du « chien et du chat » (« chicken and egg ») inhérent à la plupart des marchés, attirant rapidement une large base d’utilisateurs grâce à des incitations natives à la crypto.
-
Les petites équipes développant leurs propres modèles internes peuvent ne pas avoir directement accès à toutes les ressources nécessaires. Par exemple, alors que les laboratoires d’IA des grandes entreprises disposent de leurs propres ressources de calcul, les petites équipes n’en bénéficient pas. De même, elles ont besoin de données et peuvent devoir recruter un ensemble diversifié de personnes pour fournir un retour humain. Ces besoins sont idéalement comblés par des marchés spécialisés, et nous pensons que les marchés utilisant l’infrastructure crypto auront un avantage compétitif sur ceux qui ne l’utilisent pas.
-
API ouvertes et sans permission : La blockchain agit comme une API ouverte et sans permission, accessible par tous, partout, sans KYC, carte bancaire ou autre forme d’autorisation. Cela est crucial pour les agents d’IA, qui, pour agir pleinement de façon autonome, doivent pouvoir accéder à des services, déployer du code et transférer de la valeur sans intervention humaine. Cela permet des comportements dignes de la science-fiction : collectifs d’agents, agents se payant mutuellement des services, contractant des dettes ou même levant des fonds.
-
Confiance minimale (trustlessness) : Les infrastructures blockchain sont généralement sans confiance, ce qui signifie que vous avez des garanties cryptographiques que les règles ne changeront pas, que l’accès ne sera pas retiré arbitrairement, et que vous pouvez vérifier que l’exécution correspond bien aux attentes. Cela est fondamental pour une architecture IA modulaire, car contrairement aux approches intégrées, les développeurs doivent composer avec une série de primitives qu’ils ne contrôlent pas, et les utilisateurs doivent faire confiance à de nombreux services, souvent sans même en être conscients.
-
Résistance à la censure : Une application déployée sur blockchain sous forme de contrat immuable est inviolable. Même lorsqu’elle est mise à jour, cela se fait généralement via une organisation autonome décentralisée (DAO) requérant un consensus. Si, comme nous l’anticipons, les capacités de l’IA deviennent aussi puissantes, les gouvernements tenteront très probablement de la contrôler ou de l’influencer. Nous voyons déjà cela se produire. Tout comme Bitcoin et la crypto ont fourni une infrastructure monétaire/financière extérieure au système, la combinaison crypto-IA offre une intelligence inviolable.
Intersection Crypto et IA
Compte tenu de ces avantages, quelles applications au croisement de la crypto et de l’IA nous semblent particulièrement intéressantes ?
Datacenters et Calcul
Le calcul pour les modèles se divise grossièrement en deux catégories : entraînement (training) et inférence (inference). Nous pensons que l’utilisation du calcul décentralisé présente un intérêt significatif dans les deux cas, que nous aborderons séparément.
Entraînement décentralisé
Le calcul distribué rencontre actuellement des difficultés dues aux exigences strictes en communication inter-nœuds et en latence pendant l’entraînement. De nombreuses équipes tentent de résoudre ce problème ; compte tenu de l’ampleur des gains potentiels et du talent impliqué, nous pensons qu’il sera résolu. Parmi les approches prometteuses : NousResearch avec DisTrO et PrimeIntellect avec OpenDiLoCo.
Au-delà de la résolution technique de l’entraînement distribué et de la création d’un produit simplifiant cette complexité, les gagnants devront également réussir :
-
À assurer qualité et responsabilité sur un réseau sans permission
-
À amorcer le côté offre, idéalement avec des datacenters et clusters professionnels plutôt que du matériel grand public. Les incitations par jetons pourraient être stratégiques, et des méthodes plus innovantes incluraient la participation des fournisseurs de calcul à la propriété du modèle final.
Fondamentalement, les marchés de calcul distribué tirent leur avantage du coût marginal minimal mondial du calcul. À mesure que les prix des fournisseurs traditionnels augmentent, de plus en plus d’entreprises rejettent ces solutions et recherchent des alternatives moins coûteuses. Les inconvénients incluent la latence, l’hétérogénéité du matériel, et l’absence des optimisations et économies d’échelle permises par la possession d’un datacenter propre. L’issue reste à déterminer.
Inférence vérifiable
De manière générale, nous voyons les cas d’usage de l’inférence vérifiable comme une extension des systèmes minimisant la confiance dotés de capacités IA. Intégrer un modèle directement dans un contrat intelligent n’est pas réaliste, mais on peut exécuter le modèle hors chaîne (off-chain) et publier sur chaîne une preuve qu’il a fonctionné comme prévu. Par exemple, un projet pourrait déléguer de manière sans confiance une décision de gouvernance (comme celle concernant les paramètres de risque d’un marché monétaire) à un modèle hors chaîne.
Ce concept peut aussi s’appliquer plus largement, qu’il s’agisse de modèles open source ou fermés, en garantissant aux utilisateurs que la sortie provient bien du modèle attendu. À mesure que les applications et utilisateurs délègueront des tâches de plus en plus critiques à l’IA, cela deviendra de plus en plus important. Plusieurs projets relèvent ce défi, notamment Inference Labs (inference_labs), portefeuille de Delphi Ventures.
Données
Aujourd’hui, l’entraînement des grands modèles linguistiques (LLMs) est un processus multi-étapes nécessitant différents types de données et une intervention humaine. Il commence par un entraînement préliminaire (pré-entraînement), durant lequel le LLM est formé sur des données publiques nettoyées issues du web (common crawl) et d’autres jeux de données librement accessibles (voir ici). Ensuite, lors de l’étape post-entraînement, ces modèles sont affinés sur des jeux de données plus petits et spécifiques, afin d’acquérir des connaissances dans des domaines précis (ex. : chimie), souvent avec l’aide d’experts.
Pour disposer de données fraîches ou propriétaires, les laboratoires d’IA collaborent fréquemment avec les détenteurs de grandes sources de données. Par exemple, OpenAI a conclu un accord avec Reddit, estimé à 60 millions de dollars. De même, le Wall Street Journal rapporte qu’un contrat de cinq ans entre News Corp et OpenAI serait valorisé à plus de 250 millions de dollars. La valeur des données n’a jamais été aussi élevée.
Nous pensons que les réseaux cryptographiques peuvent aider efficacement les équipes à acquérir les données et ressources nécessaires à chaque étape. Le domaine le plus intéressant concerne probablement la collecte de données, où les mécanismes d’incitation crypto sont particulièrement adaptés pour stimuler l’offre et exploiter d’importants gisements de données longue traîne.
Par exemple : Grass AI (getgrass_io) encourage les utilisateurs à partager leur bande passante inutilisée pour crawler des données web, qui sont ensuite structurées, nettoyées et fournies pour l’entraînement de modèles d’IA. Si Grass parvient à constituer une offre suffisante, il pourrait devenir une sorte de clé API fournissant en continu des données internet actualisées aux modèles.
Hivemapper est un autre bon exemple — lancé en novembre 2022, ce réseau collecte chaque semaine des millions de kilomètres d’images routières et couvre déjà 25 % des zones terrestres mondiales. Clairement, des modèles similaires pourraient s’appliquer à d’autres formes de données multimodales et être monétisés par vente aux laboratoires d’IA.
Comme le montrent les transactions de NewsCorp et Reddit, de nombreuses entreprises possèdent des données précieuses, mais beaucoup sont trop petites ou manquent de contacts pour les monétiser. Inversement, les laboratoires d’IA trouvent peu rentable de négocier individuellement avec de petits fournisseurs. Un marché de données bien conçu peut résoudre ce problème en connectant uniformément fournisseurs et laboratoires. Les défis principaux sont la qualité des données, ainsi que l’interopérabilité et la substituabilité des APIs et données.
Enfin, la préparation des données comprend des tâches cruciales comme l’annotation, le nettoyage, l’augmentation et la transformation. Une petite équipe peut ne pas maîtriser toutes ces compétences et devra probablement externaliser. Scale AI (scale_AI) est une entreprise centralisée offrant ces services — estimée à environ 700 millions de dollars de chiffre d’affaires annuel, en forte croissance. Nous pensons qu’un marché bien conçu sur blockchain, accompagné d’un système de workflows, réussirait ici. Lightworks, société financée par Delphi Ventures, ainsi que d’autres acteurs encore en phase précoce, s’inscrivent dans cette direction.
Modèles
Selon le rapport de Delphi Digital, The Tower & The Square, la production et le contrôle des modèles d’IA sont presque entièrement aux mains de « grandes entreprises » et des gouvernements. Cette situation est plus dystopique que le contrôle étatique de la monnaie, car elle leur permet non seulement de dominer une ressource économique clé, mais aussi de contrôler les récits par la censure et la manipulation d’information, d’exclure certaines personnes jugées « indésirables », d’utiliser les interactions privées avec l’IA contre les individus, ou simplement de maximiser les revenus publicitaires.
De nombreuses personnes talentueuses travaillent à créer une « place » — un réseau décentralisé visant à produire un modèle entièrement neutre, résistant à la censure, accessible à tous. Ainsi, tout comme Bitcoin et la crypto ont fourni une infrastructure monétaire/financière extérieure au système, la combinaison crypto-IA offrira un système d’intelligence situé en dehors du système.
Ces projets visent à créer, via la décentralisation de chaque étape du processus de création d’un modèle, un modèle puissant capable de concurrencer GPT ou LLaMA — le réseau s’occupant de collecter et préparer les données, d’entraîner le modèle sur son propre calcul décentralisé, d’exécuter l’inférence sur ce même calcul, et de coordonner l’ensemble via une gouvernance décentralisée. Aucune partie du processus n’est centralisée, ce qui fait que le modèle appartient véritablement à la communauté et ne peut être contrôlé par la « tour ».
Il est évident que créer un modèle décentralisé rivalisant avec les modèles de pointe sera extrêmement difficile. Nous ne pouvons pas espérer que la majorité des utilisateurs acceptent un produit de moindre qualité pour des raisons morales. Nous considérons ces projets comme des « programmes Apollo » — peu probables de réussir, mais d’une valeur immense s’ils y parviennent. Nous leur souhaitons sincèrement le succès.
Il convient de mentionner également les laboratoires d’IA centralisés qui adhèrent aux principes de la crypto, possédant potentiellement un jeton ou utilisant autrement la technologie blockchain.
NousResearch et PondGNN sont des exemples de sociétés financées par Delphi Ventures. Enfin, les infrastructures de création de modèles comme Bittensor d’opentensor s’inscrivent dans cette architecture. Bittensor a déjà été analysé en détail ailleurs, nous n’aborderons donc pas ici ses forces et faiblesses.
Applications
Eric Schmidt a déclaré lors d’un récent discours :
« Si TikTok était interdit, je vous suggère à tous de faire ceci : dites à votre grand modèle linguistique (LLM) : “Crée-moi une copie de TikTok, vole tous les utilisateurs, vole toute la musique, personnalise-le selon mes préférences, crée et publie ce programme dans les 30 secondes, et si ça ne devient pas viral en une heure, prends d’autres mesures similaires.” »
Cette citation illustre le niveau de capacité que nous attendons des agents autonomes. Mais pour accomplir ces tâches de manière totalement autonome, ces agents doivent pouvoir utiliser divers services sans intervention humaine — transférer de la valeur et établir des relations économiques, déployer et exécuter du code sans permission.
Les applications bancaires traditionnelles, les procédures KYC et les inscriptions ne conviennent pas à ces agents. Inévitablement, ils rencontreront des systèmes conçus pour les humains, incapables d’y accéder sans aide.
L’infrastructure crypto fournit une plateforme idéale. Elle offre aux agents une base sans permission, sans confiance et résistante à la censure. S’ils doivent déployer une application, ils peuvent le faire directement sur chaîne. S’ils doivent payer un service, ils envoient des jetons. Le code et les données des services sur chaîne sont ouverts et cohérents, permettant aux agents de les comprendre et d’interagir sans API ni documentation.
Les agents peuvent aussi catalyser diverses activités sur chaîne. En passant du paradigme classique (UX) où les utilisateurs cliquent sur des boutons vers une interaction via leur assistant personnel IA, on peut simplifier la complexité notoire d’entrée dans la crypto, atténuant ainsi un obstacle majeur à l’acquisition d’utilisateurs.
Des projets comme Wayfinder (AIWayfinder), Autonolas (Autonolas), DAIN (dainprotocol) et Almanak (Almanak__) s’engagent sur cette voie.
Conclusion
L’intelligence artificielle (IA) est devenue la ressource la plus puissante et la plus importante du XXIe siècle, ayant un impact profond sur la société. Un futur entièrement contrôlé par les grandes entreprises technologiques et les États est une dystopie que nous refusons. Dans cet article, nous avons tenté de tracer une voie alternative : comment la cryptographie peut empêcher ce monopole, non pas en demandant aux gens d’utiliser une solution pour des raisons philosophiques, mais en offrant aux développeurs et utilisateurs des solutions objectivement meilleures.
Nous en sommes encore aux premiers stades de l’ère de l’IA, surtout dans l’ère de la décentralisation de l’IA (deAI). Beaucoup reste à faire pour passer de notre situation actuelle au futur décrit ici. Chez Delphi Labs, nous sommes enthousiastes quant à l’avenir de la crypto et de l’IA, et espérons contribuer activement à façonner cet avenir en collaborant avec les meilleurs développeurs du secteur.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
@delphi_labs
