La puce d'IA « cérébrale » sur laquelle OpenAI mise gros, qu'est-ce que c'est exactement ?
TechFlow SélectionTechFlow Sélection
La puce d'IA « cérébrale » sur laquelle OpenAI mise gros, qu'est-ce que c'est exactement ?
Dérivé du RISC-V, capable d'augmenter l'efficacité énergétique de l'inférence et de l'entraînement jusqu'à 10 000 fois.
Dédié à des analyses Web3 approfondiesRédaction : Mei Yi,GeekPark
La lutte pour le pouvoir chez OpenAI vient à peine de s'achever qu'une transaction clé est discrètement apparue.
Selon un rapport du média étranger Wired, pendant que Sam Altman était PDG d'OpenAI, la société a signé une lettre d'intention d'une valeur de 51 millions de dollars avec Rain AI, s'engageant à acheter des puces dès leur mise sur le marché.
Rain AI est une start-up spécialisée dans les puces d'intelligence artificielle dont l'objectif est de réduire considérablement le coût du calcul IA. En développant une puce d’IA, appelée NPU, qui imite le fonctionnement du cerveau humain, elle vise à fournir aux entreprises comme OpenAI et Anthropic un « matériel à faible coût et haute efficacité énergétique ».
L'entreprise affirme que « par rapport aux GPU traditionnels, le NPU offrira potentiellement jusqu’à 100 fois plus de puissance de calcul aux développeurs d’IA (comme OpenAI) et jusqu’à 10 000 fois plus d’efficacité énergétique lors de l’entraînement ».
Étant donné qu’OpenAI souffre constamment de pénurie de puissance de calcul, il n’est pas surprenant qu’elle soit prête à investir massivement afin d’assurer l’approvisionnement en puces nécessaire à ses projets d’intelligence artificielle.
Quelles sont les caractéristiques spécifiques des puces conçues par Rain AI ? Comment cette entreprise est-elle sortie du lot ? Et quelle stratégie derrière le chip révèle cet investissement mené par Altman et OpenAI ?
01 Une puce IA « cérébrale »
Le produit phare de Rain AI est une puce IA « cérébrale », ou NPU, basée sur une technologie neuromorphique. Cette puce vise à traiter l'information de manière efficace et peu consommatrice d'énergie, répondant ainsi aux exigences élevées des tâches de calcul liées à l’IA.
Elle imite la structure et le fonctionnement du cerveau humain, construisant un réseau interconnecté d’artifices synaptiques semblables aux connexions neuronales du cerveau. Cette architecture permet au NPU de traiter l'information de façon parallèle et distribuée, ce qui le rend particulièrement adapté aux tâches intensives en calcul rencontrées dans les applications d’IA.
En outre, Rain AI a été la première à adopter le modèle de calcul en mémoire numérique (D-IMC), améliorant davantage l'efficacité du traitement, du déplacement et du stockage des données pour les tâches d’IA.
Le NPU de Rain AI vise à traiter efficacement les informations avec une faible consommation d’énergie, répondant aux besoins exigeants des tâches d’IA | Crédit image : site officiel de Rain AI
De plus, Rain propose également des licences de propriété intellectuelle (IP) pour les carreaux de calcul en mémoire numérique et pour sa pile logicielle. Cette IP est spécifiquement conçue pour les charges de travail IA nécessitant une latence ultra-faible et une haute efficacité énergétique sur des appareils, couvrant divers cas d'utilisation du calcul Ethernet à longue portée (Long Reach Ethernet, LRE), notamment les voitures intelligentes, les montres connectées, etc.
Concernant son propre produit, Rain utilise le slogan « redéfinir les limites du calcul IA », affirmant que « nos accélérateurs IA atteignent un équilibre record entre vitesse, consommation d’énergie, taille, précision et coût ».
Étant donné que les puces « cérébrales » (NPU) conçues par Rain promettent une efficacité élevée et une faible consommation, elles jouent un rôle crucial pour surmonter les « goulots d’étranglement » associés aux puces volumineuses fabriquées par des entreprises telles que NVIDIA et AMD.
Couvre une série de cas d’utilisation LRE | Crédit image : site officiel de Rain AI
L’un des fondateurs de Rain AI, Gordon Wilson, a déclaré sans ambages sur LinkedIn : « La puce NPU définira un nouveau marché des puces IA et bouleversera profondément le marché actuel. »
Cependant, bien que Rain AI affirme avoir une meilleure efficacité énergétique que les GPU de NVIDIA, sa puce initiale repose en réalité sur l’architecture open source RISC-V traditionnelle, soutenue par Google, Qualcomm et d'autres grandes sociétés technologiques. Elle est destinée aux dispositifs dits « périphériques », situés loin des centres de données, comme les téléphones portables, les drones, les voitures ou les robots.
Or, la plupart des puces périphériques actuelles, comme celles utilisées dans les smartphones, se concentrent principalement sur la phase d’inférence des réseaux neuronaux. Rain, quant à elle, vise à proposer une puce capable d’assurer à la fois l’apprentissage (training) des modèles et algorithmes, et leur inférence ultérieure.
À ce jour, Rain AI a déjà lancé sa première plateforme IA capable d’effectuer à la fois l’inférence et l’entraînement, affirmant que sa puce « cérébrale » (NPU) permettra aux modèles d’IA de s’adapter ou de se recalibrer en temps réel selon leur environnement.
À ce sujet, Sam Altman a déclaré publiquement : « Cette approche neuromorphique pourrait considérablement réduire le coût du développement de l’IA et contribuerait potentiellement à la réalisation d’une véritable AGI. »
On sait qu’OpenAI espère utiliser ces puces pour réduire les coûts de ses centres de données et déployer ses modèles directement sur des appareils comme les téléphones ou les montres. Par conséquent, les puces « cérébrales » (NPU) ont indéniablement un attrait majeur pour OpenAI.
Malgré tout, ce ne sont encore que des spéculations. On ignore toujours comment OpenAI compte utiliser concrètement les puces de Rain.
02 Des liens étroits avec OpenAI
Fondée en 2017, Rain AI a pour objectif de construire une plateforme de calcul « à faible coût » pour l’IA du futur.
Rain AI compte trois cofondateurs : Jack Kendall, Gordon Wilson et Juan Claudio Nino, qui se sont rencontrés à l’université de Floride. L’entreprise a également recruté Scott Gray, ingénieur logiciel chez OpenAI, comme conseiller.
Aujourd’hui, Rain AI emploie environ 40 personnes, dont des experts en développement d’algorithmes d’IA et en conception traditionnelle de puces.
L’équipe fondatrice de Rain AI | Rain AI
Ce qui est intéressant, c’est que le siège de Rain AI se trouve également à San Francisco, à moins d’un kilomètre d’OpenAI.
L’année suivant sa création, Rain AI a levé 5 millions de dollars lors d’un tour de financement initial, avec notamment Y Combinator, un célèbre incubateur de startups, parmi ses investisseurs.
À l’époque, Altman était PDG de Y Combinator et avait personnellement investi 1 million de dollars dans Rain AI. Un an plus tard, OpenAI a approuvé l’accord d’achat de puces d’une valeur de 51 millions de dollars.
Au mois d’avril 2022, après une levée de fonds de 25 millions de dollars dirigée par Prosperity7 Ventures, un fonds affilié à l’Arabie Saoudite, le total des financements de Rain s’élevait à 33 millions de dollars, avec une valorisation atteignant 90 millions de dollars.
Début 2023, l’entreprise a annoncé à d’éventuels investisseurs ses progrès, affirmant qu’elle pourrait sortir dès ce mois-ci une puce de « test », ce qui signifie que la conception est terminée et que la fabrication peut commencer.
Rain AI a également indiqué que les premières puces pourraient être livrées aux clients dès octobre de l’année prochaine, soulignant auprès des investisseurs avoir entamé des discussions avancées avec des géants technologiques tels que Google, Oracle, Meta, Microsoft et Amazon pour leur vendre ses systèmes. Toutefois, Microsoft a refusé de commenter, et les autres entreprises n’ont pas répondu aux demandes de commentaires.
En bref, Rain AI en est encore à la phase de développement, et on ignore quand ses produits seront commercialisés. Bien que la technologie de ses puces « cérébrales » (NPU) semble prometteuse et que ses soutiens soient impressionnants, l’entreprise fait face à de nombreux défis.
03 L’ambition d’OpenAI
Que l’investissement d’Altman dans Rain AI cache ou non des intérêts personnels, le fait est que la pénurie de puces constitue bel et bien un problème majeur pour OpenAI.
En réalité, un an avant, ChatGPT venait d'être lancé depuis moins d'une semaine qu’Altman jugeait déjà le coût de calcul « épouvantable ». Depuis, il n’a cessé de critiquer publiquement la « pénurie cruelle » et les coûts « ahurissants » des puces d’intelligence artificielle.
En mai dernier, Altman a même reconnu avec impuissance : « OpenAI traverse une grave pénurie de puissance de calcul, ce qui retarde de nombreux projets à court terme. »
Tout le monde sait qu’OpenAI s’appuie sur les puissants services cloud de son principal investisseur, Microsoft, mais en raison des limitations matérielles, certaines fonctionnalités de ChatGPT sont souvent désactivées.
Altman a alors déclaré : « La vitesse des progrès en IA dépendra probablement de nouveaux designs de puces et de chaînes d’approvisionnement. » Après tout, aujourd’hui, la puissance de calcul, c’est tout.
En réalité, Altman s’est intéressé très tôt à l’investissement dans les puces. Outre Rain AI, vers 2021, il a également participé au financement de Cerebras, cette entreprise d’IA dont la puce est aussi grande qu’un plateau, qu’il faut tenir à deux mains.
Une puce aussi grande qu’un plateau | Crédit image : site officiel de Cerebras
Début 2023, Altman a également suivi de près Atomic Semi, fondée par Jim Keller, le « sage du silicium », et Sam Zeloof, le « prodige du silicium », visant à produire rapidement des puces abordables grâce à la simplification et à la miniaturisation des usines de semi-conducteurs et des prototypes de circuits intégrés. Le fonds OpenAI Startup Fund a d’ailleurs participé à l’investissement.
Crédit image : Analytics India Magazine
Par ailleurs, quelques semaines avant d’être licencié d’OpenAI, Altman aurait tenté de lever plusieurs milliards de dollars pour créer une nouvelle entreprise de puces.
Les détails du projet restent inconnus, hormis son nom de code : « Tigris », dont l’objectif serait de concurrencer NVIDIA sur le marché des puces d’IA.
On raconte qu’Altman a cherché à lever des fonds pour ce projet « Tigris » au Moyen-Orient. Ce lieu laisse à penser qu’il pourrait y avoir un lien entre ce projet et Rain AI.
En outre, Altman a également discuté avec des cadres dirigeants de sociétés de conception de puces, notamment Arm, afin d’explorer la conception précoce de nouvelles puces capables de réduire les coûts pour les entreprises de grands modèles linguistiques comme OpenAI.
Et ce n’est pas seulement Altman : OpenAI cherche aussi activement à concevoir des grands modèles à moindre coût, afin de réduire sa dépendance à NVIDIA.
Outre la recherche de fournisseurs comme Rain AI et les investissements externes, OpenAI a récemment commencé à développer ses propres puces, évaluant des cibles potentielles pour des acquisitions et recrutant du personnel spécialisé en matériel.
Crédit image : site officiel d’OpenAI
Récemment, OpenAI a nommé Richard Ho, ancien responsable du TPU chez Google, à la tête du département matériel, et a recruté de nombreux experts en compilateurs et noyaux. L’entreprise recrute également activement un « expert en conception d’installations de centre de données ».
Richard Ho dirigera un nouveau département chez OpenAI et aidera à optimiser les réseaux, les baies et les bâtiments des centres de données de ses partenaires.
Cependant, malgré ces investissements stratégiques à long terme, il reste difficile de résoudre immédiatement le problème actuel de pénurie de GPU. Pour l’instant, OpenAI continue largement d’utiliser des puces de NVIDIA.
On observe qu’OpenAI ajuste dynamiquement les capacités de ses produits comme ChatGPT afin d’économiser du calcul. Il n’est donc pas étonnant que certains internautes aient remarqué récemment que GPT-4 semble plus « paresseux » que GPT-3.5.
Avec l’émergence des grands modèles, l’attention se porte désormais sur la consommation électrique des centres de données dédiés à l’IA. Rain et d’autres start-ups spécialisées dans les puces cherchent justement à reconfigurer le traitement des données pour réduire les besoins de transmission et la consommation d’énergie.
Google, Microsoft, AMD, Intel, Amazon, ainsi que des start-ups comme Cerebras, Sambanova et Rain, entrent tous progressivement sur le marché des puces d’IA. La chaîne d’approvisionnement en puissance de calcul IA va-t-elle évoluer ? OpenAI réussira-t-elle à sortir de sa dépendance en matière de calcul ? Étant donné la durée extrêmement longue du cycle des puces, ces défis persisteront encore longtemps.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
极客公园
