Marvell lance un portefeuille de solutions mémoire pour l'infrastructure IA, ciblant les goulots d'étranglement de l'inférence de l'IA agentique

Selon TechFlow, le 4 août, le géant des semi-conducteurs pour l'infrastructure de données Marvell Technology a annoncé le lancement d'une nouvelle gamme de solutions mémoire dédiées à l'infrastructure IA, couvrant le stockage IA au niveau serveur, l'extension et la mise en pool de mémoire CXL au niveau rack, ainsi que la mémoire partagée interconnectée optiquement entre plusieurs racks, visant à résoudre les goulots d'étranglement croissants en matière de capacité et de bande passante mémoire lors de l'inférence Agentic AI. Marvell a indiqué qu'avec l'augmentation de la taille des modèles IA, l'allongement des fenêtres de contexte et la croissance de la demande pour le KV Cache, les architectures traditionnelles à couplage serré entre calcul et mémoire limitent l'efficacité de l'inférence IA. Grâce au découplage de la mémoire (memory disaggregation), les ressources mémoire peuvent être étendues plus indépendamment des ressources de calcul, améliorant l'utilisation des GPU et réduisant la latence de déplacement des données.