Selon TechFlow, le 3 juillet, d'après ChaoXiang Research, le rapport d'observation du centre de données de JPMorgan Chase du 1er juillet indique que l'utilisation des tokens LLM sur la plateforme OpenRouter a augmenté de 70 % en juin par rapport au mois précédent et de 20 fois par rapport à l'année précédente ; les prix ont légèrement augmenté par rapport au mois précédent et n'ont baissé que de 5 % par rapport à l'année précédente, les modèles américains représentant 85 % des dépenses. Les prix de location de GPU hors fournisseurs de cloud ont augmenté continuellement dans tous les domaines : A100 de 6,3 %, H100 de 3,7 %, B200 de 2,7 %, la prime de B200 par rapport à H100 est passée de 2,58 fois à 1,96 fois.
Les prix spot de la DRAM ont augmenté de 10 % en juin et de 740 % par rapport à l'année précédente, en hausse pour le troisième mois consécutif ; NAND a baissé de 0,3 % par rapport au mois précédent, en baisse pour le troisième mois consécutif, mais reste en hausse de 518 % par rapport à l'année précédente. Ces trois données indiquent une demande continue et forte pour l'infrastructure AI, mais le rétrécissement des primes haut de gamme et l'assouplissement préalable de NAND suggèrent que la logique du cycle est en train de se modifier.
