Un chercheur d'OpenAI salue la solution d'inférence AI conjointe entre AMD et Cerebras, estimant une amélioration de 5 fois de la performance par watt

Selon TechFlow, le 29 juillet, le chercheur d'OpenAI Jeffrey Wang a qualifié de « incroyable » la performance de la solution d'inférence IA développée conjointement par AMD et Cerebras. Cette solution intègre le rack AMD Helios et le moteur à l'échelle du wafer de Cerebras, traitant respectivement les étapes de prompt et de génération de tokens, et devrait augmenter le nombre de tokens par seconde par watt de 5 fois. Cette approche technique optimise les performances d'inférence via le calcul hétérogène, reflétant l'attention continue des principaux laboratoires d'IA sur la réduction des coûts d'inférence.