TechFlow, 21 janvier — Selon une information relayée par Jinshi Data, à l'occasion du premier anniversaire de la sortie de DeepSeek-R1, un nouveau modèle nommé « MODEL1 » a été dévoilé. DeepSeek a mis à jour le code FlashMLA sur GitHub, où MODEL1 est mentionné 28 fois dans 114 fichiers, apparaissant comme un modèle distinct de V32. Sachant que V32 correspond à DeepSeek-V3.2, MODEL1 serait très probablement une nouvelle architecture. Les différences spécifiques dans le code concernent notamment la disposition du cache KV, le traitement de la sparsité et le décodage en FP8, présentant plusieurs variations au niveau de l'optimisation mémoire. (Quantum Bit)
Ajouter aux favoris
Partager sur les réseaux sociaux
