TechFlow đưa tin, vào ngày 17 tháng 11, Moore Threads đã hoàn tất việc thích ứng huấn luyện cho mô hình mã nguồn mở Kimi K3.1 Pro của Moonshot AI. Mô hình này có quy mô tham số lên tới 2,8 nghìn tỷ.
Việc thích ứng này dựa trên thẻ tính toán AI MTT S5000 và stack phần mềm MUSA, xây dựng pipeline huấn luyện đa modal FSDP2 native, bao phủ các khâu như tải mô hình, lập lịch phân mảnh và đồng bộ gradient.





