Tin từ TechFlow, ngày 20 tháng 7, theo quan điểm của nhà phân tích Sunny Bangia, tương tự như việc DeepSeek R1 ra mắt vào năm 2025, việc ra mắt Kimi K3 cũng gây ra lo ngại rằng sức mạnh tính toán AI sẽ thấp hơn dự kiến. Tuy nhiên, phép so sánh này có thể bỏ qua một khác biệt quan trọng. Mặc dù các mô hình như Kimi K3 nhằm mục đích sử dụng tài nguyên tính toán hiệu quả hơn, nhưng chúng vẫn cần một lượng lớn bộ nhớ khi chạy, đặc điểm này có thể tiếp tục hỗ trợ nhu cầu đối với các doanh nghiệp như SK Hynix, TSMC và Nvidia.
Kimi K3 sở hữu 2,8 nghìn tỷ tham số, đưa độ thưa lên mức cao mới. Độ thưa cao hơn có nghĩa là số lượng tham số được kích hoạt trong mỗi nhiệm vụ ít hơn tương đối so với tổng kích thước mô hình, từ đó đạt được hiệu quả tính toán cao hơn trên mỗi token. Các tham số chỉ là các con số được lưu trữ trong bộ nhớ. Ngay cả khi sử dụng định dạng dữ liệu độ chính xác thấp để nén mô hình, các tham số của Kimi K3 vẫn sẽ chiếm khoảng 1,4 terabyte bộ nhớ. Việc áp dụng K3 tự bản thân nó sẽ tạo ra nhu cầu nâng cấp chip silicon bộ nhớ cao, chẳng hạn như Blackwell GB300 của Nvidia. (Jin10)
