Marvell sắp ra mắt các giải pháp lưu trữ và bộ nhớ dành cho cơ sở hạ tầng AI, đặt cược vào CXL và kết nối quang để mở rộng cơ sở hạ tầng AI.
Tin từ TechFlow, ngày 03 tháng 8, nhà sản xuất bán dẫn cơ sở hạ tầng dữ liệu Marvell Technology tuyên bố, sẽ ra mắt giải pháp bộ nhớ và lưu trữ hướng đến cơ sở hạ tầng AI từ ngày 4 đến ngày 6 tháng 8. Marvell cho biết, khi quy mô suy luận AI tác tử (agentic AI) mở rộng, dung lượng bộ nhớ, băng thông và khả năng kết nối dữ liệu đang trở nên quan trọng ngang với khả năng tính toán. Các mô hình quy mô lớn hơn, cửa sổ ngữ cảnh dài hơn và nhu cầu KV Cache không ngừng tăng, đang thúc đẩy nhu cầu chưa từng có đối với tài nguyên bộ nhớ trong các hệ thống AI.
Công ty này cho biết, bằng cách đưa dữ liệu đến gần hơn với đơn vị tính toán và giảm độ trễ, công nghệ bộ nhớ và lưu trữ AI của họ có thể giúp khách hàng nâng cao hiệu suất sử dụng phần cứng, tăng hiệu quả xử lý Token và đạt được sự cân bằng tối ưu hơn giữa hiệu suất, mức tiêu thụ điện năng và chi phí. Khi quy mô mô hình AI tiếp tục mở rộng, kiến trúc truyền thống "ưu tiên chip tính toán" đang dần chuyển sang "tối ưu hóa đồng bộ tính toán, bộ nhớ và kết nối", các cơ sở hạ tầng mới bao gồm CXL, lưu trữ tốc độ cao và kết nối quang, được kỳ vọng sẽ trở thành hướng kỹ thuật quan trọng cho việc mở rộng trung tâm dữ liệu AI trong giai đoạn tiếp theo.
