Các nhà nghiên cứu OpenAI khen ngợi giải pháp suy luận AI hợp tác giữa AMD và Cerebras, ước tính hiệu suất mỗi watt tăng 5 lần.
7x24h Tin nhanh
Các nhà nghiên cứu OpenAI khen ngợi giải pháp suy luận AI hợp tác giữa AMD và Cerebras, ước tính hiệu suất mỗi watt tăng 5 lần.
Nhà nghiên cứu OpenAI Jeffrey Wang đánh giá giải pháp suy luận AI do AMD và Cerebras phát triển chung có hiệu suất «đáng kinh ngạc». Giải pháp này tích hợp rack AMD Helios và động cơ cấp wafer Cerebras, xử lý riêng biệt các giai đoạn prompt và tạo token, ước tính có thể tăng số lượng token trên mỗi watt mỗi giây lên 5 lần. Lộ trình kỹ thuật này tối ưu hóa hiệu suất suy luận thông qua điện toán dị thể, phản ánh sự quan tâm liên tục của các phòng thí nghiệm AI hàng đầu đối với việc giảm chi phí suy luận.
Chuyên sâu báo cáo Web3Tin tức TechFlow, ngày 29 tháng 7, nghiên cứu viên OpenAI Jeffrey Wang đánh giá hiệu suất giải pháp suy luận AI do AMD và Cerebras đồng phát triển là「đáng kinh ngạc」. Giải pháp này tích hợp khung máy AMD Helios và động cơ cấp wafer Cerebras, xử lý riêng biệt khâu prompt và tạo token, ước tính có thể tăng số lượng token mỗi giây mỗi watt lên 5 lần. Lộ trình kỹ thuật này tối ưu hóa hiệu suất suy luận thông qua tính toán dị chủng, phản ánh sự quan tâm liên tục của các phòng thí nghiệm AI hàng đầu đối với việc giảm chi phí suy luận.
