Các nhà nghiên cứu OpenAI khen ngợi giải pháp suy luận AI hợp tác giữa AMD và Cerebras, ước tính hiệu suất mỗi watt tăng 5 lần.

Tin tức TechFlow, ngày 29 tháng 7, nghiên cứu viên OpenAI Jeffrey Wang đánh giá hiệu suất giải pháp suy luận AI do AMD và Cerebras đồng phát triển là「đáng kinh ngạc」. Giải pháp này tích hợp khung máy AMD Helios và động cơ cấp wafer Cerebras, xử lý riêng biệt khâu prompt và tạo token, ước tính có thể tăng số lượng token mỗi giây mỗi watt lên 5 lần. Lộ trình kỹ thuật này tối ưu hóa hiệu suất suy luận thông qua tính toán dị chủng, phản ánh sự quan tâm liên tục của các phòng thí nghiệm AI hàng đầu đối với việc giảm chi phí suy luận.