TechFlow đưa tin, Microsoft đã công bố mã nguồn mở Deep Speed Chat, giúp người dùng huấn luyện các mô hình ngôn ngữ lớn như ChatGPT, từ đó ai cũng có thể sở hữu ChatGPT riêng của mình.
Theo thông tin, Deep Speed Chat được phát triển dựa trên thư viện tối ưu hóa học sâu Deep Speed của Microsoft, sở hữu các chức năng như huấn luyện, suy luận tăng cường, đồng thời sử dụng công nghệ RLHF (học tăng cường với phản hồi con người), có thể đẩy nhanh tốc độ huấn luyện hơn 15 lần so với các hệ thống hiện tại, đồng thời giảm mạnh chi phí. Ví dụ, một mô hình tương tự ChatGPT với 13 tỷ tham số chỉ cần 1,25 giờ để hoàn thành quá trình huấn luyện.




