TechFlow tin tức, Quỹ Zhengge tuyên bố quyên góp cho dự án AI mã nguồn mở vLLM. Quỹ Zhengge cho biết, khoản quyên góp nhằm thúc đẩy sự phổ biến của công nghệ AI, giúp nhiều người được hưởng lợi hơn.
Theo thông tin, vLLM do nhóm 3 người thuộc Đại học California, Berkeley phát triển, là khung làm việc tăng tốc suy luận mô hình lớn mã nguồn mở phổ biến nhất toàn cầu, hỗ trợ hơn 30 mô hình ngôn ngữ lớn (LLM) mã nguồn mở mới nhất bao gồm Mistral, Llama, đồng thời tương thích với nhiều kiến trúc phần cứng khác nhau. Kể từ khi ra mắt mã nguồn mở vào tháng 6 năm ngoái, số sao trên GitHub của vLLM đã vượt quá 21,8 nghìn.




