TechFlow, l'annonce indique que ZhenFund a fait un don au projet open source d'intelligence artificielle vLLM. ZhenFund précise que cet appui vise à promouvoir la diffusion des technologies d'IA afin qu'un plus grand nombre de personnes en bénéficient.
On apprend que vLLM a été développé par une équipe de trois personnes de l'Université de Californie à Berkeley. Il s'agit du framework open source le plus populaire au monde pour l'accélération de l'inférence des grands modèles linguistiques (LLM). Il prend en charge plus de 30 des derniers LLM open source, notamment Mistral et Llama, et est compatible avec diverses architectures matérielles. Depuis son ouverture sur GitHub en juin dernier, il a dépassé les 21 800 étoiles.
Ajouter aux favoris
Partager sur les réseaux sociaux
