TechFlow a rapporté le 23 janvier que l’entreprise de capital-risque Andreessen Horowitz (a16z) a annoncé qu’elle menait un tour de financement de démarrage de 150 millions de dollars américains pour la start-up spécialisée dans les technologies d’inférence IA, Inferact. Inferact est dirigée par les mainteneurs du moteur d’inférence open source vLLM, actuellement utilisé par des entreprises telles que Meta, Google et Character.ai.
Inferact prévoit de soutenir le développement de vLLM en fournissant des ressources financières et de développement afin de faire face à la complexité croissante des modèles, à la diversité matérielle et à l’élargissement des déploiements. Parallèlement, l’entreprise développera un nouveau moteur commercial d’inférence de génération suivante, en collaboration avec des fournisseurs existants afin d’améliorer les performances logicielles et leur flexibilité.
