TechFlowの報道によると、1月23日、テクノロジーメディア「Tech in Asia」は、ベンチャーキャピタルファームA16zが、AI推論技術を手がける新興企業Inferactのシードラウンドで1億5,000万ドルを主導出資すると発表したと伝えました。Inferactは、オープンソース推論エンジン「vLLM」のメンテナーによって設立された企業であり、このvLLMは現在、Meta、Google、Character.aiなどの企業で採用されています。
Inferactは、モデルの複雑化、ハードウェアの多様化、および展開規模の拡大という課題に対応するため、vLLMの発展を財務面および開発面から支援する計画です。また同社は、次世代の商用推論エンジンの開発にも着手し、既存のプロバイダーとの協業を通じてソフトウェアのパフォーマンスと柔軟性を高めていきます。




