TechFlow, une plateforme Web3 AI, a annoncé conjointement avec le laboratoire d'informatique et d'intelligence artificielle du MIT (CSAIL) le lancement d'un nouveau modèle de langage volumineux (LLM) nommé JetMoE-8B. Selon les données publiées dans l'article scientifique, son coût d'entraînement est inférieur à 100 000 dollars. Ce modèle surpasse en performance Llama2-7B, voire dépasse Llama2-13B-Chat dans certaines tâches de conversation, bien que ce dernier ait bénéficié de ressources d'entraînement valant plusieurs milliards de dollars. JetMoE-8B se distingue par son ouverture et sa grande accessibilité pour la communauté académique : il a été entraîné exclusivement sur des jeux de données publics, son code est entièrement open source et ne nécessite aucune ressource propriétaire. Il peut être affiné même avec un budget de calcul limité, abordable pour la plupart des laboratoires (par exemple, sur des GPU grand public).
