Selon TechFlow, le 19 novembre, Open Athena a annoncé le 17 novembre que le modèle Mochi 535B-A23B du projet Marin a achevé sa phase principale de pré-entraînement et a ouvert l'accès à 57 checkpoints d'entraînement, dont 10 proviennent de la phase d'extension à long contexte.
Open Athena précise que ces checkpoints intermédiaires n'ont pas encore subi de fine-tuning par instructions ou de post-entraînement de sécurité. Ils sont destinés à la recherche scientifique ou à un entraînement complémentaire et ne doivent pas être déployés directement en tant qu'assistants.
L'équipe a également indiqué que des investigations ont révélé des fuites de données dans certains benchmarks de pré-entraînement couramment utilisés, ce qui pourrait affecter les résultats d'évaluation rapportés lors de comparaisons équitables entre Mochi et d'autres modèles.





