深潮 TechFlow 消息,11 月 19 日,Open Athena 於 11 月 17 日宣佈,Marin 項目的 Mochi 535B-A23B 模型已完成主要預訓練階段,並開放 57 個訓練檢查點,其中 10 個來自長上下文擴展階段。
Open Athena 表示,這些中間檢查點尚未經過指令微調或安全後訓練,旨在供科學研究或進一步訓練使用,不應作為可直接部署的助手。
團隊還表示,調查發現部分常用預訓練基準存在數據洩漏,這會影響公平比較 Mochi 與其他模型時可報告的評估結果。
添加收藏
分享社交媒體





