深潮 TechFlow 消息,6 月 30 日,據 The Information 報道,一位知情人士透露,本月早些時候,OpenAI 工程師向部分同事表示,依託幾項全新研發的優化技術,他們找到了一套方案,能將模型推理成本削減一半以上。工程師將這套新技術應用於沒有免費或付費帳戶的訪客使用 ChatGPT 的場景後,一度把所需英偉達圖形處理器(GPU)數量壓至僅數百個。
添加收藏
分享社交媒體
深潮 TechFlow 消息,6 月 30 日,據 The Information 報道,一位知情人士透露,本月早些時候,OpenAI 工程師向部分同事表示,依託幾項全新研發的優化技術,他們找到了一套方案,能將模型推理成本削減一半以上。工程師將這套新技術應用於沒有免費或付費帳戶的訪客使用 ChatGPT 的場景後,一度把所需英偉達圖形處理器(GPU)數量壓至僅數百個。
據 The Information 報道,一位知情人士透露,本月早些時候,OpenAI 工程師向部分同事表示,依託幾項全新研發的優化技術,他們找到了一套方案,能將模型推理成本削減一半以上。工程師將這套新技術應用於沒有免費或付費帳戶的訪客使用 ChatGPT 的場景後,一度把所需英偉達圖形處理器(GPU)數量壓至僅數百個。