Meta 在最近推出了免費開源商用、可以媲美 GhatGPT3.5 的自然語言大模型 LLaMa2。除了宣佈 LLaMa2 將免費開源商用之外，Meta 官方也公佈了一些關於 LLaMa2 的相關數據。在參數版本方面，LLaMa2 一共提供了三種不同的版本，分別是 70 億參數、130 億參數以及 700 億參數。

隨著像 LLaMa2 這樣的大型語言模型顛覆了越來越多的生產領域，企業如何應用大模型、如何私有化 AI 部署成為了一個熱度越來越高的話題。近日，資金實力比較強的央國企和行業客戶正在找尋私有化大模型方案，幫助行業客戶構建基於行業專用數據的專用大模型，這是大模型商業落地的另外一種方式，也具備較大的市場空間。

目前許多公司可以佈局 AI 大模型私有化部署，比如 Contextual AI 正在進行企業私有化部署的增強生成 （RAG） 的技術研究，Cohere 也正根據客戶的要求訓練模型，再如 Reka 公司的模型提煉技術為客戶提供業界領先的私有化代碼能力平臺，大幅度提升企業的研發效率。R3PO 本次來拆解這一賽道，與大家分享 AI 大模型私有化部署的現狀與發展潛力。

一、企業的數字化未來離不開 AI 大模型私有化部署

許多大型傳統企業，由於數據安全等方面的考慮，無法使用公有云的 AI 服務。而這些企業的 AI 基礎能力比較薄弱，缺少技術和人才的沉澱，但是智能化升級又是企業的剛需，甚至是迫切的需求，這時候藉助 AI 技術公司在企業內部進行 AI 中臺的私有化部署，是比較經濟而高效的策略。

騰訊湯道生近期在一次演講中指出：“通用大模型可以在 100 個場景中解決 70%-80% 的問題，但未必能夠完全滿足企業某個具體場景的需求。”通用大模型通常基於廣泛的公開文獻和網絡信息訓練，缺乏許多專業知識和行業數據的積累，因此在行業針對性和精準度方面存在不足。然而，用戶對企業提供的專業服務要求較高，容錯性較低，一旦企業向公眾提供了錯誤信息，可能會引發嚴重後果。通過基於行業大模型並結合自身數據進行精細調整，企業可以構建出高度可用的智能服務。此外，與通用大模型相比，專屬模型具有較少的參數，訓練和推理成本更低，模型的優化也更容易。

同時，行業大模型和模型開發工具可以通過私有化部署、權限管控和數據加密等方式，防止對企業敏感數據的洩露。此外，將大模型應用於實際場景還需要經過算法構建和模型部署等一系列環節，而每個環節都不能出現失誤。模型需要不斷迭代和調優，這需要使用系統化和工程化的工具。

二、AI 大模型私有化部署究竟有何意義？

近日，為企業提供大模型定製化處理服務的 Reka 公司也獲得了 5800 萬美元的融資，反映出企業私有化 AI 模型這一市場正在逐漸擴大規模。

雖然像 GPT-4 這樣的大型語言模型分析文本和生成文本的能力已經非常強了，但它們的訓練成本高且在垂直領域訓練困難，目前難以完成類似按照品牌風格撰寫廣告文案這樣的特定任務。在這方面，它們的“通用性質”反而成為了一種負擔。

針對企業垂直領域的應用與 AI 的結合困難問題，企業私有化部署方案成為首選的解決之策。企業 AI 私有化部署是將 AI 技術從公共雲平臺遷移到企業自有的私有基礎設施上的過程。這種部署方式使得企業能夠擁有更高的數據安全性和隱私保護，同時也更好地掌控和定製 AI 應用。企業 AI 私有化部署通常涉及構建內部 AI 基礎設施、數據存儲和處理能力，以及擁有 AI 專業人員來管理和運維整個系統。

Reka 公司在提及企業 AI 私有化部署的必要意義時主要從以下五個方面展開了行業闡述：

1. 增強數據隱私與安全性

通過在企業內部部署 AI 系統，敏感數據不必離開企業的安全邊界，減少了數據洩露和安全漏洞的風險。這為企業處理涉及敏感信息的任務提供了更高的可信度和保護。

2. 實現定製化和靈活性的提高

企業 AI 私有化部署允許組織根據自身需求定製 AI 應用程序。這種定製化能力使企業能夠更好地適應特定業務場景，並根據需要進行靈活調整和擴展。

3. 高性能和低延遲

將 AI 系統部署在企業內部基礎設施上，可以實現更快的數據傳輸和處理速度。這對於需要實時決策和快速響應的業務非常重要，提高了整體的效率和競爭力。

4. 增加成本效益

儘管企業 AI 私有化部署需要一定的初始投資，但長期來看，它可以在成本上產生積極影響。相對於長期依賴公共雲平臺，企業私有化部署可以降低運營成本，並且更好地控制和規劃預算。

5. 數據治理和合規性

企業 AI 私有化部署使企業能夠更好地管理和控制數據治理，以滿足監管和合規性要求。這對於在涉及個人隱私保護和數據使用合規性方面的行業尤為重要。

三、個性化定製與優化：Reka 的模型提煉技術為企業推薦模型帶來巨大潛力

來自 DeepMind、谷歌、百度和 Meta 的研究人員成立了 Reka 公司，該公司目前由 DST Global Partners 和 Radical Ventures 領投，戰略合作伙伴 Snowflake Ventures 以及包括 GitHub 前首席執行官 Nat Friedman 在內的投資者也參與了此次融資。

Reka 目前已經開發了第一款商業產品 Yasa。雖然沒有完全實現最初的目標，但 Yasa 已經在定製化模型方面小有突破。Yogatama 表示，Yasa 是一個多模態的 AI 助手，經過訓練之後，除了單詞和短語之外，它還可以理解圖像、視頻和表格數據；另外，它還可以自動產生想法和回答基本問題，也可以對公司的內部數據發表一些自己的觀點。

與 GPT-4 等模型不同的是，Yasa 可以很容易地針對專有數據和應用程序進行個性化處理。除了文本之外，Yasa 還是一個多模態人工智能“助手”，經過訓練，除了單詞和短語外，還可以理解圖像、視頻和表格數據。Yogatama 說，它可以用來產生想法和回答基本問題，以及從公司的內部數據中獲得見解。

Reka 的下一步計劃是將注意力轉向可以接受和生成更多類型數據並不斷自我完善的人工智能，在不需要再培訓的情況下保持最新狀態。為此，Reka 還提供了一項服務，使其開發的模型能夠適應定製或專有的公司數據集，客戶可以在他們自己的基礎設施上或通過 Reka 的 API 運行定製化處理後的模型，這取決於應用程序和項目限制。

四、AI 大模型私有化部署市場勁頭正盛

企業定製化 AI 部署技術通過資源效率、實時性能、個性化定製和可解釋性等方面的優勢，為大規模的推薦模型帶來了更高的效率和靈活性，提升了推薦系統的性能和用戶體驗。

綜上，眾多公司在定製化 AI 模型的路上前行，從而讓每個企業都有機會成為 AI 企業，無需從頭開始構建模型。顯然，隨著這種趨勢的發展，企業私有化 AI 模型的市場規模只會不斷擴大。