Meta 在最近推出了免费开源商用、可以媲美 GhatGPT3.5 的自然语言大模型 LLaMa2。除了宣布 LLaMa2 将免费开源商用之外，Meta 官方也公布了一些关于 LLaMa2 的相关数据。在参数版本方面，LLaMa2 一共提供了三种不同的版本，分别是 70 亿参数、130 亿参数以及 700 亿参数。

随着像 LLaMa2 这样的大型语言模型颠覆了越来越多的生产领域，企业如何应用大模型、如何私有化 AI 部署成为了一个热度越来越高的话题。近日，资金实力比较强的央国企和行业客户正在找寻私有化大模型方案，帮助行业客户构建基于行业专用数据的专用大模型，这是大模型商业落地的另外一种方式，也具备较大的市场空间。

目前许多公司可以布局 AI 大模型私有化部署，比如 Contextual AI 正在进行企业私有化部署的增强生成 （RAG） 的技术研究，Cohere 也正根据客户的要求训练模型，再如 Reka 公司的模型提炼技术为客户提供业界领先的私有化代码能力平台，大幅度提升企业的研发效率。R3PO 本次来拆解这一赛道，与大家分享 AI 大模型私有化部署的现状与发展潜力。

一、企业的数字化未来离不开 AI 大模型私有化部署

许多大型传统企业，由于数据安全等方面的考虑，无法使用公有云的 AI 服务。而这些企业的 AI 基础能力比较薄弱，缺少技术和人才的沉淀，但是智能化升级又是企业的刚需，甚至是迫切的需求，这时候借助 AI 技术公司在企业内部进行 AI 中台的私有化部署，是比较经济而高效的策略。

腾讯汤道生近期在一次演讲中指出：“通用大模型可以在 100 个场景中解决 70%-80% 的问题，但未必能够完全满足企业某个具体场景的需求。”通用大模型通常基于广泛的公开文献和网络信息训练，缺乏许多专业知识和行业数据的积累，因此在行业针对性和精准度方面存在不足。然而，用户对企业提供的专业服务要求较高，容错性较低，一旦企业向公众提供了错误信息，可能会引发严重后果。通过基于行业大模型并结合自身数据进行精细调整，企业可以构建出高度可用的智能服务。此外，与通用大模型相比，专属模型具有较少的参数，训练和推理成本更低，模型的优化也更容易。

同时，行业大模型和模型开发工具可以通过私有化部署、权限管控和数据加密等方式，防止对企业敏感数据的泄露。此外，将大模型应用于实际场景还需要经过算法构建和模型部署等一系列环节，而每个环节都不能出现失误。模型需要不断迭代和调优，这需要使用系统化和工程化的工具。

二、AI 大模型私有化部署究竟有何意义？

近日，为企业提供大模型定制化处理服务的 Reka 公司也获得了 5800 万美元的融资，反映出企业私有化 AI 模型这一市场正在逐渐扩大规模。

虽然像 GPT-4 这样的大型语言模型分析文本和生成文本的能力已经非常强了，但它们的训练成本高且在垂直领域训练困难，目前难以完成类似按照品牌风格撰写广告文案这样的特定任务。在这方面，它们的“通用性质”反而成为了一种负担。

针对企业垂直领域的应用与 AI 的结合困难问题，企业私有化部署方案成为首选的解决之策。企业 AI 私有化部署是将 AI 技术从公共云平台迁移到企业自有的私有基础设施上的过程。这种部署方式使得企业能够拥有更高的数据安全性和隐私保护，同时也更好地掌控和定制 AI 应用。企业 AI 私有化部署通常涉及构建内部 AI 基础设施、数据存储和处理能力，以及拥有 AI 专业人员来管理和运维整个系统。

Reka 公司在提及企业 AI 私有化部署的必要意义时主要从以下五个方面展开了行业阐述：

1. 增强数据隐私与安全性

通过在企业内部部署 AI 系统，敏感数据不必离开企业的安全边界，减少了数据泄露和安全漏洞的风险。这为企业处理涉及敏感信息的任务提供了更高的可信度和保护。

2. 实现定制化和灵活性的提高

企业 AI 私有化部署允许组织根据自身需求定制 AI 应用程序。这种定制化能力使企业能够更好地适应特定业务场景，并根据需要进行灵活调整和扩展。

3. 高性能和低延迟

将 AI 系统部署在企业内部基础设施上，可以实现更快的数据传输和处理速度。这对于需要实时决策和快速响应的业务非常重要，提高了整体的效率和竞争力。

4. 增加成本效益

尽管企业 AI 私有化部署需要一定的初始投资，但长期来看，它可以在成本上产生积极影响。相对于长期依赖公共云平台，企业私有化部署可以降低运营成本，并且更好地控制和规划预算。

5. 数据治理和合规性

企业 AI 私有化部署使企业能够更好地管理和控制数据治理，以满足监管和合规性要求。这对于在涉及个人隐私保护和数据使用合规性方面的行业尤为重要。

三、个性化定制与优化：Reka 的模型提炼技术为企业推荐模型带来巨大潜力

来自 DeepMind、谷歌、百度和 Meta 的研究人员成立了 Reka 公司，该公司目前由 DST Global Partners 和 Radical Ventures 领投，战略合作伙伴 Snowflake Ventures 以及包括 GitHub 前首席执行官 Nat Friedman 在内的投资者也参与了此次融资。

Reka 目前已经开发了第一款商业产品 Yasa。虽然没有完全实现最初的目标，但 Yasa 已经在定制化模型方面小有突破。Yogatama 表示，Yasa 是一个多模态的 AI 助手，经过训练之后，除了单词和短语之外，它还可以理解图像、视频和表格数据；另外，它还可以自动产生想法和回答基本问题，也可以对公司的内部数据发表一些自己的观点。

与 GPT-4 等模型不同的是，Yasa 可以很容易地针对专有数据和应用程序进行个性化处理。除了文本之外，Yasa 还是一个多模态人工智能“助手”，经过训练，除了单词和短语外，还可以理解图像、视频和表格数据。Yogatama 说，它可以用来产生想法和回答基本问题，以及从公司的内部数据中获得见解。

Reka 的下一步计划是将注意力转向可以接受和生成更多类型数据并不断自我完善的人工智能，在不需要再培训的情况下保持最新状态。为此，Reka 还提供了一项服务，使其开发的模型能够适应定制或专有的公司数据集，客户可以在他们自己的基础设施上或通过 Reka 的 API 运行定制化处理后的模型，这取决于应用程序和项目限制。

四、AI 大模型私有化部署市场劲头正盛

企业定制化 AI 部署技术通过资源效率、实时性能、个性化定制和可解释性等方面的优势，为大规模的推荐模型带来了更高的效率和灵活性，提升了推荐系统的性能和用户体验。

综上，众多公司在定制化 AI 模型的路上前行，从而让每个企业都有机会成为 AI 企业，无需从头开始构建模型。显然，随着这种趋势的发展，企业私有化 AI 模型的市场规模只会不断扩大。