企业为什么越来越花钱买闭源模型？Decagon CEO 提出了一个很重要的新观点

最近，Decagon CEO Jesse Zhang 写了一篇关于企业 AI 的文章《Everyone is wrong about open source AI in the enterprise》，我觉得很有价值。

过去一年，大家普遍认为：

开源模型越来越强，企业最终一定会全面转向开源。

但现实的数据却出现了一个看似矛盾的现象：

• Decagon 自己 90% 的生产流量已经运行在开源模型上；
• 但整个企业市场中，开源模型的 LLM 支出占比反而从 19% 降到了 11%。

为什么会这样？Jesse Zhang 提出了一个我认为非常有启发性的框架：未来 AI 不会是「开源取代闭源」，而会形成新的产业分工：

Frontier Models 负责 Discovery（探索），Open Source Models 负责 Production（生产）。

什么意思？当企业刚开始做一个 AI 产品时，没人知道：

• Agent 应该长什么样
• Workflow 应该如何设计
• Prompt 怎么写
• 用户真正需要什么

因此，企业最需要的是：世界上最聪明的模型。所以大家都会使用 GPT、Claude、Gemini 这类 Frontier Model。

但是，当产品逐渐成熟以后，企业已经知道用户会问哪些问题、Workflow 已经固定、Evaluation 已经完善、数据越来越多。

这个时候，企业真正需要的就不再是最聪明的模型，而是最快、最便宜、最容易微调的小模型。于是，模型就会经历一次迁移：

Frontier Model → Distillation → Fine-tuning → Open Source。

也就是闭源负责探索，开源负责规模化生产。

这也是为什么 Decagon 今天 90% 的生产流量已经迁移到了开源模型，但整个企业市场依然大量购买闭源模型——因为大多数企业仍然停留在探索阶段，而不是生产阶段。 

以下是其全文的一个翻译：

当前主流的叙事是：开源正在吞噬企业市场。

如今，最优秀的闭源模型与开源模型之间的能力差距，已经缩小到了个位数百分点。全球《财富》500 强企业中已有三分之一在 Hugging Face 上完成认证；中国的 AI 实验室几乎每隔几周就会发布一款接近前沿水平的开源权重模型；而各大推理（Inference）服务商的发展势头也异常迅猛。

与此同时，在 Decagon，我们如今约 90% 的 AI 工作负载运行在开源模型上，而不是 OpenAI 或 Anthropic 的模型。这也符合我们观察到的趋势：大多数高速增长的 AI 应用公司都在这么做，我们合作的大型企业客户也正逐渐向这一方向迁移。

但有趣的是，整个企业市场的支出却呈现完全相反的趋势。企业在开源模型上的 LLM 支出占比已经下降到 11%，而一年前这一数字还是 19%。

也就是说，现实的发展方向其实和大众叙事正好相反。为什么会这样？这又意味着什么？

先解释一下为什么 Decagon 有 90% 的工作负载都运行在开源模型上。

原因不是成本。也不是因为客户要求使用开源（虽然他们对此并不介意）。真正的原因是：我们别无选择。

对于生产环境中的客服 AI Agent 来说，延迟（Latency）决定产品生死。如果一次对话每轮回复都需要 8 秒，没有人会愿意使用这样的产品。因此，你需要的是小而快的模型。

事实上，每一次模型调用并不需要知道立陶宛的首都是什么，也不需要掌握高中物理知识。

然而，小模型开箱即用时，并不足以达到我们客户要求的质量标准。只有针对具体任务进行大量 Fine-tuning（微调）之后，它们才能达到要求。

而目前的前沿模型公司，并没有真正提供这种组合。你无法按照我们的需求去微调他们最强大的模型；而他们的小模型，也并不属于我们，无法按照自己的需求进行塑造。

因此：小模型 + 深度微调 = 必须使用开源权重（Open Weights）。节省成本确实存在，但只是次要收益。企业客户喜欢可以自托管（Self-host）的模型，也只是一个额外的好处，而不是我们做出选择的原因。

那么，为什么像我们这样的公司已经 90% 使用开源，而整个企业市场的开源占比却在下降？

答案在于：AI 应用成熟度（Use Case Maturity）。当一个 AI 应用刚出现的时候，你希望使用最聪明、最通用的大模型。因为你还不知道问题真正的形状（shape）。

因此，即便为一些最终可能根本不需要的智能能力支付溢价，也是值得的。在这个阶段，这是正确的选择。

但是，当这个应用逐渐成熟之后，情况就完全不同了。你已经知道：

• 输入数据长什么样；
• 模型需要哪些行为；
• 哪些错误必须避免。

这时候，权衡就发生了反转。通用智能反而成了一种额外负担。你真正需要的是：一个最小、最快、并且针对你的具体任务深度微调过的模型。

客服（Customer Service）正是整个 AI 行业最成熟的应用场景之一。它拥有：

• 非常成熟、清晰的工作流程；
• 巨大的对话数据量；
• 极高的质量要求。

因此，像 Decagon 这样的公司，只不过比大多数企业部署更早走到了这条成熟曲线的后半段。

这也解释了前面那个看似矛盾的现象。开源模型占比下降，并不是因为开源输了。真正的原因是：整个企业 AI 市场仍然处于成熟曲线的最早阶段。

去年开始，企业停止自己开发 AI，而转向直接采购 AI 产品。于是，一夜之间涌现出了成千上万个全新的 AI 应用场景。而所有这些新的应用，几乎都运行在最强的 Frontier 模型之上。于是，闭源模型的市场份额迅速膨胀。

因此，11% 这个数字，本质上是一个分母问题（Denominator Problem）：新的、不成熟的 AI 应用增长速度，远远快于已经成熟的 AI 应用。

我觉得，如果 Jesse Zhang 的判断成立，那么未来 AI 行业会出现几个非常重要的变化。

1、OpenAI 和 Anthropic 不会因为开源而失去价值

过去很多人认为，开源越来越强，Foundation Model 最终会变成商品。但这篇文章提供了另一种解释。未来最赚钱的 Token，依然来自 Frontier Model。因为所有新的 AI 应用，都会首先部署 GPT、Claude 等模型去探索产品形态。

所以：Discovery 的价值，远高于 Production。

也就是说，未来 Foundation Model 不一定赢得生产，但依然可以赢得利润。

2、真正的开源时代，可能比大家想象得更晚

很多人觉得，模型能力追平 GPT，企业自然就会迁移。事实上，真正决定是否迁移的，不是模型能力，而是业务成熟度。只有 Workflow 已经稳定、数据已经足够、ROI 已经验证、Evaluation 已经成熟时，企业才愿意投入大量资源去做 Fine-tuning。

所以，模型能力成熟，不代表商业成熟。这两者之间，可能相差几年时间。

3、Fine-tuning 会成为 AI 基础设施最大的机会之一

如果未来所有成熟 Agent 都会经历：Distillation → Fine-tuning。那么，未来最值钱的能力，可能不是 Prompt，而是：

• Fine-tuning Platform
• Evaluation
• Data Pipeline
• Synthetic Data
• Distillation
• Continuous Learning

整个 AI Infra，都会围绕这些能力展开。

4、真正的护城河，将从「模型」变成「数据」

未来，每一家企业都可以下载 Llama、Qwen 或其他开源模型。模型越来越容易获得。真正无法复制的是：

• 企业自己的数据；
• 用户反馈；
• Agent Logs；
• Workflow；
• Evaluation Dataset。

因此，未来企业最大的竞争优势，还是拥有多少真实生产数据。

5、Inference Infra 仍然是一个长期机会

如果生产最终都会运行在小模型、微调模型、私有部署模型；那么：Inference Infrastructure 的需求不会下降，反而可能持续增长。GPU 云、模型部署、KV Cache、推理优化、Model Router 等基础设施，都会持续受益。

6、AI Agent 会进入「模型迁移时代」

今天很多 Agent 基本上都是上线之后，一直调用 GPT。未来，成熟 Agent 大概率都会经历几个阶段：用 Frontier Model 快速验证产品---蒸馏---微调---多模型协同。因此，未来真正优秀的 AI Agent 公司，本质上都可能会变成模型调度公司（Model Orchestrator）。

他们最重要的能力，不是拥有哪个模型，而是知道什么时候用最聪明的模型，什么时候用最便宜的模型。

过去的软件行业经历了「开发 → 部署 → 运维」的分工；未来的 AI 行业，也可能形成类似的两层结构：

• Discovery（探索）：由 Frontier Models 驱动，负责发现新的产品形态、工作流和能力边界。
• Production（生产）：由开源模型驱动，负责低成本、高效率、大规模运行成熟业务。

如果这个判断成立，那么未来几年，我们讨论的重点可能不再是「开源会不会战胜闭源」，而是：一个 AI 应用，什么时候应该继续使用 Frontier Model，什么时候应该迁移到开源模型？