每月,AI Gateway 在生产应用与 AI 实验室之间路由数十万亿 Token,让我们得以了解实际 AI 使用情况,而非仅看排行榜和基准。我们每月在 AI Gateway 生产指数中发布这些数据。

Copy link to heading2026 年 5 月摘要

  • AI Gateway 总 Token 量环比增长 +20%;总支出环比增长 +43%。客户平均每 Token 支付的费用比 4 月高出近 20%。

  • DeepSeek 的 Token 份额在一个月内从不足 1% 跃升至 17%,而其支出份额仍接近 1%。

  • Anthropic 的支出份额在 5 月从 61% 增长至 65%,在每个高风险用例(AI 应用生成、后台代理和编码代理)中均占据 70–80% 的支出。

  • 成本意识促使在低成本模型与前沿模型之间进行更智能的路由。客户对哪种模型执行哪项工作更加审慎,而整体使用量仍在攀升。

上个月,关于 Token 预算超支的新闻主导了科技媒体:Uber 在第一季度后不久就耗尽了年度 Claude Code 预算,Amazon 则关闭 KiroRank 以遏制低效的 Token 最大化行为。尽管失控成本是一个真实问题,但本月报告显示,生产用例的支出仍在增长。

5 月 AI Gateway 数据中浮现出两个洞察:

  • 低成本模型进入生产:新模型以让现有实验室看起来更昂贵的价位发布,且其能力足以进入生产环境。

  • 支出在增长,但模型组合更智能:团队仍在增加 Token 预算,但正在实施更智能的路由策略,以从每一美元中获得更多价值。

Copy link to heading低成本模型首次获得显著生产量

2 月至 4 月期间,AI Gateway 上各实验室的量级分布变化缓慢,但在 5 月,DeepSeek V4 的发布彻底改变了 Token 份额。4 月几乎不存在的低成本市场,在 5 月成为 AI Gateway 按量计算的第三大提供商,且对整体支出没有显著影响。

4 月,DeepSeek 占 AI Gateway Token 不到 1%,支出不到 0.2%。5 月,其量级份额跃升至 Token 的 17%,位列第三,超过 OpenAI。几乎所有量级均来自两款模型:deepseek/deepseek-v4-flashdeepseek/deepseek-v4-pro,两者均于 5 月发布。

支出情况则讲述了另一半故事。尽管 DeepSeek 的 Token 份额在一个月内增长至 17%,其成本份额仍接近 1%。

DeepSeek V4 Flash 以每百万 Token 输入 $0.14 / 输出 $0.28 的价格发布,比同类 Anthropic 模型低约 20–50 倍,比其他价值层旗舰(如 Qwen 3.6 Plus 和 Kimi K2.6)低 8–12 倍。如此巨大的节省差距让团队迅速采用 V4 Flash。

仅凭价格无法在一个月内如此大幅改变 DeepSeek 的量级,这意味着团队在现有评估中测试 DeepSeek V4 后,发现其输出质量足以用于生产,而非仅因低成本而尝试。

价值层模型一直可在 AI Gateway 上使用,但从未以如此规模占据 Token 份额,这意味着 DeepSeek V4 是首个达到其价格点质量门槛、可用于生产工作的模型。

Copy link to heading前沿实验室持续占据新增支出的主导地位

尽管低成本端在量级上增长最快,但高价端在美元支出上增长更快。

Anthropic 的 Token 份额从 26% 增长至 32%,支出份额从 61% 增长至 65%。OpenAI 的 Token 份额维持在 13% 左右,但其支出份额从 12% 上升至 13%,且基数更大,因此客户在 5 月为每个 OpenAI Token 支付了更多费用。

尽管 DeepSeek 拉低了平均价格,但 5 月每 Token 的平均价格仍有所上升。这一增长是因为需要前沿模型的工作增长速度快于不需要的工作。AI 编码代理用例最清晰地展示了低成本/前沿模型的分化:

  • DeepSeek 贡献了该细分市场 49% 的 Token 量,但仅占 4% 的成本。

  • Anthropic 贡献了 28% 的 Token 和 70% 的成本。

低成本模型已成为生产工作流的重要组成部分,但前沿模型的使用仍在增长,推动整体支出增加。

前沿模型每 Token 价格更高,但客户仍在支付。Anthropic 继续在支出上领先,5 月占据 AI Gateway 全部支出的 65%,在每个高风险用例中占据 70–80% 的支出。

Copy link to heading成本纪律成为路由策略

整体支出增加表明 5 月对 AI 的需求仍在增长,但团队通过路由对其预算施加了更多精准控制。他们将廉价、高量级的工作发送到低价模型,而在质量至关重要的场景使用前沿模型。Google 最新 Flash 模型的缓慢采用就是一个明显例子。

Gemini 3.5 Flash 于 5 月发布,价格点高于 Gemini 3.0 Flash,但大规模迁移并未发生。到月底,3.5 仅占 Flash 系列 Token 的 7%,而 3.0 占 90%。

与 2 月和 3 月 Gemini 3.1 Pro 的快速采用相比,向 3.5 Flash 的缓慢迁移表明,满意于 3.0 Flash 的团队尚不愿支付更高成本。

Copy link to heading结论:性价比高且能力强的选项意味着更智能的模型组合

本月报告显示,即使整体支出和 Token 量仍在增长,市场对价格的敏感度也在提升。这意味着开发者正在寻找从每一美元中获得更多价值的方法。

数据揭示了两种优化策略:

  1. 将 DeepSeek 廉价但能力强的 V4 系列用于低风险、高量级任务

  2. 选择延迟模型家族升级,直到投资回报率合理

路由让团队能够随着实验室针对不同层级生产 AI 工作负载的竞争,实时调整模型组合和预算。

Copy link to heading附录

按 B2B 分类的 Token 与成本份额

B2B 应用运行较少但更昂贵的调用,而 B2C 应用运行大量廉价调用。5 月,B2B 按每 Token 计算的成本比 B2C 高约 60%。

Copy link to heading跨 Token 和请求的代理工具使用

不到四分之一的请求以工具调用结束,但这些请求承载了超过一半的全部 Token。两项指标环比大致持平。

Copy link to heading按请求量划分的模型多样性分布

应用提供的请求越多,在生产环境中运行的模型就越多。最低量级层以单模型设置为主,而在 1M+ 请求时,大多数应用跨 11 个或更多模型进行路由。

按用例的成本与量级份额

用例成本份额反映了错误答案的代价,而非消耗的 Token 数量。个人助手和编码代理每 Token 成本较低,而后台和招聘工作的成本则高得多。

Copy link to heading往期报告

阅读 2026 年 4 月 AI Gateway 生产指数

Copy link to heading关于本数据

本分析基于 2026 年 5 月 Vercel AI Gateway 的匿名化、聚合路由数据。

关于测量的几点说明:

  • 支出 使用市场价格(公布的标价),以便在自带 API 密钥的团队之间提供标准化视图。

  • 量级 统计通过 AI Gateway 路由的 Token 数量。

  • B2CB2B用例 分类 均为聚合数据。未识别任何单个团队或工作负载。