- 类型
- 新闻
- 来源
- The Decoder AI News
- 发布
- 2026年8月23日 10:02
- 状态
- 单一信源
发生了什么
根据 The Decoder 报道,自2025年2月6日起,OpenRouter 上 AI 智能体消耗的 token 数量已超过人类用户。智能体使用量增长 14 倍,而人类使用量仅增长 2.8 倍。其中近 70% 的智能体 token 消耗来自廉价的缓存提示,导致实际成本上升速度远低于原始数据。
为什么重要
此前 AI 服务的主要使用者是开发者或终端用户,如今智能体本身成为主要消费者,标志着 AI 使用模式的结构性转变。使用量增长 14 倍远高于人类用户,意味着 AI 间的自动化交互正成为主流,这将影响整个 AI 生态的商业模式与资源分配。
底层逻辑
智能体通常通过 API 调用模型,进行自动化任务,如代码生成、数据分析等,这些任务需要大量 token。而缓存提示(cached prompts)允许重复使用相同的上下文,成本较低。因此,尽管 token 数量激增,但实际支付价格因缓存而低于预期,成本增速较缓。
产品与商业机会
对依赖 API 的 AI 产品,token 消耗结构变化将影响成本核算与定价策略。开发者需考虑缓存机制以降低费用,并优化提示设计来提高缓存命中率。同时,面向智能体的服务需更注重高并发和低延迟,以及缓存友好型架构。
- 开发针对智能体场景的 token 缓存优化工具,帮助开发者降低 API 成本。
- 提供智能体使用分析仪表盘,帮助企业监控其 AI 系统的 token 消耗与成本。
- 设计针对高频缓存提示的定价套餐,吸引智能体密集型客户。
- 为智能体工作流提供预构建的提示模板,提高缓存命中率,减少重复计算。
仍待确认
- 智能体 token 消耗的具体任务类型与行业分布尚未披露。
- 缓存提示在整体 token 消耗中的占比是否长期保持高位,尚待后续数据验证。
- OpenRouter 之外的平台是否出现类似趋势,证据未提及。
- 智能体使用增长是否由特定模型或功能驱动,尚不明确。
原文与媒体展开查看
