Agent.Space 博客

Coding Agent 提示词缓存:先确认命中,再计算省了多少

验证 Coding Agent 提示词是否真正命中缓存,读懂用量字段,并把缓存读写费用纳入成本计算,不把重复上下文当成免费。

提示词缓存可以复用符合条件的重复输入,但提示词重复,不代表一定命中缓存,也不代表最终账单更低。对 Coding Agent,先查用量记录,再比较完成一项验收通过任务的总成本。

本文提出一个小规模诊断实验,依据 2026 年 9 月 29 日核验的文档,不是 Agent.Space 缓存性能实测,也不保证固定的省钱比例。

选择前缀稳定的工作负载

仓库规则、不变的工具定义、稳定的参考资料,都值得检查是否适合缓存。频繁变化的文件或不同路由,会让结果更难解释。

协议允许时,把稳定材料放在任务特定内容之前。不要为了凑缓存门槛而给提示词灌水:额外文字可能增加费用,也会干扰模型。

缓存不能代替任务范围管理。Codex 额度节省指南介绍了如何先减少无用工作,再优化输入。

做一个小规模命中与失效实验

使用不含敏感信息的测试文本,以及你有权调用的模型。发送请求前,先确定一笔小测试预算。

  1. 发基线请求,包含稳定指令和一个短任务。
  2. 在服务商规定的缓存条件内,保留相同的有效前缀,换一个短任务再发。
  3. 记录两次请求 ID 和用量字段。
  4. 预算允许时,只改前缀的一部分,再观察第三次请求。
  5. 全程固定模型、接口和路由选择。

这是实验设计,不是对三次请求结果的保证。缓存命中要以服务商记录为证据,答案相似不能证明命中。

先读用量,再算省了多少

Claude 的提示词缓存文档区分缓存创建、缓存读取与未缓存输入。在这个协议下,单看 input_tokens 不是全部输入量。

不要把这些字段含义照搬到另一个 API。OpenAI 的提示词缓存指南有自己的报告方式与适用条件。

使用 API 费用计算指南,先统一记录口径,再乘以当前价格。初次写入和重试也要算进去,便宜的缓存读取不会抹掉前面的准备成本。

工作表可以记录请求 ID、模型、缓存写入 Token、缓存读取 Token、其他输入、输出、适用价格和最终费用。不支持的字段留空,不要擅自填零。

没命中时,一次检查一种原因

检查项看什么
适用条件当前模型、最小输入长度、支持的缓存机制
前缀稳定性指令、工具定义、排序、动态时间戳
有效期后续请求是否符合文档中的保留条件
路由对照请求是否由相同模型和服务商路径处理
可观测性网关是否提供需要的用量字段

没有计数器,只能说明证据不足,不能直接判定“缓存坏了”。服务商也可能通过不同的套餐方式计费,不能用 API 缓存价格推导订阅额度一定能省多少。

优化的是验收通过的任务

优先选择能以合理总成本完成验收的工作流。缓存命中率很高,但反复失败,仍可能不如一次成功的未缓存请求。

接入 Agent.Space 时,先按 Developer API 指南配置,再检查所选路径实际提供的用量信息。打开 Agent.Space连接受支持的客户端后,单独验证缓存,不要从“接通了”推断“有缓存”。