提示词缓存可以复用符合条件的重复输入,但提示词重复,不代表一定命中缓存,也不代表最终账单更低。对 Coding Agent,先查用量记录,再比较完成一项验收通过任务的总成本。
本文提出一个小规模诊断实验,依据 2026 年 9 月 29 日核验的文档,不是 Agent.Space 缓存性能实测,也不保证固定的省钱比例。
选择前缀稳定的工作负载
仓库规则、不变的工具定义、稳定的参考资料,都值得检查是否适合缓存。频繁变化的文件或不同路由,会让结果更难解释。
协议允许时,把稳定材料放在任务特定内容之前。不要为了凑缓存门槛而给提示词灌水:额外文字可能增加费用,也会干扰模型。
缓存不能代替任务范围管理。Codex 额度节省指南介绍了如何先减少无用工作,再优化输入。
做一个小规模命中与失效实验
使用不含敏感信息的测试文本,以及你有权调用的模型。发送请求前,先确定一笔小测试预算。
- 发基线请求,包含稳定指令和一个短任务。
- 在服务商规定的缓存条件内,保留相同的有效前缀,换一个短任务再发。
- 记录两次请求 ID 和用量字段。
- 预算允许时,只改前缀的一部分,再观察第三次请求。
- 全程固定模型、接口和路由选择。
这是实验设计,不是对三次请求结果的保证。缓存命中要以服务商记录为证据,答案相似不能证明命中。
先读用量,再算省了多少
Claude 的提示词缓存文档区分缓存创建、缓存读取与未缓存输入。在这个协议下,单看 input_tokens 不是全部输入量。
不要把这些字段含义照搬到另一个 API。OpenAI 的提示词缓存指南有自己的报告方式与适用条件。
使用 API 费用计算指南,先统一记录口径,再乘以当前价格。初次写入和重试也要算进去,便宜的缓存读取不会抹掉前面的准备成本。
工作表可以记录请求 ID、模型、缓存写入 Token、缓存读取 Token、其他输入、输出、适用价格和最终费用。不支持的字段留空,不要擅自填零。
没命中时,一次检查一种原因
没有计数器,只能说明证据不足,不能直接判定“缓存坏了”。服务商也可能通过不同的套餐方式计费,不能用 API 缓存价格推导订阅额度一定能省多少。
优化的是验收通过的任务
优先选择能以合理总成本完成验收的工作流。缓存命中率很高,但反复失败,仍可能不如一次成功的未缓存请求。
接入 Agent.Space 时,先按 Developer API 指南配置,再检查所选路径实际提供的用量信息。打开 Agent.Space连接受支持的客户端后,单独验证缓存,不要从“接通了”推断“有缓存”。
