Pi Agent Harness 发布 0.86.0,新增 Prompt Cache Warming。
在 Agent 执行长时间工具任务时,Pi 会在缓存接近过期前重发上一次请求,只生成 1 个 Token,把已经缓存的长上下文继续保留下来。
很多模型服务会在一段时间没有请求后清掉 Prompt Cache。任务后续继续执行时,同一段长上下文可能会重新按完整输入计费。
Pi 表示,这项功能会主动避免这类 Cache Miss,但不会持续保活。系统会先计算成本,只有在预计避免 Cache Miss 的成本减去刷新成本后,仍能至少节省 0.05 美元,才会发起刷新。
每次刷新本身仍需支付整段缓存读取费用,以及 1 个输出 Token 的费用。
本文最初由 Bit.Fan 发布。 欲了解更多加密货币新闻与市场洞察,请访问 www.bit.fan.

