Coinbase CEO 详解 AI 成本优化策略：默认模型切换、任务路由与缓存改进，支出降低近 50%

背景：AI 使用激增，Coinbase 如何控制成本

随着 AI 使用量和 Token 消耗持续攀升，许多企业开始面临预算压力。Coinbase CEO Brian Armstrong 近日发文，详细介绍了公司在 AI 成本优化方面的最新策略。他强调，控制成本的关键并非简单限制员工使用或频繁发送预算提醒，而是从技术层面优化模型选择、任务路由和缓存机制。

模型选择与任务路由：开放权重模型成为主力

Coinbase 通过内部 LLM 网关，尝试将 GLM 5.2、Kimi 2.7 等开放权重模型作为默认选项，同时仍允许工程师根据具体任务需求选择其他模型。数据显示，公司 91% 的员工从未达到 AI 使用额度上限，因此 Coinbase 并未收紧配额，而是通过更低成本的模型方案提升整体效率。在任务路由方面，系统会对提示词进行预处理，结合缓存命中率及不同模型定价，自动将任务分配给最合适的模型。Armstrong 认为，规划和推理等复杂任务可能需要前沿模型，但执行类任务未必需要调用成本更高的模型。未来，模型选择应更多由 AI 自动完成，而非依赖人工决策。

缓存优化与上下文管理：细节决定成本

缓存命中率是影响 AI 成本的重要因素。Coinbase 已将缓存感知机制纳入请求流程，提高历史结果复用率。以 LibreChat 为例，优化缓存方案后，其缓存命中率从 5% 提升至 60%。此外，公司要求工程师尽量保持上下文精简，包括切换任务时开启新会话、缩小文件上下文范围以及关闭未使用工具等，以减少不必要的 Token 消耗。Armstrong 透露，通过上述综合措施，Coinbase 成功将 AI 支出降低近 50%，同时 Token 使用量仍保持增长。