返回AI成本控制

AI成本控制

Coinbase
2026-06-27 19:36:35

Coinbase 削减近半 AI 支出:默认开放权重模型、智能路由与缓存策略解析

Coinbase 首席执行官 Brian Armstrong 发文披露,公司通过多项基础设施优化将 AI 支出削减近一半,同时 token 使用量仍在增长。核心举措包括:默认采用 GLM 5.2、Kimi 2.7 等开放权重模型,替代高成本前沿模型;引入 LLM 网关实现模型智能路由,根据任务需求匹配最合适模型;实施缓存感知架构,将 LibreChat 缓存命中率从 5% 提升至 60%。此外,公司要求工程师保持上下文精简,以降低推理成本。Armstrong 强调,目标不是限制 AI 使用,而是构建可支撑指数级增长的基础设施,未来模型选择应由 AI 自动完成。

250
Coinbase 削减近半 AI 支出:默认开放权重模型、智能路由与缓存策略解析
Coinbase
2026-06-27 19:36:35

Coinbase AI支出削减近半:改用GLM 5.2、Kimi 2.7等开放权重模型,缓存命中率飙升至60%

Coinbase CEO Brian Armstrong 详细披露了公司AI支出大幅缩减的实践路径:通过LLM网关默认启用GLM 5.2、Kimi 2.7等开放权重模型、智能模型路由与缓存优化,AI支出削减近50%,同时token使用量持续增长。关键措施包括:91%员工从未触及使用上限,因此未设置提醒而是更换低成本默认模型;缓存命中率从5%提升至60%;精简上下文、自动路由等。Armstrong认为未来应由AI自动选择模型,而非人类。

270
Coinbase AI支出削减近半:改用GLM 5.2、Kimi 2.7等开放权重模型,缓存命中率飙升至60%