成本控制必修课：如何在代码中精确计算并限制 LLM 的 Token 消耗？

Token 正在从资源变成负债。2026年的 LLM 赛道已经换了玩法——单价在暴跌，但总账单在暴涨。那些还在无脑往 API 里塞上下文的开发者，正在用真金白银为每一段冗余文本买单。本文带你从 Token 计数、限流、缓存、路由到网关治理，完整拆解一套生产级 Token 成本控制方案。

一、为什么你需要立刻关注 Token 消耗？

1.1 价格暴跌，但总账单暴涨的悖论

过去 18 个月，LLM API 的单价走了一条近乎垂直的下行曲线。根据多家 API 定价追踪机构的对比数据，GPT-4o 的输入价格从 2025 年初的 $5/M 降至 $2.50/M（降幅 50%），o3 的输入价格更是从初始定价下降了 80%，而国产厂商 DeepSeek V4-Pro 则直接把缓存命中输入单价打到了 0.025 元/百万 Token 的全球新低。

价格的另一端，企业实际支出却在飙升。CloudZero 发布的调研数据显示，40% 的企业在 AI 上的年支出已突破 1000 万美元。OpenAI API 的年均企业支出，根据 Zylo 于 2026 年 4 月发布的数据，约为 38.45 万美元。

这是经典的“剪刀差”现象：单价降了 99%，但实际消耗量激增 30-100 倍。更深层的原因在于：模型上下文窗口从 128K 扩展到 1M 甚至更高，应用从单轮问答演进到 Agent 自主任务执行，单次调用的 Token 体量成倍