LLM API 调用成本优化实战：从月烧 3000 到 300，我的经验总结

LLM API 调用的成本优化实战：从月烧 3000 到 300 的经验总结

2026 年模型能力够了，但成本控制不好，一个月 API 费用能跑到几千甚至上万。

这篇文章总结几个经过验证的成本优化策略。

你的钱花在哪了

一个月调用了 1000 万 token（中等规模应用），不同模型的费用：

Claude Opus 4.8： ¥600/月 GPT-5.5： ¥450/月 豆包 2.1 Pro： ¥60/月 DeepSeek-V4： ¥20/月（仅 ¥2/1M token）

但真正的问题是：很多 token 是被浪费的。

浪费在哪里

1. System Prompt 太长

很多人把整套文档塞进 System Prompt。每次对话都带着 2000 token 的 system 消息，一天 1000 次调用就是 200 万 token 打水漂。

优化：

# ❌ 浪费system_prompt="你是一个 AI 助手。以下是 2000 字的公司规则..."# ✅ 按需注入system_prompt="你是一个 AI 助手。"# 只在需要时才注入规则iftask=="customer_support":system_prompt+=rules.get("customer_rules","")

2. 没有缓存重复请求

用户的提问有很多是重复的或相似的。相同的 prompt = 相同的答案，缓存下来下次直接用。

importhashlibimportfunctools@functools.lru_cache(maxsize=500)defcached_llm_call(prompt_hash:str):"""缓存 LLM 调用结果。"""# prompt_hash 是原始 prompt 的 MD5 值passdefcall_llm_with_cache(prompt:str):h=hashlib.md5(prompt.encode()).hexdigest()cached=redis.get(f"llm:{h}")ifcached:returncached.decode()# 缓存命中，零成本result=call_llm_api(prompt)redis.setex(f"llm:{h}",3600,result)# 缓存 1 小时returnresult

一个月 1000 万 token 调用量中，通常 20-30% 是重复或相似的请求。加缓存可以省下 200-300 万 token。

3. 用错模型浪费 Token

每个请求都发给最贵的模型。翻译一句"Hello"用 Claude Opus，和用 DeepSeek 效果一样但贵 30 倍。

4. 上下文太长了没截断

对话持续进行，历史消息越积越多。第 50 轮对话的消息列表可能有 2 万 token。加滑动窗口截断：

deftrim_history(messages,max_tokens=4000):"""只保留最近的消息，保证不超过 max_tokens。"""total=0trimmed=[]forminreversed(messages):tokens=len(m["content"])//2# 粗略估算iftotal+tokens>max_tokens:breaktotal+=tokens trimmed.append(m)returnlist(reversed(trimmed))

优化后的成本对比

优化前：月 1000 万 token，全用 Claude Opus =¥600/月

优化后：

缓存命中（节省 30%）： 3,000K token 路由到 DeepSeek（60%）： 4,200K token × ¥2 = ¥8.4 路由到豆包（25%）： 1,750K token × ¥6 = ¥10.5 路由到 Claude（15%）： 1,050K token × ¥60 = ¥63 总计：¥82/月 节省：86%

成本优化的优先级

第一优先：加缓存（节省 20-30%，零成本） 第二优先：截断上下文（节省 20-40%） 第三优先：多模型路由（节省 50-80%） 第四优先：压缩 System Prompt（节省 10-20%）

监控 API 成本

每月的 API 花销应该能追踪：

deftrack_cost(provider,model,tokens_used):"""记录每次调用的成本。"""prices={("deepseek","deepseek-chat"):2,# ¥/1M input("doubao","doubao-2.1-pro"):6,("claude","claude-opus-4-8"):60,}price=prices.get((provider,model),10)cost=tokens_used/1_000_000*price# 写入统计withget_db()asconn:conn.execute("INSERT INTO llm_costs (provider, model, tokens, cost, created_at) VALUES (?,?,?,?,?)",(provider,model,tokens_used,cost,int(time.time())))conn.commit()

周报/月报看一眼，就知道钱花在哪了。

总结

LLM 成本控制的核心不是"少用"，而是"用对"。

缓存重复请求 → 省 30% 截断长上下文 → 省 30% 多模型路由 → 省 50% System Prompt → 省 10% 加在一起能省 80-90%

你的 API 成本大概多少？用了什么优化手段？
本文由 Zyentor（智元界）原创发布

本文发布于 Zyentor（智元界） —— AI 开发者社区
原文链接：https://www.zyentor.com/news/4100