LiteLLM 完全指南：统一 LLM API 网关
什么是 LiteLLM
LiteLLM 是一个开源的 LLM API 网关，用统一的 OpenAI 格式调用 100+ 大语言模型。无论后端是 OpenAI、Anthropic、Google Vertex AI、AWS Bedrock 还是其他提供商，开发者只需学一套 API。
核心价值：
- 统一接口— 一套 OpenAI 格式调用所有 LLM
- 无缝切换— 换模型只改一个字符串，代码不动
- 成本管控— 按项目/用户追踪花费，设预算上限
- 高可用— 内置重试、降级、负载均衡
- 安全管控— Virtual Key 认证，细粒度权限控制
官方文档：docs.litellm.ai
GitHub：github.com/BerriAI/litellm
两种使用方式
| Proxy Server（API 网关） | Python SDK |
|---|