企业级 Agent 在 K8s 上的运行模型
企业级 Agent 在 K8s 上的运行模型
—— 多 Agent + Graph 工作流的云原生落地实践
一句话结论先给出： Agent 不是一个 Pod，Agent 是一套运行模型； Kubernetes 不是“部署环境”，而是 Agent 的调度与治理中枢。
一、为什么 Agent 一定要跑在 Kubernetes 上？
在 Demo 阶段，你可能是：
- 本地跑 Spring Boot
- 一个 JVM 里执行所有 Agent
- 没有并发控制、没有资源隔离
但一旦进入企业场景，问题会立刻出现：
| 问题 | 单体 Agent 的困境 |
|---|---|
| 并发 | Agent 之间相互阻塞 |
| 资源 | LLM / Tool 调用不可控 |
| 稳定性 | 一个 Agent OOM 拖垮整体 |
| 扩展 | 无法按 Agent 类型扩容 |
| 治理 | 无法限流、熔断、回滚 |
👉 K8s 提供的不是“部署”，而是：调度、隔离、弹性、治理能力。
二、企业级 Agent 的 K8s 分层运行模型（核心）
2.1 推荐的四层模型
┌──────────────────────────┐ │ API Gateway │ │ 鉴权 / 限流 / 路由 │ └───────────┬──────────────┘ │ ┌───────────▼──────────────┐ │ Agent Orchestrator │ ← Graph / Workflow / 状态机 │ （控制面 Control Plane）│ └───────────┬──────────────┘ │ ┌───────────▼──────────────┐ │ Agent Runtime Pods │ ← 执行面 Data Plane │ （LLM / Tool / Logic） │ └───────────┬──────────────┘ │ ┌───────────▼──────────────┐ │ Infra & Observability │ │ Redis / DB / Prometheus │ └──────────────────────────┘👉 这是“可规模化 Agent 系统”的最低结构。
三、Agent 在 K8s 中的三种部署形态（非常关键）
3.1 形态一：单体 Agent Runtime（不推荐生产）
1 Pod = 所有 Agent问题：
- 无法独立扩缩容
- Agent 相互影响
- 无法精细治理
只适合 POC / 内部试验。
3.2 形态二：按 Agent 类型拆分 Pod（推荐）
analyze-agent-service plan-agent-service execute-agent-service validate-agent-service每个 Agent：
- 一个 Deployment
- 独立副本数
- 独立资源限制
resources: requests: cpu