Kubernetes 上的 Langflow 架构

Langflow 的部署主要有两种类型：

Langflow IDE（开发环境）：同时部署 Langflow 可视化编辑器（前端）和 API（后端）。这通常用于开发环境，开发人员在此使用可视化编辑器创建和管理工作流，然后将其打包并通过生产运行时部署来提供服务。

Langflow 代码仓库中的docker-compose.yml示例文件构建的就是一个 Langflow IDE 镜像。

有关在 Kubernetes 上部署 IDE 的信息，请参阅《在 Kubernetes 上部署 Langflow 开发环境》。

Langflow 运行时（生产环境）：部署用于生产工作流的 Langflow 运行时，它是一个无头服务（仅后端），专注于提供 Langflow API。这用于生产环境，在此环境中，工作流以编程方式执行，无需可视化编辑器。服务器将您的工作流公开为端点，然后仅运行服务每个工作流所需的进程。

与默认的 SQLite 数据库相比，强烈建议在此部署类型中使用外部 PostgreSQL 数据库，以提高可扩展性和可靠性。

有关在 Kubernetes 上部署运行时的信息，请参阅《在 Kubernetes 上部署 Langflow 生产环境》。

💡 核心要点与解读

这段架构说明清晰地定义了两种部署模式，根据你的使用场景，选择建议如下：

选择建议：

• 如果你正在设计和调试LangFlow工作流，应该使用IDE 部署，以便利用其可视化界面。

• 如果你需要在应用程序中调用和运行已成型的工作流，则应部署更精简、高效的运行时。

在 Kubernetes 上部署 Langflow 的优势

在 Kubernetes 上部署 Langflow 具有以下优势：

可扩展性：Kubernetes 允许您根据工作负载的需求扩展 Langflow 服务。

高可用性与弹性：Kubernetes 提供了自动故障转移和自我修复等内置弹性功能，确保 Langflow 服务始终可用。

安全性：Kubernetes 提供了基于角色的访问控制和网络隔离等安全功能，以保护 Langflow 服务及其数据。

可移植性：Kubernetes 是一个可移植的平台，这意味着您可以将 Langflow 服务部署到任何 Kubernetes 集群，无论是在本地还是在云端。

Langflow 可以部署在 AWS EKS、Google GKE 或 Azure AKS 等云平台上。更多信息，请参阅 Langflow Helm charts 代码仓库。

Langflow 部署

一个典型的 Langflow 部署包括：

Langflow 服务：Langflow API，对于 IDE 部署，还包括可视化编辑器。
Kubernetes 集群：Kubernetes 集群为部署和管理 Langflow 及其支持服务提供平台。
持久化存储：持久化存储用于存储 Langflow 服务的数据，例如模型和训练数据。
Ingress 控制器：Ingress 控制器为流向 Langflow 服务的流量提供单一入口点。
负载均衡器：在多个 Langflow 副本间平衡流量。
向量数据库：如果您将 Langflow 用于 RAG，可以与 Astra Serverless 中的向量数据库集成。

Kubernetes 上的 Langflow 参考架构

环境隔离
建议为 Langflow 分别部署和运行独立的开发环境与生产环境：

• 在开发环境中部署 IDE，供您的开发人员在此创建原型和测试新的工作流。

• 在生产环境中部署运行时，将工作流作为独立服务对外提供。

环境隔离设计的目的
这种分离旨在增强安全性、支持有序的软件开发流程以及优化基础设施资源分配：

隔离性：通过分离开发环境和生产环境，您可以更好地隔离应用程序生命周期的不同阶段。这种隔离最大限度地降低了开发相关问题影响生产环境的风险。

访问控制：可以为每个环境应用不同的安全策略和访问控制。开发人员在 IDE 中可能需要更广泛的访问权限以进行测试和调试，而运行时环境则可以通过更严格的安全措施加以锁定。

减少攻击面：运行时环境被配置为仅包含基本组件，从而减少了攻击面和潜在的漏洞。

优化资源使用与成本效益：通过分离这两个环境，您可以更有效地分配资源。每个工作流都可以独立部署，从而实现细粒度的资源控制。

可扩展性：可以根据应用程序负载和性能要求独立扩展运行时环境，而不会影响开发环境。