当前位置：首页 > news >正文

LangGraph 多用户并发：Thread 会话隔离 + Redis 持久化，彻底解决 Agent 上下文串话泄露

news 2026/7/19 0:13:06

平时遇到线上AI Agent一旦上线多用户并发，会出现致命级 Bug：用户 A 询问订单数据，用户 B 对话里突然出现 A 的隐私订单；用户聊完 A 的业务，切换会话后历史记忆错乱；批量并发请求时，不同用户 LLM 上下文互相穿插，回答完全答非所问。

根源只有一个：

多用户共享同一个 Agent 状态空间，发生状态泄露。很多开发者尝试手动拆分历史消息、前端缓存对话记录，不仅开发成本高，还无法实现对话回滚、多轮记忆持久化、会话断点续聊。

底层原理：LangGraph Thread 如何实现会话完全隔离

Thread 核心定义
==============

Thread 是 LangGraph 内置逻辑隔离单元，核心依靠唯一thread_id作为会话标识，具备三大隔离特性：

独立状态空间：不同 thread_id 的 messages、自定义状态完全互不共享；

独立 Checkpoint 快照：每个会话拥有专属历史记录，撤回、分支不会影响其他用户；

独立配置上下文：图执行参数、记忆边界完全隔离。

核心运行逻辑
=========

所有用户共用同一个 Graph 实例、同一套 Redis 存储，仅通过 config 内的 thread_id 做数据分区：

# 用户1会话配置 config_user1 = {"configurable": {"thread_id": "user_1001_session_01"}} # 用户2会话配置 config_user2 = {"configurable": {"thread_id": "user_1002_session_01"}} # 底层Redis自动按thread_id分区存储状态，读写互不干扰 await graph.ainvoke(inputs, config=config_user1) await graph.ainvoke(inputs, config=config_user2)

隔离性验证逻辑
==========

简单测试即可证明隔离效果：

thread1 存入记忆：我叫张三，工程师；
thread2 存入记忆：我叫李四，设计师；
询问 thread1 “我叫什么”，只会返回张三，完全看不到李四信息；
询问 thread2 仅返回李四，无任何跨会话数据泄露。

业务层：Thread 隔离粒度怎么选？4 种场景落地方案

thread_id 拼接规则直接决定业务灵活性，4 种主流隔离粒度覆盖全部 Agent 场景：

用户级隔离 thread_id = f"user:{user_id}"
适用：通用单会话聊天机器人；优点实现简单；缺点同一用户无法新建独立对话。
会话级隔离（最推荐） thread_id = f"user:{user_id}:session:{session_id}"
适用：客服系统、多会话对话；优点一个用户可创建多个独立聊天窗口，会话互不干扰。
文档级隔离 thread_id = f"doc:{doc_id}"
适用：本地知识库 RAG 文档问答；每个文档对应独立对话，跨文档不会混入上下文。
任务 / 工单级隔离 thread_id = f"task:{task_id}"
适用：工作流智能体、审批流程 Agent；每个任务状态独立，流程执行互不干扰。
多维度组合隔离 thread_id = f"org:{org_id}:user:{uid}:doc:{did}"
适用：企业多租户 SaaS 系统，租户、用户、文档三层隔离，满足权限合规要求

生产进阶：Thread 生命周期自动管理

长期运行会产生大量过期会话，堆积海量对话快照，占用 Redis 存储，需要做自动清理机制：

记录每个 thread_id 最后活跃时间；
定时扫描过期会话（例如 48 小时无交互自动判定过期）；
过期会话可先归档至 MySQL / 对象存储，再清理 Redis 状态，节省内存；
后台异步定时任务执行清理，不阻塞正常用户请求。

可观测：Thread 会话监控方案

搭配 LangSmith 链路追踪，给每条 Trace 自动挂载 thread_id 标签，线上问题排查效率翻倍：

根据 thread_id 筛选单一用户全部交互日志；
统计每个会话 token 消耗、消息条数、平均响应耗时；
快速定位异常会话：超长对话、频繁超时、幻觉严重的用户会话。

FastAPI 全异步服务（兼容 Redis Thread 隔离）

依赖

pip install fastapi uvicorn langgraph langgraph-checkpoint-redis redis langchain-openai pydantic httpx

main.py —模拟Agent

import asyncio from contextlib import asynccontextmanager from fastapi import FastAPI from fastapi.responses import StreamingResponse from pydantic import BaseModel from typing import List, Optional from datetime import datetime, timedelta from langgraph.graph import StateGraph, START, END, MessagesState from langchain_openai import ChatOpenAI from langgraph.checkpoint.redis.aio import AsyncRedisSaver from langgraph.checkpoint.base import BaseCheckpointSaver from langgraph.checkpoint.memory import InMemorySaver # ===================== 全局资源 ===================== checkpointer: Optional[BaseCheckpointSaver] = None agent = None # llm = ChatOpenAI(model="gpt-4o-mini", streaming=True) api_key="sk-xxxxxxxxxxxxxxxxxxx" base_url="https://api.deepseek.com/v1" llm = ChatOpenAI( model="deepseek-chat", temperature=0.6, api_key=api_key, base_url=base_url ) # Thread生命周期管理器，自动清理过期会话 class ThreadManager: def __init__(self, max_age_hours: int = 48): self.max_age = timedelta(hours=max_age_hours) self.active_threads: dict[str, datetime] = {} def touch(self, thread_id: str): self.active_threads[thread_id] = datetime.now() def get_expired_threads(self) -> list[str]: now = datetime.now() return [ tid for tid, last_active in self.active_threads.items() if now - last_active > self.max_age ] async def cleanup_expired(self, graph): expired_list = self.get_expired_threads() for tid in expired_list: config = {"configurable": {"thread_id": tid}} try: state = await graph.aget_state(config) if state.values: print(f"归档并清理过期会话: {tid}") await graph.adelete_state(config) except Exception as e: print(f"清理会话{tid}失败: {str(e)}") for tid in expired_list: self.active_threads.pop(tid, None) thread_mgr = ThreadManager(max_age_hours=48) # ===================== LangGraph工作流定义 ===================== async def call_model(state: MessagesState): resp = await llm.ainvoke(state["messages"]) return {"messages": [resp]} builder = StateGraph(MessagesState) builder.add_node("agent", call_model) builder.add_edge(START, "agent") builder.add_edge("agent", END) # ===================== 生命周期管理器 ===================== @asynccontextmanager async def lifespan(app: FastAPI): global checkpointer, agent try: # 初始化Redis持久化存储器 checkpointer = AsyncRedisSaver(redis_url="redis://localhost:6379/0") # 连通性测试 await checkpointer.aget_state({"configurable": {"thread_id": "test_conn"}}) print("Redis持久化连接成功，开启Thread会话隔离") except Exception as e: print(f"Redis连接失败，自动降级内存会话存储: {str(e)}") # Redis不可用时切换内存存储，保证对话记忆跨请求生效 checkpointer = InMemorySaver() # 编译工作流，注入状态存储器 agent = builder.compile(checkpointer=checkpointer) # 后台定时清理过期会话（每小时执行一次） async def cleanup_task(): while True: await asyncio.sleep(3600) await thread_mgr.cleanup_expired(agent) asyncio.create_task(cleanup_task()) yield # 退出阶段无需手动关闭连接，saver自动管理 print("服务关闭，资源释放完成") # 初始化FastAPI应用 app = FastAPI(title="多会话隔离AI Agent服务", lifespan=lifespan) # 请求入参模型 class AgentRequest(BaseModel): message: str user_id: str session_id: str = "default" stream: bool = False # 1. 一次性问答接口 @app.post("/agent/invoke") async def invoke_agent(req: AgentRequest): thread_id = f"user:{req.user_id}:session:{req.session_id}" thread_mgr.touch(thread_id) config = {"configurable": {"thread_id": thread_id}} res = await agent.ainvoke( {"messages": [{"role": "user", "content": req.message}]}, config ) return {"response": res["messages"][-1].content, "thread_id": thread_id} # 2. SSE流式打字机输出接口 @app.post("/agent/stream") async def stream_agent(req: AgentRequest): thread_id = f"user:{req.user_id}:session:{req.session_id}" thread_mgr.touch(thread_id) config = {"configurable": {"thread_id": thread_id}} async def event_generator(): async for event in agent.astream_events( {"messages": [{"role": "user", "content": req.message}]}, config, version="v2" ): if event["event"] == "on_chat_model_stream": chunk = event["data"]["chunk"] if chunk.content: yield f"data: {chunk.content}\n\n" yield "data: [DONE]\n\n" return StreamingResponse(event_generator(), media_type="text/event-stream") # 3. 获取用户单会话全部历史（修复req未定义BUG） @app.get("/agent/history/{user_id}/{session_id}") async def get_session_history(user_id: str, session_id: str): # 修复：直接使用路径参数session_id，删除不存在的req变量 thread_id = f"user:{user_id}:session:{session_id}" config = {"configurable": {"thread_id": thread_id}} state = await agent.aget_state(config) msg_list = state.values.get("messages", []) history = [] # 只返回最新20条消息，截断长文本至300字符 for m in msg_list[-20:]: role = "user" if getattr(m, "type", "") == "human" else "assistant" history.append({"role": role, "content": m.content[:300]}) return { "thread_id": thread_id, "message_count": len(msg_list), "history": history } # 服务启动入口（修复uvicorn.run传参语法错误） if __name__ == "__main__": import uvicorn uvicorn.run(app="main:app", host="0.0.0.0", port=8000, reload=True)

隔离性自测脚本 test_run.py

import httpx import asyncio BASE_URL = "http://localhost:8000/agent/invoke" async def test_thread_isolation(): # 两个完全独立会话 payload_a = { "message": "我叫张三，专职做后端开发", "user_id": "u001", "session_id": "s01" } payload_b = { "message": "我叫李四，产品设计师", "user_id": "u002", "session_id": "s01" } async with httpx.AsyncClient() as client: # 分别存入记忆 await client.post(BASE_URL, json=payload_a) await client.post(BASE_URL, json=payload_b) # 查询会话A res_a = await client.post(BASE_URL, json={ "message": "我叫什么名字？", "user_id": "u001", "session_id": "s01" }) # 查询会话B res_b = await client.post(BASE_URL, json={ "message": "我叫什么名字？", "user_id": "u002", "session_id": "s01" }) print("会话A回答：", res_a.json()["response"]) print("会话B回答：", res_b.json()["response"]) # 结果：A只会输出张三，B只会输出李四，无交叉信息即隔离生效 if __name__ == "__main__": asyncio.run(test_thread_isolation())

运行结果

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～