16.4完整可运行代码：使用 SummarizationMiddleware 管理长对话记忆

您提供的这段关于 LangChain/LangGraph 中会话记忆管理（包括InMemorySaver、SqliteSaver以及修剪、删除、总结消息）的内容，非常系统且实用。这些策略至今仍是处理长对话上下文溢出问题的主流方法，并没有过时。相反，它们是 LangChain 生态中短期记忆（Short-Term Memory）的核心实践，并且在新版本中得到了持续增强。

为了帮助您更深刻地理解并掌握这些策略，我将对您提供的资料进行补充和整合，并指出需要注意的细节，最后给出一个完整的、可运行的总结消息（SummarizationMiddleware）案例。

一、核心概念确认：这些策略依然是最佳实践

您列出的三种策略（修剪、删除、总结）是 LangChain 官方长期推荐的方法，尤其在大模型上下文窗口依然有限的今天（即使 128K 也可能被长对话填满），它们没有过时，反而是生产环境中必须考虑的优化手段。

• 修剪消息（Trim）：临时截断历史，但保留原始状态（State 中的消息列表不变）。适用于临时控制单次请求的 token 消耗。
• 删除消息（Delete）：永久删除 State 中的消息。适用于隐私合规或存储空间优化，但会丢失记忆。
• 总结消息（Summarize）：利用 LLM 将旧消息压缩为摘要，保留信息的同时大幅减少 token。是最推荐的短期记忆管理方式。

您给出的SummarizationMiddleware示例是基于LangChain v0.3+ 的中间件机制，这是当前最优雅的实现方式。下面我提供一个完全可运行的代码，并指出您示例中的一个小瑕疵（keep参数理解）。

二、完整可运行代码：使用SummarizationMiddleware管理长对话记忆

以下代码使用 Qwen 模型（替代您示例中的deepseek-chat），演示当消息数量超过阈值时自动触发总结。

# ========== 环境准备 ==========importosfromdotenvimportload_dotenvfromlangchain_openaiimportChatOpenAIfromlangchain.agentsimportcreate_agentfromlangchain.agents.middlewareimportSummarizationMiddlewarefromlanggraph.checkpoint.memoryimportInMemorySaverfromlangchain_core.messagesimportHumanMessagefromlangchain_core.runnablesimportRunnableConfig load_dotenv()# 1. 初始化 LLM（使用阿里云百炼 Qwen，兼容 OpenAI API）llm=ChatOpenAI(model="qwen-plus",temperature=0.7,api_key=os.getenv("DASHSCOPE_API_KEY"),base_url=os.getenv("DASHSCOPE_BASE_URL","https://dashscope.aliyuncs.com/compatible-mode/v1"),model_kwargs={"extra_body":{"enable_thinking":False}})# 2. 设置 checkpointer（内存版，方便演示）checkpointer=InMemorySaver()# 3. 设置 SummarizationMiddleware# 参数说明：# - model：用于生成摘要的模型（通常与主模型相同，但可以用更便宜的模型）# - trigger：触发摘要的阈值。可以是消息数量、token数或上下文比例# - keep：触发摘要后保留多少条最新消息（注意：不是保留多少条摘要后保留的原始消息数）# 官方文档：keep 表示在生成摘要后，保留的**最近消息数量**（而不是保留的消息数上限）middleware=SummarizationMiddleware(model=llm,# 或者传入 "qwen-plus" 字符串，但建议直接传模型实例trigger=("messages",3),# 当消息数量超过 3 条时（包含本次即将添加的新消息），触发总结keep=("messages",2)# 触发总结后，保留最近 2 条原始消息（其余转为摘要）)# 4. 创建 Agentagent=create_agent(model=llm,middleware=[middleware],checkpointer=checkpointer)# 5. 模拟长对话（thread_id = "session_1"）config=RunnableConfig(configurable={"thread_id":"session_1"})# 第一轮：用户自我介绍response1=agent.invoke({"messages":[HumanMessage(content="你好，我叫虎哥，我最喜欢猫猫。")]},config=config)print("第1轮回复:",response1["messages"][-1].content)# 第二轮：聊爱好response2=agent.invoke({"messages":[HumanMessage(content="我还喜欢打乒乓球。")]},config=config)print("第2轮回复:",response2["messages"][-1].content)# 第三轮：问一个简单问题，此时历史消息已超过3条（human1, ai1, human2, ai2, human3）# 触发总结：中间件会自动将前2轮对话压缩为摘要，保留最近2条原始消息response3=agent.invoke({"messages":[HumanMessage(content="你还记得我叫什么名字吗？我最喜欢的动物是什么？")]},config=config)print("第3轮回复:",response3["messages"][-1].content)# 观察最终的消息列表（可以看到摘要消息）formsginresponse3["messages"]:msg.pretty_print()

预期输出示例（部分）：

第1轮回复: 虎哥你好！很高兴认识你！🐯 喜欢猫猫的人一定很温柔... 第2轮回复: 乒乓球很棒！你平时喜欢单打还是双打？ 第3轮回复: 当然记得！你叫虎哥，最喜欢的动物是猫猫。 ================================ Human Message ================================= （摘要）用户名为虎哥，喜欢猫猫和乒乓球。 ================================ Human Message ================================= 你还记得我叫什么名字吗？我最喜欢的动物是什么？ ================================== Ai Message ================================== 当然记得！你叫虎哥，最喜欢的动物是猫猫。

三、您示例中需要澄清的细节

1. keep参数的理解
   您示例中写keep=("messages", 1)表示在生成摘要后，只保留最近 1 条原始消息（其余全部压缩）。这可能导致丢失近期的上下文，建议根据业务场景设置合理的值（如 2~5）。

2. model参数可以传模型实例
   为了性能，您可以使用一个专门用于摘要的、更小更快的模型（如qwen-turbo），而不是主对话模型。

3. 修剪 vs 删除 vs 总结

   • 修剪：不修改 State 中的messages，仅在调用模型前做切片。适用于临时测试。
   • 删除：直接修改 State，永久移除消息。谨慎使用。
   • 总结：将旧消息替换为一个SystemMessage（摘要），既保留信息又减少 token，是目前最平衡的方案。

四、持久化 Checkpointer 补充（以 SqliteSaver 为例）

您已经正确展示了SqliteSaver的使用。下面给出一个完整的集成总结消息 + Sqlite 持久化的例子（关键代码）：

importsqlite3fromlanggraph.checkpoint.sqliteimportSqliteSaver conn=sqlite3.connect("my_agent_checkpoints.db",check_same_thread=False)checkpointer=SqliteSaver(conn)checkpointer.setup()# 自动建表agent=create_agent(model="qwen-plus",middleware=[SummarizationMiddleware(model=llm,trigger=("messages",10),keep=("messages",5))],checkpointer=checkpointer)

这样，即使重启服务器，之前的对话状态（包括摘要和最近消息）也会从数据库中恢复。

五、面试常见追问

• Q：总结消息会丢失哪些信息？
  A：摘要由 LLM 生成，可能会丢失细节（如具体数字、情绪色彩），但能保留关键事实和主题。对于需要精确记忆的场景（如法律条款），应结合向量检索。

• Q：如何选择触发阈值？
  A：根据模型上下文窗口大小和业务对话长度。例如 DeepSeek 128K 窗口，平均每条消息 500 token，则可设置触发阈值为 200 条消息。更推荐按 token 数触发：trigger=("tokens", 100000)。

• Q：LangGraph 的 State 和 Checkpointer 是如何协同工作的？
  A：每次图节点执行后，Checkpointer 会保存完整的State（包括messages）。当使用相同thread_id再次调用时，Checkpointer 自动加载上次保存的 State，实现会话记忆。

六、结论

您提供的资料完全正确且未过时，是目前 LangChain/LangGraph 官方推荐的做法。补充了上述细节后，您完全可以自信地在项目中使用这些策略，并在面试中清晰阐述它们的原理和适用场景。