3.3 对话能力集成：多轮对话管理与上下文持久化实现

3.3 对话能力集成：多轮对话管理与上下文持久化实现

一、多轮对话核心

多轮对话需要维护会话上下文，将历史消息在每次请求时一并发送给模型。模型依赖完整上下文才能理解"你"、"它"等指代，以及延续之前的话题。本节介绍上下文管理、长度控制与持久化方案，并提供可直接运行的完整代码。

二、上下文管理

2.1 内存管理

单机、单进程场景下，可用字典按session_id存储每个会话的messages：

# 会话级messages（内存存储）session_messages={}defget_or_create_messages(session_id:str,system_prompt:str="你是有帮助的助手"):ifsession_idnotinsession_messages:session_messages[session_id]=[{"role":"system","content":system_prompt}]returnsession_messages[session_id]defappend_and_chat(session_id:str,user_input:str,client)->str:messages=get_or_create_messages(session_id)messages.append({"role":"user","content":user_input})response=client.chat.completions.create(model="gpt-3.5-turbo",messages=messages,temperature=0.7,max_tokens=500)reply=response.choices[0].message.content messages.append({"role":"assistant","content":reply})returnreply

注意：进程重启后内存清空，生产环境需持久化。

2.2 长度控制策略

当对话轮次增多，messages可能超出模型的上下文窗口（如gpt-3.5-turbo的16K）。常用策略：

2.3 滑动窗口实现示例

deftrim_to_last_n_turns