工作总结-sse接口心跳
项目需要使用大模型从文件内容中提取问答对,文件内容是通过mcp工具解析出来的。大模型提取问答对,时间不固定。使用sse协议发送给前端,因为需要对每个问题加id字段,分批处理文本。时间还是不固定,长时间不返回数据给前端,导致前端请求超时。
使用python 异步执行文件提取任务,每个5秒检测任务是否完成,任务没有完成,发送一个数据给前端,表示文件还没解析完。文件附件解析完后,把解析内容,返给前端。都解析完了,解析完成字段设置为true。
1. 一个是使用sse
2. 拆分文件内容
3. 定时发送数据给前端,保活,避免超时
Please call me JiangYouDang!
