当前位置: 首页 > news >正文

工作总结-后端接口响应慢-流式sse输出

工作总结-后端接口响应慢-流式sse输出

最近陪练要做一个解析课程附件,提取附件问答对列表的接口。调用MCP工具解析文本内容,使用大模型提取附件QA列表。附件内容比较多,可能有几万字。解析时间比较长。按1w字切分成多个任务,大概要2分钟左右。不固定,主要是大模型解析时间不固定。

需要解决的问题

1. 时间太长,前端和网关会连接超时

2.客户会比较焦虑

第一版方案:前端调用后端接口,传课程附件。后端返回前端课程id,异步执行解析附件内容。把课程id写到数据库。前端不断调用后端接口,轮询解析是否完成

问题:

1. 需要新建临时表,还需要定时任务,处理临时数据

2.公司不让用前端轮询的方案

组长给了个使用sse的方案,流式输出

1. 使用sse返回前端数据,连接不会断开

2.可以显示解析进度,让用户了解当前进展,是在动的

方案确实比第一版方案好,没有数据库临时表,也不用处理临时数据。用户体验也好

中间还有个小插曲,组长问我第一版方案,要创建多少个表。我说一个表,课程id和解析内容。组长说不够,解析内容可能很多,可能还需要问答表。思路还是不够严谨