定义
将检索系统与大型语言模型相结合的AI技术。
Embedding模型获取
https://modelscope.cn
在LangChain中，问答链的文档处理方法主要有以下几种：
1. Stuff（填充）
原理：将检索到的所有文档直接拼接成一个完整的上下文，一次性输入给LLM
优点：简单高效，保留所有信息，文档间关系完整
缺点：受限于上下文窗口大小，文档太多时会截断信息
适用场景：少量相关文档的简单问答
2. Map-Reduce（映射-归约）
映射阶段：对每个文档分别调用LLM，生成对应的文档摘要
归约阶段：将所有摘要汇总，再次调用LLM生成最终答案
优点：可处理大量文档，不受上下文窗口限制
缺点：计算成本高，可能丢失文档间的关联信息
适用场景：大量文档的复杂分析任务
3. Refine（精炼）
迭代过程：先用一个文档生成初步答案，然后逐步用其他文档精炼完善答案
特点：保持答案的连贯性，逐步优化
优点：相比Map-Reduce更连贯，保留文档间关系
缺点：迭代调用LLM，响应较慢
适用场景：需要高质量答案且文档数量适中的场景
4. Map-Rerank
步骤：分别处理每个文档并给出评分，选择最佳答案
特点：多候选答案比较，选择最优解
适用场景：对答案质量要求极高的场景