RAG——什么是RAG

什么是RAG？

RAG全称Retrieval-Augmented Generation，RAG（检索增强生成）是一种将信息检索与语言模型生成相结合的技术，通过先检索外部知识库中的相关文档作为参考，再让大模型基于这些资料生成回答，从而提升准确性和时效性。

RAG的由来

怎么查询公司产品A的信息？

直接问大模型，但是大模型也不知道，因为大模型并不知道你公司的内部产品信息。

哎，如果发送问题时候，把产品使用手册一起发给大模型不就好了？

痛点

但是如果产品手册太大，会带来问题：

• 模型无法读取所有内容
• 模型推送成本太高
• 模型推理慢

方案

此时RAG就登场了。RAG能将产品手册分成多个片段

片段中只有某几个和用户真正的问题相关，那么把这几个片段和用户问题一起发给大模型，

这样产品手册太大，大模型无法处理的问题，就能迎刃而解。

RAG的基本流程

准备(提问前)

分片
索引

回答 (提问后)

召回
重排
生成