RAG系统在生产环境中有个老大难问题：脆弱。演示时用精心准备的问题去问，效果看起来很惊艳。但真正上线后，用户的问题五花八门，向量数据库返回的文档语义上相似但实际答非所问，LLM又特别喜欢讨好，拿着一堆噪音数据照样能编出一套看似合理的答案。
那么问题出在哪呢？标准RAG是典型的开环架构：输入 → 嵌入 → 检索 → 生成，一条线走到底。每个环节都假设上游输出是完美的，一旦某步出错，错误就会一路传导到最终结果。
要做企业级的RAG应用，必须转向闭环系统，也就是所谓的自愈RAG。这里的核心思路是让系统具备自省能力：检测到问题后能自主纠正，而不是把错误直接甩给用户。
https://avoid.overfit.cn/post/d95478d7799646acbed0e0d2dc2c480d