当前位置：首页 > news >正文

【AI开发神器】大模型“闭卷考试“不及格？RAG技术让它“开卷答题“！

news 2026/5/11 20:51:08

我相信你肯定遇到过这种情况，问ai一个问题，它回答的非常流畅、非常像那么一回事，但看着看着你会觉得越来越不对劲。没错，开始一本正经的胡说八道了。就比如说我问它“咱们公司的报销制度是什么”，毕竟它根本不知道公司制度，但它就是能编，因为如之前所说，ai的输出就是一个计算概率的问题，给你一篇看起来很合理的内容，非常简单。

1.大模型回答问题时，默认是“闭卷考试”。

原因只有 3 个：

1.训练数据是过去的，模型不知道今天、今年、你公司刚改的规则。

2.它不认识你的私有内容，内部文档、制度、知识库，对模型来说全部是“不存在的世界”。

3.它的本能是编一个最像答案的答案，看起来合理，实际不一定正确。你看到的不是“智能”，而是高水平的猜测。

2.解决这个问题，RAG就是一个很好的方案。

RAG，英文全称叫做Retrieval-Augmented Generation，即检索增强生成。原理就是让大模型先查资料，再回答问题。需要注意RAG 不是让模型更聪明，而是让它“有资料可查”。

再拿公司报销制度来对比：

❌ 没有 RAG，让ai自由发挥

你问：

「我们公司的报销流程是怎样的？」

AI：

「一般来说，公司报销需要先填写申请单，经部门领导审批后……」

看着没毛病，但全是“一般来说”。

✅ 有 RAG，ai的开卷答题

系统在背后做了 3 件事：

1.找到你公司的报销制度

2.把最相关的几段原文拿出来

3.把这些内容塞给 AI

AI 回答：「根据报销制度第 3.2 条：差旅报销需在 5 个工作日内提交……」

3.RAG是怎么工作的？

用户问题 ↓ 向量化（Embedding） ↓ 向量数据库相似度搜索 ↓ 取 Top-K 文档片段 ↓ 拼接 Prompt ↓ 大模型生成答案

用一句话串起来：用户提问 → 找最像的问题资料 → 把资料交给模型 → 模型基于资料回答。

4.有哪些场景适合用RAG呢？下面这些情景墙裂建议！

公司内部知识库
产品文档 / 技术文档
法律、金融、医疗等不能瞎编的内容
经常更新的规则、制度、资料

目前市面上有很多的RAG搭建方案。我常用的是All-in-one方案。别人已经搭建好了RAG，我只管上传文档，提问就好。比如Dify、Ragflow、FastGPT，其实Notion AI本质也是RAG。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。