从零开始做一个高校课程资料 AI Agent 问答系统（七）手把手配置真实大模型

从零开始做一个高校课程资料 AI Agent 问答系统

大模型解答专业课知识点幻觉频发、脱离教材？计算机毕设选题内卷，不想做老旧管理系统？零基础想学RAG开发，看不懂架构、跑不通项目？

本专栏纯零基础、校园专属、全流程闭环、可答辩可商用，手把手搭建高校课程资料RAG Agent问答系统，一套项目搞定自学备考、高分毕设、求职加分、校园副业四大核心需求。

🔥专栏核心差异化优势
✅校园垂直适配：兼容课件PPT、专业课PDF、历年真题、课堂笔记等全格式校内资料，贴合教学答疑逻辑
✅彻底克制幻觉：问答溯源校内原始资料，自带文档页码来源，答案严谨合规，杜绝AI编造考点错题
✅低门槛上手：弱化冗余理论，逐行代码实操，Python基础即可学完，从环境搭建到部署上线一站式教学
✅项目复用价值高：1. 自用备考：私人AI专业课助教，考点答疑、真题解析、章节梳理一键完成。2. 高分毕设：2026优选AI选题，创新点充足，论文易撰写、答辩通过率高。3. 求职赋能：掌握混合检索、Agent调度、幻觉抑制工业方案，补齐大模型岗位项目经验。4. 副业变现：可复刻院系/班级知识库，承接校内AI答疑系统定制接单

📚Full-Process Technical Chain链路
学术文档降噪处理→专属语义切片→向量库部署→混合检索优化→RAG幻觉优化→Agent智能问答→前端可视化搭建→项目部署→毕设赋能→系统迭代扩容

👥适配人群
💡专栏配套福利

• 计算机本硕学生：搞定毕设、课程大作业、面试项目
• AI零基础开发者：快速落地RAG+Agent成品项目
• 校内师生：搭建班级/院系专属课程AI知识库
• AI求职者、副业从业者：积累垂直项目、拓展校园定制接单业务

附赠全套可运行源码、课程资料包、毕设模板、报错排错手册，全程伴学答疑，省去全网找代码、调试踩坑时间。

手把手配置真实大模型

如果想完全用本地的模型，可以按照下面👇的方法

1. 配置本机 Ollama 模型(qwen2.5:14b-instruct-q4_K_M)

1.1 复制配置文件

进入后端目录：

cd 你的路径\agent\backend

如果还没有 .env 文件，执行：

copy.env.example.env

1.2 修改 .env

打开：

E:\CodeX\agent\backend\.env

默认内容类似：

APP_ENV=local DATABASE_URL=sqlite:///./rag_assistant.db UPLOAD_DIR=uploads LLM_PROVIDER=stub LLM_API_KEY= LLM_BASE_URL=https://api.openai.com/v1/chat/completions LLM_MODEL=gpt-4o-mini LLM_TIMEOUT_SECONDS=30

如果要启用本机 Ollama 模型真实模型，以千问qwen2.5:14b-instruct-q4_K_M为例，将配置改成：

LLM_PROVIDER=openai_compatible LLM_API_KEY=ollama LLM_BASE_URL=http://localhost:11434/v1/chat/completions LLM_MODEL=qwen2.5:14b-instruct-q4_K_M LLM_TIMEOUT_SECONDS=120

注意：不要把 .env 提交到 Git。

.env 里有 API Key，属于本地敏感配置。

1.3 启动后端

1.3.1 终端打开

uvicorn app.main:app--reload

打开：

http://127.0.0.1:8000/docs

1.3.2 pycharm打开

配置 PyCharm Run Configuration

1. 点右上角运行配置下拉框
2. 点Edit Configurations...
3. 点+
4. 选择Python
5. 配置：

Name: Java Web RAG Backend Working directory: 你的路径\agent\backend

6. Script path不填 uvicorn 文件，推荐用Module name

如果你的 PyCharm 有Module name选项，填：

uvicorn

7. Parameters填：

app.main:app --reload

8. Python interpreter选择：

你的路径\agent\backend\.venv\Scripts\python.exe

9. 保存后点运行按钮。

如果你找不到Module name，也可以在Script path里填：

你的路径\agent\backend\.venv\Scripts\uvicorn.exe

然后Parameters仍然填：

app.main:app --reload

1.4 上传课程资料

在 Swagger 里调用：

POST /api/documents

上传 Java Web 实验指导书、PPT、PDF、Markdown 或代码文件。

确认返回：

status = indexed

1.5 调用问答接口

在 Swagger 里调用：

POST /api/chat/ask

请求体示例：

{"question":"ajax是什么意思？","question_type":"code_explanation","session_id":null}

• 模型正在调用中
  
• 如果配置正确，answer 会更像真实大模型生成的自然语言回答。
  

如果 API Key 没配、网络失败或模型服务异常，系统会自动回退到 stub，仍然返回基于检索片段的回答。

2. 调用deepseek大模型

如果没有可用本地的模型，可以按照下面👇的方法，引入平台的链接比如deepseek
如果要调用deepseek大模型的真实模型，以deepseek-v4-flash为例，将配置改成：

LLM_PROVIDER=openai_compatible LLM_API_KEY=换成你的实际DeepSeek API Key LLM_BASE_URL=https://api.deepseek.com/chat/completions LLM_MODEL=deepseek-v4-flash LLM_TIMEOUT_SECONDS=120

其他步骤和上面👆配置本机 Ollama 模型(qwen2.5:14b-instruct-q4_K_M)的一致。

2.1 调用deepseek进行问答

在 Swagger 里调用：

POST /api/chat/ask

请求体示例：

{"question":"ajax在ie和非ie浏览器中的区别？","question_type":"code_explanation","session_id":null}

• 模型正在调用中
  
• 如果配置正确，answer 会返回deepseek大模型生成的自然语言回答。

• 并且我们也可以看到deepseek确实产生了调用
  

3. 升级后的系统流程

升级前：

学生问题 -> 检索 chunks -> build_prompt -> generate_grounded_stub_answer -> 保存问答 -> 返回答案和引用

升级后：

学生问题 -> 检索 chunks -> build_prompt -> get_llm_provider -> 如果是 openai_compatible 且配置了 API Key，调用真实模型 -> 如果没有配置或调用失败，回退 stub -> 保存问答 -> 返回答案和引用

这个升级让系统从“后端 RAG MVP”前进到“可接真实大模型的 RAG 应用”。

4. 这一步和完整 Agent 的关系

接入真实 LLM 后，系统还不是完整 Agent，但已经更接近 Agent。

完整 Agent 还需要：

• 工具注册。
• 工具调用协议。
• 多步骤任务规划。
• Agent loop。
• 执行状态保存。
• 人工确认节点。
• 日志追踪。
• 成本统计。
• 权限控制。
• 评测体系。

当前第二阶段解决的是：

让系统具备真实大模型生成能力。

下一阶段需要继续做：

把“检索课程资料”“生成章节重点”“生成复习题”“生成实验 FAQ”封装成工具， 再用一个简单 Agent Harness 管理这些工具调用。