保姆级教程：在RuoYi-AI里用Ollama跑通本地Llama3模型（附完整配置截图）
零基础实战：RuoYi-AI与Ollama深度整合指南
第一次在本地环境跑通Llama3模型时，那种"不依赖任何云服务"的成就感至今难忘。作为一款开箱即用的AI开发框架，RuoYi-AI与Ollama的组合让本地大模型部署变得前所未有的简单——但魔鬼往往藏在配置细节里。本文将带你穿越那些官方文档没细说的配置雷区，用三十多张实机截图还原每个关键步骤。
1. 环境准备与前置检查
在开始配置之前，我们需要确保两个核心组件已正确就位。打开终端，依次执行以下验证命令：
# 检查RuoYi-AI服务状态 docker ps | grep ruoyi-ai # 验证Ollama服务运行 curl http://localhost:11434常见的环境问题往往出现在三个方面：
- 端口冲突：11434端口被其他服务占用
- 权限不足：Ollama需要读写模型目录的权限
- 版本不匹配：RuoYi-AI与Ollama存在兼容性问题
提示：如果遇到
Connection refused错误，先确认Ollama是否以守护进程方式运行（ollama serve）
通过ollama list查看已安装模型时，输出应该类似这样：
| MODEL NAME | SIZE | DIGEST |
|---|---|---|
| llama3 | 4.7GB | 6c0f9... |
这个表格中的MODEL NAME字段将成为后续配置的关键参数。我曾见过开发者因为大小写不一致（如输入Llama3而非llama3）导致数小时的调试失败。
2. 系统模型配置详解
登录RuoYi-AI后台，导航至运营管理 > 系统模型，点击新增按钮时会看到这些字段：
- 模型名称：必须与
ollama list输出完全一致 - 模型标识：用于API调用的唯一ID（建议英文小写）
- 请求地址：默认
http://127.0.0.1:11434/api/generate - 最大令牌数：控制生成文本长度（Llama3建议设为2048）
最容易出错的请求地址配置有三种典型错误：
- 遗漏
/api/generate路径 - 使用
localhost而非127.0.0.1 - 错误指定HTTP/HTTPS协议
配置完成后，立即点击"测试连接"按钮。成功的响应应该返回类似这样的JSON结构：
{ "model": "llama3", "response": "The model is ready" }3. 调试与异常处理
当看到"连接成功"提示却无法实际调用时，可以按这个排查流程操作：
检查模型加载状态
ollama ps确认模型状态为
running查看实时日志
journalctl -u ollama -f验证API端点
curl -X POST http://127.0.0.1:11434/api/generate -d '{ "model": "llama3", "prompt": "Hello" }'
常见错误代码及解决方案：
| 错误码 | 可能原因 | 解决方案 |
|---|---|---|
| 404 | 模型名称错误 | 核对ollama list输出 |
| 503 | 模型未加载 | 执行ollama run llama3 |
| 408 | 超时设置过短 | 修改RuoYi-AI超时为120s |
4. 性能优化实战
在本地i7-12700K/32GB内存的测试环境中，默认配置下Llama3的响应时间约为15秒/请求。通过以下调整可以提升到3-5秒：
Ollama启动参数优化
OLLAMA_NUM_PARALLEL=4 ollama serveRuoYi-AI配置调整
- 批处理大小：设为8
- 温度参数：0.7（平衡创造性与稳定性）
- 上下文窗口：4096（匹配Llama3原始设置）
内存使用监控建议：
watch -n 1 'free -h | grep Mem'当看到可用内存低于2GB时，考虑：
- 减少并行请求数
- 使用
--numa参数绑定NUMA节点 - 换用更小尺寸的模型变体（如llama3:8b-instruct-q4）
5. 生产环境部署建议
对于需要7x24小时运行的场景，推荐采用以下架构：
RuoYi-AI → Nginx负载均衡 → 多Ollama实例使用Docker Compose编排时，关键配置片段如下：
services: ollama1: image: ollama/ollama ports: - "11434" deploy: resources: limits: cpus: '4' memory: 16G ollama2: image: ollama/ollama ports: - "11434" deploy: resources: limits: cpus: '4' memory: 16G这种配置下，单个RTX 4090显卡可以同时服务8-10个并发请求。记得定期执行ollama pull llama3获取模型更新。