当前位置: 首页 > news >正文

【AI开发必备】Dify接入本地大模型实战指南,小白也能5分钟搞定!告别API收费,手把手教你搭建私有知识库!

基于此,本文对上一篇内容做个补充,主要介绍Dify如何接入本地模型。

对于先前已经搭建好的知识库,需要简单调整。

一、Dify接入本地大模型

如何用Dify接入本地大模型?

需要查看本地是否用Ollama成功部署大模型。

1、 如果你已经在本地部署了大模型。

可以直接在主页->设置->模型供应商中全局配置

配置成功后可看到Ollama

2、如果本地还没有安装模型,

核心步骤如下:

1、下载安装Ollama

官网地址:https://ollama.com/download/windows

点击下载windows 版本,其它版本网上自行检索

2、双击运行

点下一步,无脑安装。

3、检测是否安装成功

windows+R ,输入命令

C:\Users\admin>ollama -v

出现相应的版本号即为安装成功

4、本地部署大模型

考虑到本地机器性能,以接入deepseek-r1为例,用Ollama部署

选取模型规格及参数

接入deepseek-r1:14b,看到发送消息这个对话提示就是安装成了

5、Dify接入本地大模型(重要!!!)

好了,现在用Ollama部署了本地大模型。

这里不在赘述。

到此,我们具备了以下条件:

  • Ollama本地部署deepseek大模型成功.
  • Docker 部署Dify成功

接下来正式操作如何接入本地模型?

关键点:这里需要填写以下内容

  • 基础 URL (Base URL):ollama部署的地址。
  • 模型名称:(必须与本地部署的大模型名字完全一致,个人使用的是deepseek-r1:14b,就配置)
  • 模型类型:对话 (Chat)上下文
  • 长度:4096 (根据显存情况调整)

踩坑!!!:如果你的 Ollama 跑在宿主机上,Dify 跑在 Docker 里,Base URL 千万别填 localhost!

正确姿势:

Mac/Win:http://host.docker.internal:11434Linux: http://172.17.0.1:11434 (Docker 网关 IP)

设置中可视化配置如下:

好了,到这里基本完成Dify本地接入大模型。

知识库配置本地模型

最后,回到知识库本地化模型配置。

详细配置修改如下:

1、点击进入已经建好的知识库

2、点击模型设置,选择本地模型

可以看到已显示本地部署的模型

3、测试验证

那么,如何系统的去学习大模型LLM?

作为一名深耕行业的资深大模型算法工程师,我经常会收到一些评论和私信,我是小白,学习大模型该从哪里入手呢?我自学没有方向怎么办?这个地方我不会啊。如果你也有类似的经历,一定要继续看下去!这些问题啊,也不是三言两语啊就能讲明白的。

所以我综合了大模型的所有知识点,给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。

由于篇幅有限,⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》,扫码获取~

👉大模型学习指南+路线汇总👈

我们这套大模型资料呢,会从基础篇、进阶篇和项目实战篇等三大方面来讲解。

👉①.基础篇👈

基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程,带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念,用最易懂的方式带你入门大模型。

👉②.进阶篇👈

接下来是进阶篇,你将掌握RAG、Agent、Langchain、大模型微调和私有化部署,学习如何构建外挂知识库并和自己的企业相结合,学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。

👉③.实战篇👈

实战篇会手把手带着大家练习企业级的落地项目(已脱敏),比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等,从而帮助大家更好的应对大模型时代的挑战。

👉④.福利篇👈

最后呢,会给大家一个小福利,课程视频中的所有素材,有搭建AI开发环境资料包,还有学习计划表,几十上百G素材、电子书和课件等等,只要你能想到的素材,我这里几乎都有。我已经全部上传到CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

相信我,这套大模型系统教程将会是全网最齐全 最易懂的小白专用课!!

http://www.jsqmd.com/news/115096/

相关文章:

  • Storm集群的安装-cnblog
  • 基于C#实现的支持五笔和拼音输入的输入法
  • 2025年广东十大广告公司实力排行榜,服务大品牌的广告大型公司推荐精选优质厂家 - 品牌推荐师
  • Playwright 文件上传与下载完成判断全指南
  • 2025.12.20 Record
  • Open-AutoGLM非root权限实战指南(99%人忽略的关键细节)
  • 2025-2026北京离婚律师口碑排名榜 权威测评靠谱律所实力解析 - 苏木2025
  • 从数据库到事件流:现代清结算系统架构全指南
  • Java虚拟机是什么?新手小白带你入门,收藏这篇就够了
  • 从0到1部署Stanford CoreNLP:中英文模型配置与实战指南
  • 【硬核干货】大模型+医疗知识:图神经网络实现药物重定位的完整指南
  • 【Open-AutoGLM本地部署终极指南】:手把手教你从零搭建高效AI推理环境
  • 近五年体内微/纳米机器人赋能肿瘤精准治疗综述:以 GBM 为重点
  • 赛迪CCID重磅发布《2025年中国信用修复行业白皮书》 - 博客万
  • Linux 的 Port Knocking 端口碰撞(端口敲门)
  • 2025年MBTI人格测试官方入口选择指南:4个基于信效度数据的热门MBTI测试网站评估 - 博客万
  • 北京婚姻律师哪家好?2025-2026最新数据支撑的专业推荐指南 - 老周说教育
  • 掌握Open-AutoGLM三大调优技巧,快速提升语义解析准确率
  • 2025北京西装定制店优质推荐指南:从需求到共鸣的工艺之旅 - 真知灼见33
  • 渗透测试之SSRF漏洞原理危害、产生的原因、探测手法、防御手法、绕过手法、限制的手段
  • 从夯到拉!大模型热门岗位揭秘!传统程序员如何破局,逆袭成为 AI 时代佼佼者
  • 2025/12/20 今天学的day8的lecode的242
  • 进口热门维生素D3十大榜单:2025高口碑维生素D3品牌推荐 - 博客万
  • Open-AutoGLM定位修正黑科技(仅限内部使用的3个参数调整技巧)
  • Open-AutoGLM操作序列优化进阶:如何用动态规划实现生成路径最优解?
  • 这可能是全网最详细的黑客网络钓鱼攻击教程,一文教会你网络钓鱼的各种骚操作!
  • 位运算表
  • 渗透测试之文件上传漏洞目录穿越漏洞教程,网络安全零基础入门到精通教程!
  • Wireshark流量分析例题详解,网络安全零基础入门到精通实战教程!
  • MySQL中通过关联update将一张表的一个字段更新到另外一张表中