当前位置: 首页 > news >正文

一文入门智能体:dify 超快速构建AI agent

一文入门智能体:dify 超快速构建AI agent

 

收录于 · 产品与科技前沿
509 人赞同了该文章
展开目录
 

dify.AI的介绍

dify是一个开源的 LLM 应用开发的开源平台,提供从 Agent 构建到 AI workflow 编排、RAG ,agent等,支持检索策略、模型管理等能力,可以轻松构建和运营 AI 应用。

最重要的是比 LangChain 更易用,且有好看的节目。
想看部署安装教程,请直接点击本文目录。

Dify 涵盖了构建生成式 AI 原生应用所需的核心技术栈,开发者可以聚焦于创造应用的核心价值。

 

Dify主要特点、优势和能力:

Dify 的特点和优势:

  1. Dify 提供安全数据通道、高可靠索引检索、友好提示词编辑、多模型切换、推理观测、日志记录、数据标注、模型训练、微调、简化AI研发、定制化Agent自动化、AI工作流编排等优势,实现数据安全、开发高效、模型优化、自动化智能及工作流管理,助力开发者轻松,灵活构建AI应用。

dify的基本功能组成

功能特性列表

类别内容
LLM 推理引擎 Dify Runtime (自 v0.4 移除了 LangChain)
支持的商业模型 10+,包括 OpenAI 和 Anthropic<br>主流新模型可在 48 小时内接入
支持的 MaaS 厂商 7 家:Hugging Face, Replicate, AWS Bedrock, NVIDIA, GroqCloud, together.ai, OpenRouter
支持的本地模型推理运行时 6 种:Xoribits(推荐)、OpenLLM、LocalAI、ChatGLM、Ollama、NVIDIA TIS
OpenAI 接口标准模型集成 无限支持
多模态能力 ASR 模型、富文本模型(最高支持 GPT-4o 规格)
内置应用类型 文本生成、聊天机器人、代理、工作流、对话流
Prompt-as-a-Service 编排 广受好评的可视化编排界面,可集中修改 Prompt 并预览效果
编排模式 简单编排、代理编排、流程编排
Prompt 变量类型 字符串、单选枚举
外部 API 支持 文件(2024 Q3 上线)
代理工作流特性 行业领先的可视化工作流编排界面,实时编辑节点调试、模块化 DSL、原生代码运行时
支持的节点 LLM、知识检索、问题分类器、IF/ELSE、代码、模板、HTTP 请求、工具
RAG 特性 行业首个可视化知识库管理界面,支持片段预览和召回测试
索引方法 关键词、文本向量、LLM 辅助问题-片段模型
检索方法 关键词、文本相似度匹配、混合搜索、多路径检索、重排序模型
召回优化 重排序模型
ETL 能力 自动清理 TXT、Markdown、PDF、HTML、DOC、CSV 格式数据;支持非结构化服务
知识库同步 同步 Notion 文档、网页作为知识库
支持的向量数据库 Qdrant(推荐)、Weaviate、Zilliz/Milvus、Pgvector、Pgvector-rs、Chroma、OpenSearch、TiDB、腾讯向量、Oracle、Relyt、Analyticdb、Couchbase
代理技术 ReAct、函数调用
工具支持 调用 OpenAI 插件标准工具、直接加载 OpenAPI 规范 API 为工具
内置工具 40+ 工具(截至 2024 Q2)
日志记录 支持,基于日志的注释
注释回复 基于人工标注的问答,用于基于相似性的回复;可导出为数据格式以微调模型
内容审核 OpenAI 内容审核或外部 API
团队协作 工作区、多成员管理
API 规范 RESTful,覆盖大多数功能
部署方式 Docker、Helm

构建应用方式

Dify中的“应用”是基于llm等大语言模型构建的实际场景应用,旨在将llm,rag与低代码技术融入特定需求。它融合了AI应用开发范式与具体交付物,为开发者提供:

  • 封装友好的API:后端或前端应用可直接调用,通过Token鉴权,简化集成流程。
  • 开箱即用、美观托管的WebApp:提供模版支持二次开发,快速构建用户界面。
  • 易用界面:集成提示词工程、上下文管理、日志分析和标注功能,提升开发效率。

开发者可根据需求灵活选择全部或部分功能,助力AI应用高效开发。

应用类型

Dify 提供五种应用类型:

  1. 聊天助手:基于 LLM 构建对话式交互的助手。
  2. 文本生成应用:面向文本生成类任务的助手,例如撰写故事、文本分类、翻译等。
  3. Agent:能够分解任务、推理思考、调用工具的对话式智能助手。
  4. 对话流(Chatflow):适用于设计复杂流程的多轮对话场景,支持记忆功能并能进行动态应用编排。
  5. 工作流(Workflow):适用于自动化、批处理等单轮生成类任务的场景的应用编排方式,单向生成结果。

各应用类型功能区别如下表:

功能文本生成应用聊天助手Agent对话流(Chatflow)工作流(Workflow)
WebApp 界面 表单+结果式 对话式 对话式 流程式 表单+流程式
WebAPI 端点 /completion-messages /chat-messages /chat-messages /chat-messages /workflows/run
交互方式 一问一答 多轮对话 多轮对话 流程控制+多轮对话 单轮生成+多轮对话
流式结果返回 支持 支持 支持 支持 支持
上下文保存 当次 持续 持续 持续 当次
用户输入表单 支持 支持 支持 支持 支持
知识库与工具 支持 支持 支持 支持 支持
AI 开场白 不支持 支持 支持 支持 不支持
情景举例 翻译、判断、索引 聊天 任务分解、推理 流程控制、场景定义 批处理、自动化
实时反馈 支持 支持 支持

接入大模型

初次使用时需要先在 Dify 的 设置(右上角) -- 模型供应商 页面内添加并配置所需要的模型。

Dify 已支持多家主流模型供应商,包括 OpenAI 的 GPT 系列、Anthropic 的 Claude 系列,deepseek等。不同模型的能力和参数各异,用户可根据具体应用场景选择合适的供应商。

本地的话,可以使用ollama或者lmstudio或者gpustack部署模型,接入也很方便。

在使用 商用大模型能力前,需从各大模型厂商官网获取 API Key。

模型分类

Dify 将大模型按使用场景分为以下四类:

  1. 对话推理大模型:用于应用创建、智聊、对话名称生成及下一步问题建议等功能。已支持的供应商包括 OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax 和 ZHIPU(ChatGLM)。
  2. Embedding 大模型:用于知识库文档分段嵌入及用户提问处理。已支持的供应商为 OpenAI 和 ZHIPU(ChatGLM),以及 Jina AI(Jina Embeddings)。
  3. Rerank 大模型:用于优化 LLM 的搜索结果。已支持的供应商为 Cohere 和 Jina AI(Jina Reranker)。
  4. 语音转文字大模型:用于将语音转换为文本。已支持的供应商为 OpenAI。
  5. 文字转语音大模型:不再啰嗦了。

模型供应商类型

模型供应商分为两类:

  • 自有模型:提供自主研发的模型,如 OpenAI 和 Anthropic。
  • 托管模型:提供第三方模型,如 Hugging Face 和 Replicate。

接入方式

  • 自有模型供应商:设置对应供应商的 API Key 后,Dify 会自动接入该供应商下的所有模型。
  • 托管模型供应商:接入方式略有不同,需根据具体供应商要求配置。

安全保障

Dify 使用 PKCS1_OAEP 加密技术存储用户托管的 API 密钥,每个租户均配备独立密钥对,确保 API 密钥的安全性,防止泄露。

设置默认模型

Dify 在需要模型时,会根据使用场景来选择设置过的默认模型。在 设置 > 模型供应商 中设置默认模型。

 

接入模型设置

在 Dify 的 设置 > 模型供应商 中设置要接入的模型。 系统默认推理模型(System Reasoning Model):设置创建应用使用的默认推理模型,以及对话名称生成、下一步问题建议等功能也会使用该默认推理模型。

 

使用模型

配置完模型后,就可以在应用中使用这些模型了:

你可以通过 3 种方式在 Dify 的工作室内创建应用:

  • 基于应用模板创建(新手推荐)
  • 创建一个空白应用
  • 通过 DSL 文件(本地/在线)创建应用


从模板创建应用

初次使用 Dify 时,你可能对于应用创建比较陌生。为了帮助新手用户快速了解在 Dify 上能够构建哪些类型的应用,Dify 团队内的提示词工程师已经创建好了多场景、高质量的应用模板。

你可以从导航选择 「工作室 」,在应用列表内选择 「从模版创建」。


从模板创建应用

任意选择某个模板,并将其添加至工作区。


创建新应用

如果你需要在 Dify 上创建一个空白应用,你可以从导航选择 「工作室」 ,在应用列表内选择 「从空白创建 」。

 

Dify 上可以创建 4 种不同的应用类型,分别是聊天助手、文本生成应用、Agent 和工作流。

创建应用时,你需要给应用起一个名字、选择合适的图标,或者上传喜爱的图片用作图标、使用一段清晰的文字描述此应用的用途,以便后续应用在团队内的使用。

聊天助手

对话型应用采用一问一答模式与用户持续对话。

创建应用

在首页点击 “创建应用” 按钮创建应用。填上应用名称,应用类型选择聊天助手。



编排应用

创建应用后会自动跳转到应用概览页。点击左侧菜单 编排 来编排应用。

填写提示词

提示词用于约束 AI 给出专业的回复,让回应更加精确。你可以借助内置的提示生成器,编写合适的提示词。提示词内支持插入表单变量,例如 {{input}}。提示词中的变量的值会替换成用户填写的值。
示例:

  1. 输入提示指令,要求给出一段面试场景的提示词。
  2. 右侧内容框将自动生成提示词。
  3. 你可以在提示词内插入自定义变量。


为了更好的用户体验,可以加上对话开场白:你好,{{name}}。我是你的面试官,Bob。你准备好了吗?。点击页面底部的 “添加功能” 按钮,打开 “对话开场白” 的功能:


编辑开场白时,还可以添加数个开场问题:

 

添加上下文

如果想要让 AI 的对话范围局限在知识库内,例如企业内的客服话术规范,可以在“上下文”内引用知识库。



添加文件上传

部分多模态 LLM 已原生支持处理文件,例如 Claude 3.5 Sonnet 或 Gemini 1.5 Pro。你可以在 LLM 的官方网站了解文件上传能力的支持情况。
选择具备读取文件的 LLM,开启 “文档” 功能。无需复杂配置即可让当前 Chatbot 具备文件识别能力。



调试

在右侧填写用户输入项,输入内容进行调试。


若 LLM 给出的回答结果不理想,你可以调整提示词或切换不同底层模型进行效果对比。如需更进一步,同时查看不同模型对于同一个问题的回答情况,请参考多模型调试。

发布应用

调试好应用后,点击右上角的 “发布” 按钮生成独立的 AI 应用。除了通过公开 URL 体验该应用,你也进行基于 APIs 的二次开发、嵌入至网站内等操作。详情请参考发布。

Agent智能助手

智能助手(Agent Assistant),利用大语言模型的推理能力,能够自主对复杂的人类任务进行目标规划、任务拆解、工具调用、过程迭代,并在没有人类干预的情况下完成任务。

为了方便快速上手使用,你可以在“探索”中找到智能助手的应用模板,添加到自己的工作区,或者在此基础上进行自定义。在全新的 Dify 工作室中,你也可以从零编排一个专属于你自己的智能助手,帮助你完成财务报表分析、撰写报告、Logo 设计、旅程规划等任务。


选择智能助手的推理模型,智能助手的任务完成能力取决于模型推理能力,我们建议在使用智能助手时选择推理能力更强的模型系列如deepseek以获得更稳定的任务完成效果。


你可以在“提示词”中编写智能助手的指令,为了能够达到更优的预期效果,你可以在指令中明确它的任务目标、工作流程、资源和限制等。

 

添加需要的工具

在“上下文”中,你可以添加智能助手可以用于查询的知识库工具,这将帮助它获取外部背景知识。
在“工具”中,你可以添加需要使用的工具。工具可以扩展 LLM 的能力,比如联网搜索、科学计算或绘制图片,赋予并增强了 LLM 连接外部世界的能力。Dify 提供了两种工具类型:第一方工具和自定义工具。
你可以直接使用 Dify 生态提供的第一方内置工具,或者轻松导入自定义的 API 工具(目前支持 OpenAPI / Swagger 和 OpenAI Plugin 规范)。



“工具”功能允许用户借助外部能力,在 Dify 上创建出更加强大的 AI 应用。例如你可以为智能助理型应用(Agent)编排合适的工具,它可以通过任务推理、步骤拆解、调用工具完成复杂任务。
另外工具也可以方便将你的应用与其他系统或服务连接,与外部环境交互。例如代码执行、对专属信息源的访问等。你只需要在对话框中谈及需要调用的某个工具的名字,即可自动调用该工具。


配置 Agent

在 Dify 上为智能助手提供了 Function calling(函数调用)和 ReAct 两种推理模式。已支持 Function Call 的模型系列如 gpt-3.5/gpt-4 拥有效果更佳、更稳定的表现,尚未支持 Function calling 的模型系列,我们支持了 ReAct 推理框架实现类似的效果。
在 Agent 配置中,你可以修改助手的迭代次数限制。


函数调用模式


ReAct 模式

配置对话开场白
你可以为智能助手配置一套会话开场白和开场问题,配置的对话开场白将在每次用户初次对话中展示助手可以完成什么样的任务,以及可以提出的问题示例。


添加文件上传

部分多模态 LLM 已原生支持处理文件,例如 Claude 3.5 Sonnet 或 Gemini 1.5 Pro。
选择具备读取文件的 LLM,开启 “文档” 功能。无需复杂配置即可让当前 Chatbot 具备文件识别能力。



编排完智能助手之后,你可以在发布成应用之前进行调试与预览,查看助手的任务完成效果。


调试与预览

编排完智能助手之后,你可以在发布成应用之前进行调试与预览,查看助手的任务完成效果。



应用发布

应用工具箱

在 工作室 -- 应用编排 内点击 添加功能,打开应用工具箱
应用工具箱为 Dify 的应用提供了不同的附加功能:



对话开场白

在对话类应用中,AI 会主动说第一句话或者提出问题,你可以编辑开场白的内容包括开场问题。使用对话开场白可以引导用户提问,交代应用背景,降低对话提问的使用门槛。



下一步问题建议

设置下一步问题建议可以在每次对话交互后,让 AI 根据之前的对话内容继续生成 3 个提问,引导下一轮对话。



文字转语音TTS

开启后可以将 AI 回复的内容转换成自然的语音播放。



语音转文字ASR

开启后可以在应用内录音并将语音自动转换成文本。



引用与归属

开启功能后,当 LLM 引用知识库内容来回答问题时,可以在回复内容下面查看到具体的引用段落信息,包括原始分段文本、分段序号、匹配度等。
具体介绍请查看引用与归属。

内容审查

我们在与 AI 应用交互的过程中,往往在内容安全性,用户体验,法律法规等方面有较为苛刻的要求,此时我们需要“敏感内容审查”功能,来为终端用户创造一个更好的交互环境。
具体介绍请查看敏感内容审查。

标注回复

标注回复功能通过人工编辑标注为应用提供了可定制的高质量问答回复能力。

工作流


基本介绍

工作流通过将复杂的任务分解成较小的步骤(节点)降低系统复杂度,减少了对提示词技术和模型推理能力的依赖,提高了 LLM 应用面向复杂任务的性能,提升了系统的可解释性、稳定性和容错性。
Dify 工作流分为两种类型:

  • Chatflow:面向对话类情景,包括客户服务、语义搜索、以及其他需要在构建响应时进行多步逻辑的对话式应用程序。
  • Workflow:面向自动化和批处理情景,适合高质量翻译、数据分析、内容生成、电子邮件自动化等应用程序。


为解决自然语言输入中用户意图识别的复杂性,Chatflow 提供了问题理解类节点。相对于 Workflow 增加了 Chatbot 特性的支持,如:对话历史(Memory)、标注回复、Answer 节点等。
为解决自动化和批处理情景中复杂业务逻辑,工作流提供了丰富的逻辑节点,如代码节点、IF/ELSE 节点、模板转换、迭代节点等,除此之外也将提供定时和事件触发的能力,方便构建自动化流程。

常见案例

 

  • 客户服务

通过将 LLM 集成到你的客户服务系统中,你可以自动化回答常见问题,减轻支持团队的工作负担。 LLM 可以理解客户查询的上下文和意图,并实时生成有帮助且准确的回答。

  • 内容生成

无论你需要创建博客文章、产品描述还是营销材料,LLM 都可以通过生成高质量内容来帮助你。只需提供一个大纲或主题,LLM将利用其广泛的知识库来制作引人入胜、信息丰富且结构良好的内容。

  • 任务自动化

可以与各种任务管理系统集成,如 Trello、Slack、Lark、以自动化项目和任务管理。通过使用自然语言处理,LLM 可以理解和解释用户输入,创建任务,更新状态和分配优先级,无需手动干预。

  • 数据分析和报告

可以用于分析大型知识库并生成报告或摘要。通过提供相关信息给 LLM,它可以识别趋势、模式和洞察力,将原始数据转化为可操作的智能。对于希望做出数据驱动决策的企业来说,这尤其有价值。

  • 邮件自动化处理

LLM 可以用于起草电子邮件、社交媒体更新和其他形式的沟通。通过提供简要的大纲或关键要点,LLM 可以生成一个结构良好、连贯且与上下文相关的信息。这样可以节省大量时间,并确保你的回复清晰和专业。

关键概念


节点
节点是工作流的关键构成,通过连接不同功能的节点,执行工作流的一系列操作。
工作流的核心节点请查看节点说明。


变量
变量用于串联工作流内前后节点的输入与输出,实现流程中的复杂处理逻辑,包含系统变量、环境变量和会话变量。


Chatflow

适用场景:
面向对话类情景,包括客户服务、语义搜索、以及其他需要在构建响应时进行多步逻辑的对话式应用程序。该类型应用的特点在于支持对生成的结果进行多轮对话交互,调整生成的结果。
常见的交互路径:给出指令 → 生成内容 → 就内容进行多次讨论 → 重新生成结果 → 结束



工作流(Workflow)

适用场景:
面向自动化和批处理情景,适合高质量翻译、数据分析、内容生成、电子邮件自动化等应用程序。该类型应用无法对生成的结果进行多轮对话交互。
常见的交互路径:给出指令 → 生成内容 → 结束


应用类型差异

  1. End 节点属于 Workflow 的结束节点,仅可在流程结束时选择。
  2. Answer 节点属于 Chatflow ,用于流式输出文本内容,并支持在流程中间步骤输出。
  3. Chatflow 内置聊天记忆(Memory),用于存储和传递多轮对话的历史消息,可在 LLM 、问题分类等节点内开启,Workflow 无 Memory 相关配置,无法开启。
  4. Chatflow 的开始节点内置变量包括:sys.querysys.filessys.conversation_idsys.user_id。Workflow 的开始节点内置变量包括:sys.filessys.user_id

构建工作流

一、创建工作流

这里我们创建一个空白应用,选择工作流:

 

 

随便起一个名字,点击创建就创建好了。

 

二、创建流程节点

接下来我们就创建流程节点,上一步创建完了之后,他会自动展示流程节点的画布,同时又一个开始的按钮:

 

这里我们按照上面的流程来。

1)设置标题提示信息,设置内容提示信息

点击开始按钮,设置两个输入值,一个是标题提示信息,一个是内容提示信息:

 

 

创建完成之后,可以在面板上看到多了两个字段。

 

 

2)使用ai生成标题

在上一步的面板中的下一步位置,

 

 

我们添加一个LLM模型:

 

 

这里其实可以选择很多,根据自己的需要来即可,这里我们的需求是使用模型生成标题,所以要选择llm,添加之后,可以看到节点多了一个llm:

 

 

这里我们设置llm模板即可:

 

 

只需要设置上诉4部分信息即可,这里说明一下:

 

BASIC

1、system部分其实就是我们给ai的提示语,也就是给他场景和要求。
2、user部分主要是作为用户传递的一些特定指向的注释信息。

3)使用ai生成正文

接下来在上诉2的地方,下一步的位置再添加一个LLM,用于生成正文:

 

 

4)合并一下标题和正文

这里在上诉3的面板上选择下一步,添加一个模板转换,用于提取前面的标题和内容,内容需要自己编辑下:

 

 

 

5)结束流程

这里在上诉4的面板中添加下一个节点为结束即可,设置输出的信息

 

 

 

到这里我们的整个流程就制作完了,画布中会展示完整的流程:

 

 

 

三、运行测试

流程指定完之后,可以选择运行按钮进行测试:

 

 

点击运行之后,会让输入标题和正文提示词,如下图:

 

 

大家可以根据自己的需要来进行填写,填完完毕之后,点击开始运行,等待片刻就可以看到结果了:

 

 

以上就是关于Dify中使用工作流的案例,上面主要是演示,没有做过多的说明,主要是这里可以根据自己的需求进行定制,没有千篇一律的说明,但是比较核心的东西咱们在这里还是给指出来:

1、使用工作流的前提是一定要把一件事进行拆分,使每一步组合之后可以串联起来。

2、这里如果想要启用AI的话就选择LLM节点,如果想做其他的事情则选择其他的节点。

3、AI的使用精准度取决于你的提示语,即System部分的描述,尽可能的描述全了。

4、所有的提示语都可以在网上去搜搜。

知识库的使用

一、准备知识库
这里准备的知识库格式几乎不限,一般我们如果是聊天场景的话,就会选择QA这种模式,比如客服的话术就非常适合,所以这里我在网上找到一份客服相关的术语,内容如下:

### 如何创建新项目? 要创建新项目,请点击页面右上角的“新建项目”按钮,输入项目名称,选择项目模板(如有),然后点击“创建”。项目会出现在您的项目列表中。 ### 如何为任务添加截止日期? 在任务详情页中,点击截止日期区域,选择一个日期并保存。任务的截止日期会显示在任务列表中。 ### 如何与Google Calendar同步? 请进入“设置”页面,找到“集成”选项,选择“Google Calendar”,然后按照提示进行授权和同步。同步后,所有项目任务的截止日期将显示在您的Google Calendar中。 ### 我可以为任务设置优先级吗? 是的,您可以在任务详情页中设置任务的优先级。点击“优先级”下拉菜单,选择“高”、“中”或“低”。设置后的优先级会显示在任务列表中。 ### 如何更改我的账户邮箱地址? 进入“账户设置”页面,在“个人信息”部分中,点击邮箱地址旁边的“编辑”按钮,输入新邮箱地址并保存。您需要通过新邮箱验证后才能完成更改。 ### 我忘记了密码,该怎么办? 请在登录页面点击“忘记密码”链接,输入您的注册邮箱地址,我们会发送一个重置密码的链接到您的邮箱。通过该链接您可以设置一个新密码。 ### 如何邀请团队成员加入项目? 在项目页面中,点击“邀请成员”按钮,输入要邀请的成员邮箱地址,并选择他们的角色(如管理员、编辑者等)。点击“发送邀请”后,对方会收到一封邀请邮件。 ### 如何查看我的订阅计划? 请前往“账户设置”页面,在“订阅”部分,您可以查看当前的订阅计划、下一个计费日期以及费用明细。 ### 如何升级我的订阅计划? 在“账户设置”的“订阅”部分,点击“升级计划”按钮,选择您想升级的计划并确认付款。升级会立即生效,并按比例计算费用。 ### 我可以取消订阅吗? 是的,您可以随时取消订阅。在“账户设置”的“订阅”部分,点击“取消订阅”按钮,并按照提示完成取消操作。取消订阅后,您仍可以使用付费功能直到当前计费周期结束。 ### 我的任务列表不见了怎么办? 请确认是否选择了正确的项目。您可以在左侧栏的项目列表中重新选择项目。如果问题仍然存在,请尝试刷新页面或退出并重新登录。 ### 为什么我收不到通知邮件? 请检查您的通知设置,确认是否开启了相关的通知选项。如果已开启但仍未收到,请检查垃圾邮件文件夹,并将我们的邮件地址添加到您的联系人中。 ### 系统提示“操作失败”,怎么办? 这可能是网络问题导致的,请检查您的网络连接并重试。如果问题持续存在,请联系客服并提供相关的错误信息和截图。 ### 系统更新后,我的部分数据丢失了,如何恢复? 如果您在系统更新后遇到数据丢失,请立即联系客服。我们会帮助您通过系统备份来恢复丢失的数据,但请尽量在问题发生后的24小时内联系我们。 ### 如何报告一个软件漏洞? 如果您发现了一个软件漏洞,请进入“帮助中心”,点击“报告问题”,选择“安全漏洞”,并填写相关信息。我们的技术团队会尽快处理。 ### 我的项目无法加载,应该怎么办? 请首先检查您的网络连接,并尝试在其他设备上访问。如果问题仍然存在,请清除浏览器缓存或尝试使用不同的浏览器。如果问题未解决,请联系客服。


这里创建一个空白文件,把上面的内容复制进去,然后进行保存,保存的文件名为:客服知识问答语料库.md。如下图:



二、添加知识库

接下来访问Dify的dashboard,找到上面的知识库,选择创建一个知识库:


选择导入已有文本(另外两项nation和web站点稍后讲解),把刚才的《客服知识问答语料库.md》上传上去


再点击下一步



这里的话我们几乎保持默认即可。但是需要注意下:
1)索引方式
一般我们选择经济,因为这是免费的,如果选择高质量的话,需要使用到openai,需要花钱。所以免费的就是选择经济即可。
2)检索设置

这里默认是3,后期可以根据实际情况调整

最后点击保存并处理即可



保存之后就可以在知识库下面看到刚才添加的预料了



三、使用知识库
知识库添加之后我们就要使用到他,所以这里我们回到刚才创建的聊天机器人点击进去


在上图可以看到有上下文,我们选择添加,把刚才的知识库给添加进来


添加进来之后,我们可以在右侧进行调试和预览



选择一个和刚才知识库接近的话题进行询问,例如:Google Calendar同步怎么做?



稍等片刻,我们看看他的回答结果:


可以看到这里的回答几乎和客服术语是保持一致的。说明在Dify上添加的知识库被模型识别使用到了。最后我们发布这个模型即可:


发布之后,所有的聊天都会根据当前的知识库进行匹配引用了。



备注:
1、在特定的行业来说,知识库的准确度越高,那么结合AI大模型的引用回答就更好,如果知识库的内容比较差,那么AI大模型的引用回答也非常差。

根据上诉文章,大家是不是可以在垂直行业干业务了?

职场就是一场游戏,但游戏不是人生的全部。别太纠结眼前的得失,也别总被焦虑绑住。努力让自己积累更多底气吧,未来的你一定会感谢现在的自己。因为那个时候,你会发现,人生的主动权,终于掌握在自己手里了。

附录2:部署本地Dify

本文我们来演示一下Dify的部署安装及结合前面的大模型进行交互。

一、安装docker环境

Dify的安装很简单。直接使用docker启动一个即可,所以一定要先确保服务器上有docker环境和docker-compose环境。

docker的安装可参考:《docker》

docker-compose安装可参考:《docker-compose安装》

 

二、clone dify源码

Dify是一套开源的代码,所以需要把它的代码从github上clone到本地:

输入指令;

git clone https://github.com/langgenius/dify.git 

如下图:

 

三、启动Dify

接下来就是启动Dify了,进入到dify/docker目录下,可以看到有对应的docker-compose.yml文件

 

我们执行如下的命令来启动

#拷贝env文件
cp -r middleware.env.example .env#执行环境
. .env#启动dify
docker-compose up -d

 

 

然后等待片刻,dify就能启动完成了。

 

 

启动完成之后,使用docker ps可以看到有10个docker实例运行起来。

 

四、访问Dify

接下来就可以在浏览器中访问Dify了,输入服务器的ip即可:或者localhost。 端口是默认的80。第一次访问需要设置管理员账户:

 

设置之后会跳转到登录页面,输入刚才的管理员信息就可以访问了:

 

 

五、集成Qwen3-8B

接下来我们需要继承qwen3-8b大模型了,首先进入到Dify的dashboard,点击右上角的头像,会看到有个设置的按钮:

 

 

点击设置按钮,选择模型供应商,由于我们在这里添加前面在本地部署的ollama,所以这里选择ollama:

 

这里填入的信息如下

模型名称:填写 qwen3:8b

这里的模型名称不能随便填写,需要填写在服务器上运行的名称,即下图:

 

 

如果写其他的名称,那么配置ollama会提示404找不到,所以这里一定要注意,填写的名称就是运行的模型名称,字符串必须保持完全一致。

基础URL: 这里填写服务器的ip+11434端口即可,例如:http://192.168.1.129:11434
如果ollama在本地,那就是127.0.0.1或者localhost

注意这里一定要添加前缀,同时端口是11434,我们在前面已经把11434端口修改为0.0.0.0/0访问了。

剩下的信息全部都可以保持默认,我这里的填写的示例如下:

 

最后点击保存。

接下来就是创建应用的环节,选择聊天助手,创建一个空白应用

 

 

 

填写名称和描述,点击创建就会进入到聊天助手应用里面:

 

 

然后我们在右上角可以看到刚才添加的qwen3:8b模型:

点击右上角小窗口上面的发布按钮

就可以进入到聊天界面聊天了,示例如下:

 

是不是很方便。

特别注意下,这里的响应速度是由服务器的配置决定的,比如我们这里是8C16G的配置,提问的时候CPU是完全跑满的,回答也是等待了好大一会。

 

以上就是我们使用dify集成本地部署的qwen3:8b大模型的案例。后面我们会挨个介绍如何进行本地知识库集成等案例,让其更加贴合业务场景。

附录2:拆解14个Dify官方工作流案例

SEO博客文章生成器(SEO Blog Generator)

情感分析(Sentiment Analysis)

用户评论分析工作流(Customer Review Analysis Workflow)

邮件助手工作流(Email Assistant Workflow)

文本摘要工作流(Text Summarization Workflow)

长故事生成工作流(Long Story Generator)

三步翻译工作流(Three-Step Translation Workflow)

书籍翻译工作流(Book Translation)

基于Jina Reader对网站进行摘要(Summarize website with Jina Reader)

网页内容搜索与摘要工作流程(Web Content Search and Summarization Workflow)

Dify工作流助手(Workflow Planning Assistant)

问题分类器 + 知识 + 聊天机器人(Question Classifier + Knowledge + Chatbot)

知识检索聊天机器人(Knowledge Retreival + Chatbot)

Email自动回复工作流(Automated Email Reply)

Dify.AI 的资源:

  • 开发工具:包括 Prompt IDE 和各种 API,用于开发和集成生成式 AI 应用。
  • 文档和支持:提供详细的文档和技术支持,帮助开发者快速上手和解决问题。

社区和生态系统:可能包括开发者社区、合作伙伴和生态系统,以促进知识共享和合作。

一文入门智能体:dify 超快速构建AI agent509 赞同 · 37 评论 文章
https://github.com/langgenius/dify/blob/main/docs/zh-CN/README.mdgithub.com/langgenius/dify/blob/main/docs/zh-CN/README.md
编辑于 2026-03-26 07:57・广东