当前位置： 首页 > news >正文

【从零搭建本地电商智能客服 Agent：Dify+Ollama+Qwen3.5 部署全流程】

news 2026/5/27 1:22:37

本文针对开源电商智能客服 Agent 的部署与落地，提供一套基于Docker 自托管 Dify + Ollama 本地大模型 + SQLite 商品数据库的完整技术方案。该方案完全脱离 OpenAI 付费 API，以 Qwen3.5:4b 为核心模型，实现免费、离线、可定制的电商智能客服系统，解决了传统客服系统依赖付费接口、数据隐私风险高、部署成本高的痛点。文中详细记录了从 WSL2 环境配置、Dify 容器部署、Ollama 模型对接，到 Agent 业务逻辑实现的全流程，为个人开发者和中小企业提供了可直接复用的低成本智能客服落地方案。

一、引言

电商行业中，智能客服是降低人工成本、提升用户咨询效率的核心工具。传统方案多依赖第三方在线大模型 API，存在调用成本高、数据隐私泄露风险、网络依赖强等问题。

为解决上述痛点，本文基于ReAct（思考 - 执行 - 反馈）智能体框架，结合Dify 低代码平台、Ollama 本地模型运行时和SQLite 轻量数据库，构建了一套完全本地部署的电商智能客服 Agent。该方案具备以下优势：

  1. 零调用成本：使用 Ollama 运行开源模型，无需支付 API 费用；
  2. 数据完全可控：所有对话数据、商品数据均存储在本地，无隐私泄露风险；
  3. 离线运行能力：模型部署在本地，断网环境下仍可正常提供服务；
  4. 低配置门槛：Qwen3.5:4b 模型对硬件要求低，普通笔记本即可流畅运行；
  5. 快速二次开发：基于 Dify 平台，可快速编排业务流程、扩展工具能力。

二、技术架构设计

本项目采用三层架构设计，从下到上分为数据存储层、模型调用层、智能体控制层，整体架构如下：

┌─────────────────────────────────────────┐ │ 用户交互层：Dify Web 界面/命令行 │ ├─────────────────────────────────────────┤ │ 智能体控制层：ReAct 流程调度、工具调用 │ ├─────────────────────────────────────────┤ │ 模型调用层：Ollama（Qwen3.5:4b） │ ├─────────────────────────────────────────┤ │ 数据存储层：SQLite 商品库、促销文本库 │ └─────────────────────────────────────────┘

2.1 核心组件说明

  1. Dify 平台：提供低代码智能体编排能力，负责对话交互、流程控制、工具集成，同时提供可视化管理界面；
  2. Ollama 运行时：负责本地大模型的部署与调用，支持一键拉取、管理开源模型，提供 RESTful API 接口；
  3. Qwen3.5:4b 模型：通义千问开源大模型，4B 参数版本，兼顾性能与硬件门槛，支持对话、工具调用等任务；
  4. SQLite 数据库：轻量级关系型数据库，存储商品基础信息（名称、价格、描述、库存等），支持模糊查询；
  5. 工具模块：内置商品查询、价格计算、促销政策读取三类工具，为智能体提供业务能力支持。

三、部署环境准备

3.1 硬件与系统要求

  • 操作系统：Windows 10/11（x64 架构）
  • 处理器：Intel/AMD 双核及以上
  • 内存：至少 8GB（推荐 16GB，以保障模型流畅运行）
  • 存储：至少 10GB 空闲空间（含模型文件、Docker 镜像）

3.2 WSL2 环境配置

Docker 自托管 Dify 需要依赖 WSL2 环境，配置步骤如下：

  1. 下载并安装 WSL2 内核更新包从微软官方下载适配 x64 架构的内核更新包：

    https://aka.ms/wsl2kernel 双击运行.msi文件，按提示完成安装。

  1. 启用并配置 WSL2以管理员身份打开 PowerShell，执行以下命令：

运行成功：

3.3 Docker 环境部署

  1. 下载并安装 Docker Desktop，安装完成后启动程序；

  1. 配置 Docker 代理（如网络受限）：
    • 进入Settings → Resources → Proxies；
    • 勾选 Noproxy；
  2. 点击Apply & Restart重启 Docker 服务

四、Dify 平台部署与初始化

4.1 拉取并启动 Dify 容器

  1. 下载 Dify 社区版代码，进入docker目录；官方地址：https://dify.ai/
    官方中文地址: https://dify.ai/zh
    官方文档地址：https://docs.dify.ai/zh-hans
  2. 在目录地址栏输入cmd打开命令行，执行启动命令：
    docker compose up -d
  3. 等待所有容器启动，当所有服务状态显示为Started/Healthy时，部署完成。

如果出现网络不好可以换成个人热点

4.2 初始化 Dify 管理员账户

  1. 打开浏览器访问http://localhost，进入初始化界面；
  2. 设置管理员邮箱、用户名和密码（密码需包含字母和数字，长度≥8 位）；
  3. 完成初始化后，进入 Dify 管理后台。

五、Ollama 模型部署与对接

5.1 安装 Ollama 运行时

从 Ollama 官网下载 Windows 客户端并安装，安装完成后 Ollama 服务将默认在后台运行，监听11434端口。

5.2 拉取 Qwen3.5:4b 模型

打开命令行，执行以下命令拉取模型：

ollama pull qwen3.5:4b

等待模型下载完成（约 3.2GB），下载进度可通过命令行实时查看。

5.3 在 Dify 中添加 Ollama 模型

  1. 进入 Dify 后台，点击设置 → 模型供应商；
  2. 找到Ollama，点击「安装 / 配置」；
  3. 填写以下配置信息：
    • Base URL：http://host.docker.internal:11434（Docker 部署的 Dify 需使用此地址访问宿主机 Ollama 服务）；
    • API 密钥：留空（Ollama 默认无身份验证）；
    • 模型类型：选择「对话」；
    • 模型上下文长度：填写4096；
    • 最大 token 上限：填写4096；
    • 是否支持 Vision：选择「否」。
  4. 点击「添加」，保存配置；
  5. 配置完成后，点击「获取模型列表」，即可看到qwen3.5:4b模型，点击启用该模型。

六、电商智能客服 Agent 实现

6.1 核心逻辑设计

本 Agent 基于ReAct 框架实现，核心流程如下：

  1. 用户发送商品咨询问题；
  2. Agent 调用 Ollama 模型，对问题进行分析，判断是否需要调用工具；
  3. 如需工具，自动调用内置工具（商品查询 / 价格计算 / 促销读取）获取结果；
  4. 工具结果反馈给模型，模型结合结果生成最终回复；
  5. 循环执行思考 - 执行 - 反馈流程（最多 20 次迭代，避免无效调用），直到生成最终答案。

6.2 数据存储层实现

使用 SQLite 数据库存储商品信息，核心表结构如下：

sql

CREATE TABLE products ( id INTEGER PRIMARY KEY AUTOINCREMENT, name TEXT NOT NULL, description TEXT, material TEXT, usage TEXT, brand TEXT, price REAL NOT NULL, stock INTEGER DEFAULT 0 );

通过init_db.py脚本初始化数据库并插入测试商品数据：

import sqlite3 conn = sqlite3.connect('sports_inventory.db') cursor = conn.cursor() # 创建商品表 cursor.execute(''' CREATE TABLE IF NOT EXISTS products ( id INTEGER PRIMARY KEY AUTOINCREMENT, name TEXT NOT NULL, description TEXT, material TEXT, usage TEXT, brand TEXT, price REAL NOT NULL, stock INTEGER DEFAULT 0 ) ''') # 插入测试数据 test_products = [ ("足球", "专业比赛用足球", "PU材质", "比赛/训练", "Nike", 199.0, 50), ("篮球", "室内外通用篮球", "橡胶+PU", "比赛/娱乐", "Spalding", 299.0, 30) ] cursor.executemany('INSERT INTO products (name, description, material, usage, brand, price, stock) VALUES (?, ?, ?, ?, ?, ?, ?)', test_products) conn.commit() conn.close()

通过init_db.py脚本初始化数据库并插入测试商品数据：

import sqlite3 conn = sqlite3.connect('sports_inventory.db') cursor = conn.cursor() # 创建商品表 cursor.execute(''' CREATE TABLE IF NOT EXISTS products ( id INTEGER PRIMARY KEY AUTOINCREMENT, name TEXT NOT NULL, description TEXT, material TEXT, usage TEXT, brand TEXT, price REAL NOT NULL, stock INTEGER DEFAULT 0 ) ''') # 插入测试数据 test_products = [ ("足球", "专业比赛用足球", "PU材质", "比赛/训练", "Nike", 199.0, 50), ("篮球", "室内外通用篮球", "橡胶+PU", "比赛/娱乐", "Spalding", 299.0, 30) ] cursor.executemany('INSERT INTO products (name, description, material, usage, brand, price, stock) VALUES (?, ?, ?, ?, ?, ?, ?)', test_products) conn.commit() conn.close()

6.3 工具模块实现

6.4 智能体编排与测试

1.在 Dify 中新建「对话应用」，进入编排界面；若 Agent 能自动调用工具、返回准确的商品信息与回复，则说明部署成功。

2.将默认模型替换为已启用的qwen3.5:4b；

3.配置系统提示词，定义客服身份与工具调用规则；4.

绑定内置工具，设置最大迭代次数为 10 次；

5.保存配置，发起对话测试：

测试问题 1：你们的足球多少钱？有优惠吗？

测试问题 2：帮我查一下篮球的库存和价格

测试问题 3：现在店铺有什么促销活动？

  1. 商品查询工具：基于 SQLite 模糊匹配，按商品名称查询信息

    def query_by_product_name(product_name: str): conn = sqlite3.connect('sports_inventory.db') cursor = conn.cursor() cursor.execute("SELECT * FROM products WHERE name LIKE ?", (f'%{product_name}%',)) result = cursor.fetchone() conn.close() return result

  2. 促销政策读取工具：从本地文本文件读取店铺促销信息

    def read_store_promotions(): with open('promotions.txt', 'r', encoding='utf-8') as f: promotions = f.read() return promotions

  3. 价格计算工具：根据原价和折扣计算最终价格

    def calculate_final_price(original_price: float, discount: float): return round(original_price * discount, 2)

若 Agent 能自动调用工具、返回准确的商品信息与回复，则说明部署成功。

七、关键问题与解决方案

7.1 Ollama 模型无法在 Dify 中被识别

  1. 问题现象：配置 Ollama 后，无法获取模型列表，提示连接失败；
  2. 解决方案：
    1. 确认 Ollama 服务正在运行，执行ollama list可查看已拉取模型；
    2. 检查Base URL是否正确，Docker 部署的 Dify 必须使用http://host.docker.internal:11434；
    3. 关闭防火墙，确保 11434 端口未被占用

7.2 Dify 容器启动失败

  • 问题现象：执行docker compose up -d后，部分容器状态为Exited；
  • 解决方案：
    1. 清理 Docker 缓存：docker system prune -a；
    2. 检查 WSL2 环境是否配置正确，重新执行wsl --update；
    3. 检查 Docker 代理配置，确保网络可拉取镜像。

7.3 商品查询工具无法匹配结果

  • 问题现象：用户输入 “速干衣”，数据库中 “运动 T 恤” 无法被匹配；
  • 解决方案：
    1. 当前方案基于模糊匹配，仅支持关键词检索；
    2. 可升级为 RAG 向量知识库，将商品描述转为向量存储，基于语义相似度实现检索。

八、优化与扩展方向

8.1 模型升级

可根据硬件配置升级更大参数的模型，如qwen3.5:7b、llama3:8b，提升对话理解与工具调用能力。

8.2 能力扩展

新增订单查询、物流追踪、售后处理等工具，扩展客服业务范围； 对接企业现有 ERP/CRM 系统，实现商品库存、订单数据的实时同步。

8.3 性能优化

    • 对 SQLite 数据库建立索引，提升商品查询效率；
    • 配置 Ollama 模型缓存，减少重复推理耗时；
    • 为 Dify 配置反向代理，实现多用户并发访问支持。

九、结论

本文实现了一套基于 Dify + Ollama + Qwen3.5 的本地电商智能客服 Agent，该方案完全脱离付费 API，实现了免费、离线、隐私可控的智能客服能力。从 WSL2 环境配置、Dify 容器部署，到 Ollama 模型对接、智能体业务实现，提供了完整的落地流程，解决了传统智能客服方案成本高、依赖网络、数据隐私风险高的痛点。

该方案不仅适用于电商客服场景，也可快速迁移至企业内部咨询、知识库问答、个人助手等场景，为个人开发者和中小企业提供了低成本、可定制的智能应用开发路径。后续可通过模型升级、工具扩展、性能优化等方式，进一步提升系统的业务适配能力与用户体验。

http://www.jsqmd.com/news/893606/

相关文章：

  • 从零到一：PSDK负载开发实战入门指南
  • 2026年广东工业酒精/无水乙醇/异丙醇/甲醇/深圳丙酮/丁酮/环己酮厂家推荐：高纯品质与稳定供应实力品牌精选 - 品牌企业推荐师（官方）
  • Git闯关手记-从登录到烧录与IDE延迟
  • 2026年 圆弧设备厂家推荐排行榜：木质圆弧辊压机/圆弧成型机/圆弧弯曲机，弧形板加工与家具圆弧代工专业实力之选 - 品牌企业推荐师（官方）
  • 云原生存储方案：选择适合你的存储策略
  • 2026年Q2高评价数控控制箱实测评测：聚酯防爆箱/铸铝防爆机箱/铸铝防爆箱/防爆接线机箱/防爆接线箱/防爆控制机箱/选择指南 - 优质品牌商家
  • 【Doris从零到一】（一）Apache Doris 概述
  • 避开第一个坑：为什么神经网络权重不能初始化为0（附Python代码示例）
  • pandas sort_values 排序原理与生产级实战指南
  • 学术写作新纪元！2026全能型AI写作辅助软件深度解析
  • 2026全域电力变压器厂家推荐榜：变压器厂家直销/变压器回收价格/变压器回收公司/变压器回收厂家/变压器回收多少钱一台/选择指南 - 优质品牌商家
  • [LitCTF 2025]星愿信箱easy_signin题解
  • 告别龟速！实测FastCopy 3.92汉化版，百万小文件拷贝速度提升10倍
  • 被骂上热搜！粉木耳标签涉嫌低俗擦边。盒马火速致歉并下架
  • 2026年现阶段，常德业主如何精准选择卫生间防水实力企业？ - 2026年企业资讯
  • 别再只画轮廓了！用OpenCV的cv2.findContours()实现物体计数与尺寸测量（Python实战）
  • 最近折腾了几个 AI 开源项目，最后发现最省事的还是先搞一个大模型中转站
  • 2232344
  • 2026年5月专业的一建噪声防护课培训公司推荐厂家推荐榜，面授精讲、线上录播、一对一私教、考前密训、企业定制五种班型厂家选择指南 - 海棠依旧大
  • 2026年亚马逊还能做吗？ - 易派
  • AI代理内存管理：TTL与智能遗忘策略的工程实践
  • 卖无纺布怎么找客户？下游工厂和产业带在哪里
  • （毕业必看）实测好用的AI写作辅助网站，毕业生收藏备用
  • VSCode Live Server插件避坑指南：为什么你的HTML文件打开变成了‘listing directory‘？
  • 基于GraphCodeBERT语义嵌入的软件协同变更预测实战指南
  • 代码审查：团队协作与代码质量保障
  • 独家拆解2026年Top 5 AI工具底层架构（含LLM Runtime兼容性报告）：为什么92%的技术选型会误判编排层风险？
  • 基于 PLC 的磨线机和剥线机控制系统的设计与实现(设计源文件+万字报告+讲解)（支持资料、图片参考_降重降ai）_文章底部可以扫码
  • 【K8s】Pod
  • Python事件驱动架构实战：构建高可用异步系统