效果惊艳！AutoGen Studio+Qwen3-4B打造的智能助手案例

效果惊艳！AutoGen Studio+Qwen3-4B打造的智能助手案例

1. 引言：低代码构建AI智能体的新范式

随着大语言模型（LLM）技术的不断演进，如何高效地将模型能力转化为实际业务应用成为开发者关注的核心问题。传统的AI代理开发往往涉及复杂的代码编写、多模块集成和调试流程，门槛较高。而AutoGen Studio的出现，为这一难题提供了优雅的解决方案。

AutoGen Studio 是基于 Microsoft AutoGen AgentChat 构建的低代码可视化界面，支持快速创建、配置和编排多个AI代理（Agent），并通过工具扩展其能力边界。结合本地高性能推理框架vLLM部署的Qwen3-4B-Instruct-2507模型服务，用户可以在保障数据安全的前提下，构建出响应迅速、逻辑清晰、功能强大的智能助手系统。

本文将以一个完整的实践案例，展示如何利用该镜像环境完成从模型验证到智能体交互的全流程搭建，并深入解析关键配置步骤与工程化落地要点。

2. 环境准备与模型服务验证

在开始构建智能体之前，必须确保底层大模型服务已正确启动并可被调用。本镜像内置了通过 vLLM 加速部署的 Qwen3-4B-Instruct-2507 模型服务，监听于http://localhost:8000/v1接口。

2.1 检查vLLM模型服务状态

执行以下命令查看模型服务日志：

cat /root/workspace/llm.log

若日志中包含类似如下信息，则表明模型已成功加载并运行：

INFO: Started server process [1] INFO: Uvicorn running on http://0.0.0.0:8000 (Press CTRL+C to quit) INFO: OpenAPI schema available at http://0.0.0.0:8000/v1/openapi.json

核心提示：vLLM 提供了高效的批处理和连续批处理（continuous batching）机制，显著提升了 Qwen3-4B 的推理吞吐量，是实现低延迟交互的关键基础。

2.2 WebUI调用验证

打开 AutoGen Studio 的 Web 界面后，可通过 Playground 模块直接发起测试请求，验证模型是否正常响应。

2.2.1 进入Playground发起提问

导航至Playground→New Session，输入自然语言指令如：

“请简要介绍你自己。”

预期返回结果应为结构完整、语义连贯的回答，证明模型服务链路通畅。

3. 智能体构建：Team Builder中的核心配置

AutoGen Studio 的核心优势在于其图形化团队构建能力（Team Builder）。我们可以通过拖拽式操作定义多个角色代理，并赋予它们不同的技能与模型能力。

3.1 修改AssistantAgent模型配置

默认情况下，Agent可能指向远程OpenAI服务，需手动切换至本地部署的 Qwen3-4B 模型。

3.1.1 编辑AssiantAgent

进入Team Builder页面，选择目标 Agent（如 AssistantAgent），点击编辑按钮。

3.1.2 配置Model Client参数

在 Model Client 设置中填写以下信息：

Model:

Qwen3-4B-Instruct-2507

Base URL:

http://localhost:8000/v1

API Key: 可任意填写（vLLM无需认证）

保存后点击“Test”按钮，若显示“Model tested successfully”，则表示连接成功。

重要说明：此配置使 Agent 能够通过标准 OpenAI 兼容接口访问本地模型，极大简化了集成复杂度。

4. 功能增强：自定义Skills赋能智能体

为了让智能体具备实际业务处理能力，我们需要为其绑定可执行的功能模块——即Skills。这些 Skills 本质上是 Python 函数，可在 Agent 决策过程中被自动调用。

4.1 创建密码加密Skill：encrypt_password

该 Skill 用于对明文密码进行AES加密，保障传输安全性。

import base64 from cryptography.hazmat.primitives.ciphers import Cipher, algorithms, modes from cryptography.hazmat.backends import default_backend import logging def encrypt_password(passwd, logger=None): """ 使用AES/CBC/PKCS7对密码加密并Base64编码 """ backend = default_backend() KEY = b'l32DoqKUYQP0N7e1' # 固定密钥，生产环境建议动态管理 IV = b'132b0c8a7a6e072e' # 初始化向量 cipher = Cipher(algorithms.AES(KEY), modes.CBC(IV), backend=backend) data_bytes = passwd.encode('utf-8') # PKCS7填充 block_size = 16 padding_length = block_size - (len(data_bytes) % block_size) padded_data = data_bytes + bytes([padding_length]) * padding_length encryptor = cipher.encryptor() encrypted = encryptor.update(padded_data) + encryptor.finalize() result = base64.b64encode(encrypted).decode('utf-8') if logger: logger.info("加密成功：" + result) else: print("加密成功：" + result) return result

保存为名为encrypt_password的 Skill。

4.2 创建LDAP登录Skill：login_ladp

该 Skill 实现与企业身份系统的对接。

import requests import json import logging def login_ladp(userName, password): """ 向指定API端点提交登录请求 """ headers = {"client-id": "sptp"} data = {"username": userName, "password": password} try: response = requests.post( "http://10.37.11.29:8000/auth/api/v1/login", headers=headers, data=data, timeout=10, allow_redirects=False ) # 解析JSON响应 login_ladp_json = response.json() if response.status_code == 200 else {"error": "Login failed"} except Exception as e: login_ladp_json = {"error": str(e)} # 日志输出 if __name__ == "__main__": logging.basicConfig(level=logging.INFO) log = logging.getLogger(__name__) log.info("返回消息内容：" + str(login_ladp_json)) return login_ladp_json

命名为login_ladp并保存。

4.3 技能整合效果

完成上述两个 Skill 的注册后，可在界面上看到它们出现在可用技能列表中。后续 Agent 在处理涉及“登录”或“密码处理”的任务时，将能自主决定是否调用这些函数。

5. 智能体编排：Agents与Workflows配置

5.1 Agents配置

5.1.1 user_proxy 配置

• 角色类型：User Proxy Agent
• 功能：代表用户输入指令，触发对话流程
• 模型设置：选择已配置的 Qwen3-4B-Instruct-2507 模型

5.1.2 default_assistant 配置

• 角色类型：Assistant Agent
• 模型：Qwen3-4B-Instruct-2507
• 绑定Skills：
  • encrypt_password
  • login_ladp

设计逻辑：user_proxy 接收用户原始请求，default_assistant 负责分析意图、规划动作、调用工具并返回结果。

5.2 Workflows配置

创建工作流以固化智能体协作模式。

5.2.1 新建Autonomous Chat Workflow

• Workflow Name:login_workflow
• Description: 处理用户登录请求的自动化流程
• Summary Method:llm（由大模型生成会话摘要）

5.2.2 设置Agent协作关系

• Initiator:user_proxy
• Receiver:default_assistant

该配置意味着当新会话启动时，user_proxy 将把用户的输入传递给 default_assistant 进行处理，形成闭环交互。

6. 实际交互验证：Playground中的Session测试

6.1 创建新Session

进入Playground→New Session，选择刚刚创建的login_workflow，命名会话为test_login。

6.2 输入自然语言指令

在聊天框中输入以下内容：

使用用户名密码登录性能测试平台

1. 用户名：zhangsan
2. 密码是：mysecretpassword
3. 密码需要加密
4. 使用用户名和加密后的密码进行登录
5. 登录返回的结果展示出来

6.3 交互过程分析

系统将按如下流程执行：

1. 意图识别：default_assistant 识别出这是一个“登录”任务，且包含敏感信息处理需求。
2. 工具选择：判断需先调用encrypt_password对密码加密。
3. 函数执行：调用本地 Python 函数完成加密。
4. 二次调用：使用加密后密码调用login_ladp发起登录请求。
5. 结果汇总：将最终响应通过 LLM 格式化后返回给用户。

最终输出示例：

{ "status": "success", "message": "登录成功", "token": "eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.xxxxx" }

整个过程完全由 Agent 自主决策完成，体现了真正的“智能代理”能力。

7. 方案优势与典型应用场景

典型应用案例

• 企业内部知识助手：连接数据库、文档系统，提供私有化问答服务
• 自动化运维Agent：执行脚本、监控日志、异常告警
• 智能客服中台：集成CRM系统，自动处理工单与客户查询
• 金融风控辅助：分析交易记录，识别可疑行为并上报

8. 总结

通过本次实践，我们完整展示了如何基于AutoGen Studio + vLLM + Qwen3-4B构建一个具备真实业务处理能力的智能助手。该方案不仅实现了低代码快速开发，更在安全性、性能与功能性之间取得了良好平衡。

关键收获包括：

1. 本地化部署保障数据主权，适用于对隐私高度敏感的企业场景；
2. vLLM显著提升推理效率，使得4B级别模型也能满足实时交互需求；
3. Skill机制赋予Agent行动能力，突破传统LLM“只说不做”的局限；
4. 图形化界面降低使用门槛，非专业开发者也可参与AI应用构建。

未来，随着更多轻量化高质量模型的涌现，此类本地化智能体架构将成为企业智能化升级的重要基础设施。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。