当前位置：首页 > news >正文

实战教程：星图平台私有化部署Qwen3-VL:30B，实现本地AI多模态能力

news 2026/4/14 17:55:42

实战教程：星图平台私有化部署Qwen3-VL:30B，实现本地AI多模态能力

1. 项目概述与准备工作

1.1 为什么选择Qwen3-VL:30B？

Qwen3-VL:30B是目前最强大的开源多模态大模型之一，具备300亿参数规模，能够同时处理文本和图像输入。与普通语言模型相比，它的独特优势在于：

真正的多模态理解：不仅能识别图片中的物体，还能理解图像与文本的关联关系
专业级中文能力：在中文语境下的表现优于同类开源模型
企业级部署友好：支持Ollama等轻量级部署方案，单卡A100即可运行

1.2 硬件环境要求

在星图平台上部署Qwen3-VL:30B需要以下最低配置：

组件	最低要求	推荐配置
GPU	A100 40GB	A100 48GB
CPU	16核	20核
内存	128GB	240GB
存储	50GB系统盘	50GB系统盘+40GB数据盘

1.3 准备工作清单

注册并登录CSDN星图AI平台账号
确保账号有足够的GPU资源配额
准备一个简单的测试图片（用于后续多模态能力验证）
本地电脑安装SSH客户端（如PuTTY或终端）

2. 镜像部署与基础测试

2.1 选择并启动Qwen3-VL:30B镜像

登录星图平台控制台
进入"镜像广场"，搜索"Qwen3-vl:30b"
选择标注为"官方推荐"的Ollama版本镜像
点击"立即使用"，进入实例配置页面

关键配置参数：

GPU类型：选择A100-48G
实例名称：建议使用"qwen3-vl-30b"等有意义的名称
网络配置：务必勾选"分配公网IP"

2.2 验证基础功能

实例启动后，通过两种方式测试模型是否正常工作：

2.2.1 Web界面测试

在控制台点击"Ollama控制台"快捷入口
在聊天界面输入简单问题，如："你能分析图片内容吗？"
观察模型回复是否合理

2.2.2 API接口测试

使用Python测试API连通性：

from openai import OpenAI client = OpenAI( base_url="https://你的实例地址-11434.web.gpu.csdn.net/v1", api_key="ollama" ) response = client.chat.completions.create( model="qwen3-vl:30b", messages=[{"role": "user", "content": "用一句话介绍你自己"}] ) print(response.choices[0].message.content)

预期输出应包含"Qwen3-VL"和"多模态"等关键词。

3. Clawdbot安装与配置

3.1 安装Clawdbot

通过SSH连接到实例后，执行以下命令：

npm i -g clawdbot

安装完成后，运行初始化向导：

clawdbot onboard

向导中选择以下配置：

部署模式：local
Tailscale：no
飞书接入：no（下篇教程再配置）
控制台：yes

3.2 解决常见网络问题

Clawdbot默认配置可能导致控制台无法访问，需要修改配置文件：

vim ~/.clawdbot/clawdbot.json

修改以下关键参数：

"gateway": { "bind": "lan", "auth": { "token": "你的自定义token" }, "trustedProxies": ["0.0.0.0/0"] }

保存后重启服务：

clawdbot gateway --restart

4. 集成Qwen3-VL:30B与Clawdbot

4.1 配置模型连接

编辑Clawdbot配置文件，添加模型供应源：

"models": { "providers": { "my-ollama": { "baseUrl": "http://127.0.0.1:11434/v1", "apiKey": "ollama", "api": "openai-completions", "models": [ { "id": "qwen3-vl:30b", "name": "Local Qwen3 30B", "contextWindow": 32000 } ] } } }, "agents": { "defaults": { "model": { "primary": "my-ollama/qwen3-vl:30b" } } }