当前位置: 首页 > news >正文

《AI Agent生产力部署指南:OpenClaw + vLLM 本地化实战——(三)OpenClaw与LLM工具链适配》

上一章节中我们完整介绍了如何在服务器中配置vLLM服务,如何运行vLLM,以及如何搭建本地机器作为中间跳转连接虚拟机与服务器的通信。

本章第五节完成最后一个步骤对openclaw的相关配置,让本地能成功对话虚拟机,虚拟机成功调用服务器模型。

下面直接开始吧!


(五)配置openclaw中自定义模型的使用

前面我们搞定了vLLM的配置,并且实现了三台机器的消息转发,但是如上一节内容最后提到的网页界面显示了未知模型,所以这一小节我们来配置【.openclaw/openclaw.json】,适配我们前面vLLM所使用的Qwen3.5-27B-FP8模型,以及在网页中完成对vLLM的调用。

!!!重点注意,由于openclaw的版本迭代可能造成莫名的问题,所以下面的配置思路是主动参与了解的步骤方法一,强烈建议先按方法一熟悉一遍;本小节最后会给出方法二,一个完整简化的openclaw.json文件,如果方法一最后有出入,你可以直接简单修改覆盖原来json即可使用,后续的组件功能增加再做下一步的研究,先让整个系统正常运行起来。

《方法一,按步骤实践配置并了解问题》

还记的在vLLM代码中的【model_name】参数吗?这是openclaw查找模型的唯一id,所以openclaw.json中几个重要参数要注意:

  • baseUrl:访问本地ip和端口的地址(跳转地址);
  • apiKey:自己部署的大模型不需要秘钥,可以设置为EMPTY;
  • id:vLLM中的模型名,也就是model_name;
  • contextWindow:最大容量token数,根据你的模型大小来定,可以与vLLM中的max-model-len参数一致,不能低于16000;
  • maxTokens:模型回答容量token;
  • input:模型支持的类型,通常text表示支持文本,image表示支持图像(也就是多模态,这里qwen3.5就是多模态),根据使用模型决定填写;

大模型的上下文窗口(Context Window)公式是:
最大容量 (32768) = 你的提问 (Input) + 预留给它回答的空间 (Output / maxTokens)
正常人一次聊天最多也就回答 1000~2000 个 Token,预留4096足以,多给模型留些。

所以我们需要在openclaw.json的一级结构中添加models模块,自定义创建一个我们配置的模型,该模块可以放在agents上方(位置不影响,最后会有完整配置信息展示),例如结合我这里的模型使用情况,模块内容如下所示:

"models": { "mode": "merge", "providers": { "vllm_local": { "baseUrl": "http://172.23.20.15:8000/v1", "apiKey": "EMPTY", "api": "openai-completions", "models":[ { "id": "qwen", "name": "Qwen3.5-27B-FP8", "contextWindow": 32768, "maxTokens": 4096,
http://www.jsqmd.com/news/616075/

相关文章:

  • TCS3472 RGB色彩传感器Arduino多平台驱动库详解
  • 【2026年最新600套毕设项目分享】基于微信小程序的科创微应用平台(30012)
  • Windows下OpenClaw全攻略:Qwen3-14B镜像接入与自动化测试
  • 视图是关系数据库中基于SQL查询结果集的虚拟表,本身不存储实际数据,其数据来源于定义视图时所引用的基本表
  • audio policy config xml解析过程
  • OpenClaw(一)| 认识 OpenClaw
  • 突破付费内容限制:6种高效内容解锁技术全解析
  • 机器人零件设计优化:如何帮客户降低成本30%
  • 【2026年最新600套毕设项目分享】新闻资讯微信小程序(30013)
  • TCP/IP协议栈中网络接口层和网际层的核心概念与协议特性,是软件设计师考试中计算机网络部分的重要考点
  • ISDANet:交互式与监督双模式注意力的遥感变化检测
  • AccelStepper:Arduino步进电机精准控制与多轴协同解决方案
  • 作业二6位数码管显示
  • OpenClaw+SecGPT-14B实战:Git仓库敏感信息自动化审计
  • 慧谷新材深交所上市:市值73亿 年营收9.85亿,净利2亿
  • 学习嵌入式:单片机、MCU、RTOS、Linux 到底该学啥?
  • 2026年纯正弦波逆变器权威厂家盘点:储能电源/光伏控制器/太阳能控制器/磷酸铁锂电池/逆变器/锂电池/储能电池/选择指南 - 优质品牌商家
  • 财税行业AI落地:记账、报税、风控的自动化解决方案
  • 【单片机0.2】
  • AI搜索时代,跨境电商获客的核心逻辑变了
  • 账号没有明显违规却突然受限很多时候问题藏在哪些地方
  • 想学ARM/Linux,必须要先学会单片机吗?
  • 大金重工冲刺港股:年营收62亿,利润11亿 金鑫控制40%股权
  • Java 的4 种核心内部类
  • Keep平台API开发实战指南:从设计理念到生产落地
  • 2026届最火的六大AI学术平台实测分析
  • 2026年微软Dynamics365BC选购指南:微软Dynamics365BusinessCentral、微软微软Dynamics 365 BC代理商推荐选择指南 - 优质品牌商家
  • 跨境电商AI搜索优化,最容易踩的4个坑
  • 个人知识库助手:OpenClaw+Qwen3-14B构建智能检索系统
  • 九岭锂业IPO被终止:年营收43.8亿 曾拟募资34亿