当前位置: 首页 > news >正文

【本地部署大模型】openclaw使用太多token?不花钱的token新思路!本地部署帮你解决困扰。

token买了不经用是我们养虾的巨大困扰,本地部署大模型真正意义上可以免费使用openclaw!!!

网络上天天都说自己花了很多钱养虾,也有阴谋论说这是把大家当韭菜,国家也提醒我们使用openclaw有风险。然而,有独立思考能力的人是可以驾驭的!!!如果你花钱安装openclaw,或者花大钱去卸载,再去抱怨openclaw不好用的话,实在让人忍俊不禁。

好了,废话少说,我们开始:

1.去魔搭社区找大模型,链接:

搜索 · 魔搭社区

首先你要知道,本地大模型跑起来是需要使用你的显卡的,显存是一个很重要的指标,我是4060,8GB显存,我选择模型如下:

大家根据自己情况去选择,显存越大性能越好。下载完之后放到一个有准备的文件夹。

2、下载llama.cpp

搜索llama.cpp,到GitHub上找

点击进去,选择:

下载,解压放入同一个文件夹。

3.检查,配置

进入解压的文件路径

进入终端,输入

.\llama-server.exe --list-devices

注意注意!!!这里一定要看到有自己独显的设备,我的是4060。你也不想你的CPU直接满载爆炸吧。没有的话需要去下载CUDA软件(英伟达的显卡),链接在下方:

CUDA Toolkit 12.4 Downloads | NVIDIA Developer

然后我们就可以使用本地大模型了,你可以去任务管理器先打开,选择“性能”,

目前风平浪静。

5、使用大模型

在刚刚的命令行下(注意打开路径),输入命令:

.\llama-server.exe -m F:\LLM\Qwen3.5-9B-IQ4_NL.gguf -ngl 99 -c 50000

有一个网址 http://127.0.0.1:8080 哦,朋友们,ctrl+单击,来吧。

你去对话试试,注意看自己的任务管理器:

完美!!!

接下来

变动网址:

这就是包含我们模型名字的信息,接下来可以按照之前的文章切换模型给openclaw使用啦!!!

http://www.jsqmd.com/news/775883/

相关文章:

  • 别再死磕ImageNet了!用CLIP的Zero-Shot能力,5分钟搞定你的自定义图像分类任务
  • 上海全屋定制落地能力评估:从初次量尺到安装完成的误差控制标准 - 品牌排行榜
  • 天猫购物卡回收超简单,一步教你变现! - 团团收购物卡回收
  • 连续变量量子密钥分发技术及其距离自适应策略
  • 2026年深圳纯直营驾培与智驾陪驾完全指南|宝华驾校官方联系通道 - 优质企业观察收录
  • 基于大语言模型与地理空间计算的智能地图系统构建实践
  • MCGS触摸屏程序逆向分析:当设备厂家失联,如何从老设备里“挖”出点位表?
  • 2026 合肥婚纱照机构推荐:五大品牌深度测评 - 速递信息
  • VSCode 远程开发延迟高怎么优化网络传输配置?
  • 2026年品牌桂花九曲红梅砖茶推荐,专业制茶企业全解析 - myqiye
  • Linux 共享内存
  • GEO优化公司的性价比哪家高?开眼营销优势多 - myqiye
  • 从五角星到雷达图:用CocosCreator Graphics组件封装一个可复用的自定义图表库
  • 不只是运行:用GDB深入调试NEMU模拟器内核与BenOS固件(附GDB 10.2升级指南)
  • ComfyUI-Manager离线模式深度解析:无网络环境下的高效管理实战指南
  • 2026年GEO如何选购 - 工业推荐榜
  • 关于cppm?采购从业者必看的权威全解析(含报考指南) - 中供国培
  • 抖音内容高效下载终极指南:从零开始掌握批量无水印保存技巧
  • ChatGPT 学英语实战:口语陪练、写作润色与语法纠偏的正确姿势
  • 2026年西安画册印刷厂、活页环装定制与快印服务深度横评|松林森彩印官方联系指南 - 精选优质企业推荐官
  • 企业重点人群享受税收优惠如何申请? - myqiye
  • 你的定时任务踩过调休的坑吗?用chinese_calendar为Python脚本加上‘中国节假日感知’
  • Java 21 开发技术主题:模式匹配的最佳实践
  • RAG 系列(九):效果不好怎么定位——用 RAGAS 做根因诊断
  • spring-ai-alibaba-agent 260508
  • mapset
  • 【OC】自定义Cell
  • 武汉明德智学高中课后辅导口碑如何 - myqiye
  • DeepSeek免费API逆向工程:技术原理、部署与实战应用
  • BabelDOC:专业PDF智能翻译工具的5分钟终极指南