当前位置: 首页 > news >正文

ollama amd gpu配置

如何确定ollama是跑在cpu上还是gpu上

image
GPU:
image
CPU:
image
集成显卡:
image

确保以下配置正确

配置项 正确配置 备注
安装rocm(hip sdk) 下载PRO-Edition驱动,但是可以只选择hip sdk而不安装驱动 https://www.amd.com/zh-cn/developer/resources/rocm-hub/hip-sdk.html
替换ollama文件 C:\Program Files\AMD\ROCm\6.4\bin\rocblas.dllC:\Program Files\AMD\ROCm\6.4\bin\rocblas\library复制到C:\Users\lhy63\AppData\Local\Programs\Ollama\lib\ollama\rocm 具体ollama目录在什么地方可以自己搜索,比如用everything
设置环境变量 HIP_PATH=%HIP_PATH_64%;HIP_PATH_64=C:\Program Files\AMD\ROCm\6.4\;添加%HIP_PATH%\bin\到path 主要应该是path,注意,环境变量要与替换到ollama的目录一致
强制指定显卡(一般不需要配置,多显卡才需要配置) 设置环境变量HIP_VISIBLE_DEVICES为0或者1,一般与hipinfo输出的编号保持一致,设置之后退出重新启动ollama观察加载的那个显卡 可以加载GPU,但是加载的GPU不对时才需要设置

image
image
image
集成显卡是device0
image
独立显卡是device1
image

不过我不需要设置,ollama自动选择对了

目前ollama还没有适配rocm7,所以用rocm7.1的库是会出现问题的。https://github.com/ollama/ollama/pull/13000
我出现的问题现象是:配置了HIP_VISIBLE_DEVICES配置设备编号在ollama中和hipinfo显示的不一致,而且就算ollama显示显卡正确了,发消息还是有问题
image

http://www.jsqmd.com/news/465388/

相关文章:

  • 2026年Q1 GEO优化公司口碑排行榜TOP5|深度实测3家避坑指南 - 精选优质企业推荐榜
  • 5个实用技巧让Text-Grab成为你的文字提取效率工具
  • 2026年吉林界石定制选购指南:五家实力厂家横向解析 - 2026年企业推荐榜
  • 贵州AI网络推广2026年TOP5排行榜:实测避坑与性价比选择指南 - 精选优质企业推荐榜
  • 2026年评价高的别墅打井厂家推荐:别墅打井高口碑品牌推荐 - 品牌宣传支持者
  • 前端文件下载:从痛点解决到企业级方案的全面实践
  • 全国GEO优化公司排行榜:2026年实测TOP5选购指南与避坑深度测评 - 精选优质企业推荐榜
  • 前端文件下载完全指南:从基础实现到高级应用
  • Vue3项目实战:从零封装高性能SVG图标组件库
  • 高效解密PC微信小程序:wxapkg解密工具实战指南
  • OpCore Simplify深度解析:开源配置工具的智能适配方法与系统部署价值
  • 如何用猫抓cat-catch解决网页资源下载难题:自动化嗅探与批量处理完整方案
  • VentoyPlugson实战指南:解锁多系统启动U盘的高效配置新体验
  • 2026年初河南乳品代理如何选?业内权威推荐指南 - 2026年企业推荐榜
  • BIOS高级设置解锁工具:拯救者用户的硬件潜能释放方案(5分钟提升30%性能)
  • 外贸企业如何从零搭建智能AI客服系统:技术选型与实战避坑指南
  • 告别繁琐配置:OpCore Simplify自动化配置工具让黑苹果系统搭建效率提升80%
  • Mamba环境配置实战:从零搭建高效AI开发环境
  • 贵阳GEO优化推广2026年Q1口碑榜TOP5:深度实测,3个关键点帮你避坑选对 - 精选优质企业推荐榜
  • LeetCode1009:十进制整数的反码
  • 计算机毕设选题可以选什么?一份面向工程实践的技术选题指南
  • 如何突破流媒体下载限制?猫抓工具全攻略
  • alt-tab-macos:重新定义macOS窗口切换的效率提升方案
  • 轻量化3D生成模型实战指南:Hunyuan3D-2mini在低配设备上的高效部署与优化
  • 开源固件编译零基础通关:MT798x芯片固件编译完全指南
  • Claude Code订阅方案深度解析:如何根据开发需求选择最优套餐
  • 逆向实战:拼多多anti-content加密参数的全链路解析与动态对抗策略
  • 金智维KRPA初探:从零搭建你的第一个软件机器人
  • 猫抓cat-catch:5大核心功能解决媒体资源下载难题的终极方案
  • Windows Hyper-V环境下macOS虚拟机部署全攻略:从需求分析到性能优化