当前位置： 首页 > news >正文

CANN / runtime 运行时配置

news 2026/7/11 14:19:29

3. 运行时配置

【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime

本章节描述 CANN Runtime 的运行时配置接口，用于设置和查询系统参数、设备资源限制及 Stream 资源限制。

  • aclError aclrtSetSysParamOpt(aclSysParamOpt opt, int64_t value)：设置当前进程中的运行时参数值。
  • aclError aclrtGetSysParamOpt(aclSysParamOpt opt, int64_t *value)：获取当前进程中的运行时参数值。
  • aclError aclrtGetDeviceResLimit(int32_t deviceId, aclrtDevResLimitType type, uint32_t* value)：获取当前进程的Device资源限制。
  • aclError aclrtSetDeviceResLimit(int32_t deviceId, aclrtDevResLimitType type, uint32_t value)：设置当前进程的Device资源限制。
  • aclError aclrtResetDeviceResLimit(int32_t deviceId)：调用aclrtSetDeviceResLimit接口设置Device资源限制后，可调用本接口重置当前进程的Device资源限制，恢复默认配置，此时可通过aclrtGetDeviceResLimit接口查询默认的资源限制。
  • aclError aclrtGetStreamResLimit(aclrtStream stream, aclrtDevResLimitType type, uint32_t *value)：获取指定Stream的Device资源限制。
  • aclError aclrtSetStreamResLimit(aclrtStream stream, aclrtDevResLimitType type, uint32_t value)：设置指定Stream的Device资源限制。
  • aclError aclrtResetStreamResLimit(aclrtStream stream)：调用aclrtSetStreamResLimit接口设置指定Stream的Device资源限制后，可调用本接口重置指定Stream的Device资源限制，恢复默认配置，此时可通过aclrtGetStreamResLimit接口查询默认的资源限制。
  • aclError aclrtUseStreamResInCurrentThread([aclrtStream](https://link.gitcode.com/i/b31e2e35eb1114cd94e838d1fc7024dc) stream)：在当前线程中使用指定Stream上的Device资源限制。如果多次调用本接口设置Stream，将以最后一次设置为准。
  • aclError aclrtUnuseStreamResInCurrentThread(aclrtStream stream)：在当前线程中取消使用指定Stream上的Device资源限制。
  • aclError aclrtGetResInCurrentThread(aclrtDevResLimitType type, uint32_t *value)：获取当前线程可使用的Device资源。

aclrtSetSysParamOpt

aclError aclrtSetSysParamOpt(aclSysParamOpt opt, int64_t value)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

设置当前进程中的运行时参数值。调用本接口设置运行时参数值后，若需获取参数值，需调用aclrtGetSysParamOpt接口。

本接口与aclrtCtxSetSysParamOpt接口的差别是，本接口作用域是进程，aclrtCtxSetSysParamOpt接口作用域是Context。

参数说明

参数名输入/输出说明
opt输入运行时参数，请参见aclSysParamOpt。
value输入运行时参数值。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtGetSysParamOpt

aclError aclrtGetSysParamOpt(aclSysParamOpt opt, int64_t *value)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

获取当前进程中的运行时参数值。

如果不调用aclrtSetSysParamOpt接口设置运行时参数的值，直接调用本接口可获取各参数的默认值0，表示不开启确定性计算或内存访问越界检测；调用aclrtSetSysParamOpt接口设置运行时参数值后，若需获取参数值，需调用aclrtGetSysParamOpt接口。

参数说明

参数名输入/输出说明
opt输入运行时参数，请参见aclSysParamOpt。
value输出运行时参数值。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtGetDeviceResLimit

aclError aclrtGetDeviceResLimit(int32_t deviceId, aclrtDevResLimitType type, uint32_t* value)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

获取当前进程的Device资源限制。

若没有调用aclrtSetDeviceResLimit接口设置当前进程的Device资源限制，则调用本接口获取到的是AI处理器硬件默认的资源限制。

参数说明

参数名输入/输出说明
deviceId输入Device ID。
用户调用aclrtGetDeviceCount接口获取可用的Device数量后，这个Device ID的取值范围：[0, (可用的Device数量-1)]
type输入资源类型，请参见aclrtDevResLimitType。
value输出资源限制的大小。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtSetDeviceResLimit

aclError aclrtSetDeviceResLimit(int32_t deviceId, aclrtDevResLimitType type, uint32_t value)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

设置当前进程的Device资源限制。

本接口应在调用aclrtSetDevice接口之后且在执行算子之前使用。如果对同一Device进行多次设置，将以最后一次设置为准。

除了进程级别的Device资源限制，当前还支持设置Stream级别的Device资源限制，可通过aclrtSetStreamResLimit、aclrtUseStreamResInCurrentThread接口配合使用实现。

Device资源限制的优先级为：Stream级别的Device资源限制 > 进程级别的Device资源限制 > AI处理器硬件的资源限制

参数说明

参数名输入/输出说明
deviceId输入Device ID。
用户调用aclrtGetDeviceCount接口获取可用的Device数量后，这个Device ID的取值范围：[0, (可用的Device数量-1)]
type输入资源类型，请参见aclrtDevResLimitType。
value输入资源限制的大小。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

约束说明

本接口的设置仅对后续下发的任务有效。例如在调用aclmdlRICaptureBegin、aclmdlRICaptureEnd等接口捕获Stream任务到模型中、再执行模型推理的场景下，则需要在捕获之前调用本接口设置Device资源。




aclrtResetDeviceResLimit

aclError aclrtResetDeviceResLimit(int32_t deviceId)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

调用aclrtSetDeviceResLimit接口设置Device资源限制后，可调用本接口重置当前进程的Device资源限制，恢复默认配置，此时可通过aclrtGetDeviceResLimit接口查询默认的资源限制。

参数说明

参数名输入/输出说明
deviceId输入Device ID。
用户调用aclrtGetDeviceCount接口获取可用的Device数量后，这个Device ID的取值范围：[0, (可用的Device数量-1)]

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtGetStreamResLimit

aclError aclrtGetStreamResLimit(aclrtStream stream, aclrtDevResLimitType type, uint32_t *value)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

获取指定Stream的Device资源限制。

若没有调用aclrtSetStreamResLimit接口设置Device资源限制，则调用本接口获取到的Device资源限制优先级为：当前进程的Device资源限制（调用aclrtSetDeviceResLimit接口设置） > AI处理器硬件默认的资源限制

参数说明

参数名输入/输出说明
stream输入指定Stream。类型定义请参见aclrtStream。
若传入NULL，则表示默认Stream。
type输入资源类型，请参见aclrtDevResLimitType。
value输出资源限制的大小。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtSetStreamResLimit

aclError aclrtSetStreamResLimit(aclrtStream stream, aclrtDevResLimitType type, uint32_t value)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

设置指定Stream的Device资源限制。

本接口应在调用aclrtSetDevice接口之后且在执行算子之前使用。如果对同一Stream进行多次设置，将以最后一次设置为准。

调用本接口设置指定Stream的Device资源限制后，需配合调用aclrtUseStreamResInCurrentThread接口，设置在当前线程中使用指定Stream上的Device资源限制。

参数说明

参数名输入/输出说明
stream输入指定Stream。类型定义请参见aclrtStream。
若传入NULL，则表示默认Stream。
type输入资源类型，请参见aclrtDevResLimitType。
value输入资源限制的大小。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtResetStreamResLimit

aclError aclrtResetStreamResLimit(aclrtStream stream)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

调用aclrtSetStreamResLimit接口设置指定Stream的Device资源限制后，可调用本接口重置指定Stream的Device资源限制，恢复默认配置，此时可通过aclrtGetStreamResLimit接口查询默认的资源限制。

参数说明

参数名输入/输出说明
stream输入指定Stream。类型定义请参见aclrtStream。
若传入NULL，则表示默认Stream。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtUseStreamResInCurrentThread

aclError aclrtUseStreamResInCurrentThread([aclrtStream](https://link.gitcode.com/i/b31e2e35eb1114cd94e838d1fc7024dc) stream)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

在当前线程中使用指定Stream上的Device资源限制。如果多次调用本接口设置Stream，将以最后一次设置为准。

参数说明

参数名输入/输出说明
stream输入指定Stream。类型定义请参见aclrtStream。
需先调用aclrtSetStreamResLimit接口设置该Stream上的Device资源限制。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtUnuseStreamResInCurrentThread

aclError aclrtUnuseStreamResInCurrentThread(aclrtStream stream)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

在当前线程中取消使用指定Stream上的Device资源限制。

参数说明

参数名输入/输出说明
stream输入指定Stream。类型定义请参见aclrtStream。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。




aclrtGetResInCurrentThread

aclError aclrtGetResInCurrentThread(aclrtDevResLimitType type, uint32_t *value)

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持
  • Atlas 200I/500 A2 推理产品：支持
  • Atlas 推理系列产品：支持
  • Atlas 训练系列产品：支持
  • IPV350：不支持

功能说明

获取当前线程可使用的Device资源。

获取时，按照如下优先级返回value：Stream级别的Device资源限制（调用aclrtSetStreamResLimit接口设置） > 当前进程的Device资源限制（调用aclrtSetDeviceResLimit接口设置） > AI处理器硬件默认的资源限制

参数说明

参数名输入/输出说明
type输入资源类型，请参见aclrtDevResLimitType。
value输出资源数量。

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

http://www.jsqmd.com/news/1167831/

相关文章：

  • Unity游戏去马赛克终极指南：UniversalUnityDemosaics项目深度解析
  • 免费解锁B站大会员4K视频：bilibili-downloader终极离线下载指南
  • 2026年能够显著提升代码产出效率的AI编程工具深度测评：从补全到自动化全链路交付
  • TMSpeech：Windows免费离线语音识别工具，保护隐私的实时字幕解决方案
  • 从单调到惊艳：5分钟解锁Windows Terminal字体美学终极指南
  • WuWa-Mod终极指南：15个免费模组彻底改变《鸣潮》游戏体验
  • SingleFile终极指南：一键保存完整网页的完美解决方案
  • 网络工程师进阶
  • ClaudeMythos：面向金融政企的本地大模型低延迟推理框架
  • 从0到1：用ghost-on-heroku搭建赚钱博客的完整路径
  • 抖音下载器完整指南：高效批量下载去水印的终极解决方案
  • 初音未来MOD管理器：3分钟学会游戏模组管理
  • ECharts 5 动态排序柱状图实战：3步实现数据实时排名动画
  • 2026严选克拉玛依名表名包奢侈品回收卡地亚江诗丹顿宝珀路易威登LV迪奥普拉达精选门店排名当场验货当场打款零扣减 - 谊识预商务
  • 【计算机大数据毕业设计案例】基于 SpringBoot+Hadoop 的豆瓣图书多维数据分析系统的设计与实现 基于 SpringBoot+Hadoop 的个性化电子图书阅览推(程序+文档+讲解+定制)
  • 飞牛影视PC版(fntv-electron)安全与隐私保护：证书信任机制与数据存储解析
  • Zotero PDF2zh插件：5分钟搞定英文文献翻译的终极学术神器
  • 盘点 8 款主流微信投票小程序，免费在线测评拆解防刷票核心功能模块
  • 终极指南：如何免费解锁Wand专业版并实现跨设备游戏控制
  • RedPill Loader版本管理：如何在DSM 6.2.4和7.0之间切换配置
  • 终极风扇控制指南：用FanControl解决电脑散热与噪音的完整教程
  • Ornith-1.0-9B-4bit高级应用：自定义prompt工程与temperature参数调优技巧，让生成效果提升30%
  • 智慧树自动刷课脚本：5分钟实现课程学习自动化的终极指南
  • 黑苹果配置新纪元：OpCore-Simplify图形化工具20分钟极速配置指南
  • 3个步骤彻底改造你的终端界面：electerm主题定制终极指南
  • 2026严选克孜勒苏名表名包奢侈品回收帝舵卡地亚宝珀爱马仕香奈儿普拉达精选正规机构排名当场验货不压价 - 谊识预商务
  • doctorjs架构剖析：理解抽象解释在JavaScript代码分析中的应用
  • 终极免费DSLR相机遥控软件：digiCamControl完全指南
  • 逮捕必要性审查律所指南：怎样挑选逮捕必要性审查律师事务所更放心？ - 品牌深度评测
  • [MongoDB小技巧28]庖丁解牛 MongoDB 配置：WiredTiger、复制集、安全——一篇顶一本书