当前位置: 首页 > news >正文

CANN/runtime流错误处理示例

1_stream_with_failure_mode

【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime

描述

本样例展示Stream设置遇错即停并且模拟运行核函数时发生错误的场景。

产品支持情况

本样例支持以下产品:

产品是否支持
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品

说明

本样例包含三部分内容:普通 Stream 上的遇错即停演示、aclrtStreamStop辅助演示、aclrtStreamAbort辅助演示。

  • aclrtStreamStop在 Atlas A2/Atlas A3 上要求目标 Stream 通过aclrtCreateStreamWithConfig(..., ACL_STREAM_DEVICE_USE_ONLY)创建,因此样例会单独创建一条 device-use-only Stream 并在其上提交长时核任务后调用aclrtStreamStop
  • aclrtStreamAbort不支持ACL_STREAM_DEVICE_USE_ONLYStream,因此样例会在普通 Stream 上单独演示aclrtStreamAbort
  • 如果当前环境不满足stop/abort辅助演示的额外前置条件,样例会打印WARN并跳过对应辅助演示;主流程中的aclrtSetStreamFailureMode演示仍然会继续执行。
  • aclrtStreamAbort演示后再次调用aclrtSynchronizeStream时,可能返回 stream abort 类状态码,这属于该辅助演示的预期结果,样例会按说明记录日志而不会将整个流程判定为失败。

编译运行

环境安装详情以及运行详情请见example目录下的README。

运行步骤如下:

# ${install_root} 替换为 CANN 安装根目录,默认安装在`/usr/local/Ascend`目录 source ${install_root}/cann/set_env.sh export ASCEND_INSTALL_PATH=${install_root}/cann # ${ascend_name} 替换为昇腾AI处理器的型号,可通过 npu-smi info 查看 Name 字段并去掉空格获得,例如 ascend910b3 export SOC_VERSION=${ascend_name} # 部分样例中涉及调用AscendC算子,需配置AscendC编译器ascendc.cmake所在的路径,如 ${install_root}/cann/aarch64-linux/tikcpp/ascendc_kernel_cmake # 可在CANN包安装路径下查找ascendc_kernel_cmake,例如find ./ -name ascendc_kernel_cmake,并将${cmake_path}替换为ascendc_kernel_cmake所在路径 export ASCENDC_CMAKE_DIR=${cmake_path} # 编译运行 bash run.sh

CANN RUNTIME API

在该Sample中,涉及的关键功能点及其关键接口,如下所示:

  • 初始化
    • 调用aclInit接口初始化AscendCL配置。
    • 调用aclFinalize接口实现AscendCL去初始化。
  • Device管理
    • 调用aclrtSetDevice接口指定用于运算的Device。
    • 调用aclrtResetDeviceForce接口强制复位当前运算的Device,回收Device上的资源。
  • Context管理
    • 调用aclrtCreateContext接口创建Context。
    • 调用aclrtDestroyContext接口销毁Context。
  • Stream管理
    • 调用aclrtCreateStream接口创建Stream。
    • 调用aclrtCreateStreamWithConfig接口创建ACL_STREAM_DEVICE_USE_ONLY类型的Stream。
    • 调用aclrtSynchronizeStream可以阻塞等待Stream上任务的完成。
    • 调用aclrtSetStreamFailureMode可以设置Stream执行任务遇到错误的操作,默认为遇错继续,可以设置为遇错即停。
    • 调用aclrtRegStreamStateCallback接口注册Stream状态回调。
    • 调用aclrtStreamStop和aclrtStreamAbort接口演示辅助Stream上的停止 / 中止行为。
    • 调用aclrtDestroyStreamForce接口强制销毁Stream,丢弃所有任务。
  • 内存管理
    • 调用aclrtMalloc接口申请Device上的内存。
    • 调用aclrtFree接口释放Device上的内存。
  • 数据传输
    • 调用aclrtMemcpy接口通过内存复制的方式实现数据传输。

已知issue

暂无

【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/784152/

相关文章:

  • AI金融深水区:从风险挑战到负责任AI的实践框架
  • 复古硬件复活记:用树莓派Pico给老CRT显示器写个“驱动程序”
  • CANN/AMCT快速安装指南
  • 对比直接使用厂商API体验Taotoken在多模型切换上的便捷性
  • Valve 开源 Steam Controller:当硬件设计遇上开源精神,一场游戏外设的革命才刚刚开始
  • CANN torchtitan-npu 安装指南
  • 西安不干胶标签定制与企业画册设计印刷一站式解决方案|2026年源头工厂选购指南 - 企业名录优选推荐
  • 2026年4月优选!屠宰场车辆洗消中心服务商大盘点,屠宰场车辆洗消中心/生猪运输车辆洗消设备,洗消中心安装维护商哪家可靠 - 品牌推荐师
  • 全球南方国家AI治理:发展权、数字主权与多元文化视角下的路径探索
  • 大型语言模型推理新框架:State over Tokens解析
  • 从游戏修改到逆向思维:用Cheat Engine Tutorial 8关实战,理解内存与汇编
  • 轨迹识别与空间记忆分析技术原理与应用
  • CANN ATVC Addcmul算子样例
  • CANN / ops-rand:算子调用
  • 数字孪生大脑:构建、挑战与脑疾病干预新范式
  • 2026年西安活页环装定制与企业印刷品一站式解决方案完全指南 - 企业名录优选推荐
  • 基于MCP协议的Testmo-AI集成:测试管理智能化实践指南
  • 2026年昆明短视频运营与AI全网推广:本地化精准投流完全方案 - 年度推荐企业名录
  • CANN/ops-nn Sigmoid算子接口
  • 空间记忆模型在视频分析中的应用与优化
  • 大语言模型在教育领域的应用、风险与政策应对
  • 告别迷茫:一文读懂STM32MP135的TF-A、OP-TEE与U-Boot在EMMC中的布局奥秘
  • 生成式AI如何重塑劳动力市场:从技能变迁到教育适应
  • 2026靠谱商用音乐版权平台排行榜 诚信版权服务品牌推荐 - 拾光而行
  • 基于大语言模型的教育数字孪生:从学生认知模拟到个性化教学策略仿真
  • 科研党必备:用Matlab scatter画论文级散点图,从数据美化到子图排版一篇搞定
  • BARP框架:LLM智能路由与多模型调度优化实践
  • 河北明煌金属网栏:市政护栏全品类定制与交付服务商 - 奔跑123
  • 企业内网系统安全集成大模型api的taotoken实践方案
  • 2026收藏版|零基础自学大模型面试全复盘!小白程序员转行必看避坑攻略