当前位置: 首页 > news >正文

CANN/asc-devkit ReduceMax API参考

ReduceMax

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

产品

是否支持

Ascend 950PR/Ascend 950DT

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

功能说明

对一个多维向量在指定的维度求最大值。

定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为(2, 3)的二维矩阵进行运算,指定在第一维求最大值,输出结果为[4, 5, 6];指定在第二维求最大值,输出结果为[3, 6]。

图 1ReduceMax按第一个维度计算示例
![](https://raw.gitcode.com/cann/asc-devkit/raw/f35dfef9af78af31a0418d6061f7969c5ffc6990/docs/api/context/figures/ReduceMax按第一个维度计算示例.png "ReduceMax按第一个维度计算示例"?utm_source=gitcode_repo_files)

图 2ReduceMax按最后一个维度计算示例
![](https://raw.gitcode.com/cann/asc-devkit/raw/f35dfef9af78af31a0418d6061f7969c5ffc6990/docs/api/context/figures/ReduceMax按最后一个维度计算示例.png "ReduceMax按最后一个维度计算示例"?utm_source=gitcode_repo_files)

函数原型

  • 通过sharedTmpBuffer入参传入临时空间

    template <class T, class pattern, bool isReuseSource = false> __aicore__ inline void ReduceMax(const LocalTensor<T>& dstTensor, const LocalTensor<T>& srcTensor, const LocalTensor<uint8_t>& sharedTmpBuffer, const uint32_t srcShape[], bool srcInnerPad)
  • 接口框架申请临时空间

    template <class T, class pattern, bool isReuseSource = false> __aicore__ inline void ReduceMax(const LocalTensor<T>& dstTensor, const LocalTensor<T>& srcTensor, const uint32_t srcShape[], bool srcInnerPad)

由于该接口的内部实现中涉及复杂的数学计算,需要额外的临时空间来存储计算过程中的中间变量。临时空间支持开发者通过sharedTmpBuffer入参传入接口框架申请两种方式。

  • 通过sharedTmpBuffer入参传入,使用该tensor作为临时空间进行处理,接口框架不再申请。该方式开发者可以自行管理sharedTmpBuffer内存空间,并在接口调用完成后,复用该部分内存,内存不会反复申请释放,灵活性较高,内存利用率也较高。
  • 接口框架申请临时空间,开发者无需申请,但是需要预留临时空间的大小。

通过sharedTmpBuffer传入的情况,开发者需要为tensor申请空间;接口框架申请的方式,开发者需要预留临时空间。临时空间大小BufferSize的获取方式如下:通过GetReduceMaxMaxMinTmpSize中提供的接口获取需要预留空间范围的大小。

参数说明

表 1模板参数说明

参数名

描述

T

操作数的数据类型。

Ascend 950PR/Ascend 950DT,支持的数据类型为:int8_t、uint8_t、int16_t、uint16_t、half、bfloat16_t、int32_t、uint32_t、float、int64_t、uint64_t。

Atlas A3 训练系列产品 / Atlas A3 推理系列产品,支持的数据类型为:half、float。

Atlas A2 训练系列产品 / Atlas A2 推理系列产品,支持的数据类型为:half、float。

pattern

用于指定ReduceMax计算轴,包括Reduce轴和Normal轴。pattern由与向量维度数量相同的A、R字母组合形成,字母A表示Normal轴,R表示Reduce轴。例如,AR表示对二维向量进行ReduceMax计算:第一维是Normal轴,第二维是Reduce轴,即对第二维数据求最大值。

pattern是定义在AscendC::Pattern::Reduce命名空间下的结构体,其成员变量用户无需关注。

pattern当前只支持取值为AR和RA。

isReuseSource

是否允许修改源操作数,默认值为false。如果开发者允许源操作数被改写,可以使能该参数,使能后能够节省部分内存空间。

设置为true,则本接口内部计算时复用src的内存空间,节省内存空间;设置为false,则本接口内部计算时不复用src的内存空间。

isReuseSource的使用样例请参考更多样例。

表 2接口参数说明

参数名

输入/输出

描述

dstTensor

输出

目的操作数。

类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。

srcTensor

输入

源操作数。

类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。

源操作数的数据类型需要与目的操作数保持一致。

sharedTmpBuffer

输入

临时缓存。

类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。

用于ReduceMax内部复杂计算时存储中间变量,由开发者提供。

临时空间大小BufferSize的获取方式请参考GetReduceMaxMaxMinTmpSize。

srcShape

输入

uint32_t类型的数组,表示源操作数的shape信息。该shape的维度必须和模板参数pattern的维度一致,例如,pattern为AR,该shape维度只能是二维。

Ascend 950PR/Ascend 950DT,当前只支持二维shape。

Atlas A3 训练系列产品 / Atlas A3 推理系列产品,当前只支持二维shape。

Atlas A2 训练系列产品 / Atlas A2 推理系列产品,当前只支持二维shape。

srcInnerPad

输入

表示实际需要计算的最内层轴数据是否32Bytes对齐。

Ascend 950PR/Ascend 950DT,该参数预留。接口内由参数srcShape和pattern计算最内层轴数据是否32Bytes对齐。

Atlas A3 训练系列产品 / Atlas A3 推理系列产品,当前只支持true。

Atlas A2 训练系列产品 / Atlas A2 推理系列产品,当前只支持true。

返回值说明

约束说明

  • 操作数地址对齐要求请参见通用地址对齐约束。

  • 不支持源操作数与目的操作数地址重叠。

  • 不支持sharedTmpBuffer与源操作数和目的操作数地址重叠。

调用示例

AscendC::LocalTensor<float> dstLocal = outQueue.AllocTensor<float>(); AscendC::LocalTensor<float> srcLocal = inQueue.DeQue<float>(); AscendC::LocalTensor<uint8_t> tmp = tbuf.Get<uint8_t>(); uint32_t shape[] = { 2, 8 }; constexpr bool isReuse = true; AscendC::ReduceMax<float, AscendC::Pattern::Reduce::AR, isReuse>(dstLocal, srcLocal, tmp, shape, true);

结果示例如下:

输入输出的数据类型为float 输入数据(src): [[ 0.0 4.0 2.0 0.0 -1.0 2.0 -1.0 7.0], [ 0.0 1.0 -9.0 2.0 2.0 2.0 8.0 3.0]] 输入pattern:AR 输入shape:(2,8) 输出数据(dst): [7.0 8.0]

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/794459/

相关文章:

  • ghpm:GitHub仓库依赖管理的轻量级解决方案
  • 海鲜商城购物|基于SprinBoot+vue的海鲜商城系统(源码+数据库+文档)
  • 绝巧弃利之后,ABAP 才回到可升级的常道
  • 医疗设备智能警报系统设计与安全规范
  • 从绝圣弃智到少造机关,老子这一句放进 SAP HANA 开发里,讲的是把聪明收回到模型、数据和执行计划本身
  • StofDoctrineExtensionsBundle的IpTraceable扩展:自动记录用户IP地址的简单实现指南 [特殊字符]
  • AI赋能辅助生殖:深度学习如何革新胚胎评估与妊娠预测
  • 基于STM32HAL库的平衡小车设计(二)--CubeMX配置说明
  • CANN/ops-nn自适应层归一化算子
  • 手把手教你用9款AI工具,30分钟生成20万字计算机论文并自动匹配代码 - 麟书学长
  • 革命性云原生运维平台SREWorks:一站式解决企业运维难题
  • NCM解密工具终极指南:3步解锁网易云音乐加密文件
  • CANN Ascend C uint32转bfloat16函数
  • 5分钟告别百度网盘提取码烦恼:智能获取工具全解析
  • GE模型加载卸载API
  • 终极指南:3步解决Dell G15笔记本过热问题,开源温度控制中心完全解析
  • XUnity.AutoTranslator完全指南:轻松实现Unity游戏实时翻译的终极方案
  • CANN/asc-devkit Reset函数说明
  • CANN/Ascend C SetSkipMsg API
  • 见素抱朴的 SAP UI5 开发之道, 从「绝圣弃智」到少代码、少炫技、少内耗的前端工程
  • Seraphine:英雄联盟玩家的智能数据助手,三步解锁游戏信息优势
  • BepInEx 6.0.0插件框架稳定性修复:从崩溃现象到IL2CPP签名耗尽问题的深度解析
  • CANN/asc-devkit异或运算API文档
  • IPBan快速入门:一键安装配置,立即阻止僵尸网络入侵
  • 如何为Unity游戏添加实时多语言翻译:XUnity.AutoTranslator终极指南
  • 长期项目使用Taotoken按Token计费模式带来的成本优化体感
  • Yeti社区插件生态解析:如何利用现有资源快速扩展平台功能
  • 【审计专栏】招投标领域人工智能审计——3 算法篇 招投标围标串标行为、检测模型与评估体系 第一部分
  • XUnity.AutoTranslator完整指南:如何为Unity游戏添加智能实时翻译功能
  • 3分钟极速获取百度网盘提取码:开源工具完整使用教程