当前位置: 首页 > news >正文

CANN/asc-devkit Atan临时缓冲区因子大小获取接口文档

GetAtanTmpBufferFactorSize

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

功能说明

该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。

推算示例如下:

  • 算子实现需要调用Atan接口,开发者为其预留currBuff大小的空间,利用GetAtanTmpBufferFactorSize接口得到maxLiveNodeCount、extraBuf输出值,可推导算子单次最大计算元素数量为:

    currentShapeSize = (currBuff - extraBuf) / maxLiveNodeCount / typeSize

  • 算子实现需要调用两个kernel侧API KernelIntf1、KernelIntf2,利用两个GetXxxTmpBufferFactorSize(其中Xxx为需要调用的两个高阶API)接口的两组输出值(maxLiveNodeCount、extraBuf)以及当前现有的临时空间,推导单次最大计算元素数量currentShapeSize为:

    currentShapeSize1 = (currBuff - extraBuf1) / maxLiveNodeCount1 / typeSize

    currentShapeSize2 = (currBuff - extraBuf2) / maxLiveNodeCount2 / typeSize

    currentShapeSize = min(currentShapeSize1, currentShapeSize2)

注意上文中的currBuff表示接口计算可用的空间,需要去除用户输入输出等空间;另外,接口获取的maxLiveNodeCount值可能为0,计算时需要判断该值非0,避免除零错误。

函数原型

void GetAtanTmpBufferFactorSize(const uint32_t typeSize, uint32_t& maxLiveNodeCount, uint32_t& extraBuf)

参数说明

表1参数列表

参数名输入/输出功能
typeSize输入输入的数据类型大小,单位为字节。比如输入的数据类型为half,此处应传入2。
maxLiveNodeCount输出最大存活节点数,表示临时空间是单次计算数据量所占空间的多少倍。
extraBuf输出使用的额外临时空间大小,单位为字节。

返回值说明

约束说明

当利用maxLiveNodeCount,extraBuf反推出的currentShapeSize * typeSize < 256B时,currentShapeSize按照256B/typeSize的值向上取整。

调用示例

完整的调用样例请参考更多样例。

uint32_t maxLiveNodeCount = 0; uint32_t extraBuf = 0; AscendC::GetAtanTmpBufferFactorSize(typeSize, maxLiveNodeCount, extraBuf);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/1208272/

相关文章:

  • 从happy-lager学Craft CMS扩展开发:插件集成与自定义模块实战
  • 分布式文件系统的技术选型:CephFS、GlusterFS与JuiceFS的场景化对比分析
  • Ubuntu 20.04 LTS 初始配置与优化全指南
  • Racketscript核心功能揭秘:为什么它是Racket开发者的必备转译工具?
  • CANN/asc-devkit等待批量迭代完成接口
  • 统好AI:跳出碎片化陷阱,以一体化底座重塑企业数智逻辑
  • STM32与ESP32对比:嵌入式项目选型指南与仿生蝴蝶案例
  • TBAnnotationClustering核心组件解析:从QuadTree到AnnotationView的完整指南
  • J-space技术:通过Jacobian Lens窥探大型语言模型的内部思维机制
  • 中小企业防勒索病毒:基于SLA与Azure AD MFA的最小可行安全方案
  • CANN/asc-devkit Asin接口临时空间大小获取
  • 2026晋中水质检测怎么选?生活饮用水检测靠谱机构 TOP 上门采样 + 报告可查 联系电话汇总 - 鉴安检测
  • 蓝空AI 客服 + CRM 一体化中台架构设计:从 RAG 接待到销售闭环的技术实现思路
  • 实测5种百度网盘提速偏方,告诉你哪个是真有用,哪个是心理作用
  • 生态安全评价技术详解:基于ArcGIS Pro与Python的多模型融合应用(USLE/InVEST/电路理论)
  • Codex与DeepSeek大模型集成实战:AI编程工具链优化
  • ExecuTorch:PyTorch模型高效部署至边缘设备的实战指南
  • AscendC Matmul Tiling使用说明
  • 彻底解决Java JCE加密限制:Illegal key size异常分析与实战方案
  • GPT-5.6与Fable 5代码智能体深度对比与实战集成指南
  • ASCII Art实时ASCII艺术渲染库:5分钟快速入门指南
  • RDP Wrapper终极指南:3分钟免费解锁Windows远程桌面完整功能
  • Windows 11安装指南:从硬件检查到系统优化
  • 办公设计刚需!2026十大无版权图片网站有哪些?可高清大图下载网站推荐
  • 深圳奢侈品回收怎么避坑|2026门店实力甄选、行情研判与套路拆解攻略 - 全国二奢机构参考
  • CANN/asc-devkit ReduceXorSum临时空间接口
  • A40I平台与ADS1015 ADC芯片的工业数据采集方案
  • Go-Queryset案例研究:知名公司如何使用类型安全ORM提升开发效率
  • 飞腾派4G与MAX7219数码管驱动开发实战
  • 创建自定义图标集:使用createIconSet打造专属图标库