当前位置: 首页 > news >正文

昇腾asc-devkit Axpy临时空间大小获取接口

GetAxpyMaxMinTmpSize

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

功能说明

kernel侧Axpy接口的计算需要开发者申请临时空间,本接口用于在host侧获取申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。

  • 为保证功能正确,申请的临时空间大小不能小于最小临时空间大小;
  • 在最小临时空间-最大临时空间范围内,随着临时空间增大,kernel侧接口计算性能会有一定程度的优化提升。为了达到更好的性能,开发者可以根据实际的内存使用情况进行空间申请。

函数原型

void GetAxpyMaxMinTmpSize(const ge::Shape& srcShape, const uint32_t typeSize, const bool isReuseSource, uint32_t& maxValue, uint32_t& minValue)

参数说明

表1接口参数列表

参数名输入/输出功能
srcShape输入输入的shape信息。
typeSize输入输入的数据类型大小,单位为字节。比如输入的数据类型为half,此处应传入2。
isReuseSource输入是否复用源操作数输入的空间,与Axpy接口一致。
maxValue输出Axpy接口能完成计算所需的最大临时空间大小,超出该值的空间不会被该接口使用。在最小临时空间-最大临时空间范围内,随着临时空间增大,kernel侧接口计算性能会有一定程度的优化提升。为了达到更好的性能,开发者可以根据实际的内存使用情况进行空间申请。最大空间大小为0表示计算不需要临时空间。

请注意,maxValue仅作为参考值,有可能大于Unified Buffer剩余空间的大小,该场景下,开发者需要根据Unified Buffer剩余空间的大小来选取合适的临时空间大小。
minValue输出Axpy接口能完成计算所需最小临时空间大小。为保证功能正确,接口计算时申请的临时空间不能小于该数值。最小空间大小为0表示计算不需要临时空间。

返回值说明

约束说明

调用示例

完整的调用样例请参考更多样例。

// 输入shape信息为1024;算子输入的数据类型为half;不允许修改源操作数 std::vector<int64_t> shape_vec = {1024}; ge::Shape shape(shape_vec); uint32_t maxValue = 0; uint32_t minValue = 0; AscendC::GetAxpyMaxMinTmpSize(shape, 2, false, maxValue, minValue);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/1205543/

相关文章:

  • CANN/asc-devkit:SoftmaxFlash Tiling接口
  • 视频和照片去水印,2026新手也能上手的简单方法 - 爱上科技热点
  • Claude Agent Teams 实战:多智能体协作开发指南
  • Linux日志系统故障排查与权限修复实战
  • CANN/Ascend C矩阵乘量化系数设置
  • Google Colab部署vLLM与Gemma4 31B大模型实战
  • Zephyr RTOS环境变量配置实战:STM32F103C8T6开发指南
  • 【软件工程】结构化设计:模块独立性与耦合内聚
  • AI工程化开发:Superpowers与ui-ux-pro-max实战解析
  • Windows安装Codex CLI五大卡点深度解析与绕过方案
  • FPGA序列检测器设计与紫光同创PGX-MINI-4K开发实践
  • Allwinner H618开发板实现OpenCV与PyQt5实时图像显示方案
  • Linux图形系统架构与渲染流程详解
  • eBPF 发展脉络、挂载点与应用场景
  • Windows 10安装与优化全攻略:从原理到实践
  • openEuler阿语门户维护手册:日常更新、备份与监控的最佳实践
  • Mycelium社区贡献指南:如何参与这个开源操作系统项目
  • 2026南京二奢奢侈品回收门店哪家正规|权威认证门店、专业鉴定无套路问答全解 - 全国二奢机构参考
  • AI可解释性实践:特征分析、决策可视化与对抗检测
  • 【软件工程】结构化设计:高内聚低耦合原则
  • Termux环境MiMo Code全自动部署:解决Android AI编程助手安装难题
  • 中国车牌生成器:为AI项目打造高仿真车牌数据集的终极解决方案
  • 智能交通执法系统:3秒识别违章的技术解析
  • CANN/asc-devkit Lgamma缓冲区因子接口
  • .NET与C#开发实战:从入门到精通的完整指南
  • CANN/asc-devkit矩阵乘法B布局设置
  • 为AI模型WebUI部署基础认证与IP白名单双重安全防护
  • RISC-V并行架构MC3172开发板实战指南
  • 2026年定制衣柜选购指南:从资质到工艺的工厂实力验证 - 万相科技
  • 中国车牌生成器实战指南:高效解决车牌识别数据稀缺难题