当前位置: 首页 > news >正文

CANN/asc-devkit Lgamma缓冲区因子接口

GetLgammaTmpBufferFactorSize

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

功能说明

该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。

推算示例如下:

  • 算子实现需要调用Lgamma接口,开发者为其预留currBuff大小的空间,利用GetLgammaTmpBufferFactorSize接口得到maxLiveNodeCount、extraBuf输出值,可推导算子单次最大计算元素数量为:

    currentShapeSize = (currBuff - extraBuf) / maxLiveNodeCount / typeSize

  • 算子实现需要调用两个kernel侧API KernelIntf1、KernelIntf2,利用两个GetXxxTmpBufferFactorSize(其中Xxx为需要调用的两个高阶API)接口的两组输出值(maxLiveNodeCount、extraBuf)以及当前现有的临时空间,推导单次最大计算元素数量currentShapeSize为:

    currentShapeSize1 = (currBuff - extraBuf1) / maxLiveNodeCount1 / typeSize

    currentShapeSize2 = (currBuff - extraBuf2) / maxLiveNodeCount2 / typeSize

    currentShapeSize = min(currentShapeSize1, currentShapeSize2)

注意上文中的currBuff表示接口计算可用的空间,需要去除用户输入输出等空间;另外,接口获取的maxLiveNodeCount值可能为0,计算时需要判断该值非0,避免除零错误。

函数原型

void GetLgammaTmpBufferFactorSize(const uint32_t typeSize, uint32_t& maxLiveNodeCount, uint32_t& extraBuffer)

参数说明

表1参数列表

参数名输入/输出功能
typeSize输入输入的数据类型大小,单位为字节。比如输入的数据类型为half,此处应传入2。
maxLiveNodeCount输出最大存活节点数,表示临时空间是单次计算数据量所占空间的多少倍。
extraBuffer输出使用的额外临时空间大小,单位为字节。

返回值说明

约束说明

当利用maxLiveNodeCount,extraBuffer反推出的currentShapeSize * typeSize < 256B时,currentShapeSize按照256B/typeSize的值向上取整。

调用示例

完整的调用样例请参考更多样例。

uint32_t maxLiveNodeCount = 0; uint32_t extraBuf = 0; AscendC::GetLgammaTmpBufferFactorSize(typeSize, maxLiveNodeCount, extraBuf);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/1205519/

相关文章:

  • .NET与C#开发实战:从入门到精通的完整指南
  • CANN/asc-devkit矩阵乘法B布局设置
  • 为AI模型WebUI部署基础认证与IP白名单双重安全防护
  • RISC-V并行架构MC3172开发板实战指南
  • 2026年定制衣柜选购指南:从资质到工艺的工厂实力验证 - 万相科技
  • 中国车牌生成器实战指南:高效解决车牌识别数据稀缺难题
  • Windows 7系统优化与高效使用全攻略
  • C++与Python零拷贝集成实战:原理、陷阱与性能优化指南
  • 5分钟上手CPDS:容器集群故障检测系统安装部署完整教程
  • 2026北京名表回收门店测评|主城6大机构实测,价格透明对比避坑 - 生活时报
  • CANN/asc-devkit DropOut API文档
  • eBPF 运行时架构:Verifier、JIT、Map 与加载流程
  • async-stream高级模式:组合流、背压控制与取消机制
  • 终极指南:如何用QtScrcpy在5分钟内实现Android投屏控制
  • CANN/asc-devkit Tanh接口
  • 昇腾CANN Rint临时空间大小接口
  • NCM格式解密工具ncmdump:网易云音乐加密文件转换完整指南
  • 2026年门墙柜一体化选购:三大硬指标与五大误区 - 万相科技
  • 电影感拥抱场景技术解析:从构图算法到光影分析的量化方法
  • MacBook Air本地运行LLM:轻量级大模型实践指南
  • LIBERO-Plus:面向真实场景的VLA鲁棒性压力测试基准
  • 从C++到Qt桌面开发:核心机制、实战避坑与项目构建全指南
  • 从零构建高性能Web服务器:C++实现Reactor/Proactor与高并发架构
  • SSD目标检测技术:原理、部署与优化实践
  • CANN/asc-devkit SoftmaxFlashV3接口
  • CANN/asc-devkit SIMT-API线程块dim_threads函数
  • CANN/Ascend C SinCos临时空间大小接口
  • CANN/asc-devkit Tan临时空间接口
  • CANN/asc-devkit SIMT协作组线程数API
  • CANN/asc-devkit: SetALayout矩阵布局设置