当前位置: 首页 > news >正文

CANN/asc-devkit:SetAlignSplit函数

SetAlignSplit

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

功能说明

多核切分时, 设置singleCoreM/singleCoreN/singleCoreK的对齐值。比如设置singleCoreM的对齐值为64(单位为元素),切分出的singleCoreM为64的倍数。

函数原型

int32_t SetAlignSplit(int32_t alignM, int32_t alignN, int32_t alignK)

参数说明

表 1参数说明

参数名

输入/输出

描述

alignM

输入

singleCoreM的对齐值。若传入-1或0,表示不设置指定的singleCoreM的对齐值,该值由Tiling函数自行计算。

alignN

输入

singleCoreN的对齐值。若传入-1或0,表示不设置指定的singleCoreN的对齐值,该值由Tiling函数自行计算。

alignK

输入

singleCoreK的对齐值。若传入-1或0,表示不设置指定的singleCoreK的对齐值,该值由Tiling函数自行计算。

返回值说明

-1表示设置失败; 0表示设置成功。

约束说明

调用示例

auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo()); matmul_tiling::MultiCoreMatmulTiling tiling(ascendcPlatform); tiling.SetDim(1); tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetShape(1024, 1024, 1024); tiling.SetAlignSplit(-1, 64, -1); // 设置singleCoreM/singleCoreN/singleCoreK的对齐值 tiling.SetOrgShape(1024, 1024, 1024); tiling.SetBias(true); tiling.SetBufferSpace(-1, -1, -1); optiling::TCubeTiling tilingData; int ret = tiling.GetTiling(tilingData);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/793422/

相关文章:

  • 一种小型家用破壁机的设计
  • Open LLM Leaderboard背后的秘密:HuggingFace evaluation-guidebook深度揭秘
  • CANN/Ascend C调试打印API
  • 【信息科学与工程学】计算机科学与自动化——第三十一篇 半导体晶圆制造01(3)
  • CANN/asc-devkit伪量化API文档
  • YOLO26缝合Polarized Self-Attention:极化自注意力在高分辨率图像的降维打击
  • ROS学习(二)
  • 基于现代霍普菲尔德网络的AI智能体记忆方案:高速、免费、确定性的联想记忆系统
  • Protobuf笔记
  • ChameleonUltra高级应用:硬嵌套攻击与实时卡数据捕获技术
  • ARMv9 TRBMPAM_EL1寄存器配置与性能监控实战
  • AArch64外部调试架构与Debug State机制详解
  • 开源材料计算自动化平台OpenClaw:从高通量筛选到机器学习集成
  • 终极鼠标性能测试指南:5分钟快速诊断你的鼠标问题
  • DLSS Swapper终极指南:免费提升游戏性能的3个简单步骤
  • CANN/ops-math DropOutV3算子
  • BV 开发者指南:Jetpack Compose 在TV应用中的最佳实践
  • CANN/ops-nn动态量化RMS归一化融合算子
  • CANN/ops-nn AdvanceStep算子
  • CANN/GE模型内存查询接口
  • 耗时3个月整理!K12少儿编程全套学习课件,老师/家长直接用
  • ARMv9 TRBSR寄存器解析与调试实践
  • ARM TLB管理:原理、指令与优化实践
  • 本地化AI代码助手Copaw:设计原理与工程实践指南
  • ContextPilot:优化KV缓存复用,加速RAG与长上下文推理
  • Arm CoreSight SoC-400调试架构与寄存器编程详解
  • 基于Docker容器化部署Atlassian Confluence的完整实践指南
  • 基于Gradio与多模型代理的AI模拟面试系统实战部署指南
  • 安全代码执行沙盒实践:基于Docker与Seccomp的隔离方案
  • 基于MCP协议构建代码库AI助手:原理、部署与最佳实践