当前位置: 首页 > news >正文

CANN/asc-devkit MrgSort合并排序函数

MrgSort

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

产品

是否支持

Ascend 950PR/Ascend 950DT

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

Atlas 200I/500 A2 推理产品

Atlas 推理系列产品 AI Core

x

Atlas 推理系列产品 Vector Core

x

Atlas 训练系列产品

x

功能说明

将已经排好序的最多4条队列,合并排列成1条队列,结果按照score域由大到小排序。

MrgSort指令处理的数据一般是经过Sort32指令处理后的数据,也就是Sort32指令的输出,队列的结构如下所示:

  • 数据类型为float,每个结构占据8Bytes。

  • 数据类型为half,每个结构也占据8Bytes,中间有2Bytes保留。

函数原型

template <typename T> __aicore__ inline void MrgSort(const LocalTensor<T>& dst, const MrgSortSrcList<T>& src, const MrgSort4Info& params)

参数说明

表 1模板参数说明

参数名

描述

T

Ascend 950PR/Ascend 950DT,支持的数据类型为:half/float

Atlas A3 训练系列产品 / Atlas A3 推理系列产品,支持的数据类型为:half/float

Atlas A2 训练系列产品 / Atlas A2 推理系列产品,支持的数据类型为:half/float

Atlas 200I/500 A2 推理产品,支持的数据类型为:half/float

表 2接口参数说明

参数名称

输入/输出

含义

dst

输出

目的操作数,存储经过排序后的数据。

类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。

LocalTensor的起始地址需要32字节对齐。

src

输入

源操作数,4个队列,并且每个队列都已经排好序,类型为MrgSortSrcList结构体,定义如下:

template <typename T> struct MrgSortSrcList { __aicore__ MrgSortSrcList() {} __aicore__ MrgSortSrcList(const LocalTensor<T>& src1In, const LocalTensor<T>& src2In, const LocalTensor<T>& src3In, const LocalTensor<T>& src4In) { src1 = src1In[0]; src2 = src2In[0]; src3 = src3In[0]; src4 = src4In[0]; } LocalTensor<T> src1; // 第一个已经排好序的队列 LocalTensor<T> src2; // 第二个已经排好序的队列 LocalTensor<T> src3; // 第三个已经排好序的队列 LocalTensor<T> src4; // 第四个已经排好序的队列 };

源操作数的数据类型与目的操作数保持一致。src1、src2、src3、src4类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。LocalTensor的起始地址需要8字节对齐。

params

输入

排序所需参数,类型为MrgSort4Info结构体。

具体定义请参考${INSTALL_DIR}/include/ascendc/basic_api/interface/kernel_struct_proposal.h,${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。

参数说明请参考表3。

表 3MrgSort4Info参数说明

参数名称

含义

elementLengths

四个源队列的长度(8Bytes结构的数目),类型为长度为4的uint16_t数据类型的数组,理论上每个元素取值范围[0, 4095],但不能超出UB的存储空间。

ifExhaustedSuspension

某条队列耗尽后,指令是否需要停止,类型为bool,默认false。

validBit

有效队列个数,取值如下:
  • 3:前两条队列有效
  • 7:前三条队列有效
  • 15:四条队列全部有效

repeatTimes

迭代次数,每一次源操作数和目的操作数跳过四个队列总长度。取值范围:repeatTimes∈[1,255]。

返回值说明

约束说明

  • 当存在score[i]与score[j]相同时,如果i>j,则score[j]将首先被选出来,排在前面。
  • 每次迭代内的数据会进行排序,不同迭代间的数据不会进行排序。
  • 需要注意此函数排序的队列非region proposal结构。
  • 操作数地址对齐要求请参见通用地址对齐约束。

调用示例

完整使用样例请参见MrgSort样例。

// 对8个已排好序的队列进行合并排序,repeatTimes = 2,数据连续存放 // 每个队列包含32个(score,index)的8Bytes结构 // 最后输出对score域的256个数完成排序后的结果 AscendC::MrgSort4Info params; params.elementLengths[0] = 32; params.elementLengths[1] = 32; params.elementLengths[2] = 32; params.elementLengths[3] = 32; params.ifExhaustedSuspension = false; params.validBit = 0b1111; params.repeatTimes = 2; AscendC::MrgSortSrcList<float> srcList; srcList.src1 = workLocal[0]; srcList.src2 = workLocal[64]; // workLocal为float类型,每个队列占据256Bytes空间 srcList.src3 = workLocal[128]; srcList.src4 = workLocal[192]; AscendC::MrgSort<float>(dstLocal, srcList, params); outQueueDst.EnQue<float>(dstLocal); outQueueDst.FreeTensor(dstLocal);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/849385/

相关文章:

  • 2026年4月彩钢瓦除锈源头厂家口碑推荐,图书馆防水维修/钢结构防水堵漏/混凝土防水补漏,彩钢瓦除锈源头厂家哪家靠谱 - 品牌推荐师
  • Lusca CSP策略完全指南:构建安全的内容安全策略
  • 大型项目批量重构实战:OpenAI Codex CLI 云端沙盒的 7 步长任务工程方案
  • 深入解析Arm Cortex-A53 Cache架构:从原理到性能优化实战
  • 2026年口碑好的长兴智能电动脚踏板/长兴带灯电动脚踏板/自动伸缩智能电动脚踏板/长兴电动脚踏板精选厂家推荐 - 行业平台推荐
  • Knot高级技巧:局域网设备抓包和跨设备数据同步
  • 加密货币交易的AI革命:awesome-deep-trading中的区块链量化策略终极指南 [特殊字符]
  • 2026年知名的精密轴承/双列短圆柱精密轴承主流厂家对比评测 - 品牌宣传支持者
  • PolyHook 2.0导入导出表钩子:IatHook和EatHook的10个核心技巧
  • WenQuanYi Micro Hei 开源字体终极指南:解决嵌入式设备中文显示难题
  • CANN/cann-bench稀疏注意力算子
  • 2026年热门的商务车MPV侧滑电动踏板/不降底盘侧滑电动踏板推荐厂家精选 - 品牌宣传支持者
  • Spring Cloud Sleuth 迁移指南:从 3.1 到 Micrometer Tracing 的终极路径
  • DPM-Solver代码架构解析:从模型包装器到求解器核心
  • AI Agent Harness Engineering 后端架构选型:微服务 vs 单体架构的取舍
  • 倍仕得电气科技(杭州)股份有限公司2026通用工业连接器厂商优选:圆形/M12/储能/流体/传感器连接器厂家甄选倍仕得电 - 栗子测评
  • Keil C51字符数组初始化错误解析与解决方案
  • 紧急预警:Perplexity即将下线课程语义模糊匹配模式!最后48小时掌握高精度查询黄金语法
  • CANN/cannbot-skills模型推理融合算子优化
  • Knot项目实战:从零构建一个完整的iOS抓包工具
  • TinyExpr快速入门:5分钟学会在C语言中解析和计算数学表达式
  • Knot部署指南:真机调试与App Store上架完整流程
  • CANN稀疏FlashAttention反向算子
  • Keil开发环境下的CANopen与DeviceNet协议实现指南
  • CANN/ops-blas Ssyr算子实现
  • NCE外汇:服务体验与平台稳定性的协同提升
  • svelte-preprocess 性能优化最佳实践:提升构建速度的10个技巧
  • CANN社区Sign算子优化设计
  • Spire性能优化技巧:如何高效使用Rational和SafeLong提升Scala数值计算效率
  • Element React终极指南:快速构建企业级React应用UI界面