CANN/asc-devkit:asc_mrgsort4多队列合并排序

asc_mrgsort4

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

功能说明

将已经排好序的最多4条队列，合并排列成1条队列，结果按照score域由大到小排序。

asc_mrgsort4处理的数据一般是经过asc_bitsort指令处理后的数据，也就是asc_bitsort指令的输出，队列的结构Region Proposal如下所示：

• 数据类型为float，每个结构占据8 Bytes。

• 数据类型为half，每个结构也占据8 Bytes，中间有2 Bytes保留。

函数原型

• 计算

  __aicore__ inline void asc_mrgsort4(__ubuf__ half* dst, __ubuf__ half* src[ASC_C_API_MRGSORT_ELEMENT_LEN], uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit) __aicore__ inline void asc_mrgsort4(__ubuf__ float* dst, __ubuf__ float* src[ASC_C_API_MRGSORT_ELEMENT_LEN], uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit)

  // 如下原型仅支持Ascend 950PR/Ascend 950DT __aicore__ inline void asc_mrgsort4(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit) __aicore__ inline void asc_mrgsort4(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit)

• 同步计算

  __aicore__ inline void asc_mrgsort4_sync(__ubuf__ half* dst, __ubuf__ half* src[ASC_C_API_MRGSORT_ELEMENT_LEN], uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit) __aicore__ inline void asc_mrgsort4_sync(__ubuf__ float* dst, __ubuf__ float* src[ASC_C_API_MRGSORT_ELEMENT_LEN], uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit)

  // 如下原型仅支持Ascend 950PR/Ascend 950DT __aicore__ inline void asc_mrgsort4_sync(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit) __aicore__ inline void asc_mrgsort4_sync(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t element_length_0, uint16_t element_length_1, uint16_t element_length_2, uint16_t element_length_3, bool if_exhausted_suspension, uint8_t valid_bit)

参数说明

返回值说明

无

流水类型

PIPE_V

约束说明

• 当 repeat=1 时，表示进行一次迭代，可自由设置 element_length_..., if_exhausted_suspension, valid_bit参数。
• 当 repeat>1 时，表示进行多次迭代，必须满足以下条件：包含四条源队列，四个源队列的长度一致且在内存中连续存储，valid_bit的值为15，if_exhausted_suspension的值为false。
• 操作数地址重叠约束请参考通用地址重叠约束。
• dst、src的起始地址需要32字节对齐。

调用示例

// 示例对8个已排序好的Region Proposal队列进行归并排序，每个队列包含32个元素。 // 第一步，每次排序4个32元素队列src，共repeat两次，得到两个排序好的128元素的新队列tmp。 // 第二步，将两个排序好的128元素新队列tmp再进行归并排序，得到最终的256元素队列dst。 constexpr uint16_t element_length = 32; // 每个元素包含float32的score和4字节的index，占8字节，相当于2个sizeof(float)。 constexpr uint16_t array_length = element_length * 2; __ubuf__ float src_workspace[array_length * 8]; __ubuf__ float tmp_workspace[array_length * 8]; __ubuf__ float dst_workspace[array_length * 8]; __ubuf__ float* src[ASC_C_API_MRGSORT_ELEMENT_LEN]; __ubuf__ float* dst; uint8_t valid_bit; // 每个迭代可以处理4个队列，共2个迭代。 src[0] = &src_workspace[0]; src[1] = &src_workspace[1 * array_length]; src[2] = &src_workspace[2 * array_length]; src[3] = &src_workspace[3 * array_length]; dst = tmp_workspace; valid_bit = 15; asc_mrgsort4(dst, src, 2, element_length, element_length, element_length, element_length, false, valid_bit); // 迭代1次，处理2个队列。 src[0] = &tmp_workspace[0]; src[1] = &tmp_workspace[1 * 4 * array_length]; dst = dst_workspace; valid_bit = 3; asc_mrgsort4(dst, src, 1, 4 * element_length, 4 * element_length, 0, 0, false, valid_bit);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit