CANN/asc-devkit 切片数据搬运

切片数据搬运

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

功能说明

支持数据的切片搬运，提取多维Tensor数据的子集进行搬运。

函数原型

• Global Memory -> Local Memory

  template <typename T> __aicore__ inline void DataCopy(const LocalTensor<T>& dst, const GlobalTensor<T>& src, const SliceInfo dstSliceInfo[], const SliceInfo srcSliceInfo[], const uint32_t dimValue = 1)

• Local Memory -> Global Memory

  template <typename T> __aicore__ inline void DataCopy(const GlobalTensor<T> &dst, const LocalTensor<T> &src, const SliceInfo dstSliceInfo[], const SliceInfo srcSliceInfo[], const uint32_t dimValue = 1)

[!NOTE]说明 各原型支持的具体数据通路和数据类型，请参考支持的通路和数据类型。

参数说明

表 1模板参数说明

表 2切片数据搬运接口参数说明

表 3SliceInfo结构参数说明

通过具体的示例对上述参数进行解析，示意图如下：

图 1参数解析示意图
![](https://raw.gitcode.com/cann/asc-devkit/raw/68eb55191616e7a7b08961a5c82a706272353b5f/docs/api/figures/参数解析示意图.png "参数解析示意图"?utm_source=gitcode_repo_files)

• dimValue为2，表示操作数有2维。

• srcSliceInfo为 {{16, 70, 7, 3, 87}, {0, 2, 1, 1, 3}}

  • {16, 70, 7, 3, 87}是针对单独一行， 即从一维的角度来配置，每个元素代表一个数：

    startIndex= 16，表示有效数据段从第16个数开始；

    endIndex= 70，表示有效数据段到第70个数结束；

    stride= 7，单位为元素个数，表示相邻的2个切片数据段间隔的元素个数，为7个0的间距；

    burstLen= 3，单位为32B，表示在这一个有效数据段中，一个切片数据段大小为3个datablock；

    shapeValue= 87，表示单独一行的长度，单位为元素个数，即 8 * 10 + 7 = 87个元素。

  • {0, 2, 1, 1, 3}是针对多行，即从二维的角度来配置，每个元素代表一行：

    startIndex= 0，表示有效数据段从第0行开始；

    endIndex= 2，表示有效数据段到第2行结束；

    stride= 1，表示相邻的2个切片数据段中间隔元素为1行；

    burstLen= 1，在dimValue > 1时必须填为1；

    shapeValue= 3，表明一共有3行。

• dstSliceInfo为{{0, 47, 0, 3, 48}, {0, 1, 0, 1, 2}}

  • {0, 47, 0, 3, 48}是针对单独一行， 即从一维的角度来配置，每个元素代表一个数：

    startIndex= 0，表示有效数据段从第0个数开始；

    endIndex= 47，表示有效数据段到第47个数结束；

    stride= 0，单位为元素个数，表示相邻的2个切片数据段间隔的元素个数，为0表示两个切片数据段没有间距；

    burstLen= 3，单位为32B，表示在这一个有效数据段中，一个切片数据段大小为3个datablock；

    shapeValue= 48，表示单独一行的长度，单位为元素个数，即8 * 6 = 48个元素。

  • {0, 1, 0, 1, 2} 是针对多行，即从二维的角度来配置，每个元素代表1行：

    **startIndex **= 0，表示有效数据段从第0行开始；

    **endIndex **= 1，表示有效数据段到第1行结束；

    **stride **= 0，表示相邻的2个切片数据段没有间隔；

    burstLen= 1，在dimValue > 1时必须填为1；

    **shapeValue **= 2，表示一共有2行。

返回值说明

无

约束说明

• 切片数据搬运中的横向burstLen大小设置，需要用户自己通过计算：横向切片元素个数* sizeof(T)/32byte。横向切片元素个数* sizeof(T)的大小必须是32byte的倍数。
• 切片数据搬运中的SliceInfo结构体数组大小和dimValue需要保持一致，并且不超过8。
• 切片数据搬运中的srcSliceInfo数组大小的和dstSliceInfo的大小需要保持一致，两者的结构体中的burstLen需要相等（srcSliceInfo[i].burstLen = dstSliceInfo[i].burstLen）。
• 切片数据搬运对参数有一定要求，建议使用者参考调用示例，并在CPU上仿真结果无误后，再到NPU侧执行。

支持的通路和数据类型

下文的数据通路均通过逻辑位置TPosition来表达，并注明了对应的物理通路。TPosition与物理内存的映射关系见表1。

表 4Global Memory -> Local Memory具体通路和支持的数据类型

表 5Local Memory -> Global Memory具体通路和支持的数据类型

调用示例

本示例仅展示样例中的部分代码。如需运行，请参考切片数据搬运样例实现完整的代码。srcSliceInfo、dstSliceInfo参数解析与结果示例请参考图1。

// srcLocal为float类型的LocalTensor，srcGlobal、dstGlobal为float类型的GlobalTensor uint32_t dimValue = 2; // 操作数维度为2 AscendC::SliceInfo srcSliceInfo[] = {{16, 70, 7, 3, 87}, {0, 2, 1, 1, 3}}; AscendC::SliceInfo dstSliceInfo[] = {{0, 47, 0, 3, 48}, {0, 1, 0, 1, 2}}; // Global Memory -> Local Memory AscendC::DataCopy(srcLocal, srcGlobal, dstSliceInfo, srcSliceInfo, dimValue); // Local Memory -> Global Memory AscendC::DataCopy(dstGlobal, srcLocal, dstSliceInfo, dstSliceInfo, dimValue);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit