【Ascend C系列课程（高级）】(1) 算子调试+调优

1 概要

博主最近在学习华为昇腾的Ascend C的算子开发，在B站上根据教程一步步进行操作。

文章分为四个章节：
(1) 算子调试
(2) 矩阵编程 (高阶API)
(3) 融合算子
(4) 性能优化 (理论)

2 算子调试

2.1 算子调试概述

2.2 CPU域调试

2.2.1 printf操作演示

2.2.1.1 打印编号

(1) 首先下载华为官方提供的例程samples程序，并进入如下目录:

cd /home/lbh/samples/operator/AddCustomSample/KernelLaunch/AddKernelInvocationNeo

(2) 修改add_custom.cpp以打印相关的信息:

(3) 执行命令bash run.sh -r cpu -v Ascend310B4, 输出如下

会发现输出很乱，是因为我们有8个核，多核运行相同的算子，每个核内部循环16次处理数据，因此会有8组重复的0-15。

我们进行如下修改：

重新运行bash run.sh -r cpu -v Ascend310B4, 输出如下：

2.2.1.2 打印输入尺寸

2.2.1.3 打印输入输入数值

输出：

2.2.2 单步调试GDB

2.2.2.1 配置调试环境

(1) vim run.sh
122行修改如下

重新运行bash run.sh -r cpu -v Ascend310B4，之后会进入到调试程序中：

可执行如下命令进行调试：

gdb --args add_custom_cpu
set follow-fork-mode child #进入子进程
break add_custom.cpp:45 设置断点
run #执行到断点处
list #看上下代码
backtrace #看调用的栈
print i #打印i
break add_custom.cpp:56 #继续打断点
continue
display xLocal #输出对象的属性，非具体值
quit

2.2 NPU域调试

2.2.1 AscendC::printf()

(1) 首先下载华为官方提供的例程samples程序，并进入如下目录:

cd /home/lbh/samples/operator/AddCustomSample/KernelLaunch/AddKernelInvocationNeo

(2) vi add_custom.cpp

执行命令bash run.sh -r npu -v Ascend310B4，输出如下：

2.2.2 DumpTensor()

这次设置打印长度，只打印16个，修改如下：

输出如下：

2.3 算子调试 - 内存检测 msSanitizer 功能介绍

2.3.1 演示（内存检测）

(1) 首先下载华为官方提供的例程samples程序，并进入如下目录:

cd /home/lbh/samples/operator/AddCustomSample/FrameworkLaunch/AddCustom/op_kernel

对CMakeLists.txt进行修改

之后重新编译：

之后安装编译好得算子到环境中，即

cd build_out
./custom_opp_ubuntu_aarch64.run

公共安装后输出如下：

随后进入工程：

cd /home/lbh/samples/operator/AddCustomSample/FrameworkLaunch/AclNNInvocation

之前的操作是安装了算子，现在进入的这个工程是运用之前安装的算子实现相应的计算。

之后在此工程中执行如下命令：

mssanitizer --tool=memcheck bash run.sh
–tool=racecheck #则为竞争检测

若程序存在问题会报如下类似错误：

3 算子调优

3.1 msProf功能介绍

仿真调优可以在CPU上跑。

3.1.1 演示

(1) 首先下载华为官方提供的例程samples程序，并进入如下目录:

cd /home/lbh/samples/operator/AddCustomSample/KernelLaunch/AddKernelInvocationNeo

首先修改CMakeLists.txt

3.1.1.1 上板调优

修改完CMakeLists.txt之后修改run.sh脚本，修改如下：

之后执行命令：
bash run.sh -r npu -v Ascend310B4

文件夹中会生成一个新的数据文件：

之后将visualize_data.bin下载下来，随后使用分析工具打开即可查看详细的信息。
工具为MindStudio Insight

3.1.1.2 仿真调优

运行命令：bash run.sh -r sim -v Ascend310B4
bash run.sh -r sim -v Ascend310B4
每个内核中的运行情况可以查看

3 总结

本章节介绍了AscendC算子开发过程中的算子调试与调优。