CANN/ops-nn HardSwish梯度V2算子
HardSwishGradV2
【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库，实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | × |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | × |
| Atlas 推理系列产品 | × |
| Atlas 训练系列产品 | √ |
功能说明
接口功能：aclnnHardswish的反向传播，完成张量self的梯度计算。
接口功能差异点说明：相比于aclnnHardswishBackward接口，aclnnHardswishBackwardV2的计算公式做了细微调整，详见“计算公式”。
计算公式：
$$ out_{i} = gradOutput_{i} \times gradSelf_{i} $$
其中 gradSelf 的计算公式为
$$ gradSelf_{i} = \begin{cases} 0, & self_{i} \le -3, \ self_{i} / 3 + 0.5, & -3 \lt self_{i} \lt 3, \ 1, & self_{i} \ge 3 \end{cases} $$
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| gradOutput | 表示输入张量，公式中的输入gradOutput。 | - | BFLOAT16、FLOAT16、FLOAT32 | ND |
| self | 输入 |
| BFLOAT16、FLOAT16、FLOAT32 | ND |
| out | 输出 | 表示输出张量，公式中的out。 | BFLOAT16、FLOAT16、FLOAT32 | ND |
- Atlas 训练系列产品 ：数据类型支持FLOAT16、FLOAT32。
约束说明
无
调用说明
| 调用方式 | 调用样例 | 说明 |
|---|---|---|
| aclnn调用 | test_aclnn_hard_swish_grad_v2 | 通过aclnnHardswishBackwardV2接口方式调用HardswishBackwardV2算子。 |
| 图模式调用 | - | 通过算子IR构图方式调用HardswishBackwardV2算子。 |
【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库，实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考