CANN/asc-devkit bfloat16乘加ReLU函数

__hfma_relu

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

• Ascend 950PR/Ascend 950DT：支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

• Atlas 200I/500 A2 推理产品：不支持

• Atlas 推理系列产品AI Core：不支持
• Atlas 推理系列产品Vector Core：不支持

• Atlas 训练系列产品：不支持

功能说明

对输入bfloat16类型数据x、y、z，计算x与y相乘加上z的结果，并遵循CAST_RINT模式对结果进行舍入。负数结果置为0。

函数原型

bfloat16_t __hfma_relu(const bfloat16_t x, const bfloat16_t y, const bfloat16_t z)

参数说明

表1参数说明

返回值说明

x * y + z的值。本接口不受全局饱和模式影响，特殊值如下：

• x为±inf，y为±0，返回nan。
• x为±0，y为±inf，返回nan。
• x*y为+inf，z为-inf，返回nan。
• x*y为-inf，z为+inf，返回nan。
• x*y+z超出对应类型范围的最大值，返回+inf。
• x*y+z小于对应类型范围的最小值，返回0。
• x、y、z任意一个为nan，返回nan。

约束说明

无

需要包含的头文件

使用该接口需要包含"simt_api/asc_bf16.h"头文件。

#include "simt_api/asc_bf16.h"

调用示例

• SIMT编程场景：

  __global__ __launch_bounds__(1024) void KernelHfma_relu(bfloat16_t* dst, bfloat16_t* x, bfloat16_t* y, bfloat16_t* z) { int idx = threadIdx.x + blockIdx.x * blockDim.x; dst[idx] = __hfma_relu(x[idx], y[idx], z[idx]); }

• SIMD与SIMT混合编程场景：

  __simt_vf__ __launch_bounds__(1024) inline void KernelHfma_relu(__gm__ bfloat16_t* dst, __gm__ bfloat16_t* x, __gm__ bfloat16_t* y, __gm__ bfloat16_t* z) { int idx = threadIdx.x + blockIdx.x * blockDim.x; dst[idx] = __hfma_relu(x[idx], y[idx], z[idx]); }

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit