CANN/asc-devkit：int转half精度转换函数
__int2half_rz_sat
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
- Ascend 950PR/Ascend 950DT：支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持
- Atlas 200I/500 A2 推理产品：不支持
- Atlas 推理系列产品AI Core：不支持
- Atlas 推理系列产品Vector Core：不支持
- Atlas 训练系列产品：不支持
功能说明
遵循CAST_TRUNC模式，将int32类型数据转换为half类型数据，返回转换后的值。
函数原型
inline half __int2half_rz_sat(const int x)参数说明
表1参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| x | 输入 | 源操作数。 |
返回值说明
遵循CAST_TRUNC模式，将输入int32数据转换成的half数据。特殊值如下：
| x值 | 返回值 |
|---|---|
| 0 | 0 |
| 2049 | 2050 |
| -2049 | -2048 |
| 2147483647（int32_t最大值） | ASCRT_MAX_NORMAL_FP16 |
| -2147483648（int32_t最小值） | -ASCRT_MAX_NORMAL_FP16 |
约束说明
SIMT编程场景由于无法设置CTRL寄存器，本接口的饱和模式不生效。
需要包含的头文件
使用该接口需要包含"simt_api/asc_fp16.h"头文件。
#include "simt_api/asc_fp16.h"调用示例
SIMD与SIMT混合编程场景：
__simt_vf__ __launch_bounds__(1024) inline void kernel__int2half_rz_sat(__gm__ half* dst, __gm__ int32_t* x) { int idx = threadIdx.x + blockIdx.x * blockDim.x; dst[idx] = __int2half_rz_sat(x[idx]); }
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考