CANN/asc-devkit:half到uint8类型转换API
asc_half2uint8
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | √ |
功能说明
将half类型数据转换为uint8类型,支持多种舍入模式:
RINT舍入模式:四舍六入五成双舍入
ROUND舍入模式:四舍五入舍入
FLOOR舍入模式:向负无穷舍入
CEIL舍入模式:向正无穷舍入
TRUNC舍入模式:向零舍入
非饱和模式:
- 输入数据超过输出类型最值时,结果被截断为目标格式的数据宽度。
- 输入数据为+/-inf时,返回输出类型的最值。
- 输入数据为nan时,返回0。
饱和模式:
- 输入数据超过输出类型最值时,返回输出类型的对应最值。
- 输入数据为+/-inf时,返回输出类型的最值。
- 输入数据为nan时,返回0。
函数原型
// FLOOR舍入模式,非饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rd(vector_uint8_t& dst, vector_half src, vector_bool mask) // FLOOR舍入模式,饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rd_sat(vector_uint8_t& dst, vector_half src, vector_bool mask) // FLOOR舍入模式,非饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rd_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // FLOOR舍入模式,饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rd_sat_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // RINT舍入模式,非饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rn(vector_uint8_t& dst, vector_half src, vector_bool mask) // RINT舍入模式,饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rn_sat(vector_uint8_t& dst, vector_half src, vector_bool mask) // RINT舍入模式,非饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rn_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // RINT舍入模式,饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rn_sat_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // ROUND舍入模式,非饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rna(vector_uint8_t& dst, vector_half src, vector_bool mask) // ROUND舍入模式,饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rna_sat(vector_uint8_t& dst, vector_half src, vector_bool mask) // ROUND舍入模式,非饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rna_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // ROUND舍入模式,饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rna_sat_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // CEIL舍入模式,非饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_ru(vector_uint8_t& dst, vector_half src, vector_bool mask) // CEIL舍入模式,饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_ru_sat(vector_uint8_t& dst, vector_half src, vector_bool mask) // CEIL舍入模式,非饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_ru_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // CEIL舍入模式,饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_ru_sat_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // TRUNC舍入模式,非饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rz(vector_uint8_t& dst, vector_half src, vector_bool mask) // TRUNC舍入模式,饱和模式,数据写入索引为偶数的位置 __simd_callee__ inline void asc_half2uint8_rz_sat(vector_uint8_t& dst, vector_half src, vector_bool mask) // TRUNC舍入模式,非饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rz_v2(vector_uint8_t& dst, vector_half src, vector_bool mask) // TRUNC舍入模式,饱和模式,数据写入索引为奇数的位置 __simd_callee__ inline void asc_half2uint8_rz_sat_v2(vector_uint8_t& dst, vector_half src, vector_bool mask)参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| dst | 输出 | 目的操作数(矢量数据寄存器)。 |
| src | 输入 | 源操作数(矢量数据寄存器)。 |
| mask | 输入 | 源操作数掩码(掩码寄存器),用于指示在计算过程中哪些元素参与计算。对应位置为1时参与计算,为0时不参与计算。mask未筛选的元素在输出中置零。 |
矢量数据寄存器和掩码寄存器的详细说明请参见reg数据类型定义.md。
返回值说明
无
流水类型
PIPE_V
约束说明
- 使能饱和模式和非饱和模式生效时,需配置ctrl寄存器,ctrl寄存器的详细说明请参见asc_set_ctrl.md。
调用示例
vector_uint8_t dst; vector_half src; vector_bool mask = asc_create_mask_b16(PAT_ALL); asc_loadalign(src, src_addr); // src_addr是外部输入的UB内存空间地址。 asc_half2uint8_rd(dst, src, mask);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
