当前位置: 首页 > news >正文

CANN/asc-devkit:SIMD解交织加载后更新API

asc_loadalign_deintlv_postupdate

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

头文件路径:"c_api/reg_compute/reg_load.h"

asc_loadalign_deintlv_postupdate用于从UB中读取以32B对齐地址src为起始位置的连续2 x VL长度数据。数据按元素类型宽度进行解释,在Load过程中完成解交织后,分别写入两个目的向量寄存器dst0dst1

asc_loadalign_deintlv不同,该接口在完成数据加载后,会对源地址参数src执行后更新操作:

src = src + offset

其中,offset的单位为元素个数,实际地址偏移字节数为:offset * sizeof(data_type)

float数据类型、Ascend 950PR/Ascend 950DT产品为例,若VL = 256Bsrc = 32offset = 128,调用asc_loadalign_deintlv_postupdate后,数据从UB到Reg的排布如下图所示,同时src会更新为544,可直接用于后续计算。

提示:

  1. 使用本接口需要包含头文件reg_load.h
  2. 本接口会修改输入的UB地址参数src。若需要保留原始地址,请使用asc_loadalign_deintlv

函数原型

支持的数据类型请参见数据类型章节。

__simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_int4x2_t& dst0, vector_int4x2_t& dst1, __ubuf__ int4b_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_fp4x2_e2m1_t& dst0, vector_fp4x2_e2m1_t& dst1, __ubuf__ fp4x2_e2m1_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_fp4x2_e1m2_t& dst0, vector_fp4x2_e1m2_t& dst1, __ubuf__ fp4x2_e1m2_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_int8_t& dst0, vector_int8_t& dst1, __ubuf__ int8_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_uint8_t& dst0, vector_uint8_t& dst1, __ubuf__ uint8_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_fp8_e8m0_t& dst0, vector_fp8_e8m0_t& dst1, __ubuf__ fp8_e8m0_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_fp8_e5m2_t& dst0, vector_fp8_e5m2_t& dst1, __ubuf__ fp8_e5m2_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_fp8_e4m3fn_t& dst0, vector_fp8_e4m3fn_t& dst1, __ubuf__ fp8_e4m3fn_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_hifloat8_t& dst0, vector_hifloat8_t& dst1, __ubuf__ hifloat8_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_int16_t& dst0, vector_int16_t& dst1, __ubuf__ int16_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_uint16_t& dst0, vector_uint16_t& dst1, __ubuf__ uint16_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_half& dst0, vector_half& dst1, __ubuf__ half*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_bfloat16_t& dst0, vector_bfloat16_t& dst1, __ubuf__ bfloat16_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_int32_t& dst0, vector_int32_t& dst1, __ubuf__ int32_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_uint32_t& dst0, vector_uint32_t& dst1, __ubuf__ uint32_t*& src, int32_t offset) __simd_callee__ inline void asc_loadalign_deintlv_postupdate(vector_float& dst0, vector_float& dst1, __ubuf__ float*& src, int32_t offset)

参数说明

参数名输入/输出说明
dst0输出第一个目的向量寄存器。
dst1输出第二个目的向量寄存器。
src输入/输出源数据在UB中的起始地址,要求32B对齐。接口执行完成后,src会更新为src + offset
offset输入地址偏移量,单位为元素个数。

向量寄存器类型的详细说明请参见data_type_definition.md。

数据类型

asc_loadalign_deintlv_postupdate支持的数据类型如下表所示。

源数据类型src目的寄存器类型dst0/dst1
int4b_tvector_int4x2_t
fp4x2_e1m2_tvector_fp4x2_e1m2_t
fp4x2_e2m1_tvector_fp4x2_e2m1_t
int8_tvector_int8_t
uint8_tvector_uint8_t
fp8_e4m3fn_tvector_fp8_e4m3fn_t
fp8_e5m2_tvector_fp8_e5m2_t
fp8_e8m0_tvector_fp8_e8m0_t
hifloat8_tvector_hifloat8_t
int16_tvector_int16_t
uint16_tvector_uint16_t
halfvector_half
bfloat16_tvector_bfloat16_t
int32_tvector_int32_t
uint32_tvector_uint32_t
floatvector_float

返回值说明

无。

流水类型

PIPE_V

约束说明

  • src必须为32B对齐地址,且访问范围不能超过UB有效地址上界减去2 x VL,否则可能导致UB越界访问。
  • 在循环中使用本接口时,offset的取值需要保证更新后的src仍满足32B对齐要求。
  • offset以元素为单位,实际地址步长需要结合源数据类型宽度进行换算。

调用示例

从UB中连续读取以32B对齐地址src为起始位置的float数据,并在每次调用后自动更新地址。

for (uint16_t i = 0; i < repeat_times; i++) { asc_loadalign_deintlv_postupdate(reg0, reg1, src, one_repeat_size); ... }

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/1201913/

相关文章:

  • LINE Bot SDK PHP数据洞察与分析:利用Insight API获取用户行为数据
  • cann/asc-devkit LocalTensor GetSize函数
  • Grok 4.3 提问方法论教程:新手获得高质量 AI 回答的技巧总结
  • 高校AI智慧教学服务平台落地全场景高频答疑 适配教学质量提升新规要求
  • Python 锁竞争优化:在高并发 RAG 服务中减少 asyncio.Lock 的等待时间
  • 重庆主城梵克雅宝四叶草回收报价参考,渝中免费上门看货当场转账 - 融媒生活
  • 亲身到店探访上海宝玑官方售后服务中心|完整网点地址与服务电话(2026年7月最新) - 亨得利钟表维修中心
  • nvwa命令全解析:轻松掌握update/init/help三大核心操作
  • Optuna Dashboard性能优化:处理大规模实验数据的最佳实践
  • AI编程助手融入开发流程:程序员的技能重构与实践路径
  • Java反射与动态代理:从JDK Proxy到CGLIB再到ByteBuddy的性能对比
  • DataRoom性能优化:大屏加载速度提升10倍的5个关键技巧
  • 2026大湾区EMBA性价比榜单:中英双语授课EMBA择校实测测评
  • 告别手动刷本:用Python脚本实现FGO全自动战斗
  • 告别消息丢失!WeChat Assistant消息防撤回功能的使用与原理
  • CANN/asc-devkit 废弃矢量寄存器对齐存储函数
  • 【深度测评】济南名表回收无损鉴定|世茂商圈不火烧检测保留手表品相 - 讯息早知道
  • ScpToolkit完整指南:轻松解决索尼PS手柄在Windows上的连接问题
  • 如何快速掌握Magic VLSI布局工具:面向新手的完整入门指南
  • AI毛绒玩具早教功能值得选吗?2026年五大品牌测评 - 科技焦点
  • 2026年上海防爆显示屏优质公司推荐汇总 - 招财兔数字员工
  • OpenHuFu高级功能完全指南:复杂查询类型与空间数据分析
  • CANN asc-devkit解交织加载API
  • 如何用100元打造专业级开源无人机?ESP-Drone终极指南
  • CANN Ascend C向量小于比较函数
  • 技术深度解析:如何构建基于NVIDIA Jetson的智能避障机器人系统
  • 数控机床维修公司推荐
  • 黄仁勋说的“未来公司都建在这东西上“:我在 OMO 里看到了 coding agent 的刹车层
  • 一年制VS两年制怎么选?2026安徽省电大中专高中起点报一年,初中起点报两年,报考全攻略! - 最新资讯
  • 亨得利官方名表服务中心|全新官方地址及客服热线权威信息声明(2026年7月最新) - 亨得利官方博客