CANN/runtime CMO缓存操作

11-06 CMO 缓存操作

【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime

本章节描述 CMO（Cache Maintenance Operations）缓存操作接口，用于缓存刷新与失效操作。

• aclError aclrtMemFlush(void *devPtr, size_t size)：将Cache中的数据刷新到DDR中，并将Cache中的内容设置成无效。
• aclError aclrtMemInvalidate(void *devPtr, size_t size)：将Cache中的数据设置成无效。
• aclError aclrtCmoAsync(void *src, size_t size, aclrtCmoType cmoType, aclrtStream stream)：实现Device上的Cache内存操作。异步接口。
• aclError aclrtCmoAsyncWithBarrier(void *src, size_t size, aclrtCmoType cmoType, uint32_t barrierId, aclrtStream stream)：实现Device上的Cache内存操作，同时携带barrierId，barrierId表示Cache内存操作的屏障标识。异步接口。
• aclError aclrtCmoWaitBarrier(aclrtBarrierTaskInfo *taskInfo, aclrtStream stream, uint32_t flag)：等待具有指定barrierId的Invalid内存操作任务执行完成。异步接口。
• aclError aclrtCmoGetDescSize(size_t *size)：获取当前Device上的Cache内存描述符占用的内存大小。
• aclError aclrtCmoSetDesc(void *cmoDesc, void *src, size_t size)：设置Cache内存描述符，此接口调用完成后，会将源内存地址、内存大小记录到Cache内存描述符中。
• aclError aclrtCmoAsyncWithDesc(void *cmoDesc, aclrtCmoType cmoType, aclrtStream stream, const void *reserve)：使用内存描述符（二级指针方式）操作Device上的Cache内存。异步接口。

aclrtMemFlush

aclError aclrtMemFlush(void *devPtr, size_t size)

产品支持情况

功能说明

将Cache中的数据刷新到DDR中，并将Cache中的内容设置成无效。

该版本不需要用户处理CPU与NPU之间的Cache一致性，无需调用该接口。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

aclrtMemInvalidate

aclError aclrtMemInvalidate(void *devPtr, size_t size)

产品支持情况

功能说明

将Cache中的数据设置成无效。

该版本不需要用户处理CPU与NPU之间的Cache一致性，无需调用该接口。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

aclrtCmoAsync

aclError aclrtCmoAsync(void *src, size_t size, aclrtCmoType cmoType, aclrtStream stream)

产品支持情况

功能说明

实现Device上的Cache内存操作。异步接口。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

aclrtCmoAsyncWithBarrier

aclError aclrtCmoAsyncWithBarrier(void *src, size_t size, aclrtCmoType cmoType, uint32_t barrierId, aclrtStream stream)

产品支持情况

功能说明

实现Device上的Cache内存操作，同时携带barrierId，barrierId表示Cache内存操作的屏障标识。异步接口。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

aclrtCmoWaitBarrier

aclError aclrtCmoWaitBarrier(aclrtBarrierTaskInfo *taskInfo, aclrtStream stream, uint32_t flag)

产品支持情况

功能说明

等待具有指定barrierId的Invalid内存操作任务执行完成。异步接口。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

aclrtCmoGetDescSize

aclError aclrtCmoGetDescSize(size_t *size)

产品支持情况

功能说明

获取当前Device上的Cache内存描述符占用的内存大小。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

aclrtCmoSetDesc

aclError aclrtCmoSetDesc(void *cmoDesc, void *src, size_t size)

产品支持情况

功能说明

设置Cache内存描述符，此接口调用完成后，会将源内存地址、内存大小记录到Cache内存描述符中。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

aclrtCmoAsyncWithDesc

aclError aclrtCmoAsyncWithDesc(void *cmoDesc, aclrtCmoType cmoType, aclrtStream stream, const void *reserve)

产品支持情况

功能说明

使用内存描述符（二级指针方式）操作Device上的Cache内存。异步接口。

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime