CANN/asc-devkit：AI-Core-SIMT同步机制
同步机制
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
SIMT是一种单指令多线程的编程模型，该编程模型旨在通过多线程并发执行达到隐藏访存延迟，提升计算吞吐量的目的。SIMT编程模型中，一个Thread Block内的多个Thread并行执行，不同Thread的执行进度和内存访问到达顺序可能不同。当线程之间存在数据依赖时，需要使用同步接口或内存栅栏接口约束执行顺序和内存可见性，避免读到未完成写入的数据。同步接口主要分为两类：
- 同步屏障（barrier）：要求同一作用范围内的线程都到达指定位置后，程序才能继续执行。
- 内存栅栏（memory fence）：约束调用线程在栅栏前后的内存访问顺序，使栅栏前的内存操作按指定范围对其他线程可见。内存栅栏不会等待其他线程到达同一位置。
接口概览
| 类型 | 代表接口 | 典型用途 |
|---|---|---|
| 同步屏障 | asc_syncthreads | Thread Block内阶段同步，例如先写Unified Buffer，再统一读取。 |
| 内存栅栏 | asc_threadfence_block、asc_threadfence | 发布数据或标志前，约束当前Thread的内存访问顺序和可见性。 |
同步接口和内存栅栏接口的详细语义、作用范围、使用示例及注意事项，请参见同步与内存栅栏简介。
使用建议
- 需要Thread Block内所有Thread完成某一阶段后再继续执行时，使用同步屏障。
- 只需要保证当前Thread的内存写入顺序和可见性时，使用内存栅栏。
- 不要将内存栅栏当作同步屏障使用。内存栅栏不会等待其他Thread，也不保证其他Thread已经执行到同一位置。
- 不要将同步屏障当作跨Thread Block同步接口使用。不同Thread Block之间如需共享状态，应结合Global Memory、原子操作和内存栅栏设计同步协议。
- 多个Thread并发写同一地址时，同步屏障和内存栅栏都不能替代原子操作；需要避免写冲突，可使用原子操作保证读改写过程的原子性。
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考