CUDA在编译.cu核心代码的时候，是把代码分成host端和device端进行分开编译的，host端调用系统平台C++编译工具进行编译（windows平台一般是MSVC），device端则用nvidia自己的编译工具进行编译。
从上图可以看出，device端的编译，是把c++代码先编译成硬件无关的虚拟汇编代码ptx,再把ptx编译成针对特定硬件架构的cubin文件，这个cubin文件就是直接能在GPU中运行的机器码。
既然是先把C++代码编译成汇编，CUDA还提供了一种机制就是直接在C++代码中嵌入ptx汇编代码，下面做下简单介绍。
在CUDA的c++代码中嵌入汇编跟MSVC的c++代码嵌入汇编很类似，从形式上看，CUDA的汇编嵌入显得更简单一些。
asm("template-string" : "constraint"(output) : "constraint"(input));
语法基本如上所示，asm表示嵌入汇编，template-string为基于ptx指令的汇编语句，constraint表示输入输出变量的类型和读写格式，input代表输入变量，output代表输出变量。
举个例子：
static __ device __ __ inline __ unsigned int get_smid(void) {
unsigned int ret;
asm volatile("mov.u32 %0,%%smid;" : "=r"(ret));
return ret;
};
看上面的函数代码，用于返回当前线程的smid,其中mov.u32为ptx汇编指令，表示基于u32数据类型的赋值语句，%0表示第一个参数,就是ret了，%%smid表示使用预定义的寄存器变量%smid,=r表示参数类型的32位整数，并进行写操作，ret就是输出变量。整个语句的含义就是返回当前线程的smid号。volatile表示在编译的时候，不对汇编代码进行优化，保持ptx语句原样不动生成在ptx文件中。
下图为输出的结果：
