框架篇第3节：PyTorch C++扩展（一）——环境搭建与一个简单的add算子
引言
当PyTorch内置算子不够用时，你可以用C++和CUDA扩展它——这是通往高性能自定义算子的必经之路
前两节我们学习了PyTorch的GPU加速原理和算子底层机制。但实际开发中，你可能会遇到PyTorch没有提供的高效算子，或者需要融合多个操作以减少内存访问。这时，你就需要自定义算子。
PyTorch提供了两种扩展方式：
- C++扩展：适合CPU算子或简单GPU算子
- CUDA扩展：适合需要精细优化的GPU算子
今天，我们将从最简单的C++扩展开始，搭建开发环境，实现一个add算子。这是所有自定义算子的基础，也是你成为PyTorch高级用户的起点。
一、为什么需要自定义算子？
1.1 PyTorch内置算子的局限
- 性能：某些融合操作（如
conv+bn+relu）无法通过内置算子高效实现 - 功能：新算法（如FlashAttention）需要PyTorch没有的算子
- 硬件适配：针对特定硬件（如NPU）的优化