端侧AI部署小白入门超级清单：RKNN开发从0到1

端侧AI部署小白入门超级清单：RKNN开发从0到1

必读说明：这是一份"词典级"清单，每个概念都包含定义、作用、为什么重要、小白理解技巧、实操例子。建议打印出来，边学边查，打勾掌握。

模块一：硬件与芯片概念（底层基础）

1. CPU（中央处理器）

• 定义：电脑/开发板的"大脑"，擅长逻辑控制、任务调度，但并行计算能力弱
• 作用：负责运行操作系统、管理内存、调度NPU/GPU任务
• 为什么重要：AI开发中CPU负责数据预处理、后处理，不能指望它跑模型
• 小白技巧：想象CPU是"工厂经理"，指挥工人但不亲自干活
• 实操：在RKNN中，CPU负责调用rknn.init()初始化，但推理靠NPU

2. GPU（图形处理器）

• 定义：拥有数千个计算核心，擅长并行计算，最初为游戏图形渲染设计
• 作用：训练深度学习模型的主力，也能推理，但功耗高、体积大、贵
• 为什么重要：你的电脑用GPU训练模型，但嵌入式设备用不起GPU
• 小白技巧：GPU是"万人施工队"，干重复性体力活快，但管理成本高
• 实操：3080显卡算力8.6，训练时显存占用可达11GB

3. FPGA（现场可编程门阵列）

• 定义：硬件电路可反复编程的芯片，灵活性高但开发难度极大
• 作用：在AI领域用于超低功耗、定制化场景
• 为什么重要：了解即可，RKNN开发基本用不到FPGA
• 小白技巧：FPGA是"乐高积木"，能拼成任何形状，但得自己设计图纸

4. NPU（神经网络处理器）

• 定义：专为AI计算设计的芯片，模拟人脑神经元结构，一条指令完成一组神经元计算
• 作用：嵌入式设备跑AI模型的核心，低功耗、高效率、小体积
• 为什么重要：这是你吃饭的"主战场"，所有工作都围绕NPU展开
• 小白技巧：NPU是"AI专用流水线工人"，只做卷积/矩阵乘法，但做得飞快
• 实操：RV1126的NPU算力2 Tops，RK3588可达6 Tops

5. MAC（乘加运算）

• 定义：Multiply-Accumulate，AI计算的基本单位：1次乘法 + 1次加法
• 作用：CNN中90%的计算都是MAC，卷积就是大量MAC操作
• 为什么重要：算力公式的基础，理解MAC才能理解TOPS
• 小白技巧：MAC就像"先乘后加"的算盘操作，重复亿万次
• 实操：1个MAC = 2 FLOPs（浮点运算）

6. PE（处理单元）

• 定义：NPU内部并行计算的核心单元，大量PE组成阵列
• 作用：同时执行多个MAC操作，实现数据并行
• 为什么重要：PE数量决定NPU的并行度，直接影响算力
• 小白技巧：PE是NPU的"工人"，一个NPU有几百到几千个PE

7. TOPS（每秒万亿次操作）

• 定义：Tera Operations Per Second，衡量AI芯片算力的单位
• 作用：比较不同NPU性能的核心指标
• 为什么重要：选型芯片时，TOPS越高，推理越快
• 小白技巧：TOPS就像"工厂日产量"，数字越大越能干活
• 实操：RK3568算力1 Tops，RK3588算力6 Tops，相差6倍

8. 算力计算公式

• 定义：NPU算力 = MAC数量 × 2 × 频率(GHz)
• 作用：验证官方标称算力是否真实
• 为什么重要：理解算力来源，评估模型能否实时运行
• 小白技巧：频率越高，工人干活越快；MAC越多，工人数量越多
• 实操：RK3568的512 MAC × 2 × 0.9 GHz = 0.9216 Tops ≈ 1 Tops

模块二：软件工具链（开发武器库）

9. Conda（环境管理器）

• 定义：跨平台的软件包和环境管理工具，创建隔离的Python环境
• 作用：解决"这个项目要Python3.6，那个项目要Python3.8"的问题
• 为什么重要：没有Conda，你的系统会陷入版本地狱，寸步难行
• 小白技巧：Conda是"项目隔离舱"，各项目互不干扰
• 实操：

conda create -n rknnpython=3.6# 创建隔离舱conda activate rknn# 进入隔离舱conda deactivate# 退出隔离舱（编译SDK前必须执行！）

10. RKNN-Toolkit（模型转换核心）

• 定义：瑞芯微官方提供的Python工具库，将TF/PyTorch模型转为.rknn格式
• 作用：桥梁作用，让模型能在NPU上跑起来
• 为什么重要：这是你的"翻译官"，没有它模型无法部署
• 小白技巧：Toolkit1.x用于RV1126，Toolkit2.x用于RK3568/RK3588
• 实操：

fromrknn.apiimportRKNN rknn