RK3588_NPU

一、NPU算力的三个维度：
1.峰值TOPS
2.精度INT8/FP16
3.带宽效率

二、TOPS是如何计算的呢？
1.MAC单一总数是神经网络计算的核心。卷积和矩阵运算的核心就是使用MAC.
2.NPU的设计理念就是拥有极大量的并行 MAC 单元阵列。一个NPU芯片可能拥有数千甚至数万个MAC单元，它们可以同时工作，实现大规模并行计算。
MAC 单元数量越多，NPU在一个时钟周期内能完成的运算量就越大。

三、时钟频率
时钟频率（Clock Frequency）频率决定了NPU芯片及其MAC单元每秒运行的周期次数（赫兹，Hz）。频率越高，MAC阵列在单位时间内就能执行更多的乘加操作。厂商在公布TOPS时，使用的是NPU的峰值运行频率（即能达到的最高频率）。

参考：https://blog.csdn.net/neardi_dev/article/details/155937254

四、关于推理和训练
1.训练是AI模型在学习阶段，使用样本，不停调整模型内部的大量
权重参数，使得学习到数据的模式和规律
2.推理是AI模型的应用阶段，是使用已经训练号的模型

五、YOLOv8目标跟踪
在目标跟踪任务中，YOLOv8的核心作用是 “推理”。

目标跟踪的过程本质上是利用一个已经训练好的检测模型（比如YOLOv8），对视频的每一帧进行目标检测，然后通过跟踪算法（如BoT-SORT、ByteTrack）将这些检测框在时间序列上关联起来，形成连续的轨迹。