【声纳与人工智能融合——从理论前沿到自主系统实战（进阶篇）】第六章 旋转等变Transformer与声纳目标检测

6.1 面向任意方向目标的网络架构创新

6.1.2 向量神经元网络将标量特征提升为三维向量表征

标准卷积神经网络在处理旋转目标时存在内在缺陷：卷积核的权重在空间上固定，当输入发生旋转时，特征响应会发生不可逆的变换。向量神经元网络（Vector Neuron Networks, VNN）通过将标量特征表示扩展为三维向量形式，使网络具备显式的旋转等变性。

传统标量神经元执行的操作可抽象为 y=σ(w⊤x+b) ，其中 w 为权重向量，x 为输入特征，b 为偏置项，σ 表示非线性激活。向量神经元将输入与权重均扩展为三维向量 xi​,wi​∈R3 ，定义向量点积运算为：

y=σ(∑i=1n​wi​⋅xi​+b)

此处 ⋅ 表示向量点积，输出 y∈R3 保持三维向量形式。当输入向量施加旋转矩阵 R∈SO(3) 进行变换时，由于点积满足 (Rwi​)⋅(Rxi​)=wi⊤​R⊤Rxi​=wi​⋅xi​ ，网络层的输出同步旋转，实现：

R⋅VNN(x)=VNN(R⋅x)

为构建深度可旋转特征提取器，向量神经元卷积层（VN-Conv）将传统卷积核 W∈RCout​×Cin​×k×k 重新参数化为 W∈RCout​×Cin​×3×k×k 。输入特征 X∈RH×W×Cin​×3 与卷积核进行三维向量卷积运算：

Yh,w,cout​​=∑cin​=1Cin​​∑u=0k−1​∑v=0k−1​Wcout​,cin​,:,u,v​⋅Xh+u,w+v,cin​,:​

非线性激活函数采用向量非线性（Vector Nonlinearity, VN-ReLU）。定义输入向量 v 相对于可学习方向 d 的投影：当 v⋅d>0 时保持 v