从图形渲染到机器学习：点积、叉积、内积、外积在实战项目里到底怎么用？

从图形渲染到机器学习：点积、叉积、内积、外积在实战项目里到底怎么用？

在计算机图形学的光照计算中，一个常见的需求是判断表面是否朝向光源。假设我们有一个表面法向量n和指向光源的方向向量l，使用点积运算n·l可以快速计算出两者夹角的余弦值。当结果大于0时，表面接收光照；小于0则处于阴影中。这种计算在Shader中高效实现的关键，正是点积的几何意义——投影长度的乘积。

1. 点积：从卡通渲染到推荐系统

1.1 图形渲染中的魔法公式

在Unity Shader中实现卡通风格的边缘光效果时，点积展现了其独特价值。通过计算视线方向v与法线方向n的点积，我们可以得到边缘检测的核心参数：

float edge = 1.0 - max(0, dot(v, n)); if (edge > 0.8) { color = lerp(color, rimColor, smoothstep(0.8, 1.0, edge)); }

这个简单的公式之所以有效，是因为当视线与表面切线方向接近垂直时（即处于模型边缘），点积结果趋近于0，经过换算后edge值接近1，触发边缘高光效果。

1.2 机器学习中的相似度度量

在推荐系统领域，点积作为用户-物品交互矩阵的基本运算单元，支撑着协同过滤的核心逻辑。给定用户向量u和物品向量i，它们的点积u·i直接反映了匹配程度：

提示：虽然余弦相似度在理论上更规范，但在大规模推荐系统中通常直接使用点积，因为归一化操作会增加计算开销。

2. 叉积：3D引擎的几何基石

2.1 法线计算与朝向判断

在加载OBJ模型文件时，经常需要根据顶点数据重新计算面法线。给定三角形三个顶点v0、v1、v2，通过叉积运算即可得到精确的法线方向：

def calculate_normal(v0, v1, v2): edge1 = v1 - v0 edge2 = v2 - v0 return np.cross(edge1, edge2)

这个计算过程在3D建模工具和游戏引擎中无处不在，其物理意义是构建一个垂直于三角形平面的向量。在Unity的C#脚本中，同样的逻辑用于碰撞检测前的预处理：

Vector3 GetTriangleNormal(Vector3 a, Vector3 b, Vector3 c) { return Vector3.Cross(b - a, c - a).normalized; }

2.2 物理引擎中的力矩计算

刚体动力学模拟离不开叉积的身影。当施加力F到距离质心r的位置时，产生的扭矩τ由叉积定义：

τ = r × F

这在Bullet、PhysX等物理引擎的底层实现中尤为关键。下表对比了不同物理量计算中的向量运算：

3. 内积：支持向量机的数学内核

3.1 SVM中的决策边界

支持向量机的核心思想是寻找最优超平面，而内积空间的性质使其成为理想工具。给定特征向量x和权重向量w，决策函数可表示为：

f(x) = sign(〈w, x〉 + b)

其中内积运算〈·,·〉将高维特征映射到可分空间。使用核技巧时，内积的变体——核函数K(x,y)能够隐式处理非线性可分情况：

from sklearn.svm import SVC model = SVC(kernel='rbf') # 径向基核函数 model.fit(X_train, y_train)

3.2 函数空间中的内积应用

在信号处理领域，L²空间的内积定义揭示了傅里叶变换的深层原理：

〈f,g〉 = ∫ f(x)g(x) dx

这个定义使得我们可以用线性代数的方法处理函数逼近问题。例如在图像压缩中，离散余弦变换(DCT)本质上是在特定内积空间下的基变换。

4. 外积：从词向量到注意力机制

4.1 词嵌入的关联矩阵

自然语言处理中，外积常用于构建词向量间的关联矩阵。给定词向量u和v，它们的外积u⊗v生成一个矩阵，可以捕获词语间的细粒度交互模式：

import numpy as np u = np.array([0.2, -0.5, 1.3]) # 词向量1 v = np.array([-1.0, 0.8, 0.4]) # 词向量2 outer = np.outer(u, v)

这个技术在早期词向量可视化工具中广泛应用，现在仍是分析词嵌入关系的有效手段。

4.2 注意力机制中的计算核心

Transformer架构中的自注意力机制，本质上是查询(Query)、键(Key)、值(Value)三个矩阵的复合运算。其中关键的一步计算注意力权重：

Attention(Q,K,V) = softmax(QKᵀ/√d)V

这里的矩阵乘法QKᵀ可以视为批量外积运算，建立了查询与键之间的关联强度。在PyTorch实现中，这个过程被高度优化：

attn_scores = torch.matmul(q, k.transpose(-2, -1)) / math.sqrt(dim) attn_probs = F.softmax(attn_scores, dim=-1) output = torch.matmul(attn_probs, v)

实际调试模型时，外积运算的数值特性直接影响梯度传播效果。经验表明，当维度d较大时，必须加入缩放因子1/√d来保持数值稳定性。