nn.Softmax
nn.Softmax核心作用：把分数变成概率
作用是：
把任意实数转换成概率分布（所有值在 0~1，总和=1）
一、为什么需要 Softmax？
神经网络最后一层输出通常是：logits = [2.0, 1.0, 0.1]
这些只是“分数”，不是概率。
Softmax 转换后：prob = [0.659, 0.242, 0.099]
现在 prob总和等于1
可以理解为：
属于类别0概率：65.9%
属于类别1概率：24.2%
属于类别2概率：9.9%
二、数学公式（理解本质）
Softmax 对第 i 个元素：
\[\text{Softmax}(x_i) =
\frac{e^{x_i}}
{\sum_{j=1}^{n} e^{x_j}}
\]
步骤：
- 每个元素取指数
\[\text
{e^x}
\]
- 除以所有指数的总和
\[{\sum_{j=1}^{n} e^{x_j}}
\]
- 得到概率
\[\frac{e^{x_i}}
{\sum_{j=1}^{n} e^{x_j}}
\]
三、dim 参数的意义（非常重要）
nn.Softmax(dim)
dim表示： 沿哪个维度计算概率
dim 的取值范围：dim ∈ [-n, ..., -1, 0, 1, ..., n-1]
其中n = tensor 的维度数
| dim | 含义 |
|---|---|
| dim=0 | batch |
| dim=1 | channel ⭐常见 |
| dim=2 | height |
| dim=3 | width |
示例：分类网络输出
x = torch.tensor([[2.0, 1.0, 0.1],[0.5, 0.2, 3.0]
])shape: (2, 3)
表示： 2个样本， 每个样本3个类别
输入： [2.0, 1.0, 0.1]
使用：softmax = nn.Softmax(dim=1)
分别计算指数：
exp → [7.39, 2.71, 1.11]
sum = 11.21
除以 sum →
变成概率： [0.659, 0.242, 0.099]
四、在分类网络中的位置
典型结构： Linear → ReLU → Linear → Softmax
解读： 特征 → Linear → logits → Softmax → 概率
注意： 实际训练时不要手动加Softmax， 因为nn.CrossEntropyLoss()内部已经包含：Softmax + Log
五、什么时候用 Softmax？
只在推理（预测）时使用