损失函数（loss）

5-损失函数(Loss) 可能影响网络训练失败_哔哩哔哩_bilibili

回归问题是模型给出一个预测值

分类问题，我们一般使用one-hot进行class的分类

输入特征 x 进入神经网络，经过加权求和、偏置、激活函数，最后输出三个类别的预测值。真实类别用 one-hot 向量表示，模型输出也应该是一个长度为 3 的向量，然后通过比较预测向量和真实 one-hot 标签来训练模型。

softmax 0-1

第一个是回归问题的loss函数，预测结果大多是连续的

第二个是交叉熵的loss函数，而分类预测大多是离散，比如0,1、

在pytorch中，soft-max被内置在了Cross-entropy

总结：可以通过改变损失函数，改变optimization的优化难度