1. MSE 是非凸函数，难以优化
对于分类问题（尤其是多分类问题），当使用 Sigmoid 或 Softmax 作为激活函数时，如果同时使用均方误差（MSE）作为损失函数，会导致整体的损失函数曲面是非凸的（Non-convex）。
- 问题：非凸函数意味着在使用梯度下降进行优化时，很容易陷入局部最优解（Local Minima）或停滞在平坦区域。这使得模型难以收敛到全局最优解，训练过程不稳定且效果差。
- 对比：而配合交叉熵损失函数时，损失曲面是凸的，可以保证优化算法找到全局最优解（或接近全局最优解）。
2. 梯度消失问题严重
在使用 MSE 作为分类损失函数时，梯度消失问题会非常突出。
- 问题：在使用 Sigmoid 或 Softmax 激活函数时，如果预测值与真实值相差很大（这是训练初期常有的事），损失函数的梯度（导数）会非常接近于零。
- 后果：梯度接近零意味着反向传播时参数更新极其缓慢，模型学习停滞。
3. 不匹配的优化目标
均方误差本质上是设计用于回归任务的，它衡量数值上的接近程度。
- 分类目标：分类的目标是预测正确的类别概率。我们更关心的是预测的类别与真实类别的“距离”，而不是数值上的接近程度。
- 交叉熵优势：交叉熵损失函数衡量的是两个概率分布之间的差异（KL散度），完美契合分类任务的目标。当预测概率与真实标签相差越大时，交叉熵的损失值和梯度就越大，惩罚力度更强，训练效果更好。
总结
虽然技术上可以在分类问题中使用 MSE，但由于非凸性导致难以优化、梯度消失以及目标不匹配等核心缺陷，它在实践中几乎不被使用。
标准的做法是：
- 分类问题：使用交叉熵损失函数（Cross-Entropy Loss）。
- 回归问题：使用均方误差（Mean Squared Error, MSE）或平均绝对误差（Mean Absolute Error, MAE）。
参考资料：
1. 一文读懂激活函数与损失函数的区别