YOLOv8训练遇坑记：GTX 1650显卡下loss变NaN，mAP为0？手把手教你修改源码搞定

GTX 1650显卡训练YOLOv8避坑指南：从loss异常到mAP归零的完整解决方案

当我在自己的GTX 1650显卡上首次尝试训练YOLOv8模型时，本以为按照官方文档操作就能顺利完成，没想到却遭遇了loss值突然变成NaN，评估指标mAP全部归零的诡异情况。这种问题在消费级显卡上并不罕见，特别是对于GTX 16系列这种不支持完整FP16运算的显卡。本文将详细记录我的排查过程，并分享最终解决问题的完整方案。

1. 问题现象与初步诊断

训练日志中突然出现的NaN值和零mAP指标，往往会让初学者感到困惑。在我的案例中，训练刚开始的几个epoch还显示正常的loss值，但很快box_loss、cls_loss和dfl_loss全部变成了NaN，同时验证阶段的各项指标均为0。

典型的问题表现包括：

• 训练过程中loss值突然变为NaN
• 验证阶段的Precision、Recall、mAP50和mAP50-95全部显示为0
• 使用GTX 16系列显卡（特别是1650、1660等型号）
• 启用了混合精度训练(AMP)

通过检查PyTorch的CUDA支持情况，我首先确认了环境配置没有问题：

import torch print(torch.cuda.is_available()) # 返回True print(torch.version.cuda) # 显示CUDA版本

2. 硬件限制与半精度训练的陷阱

GTX 16系列显卡虽然支持CUDA，但在FP16（半精度）计算上存在限制。这与专业级显卡（如RTX系列）的Tensor Core有本质区别。当YOLOv8默认启用混合精度训练时，GTX 1650无法正确处理某些FP16运算，导致数值溢出变成NaN。

消费级显卡与专业显卡的关键差异：

提示：即使PyTorch显示支持AMP(自动混合精度)，在GTX 16系列显卡上也可能出现问题

3. 解决方案：禁用混合精度训练

经过多次尝试，我发现最直接的解决方法是完全禁用混合精度训练。这需要在两个地方进行修改：

3.1 修改训练脚本参数

在调用model.train()时，显式设置amp=False：

model.train(data='coco.yaml', epochs=100, imgsz=640, batch=8, amp=False)

3.2 修改YOLOv8配置文件

找到ultralytics/yolo/cfg/default.yaml文件，将第49行的half参数改为False：

half: False # 将默认的True改为False，禁用半精度训练

4. 验证阶段的隐藏陷阱

即使解决了训练阶段的NaN问题，验证阶段仍可能出现mAP全为0的情况。这是因为YOLOv8的验证逻辑默认会继承训练的半精度设置。

4.1 修改validator.py关键代码

定位到ultralytics/yolo/engine/validator.py文件，找到约102行处的代码：

# 注释掉这行强制FP16验证的代码 # self.args.half = self.device.type != 'cpu'

改为显式设置为False：

self.args.half = False # 强制禁用半精度验证

5. 验证解决方案的有效性

完成上述修改后，重新启动训练，可以观察到：

1. loss值保持正常，不再出现NaN
2. 验证指标逐渐提升，不再全为0
3. GPU内存使用量略有增加（因为使用FP32而非FP16）

典型修复后的训练日志示例：

Epoch GPU_mem box_loss cls_loss dfl_loss Instances Size 1/100 3.2G 4.123 2.876 1.543 2560 640 Class Images Instances Box(P R mAP50 mAP50-95) all 100 5000 0.215 0.178 0.132 0.056

6. 性能优化与替代方案

虽然禁用半精度训练解决了稳定性问题，但也带来了一些性能损失。对于GTX 16系列显卡用户，还可以考虑以下优化措施：

• 降低批量大小：适当减少batch size可以缓解内存压力
• 使用更小的模型：如YOLOv8n或YOLOv8s
• 调整学习率：FP32训练可能需要更保守的学习率设置
• 升级PyTorch版本：新版PyTorch对消费级显卡的支持更好

# 示例优化后的训练配置 model.train( data='coco.yaml', epochs=100, imgsz=640, batch=4, # 减小batch size workers=2, amp=False, lr0=0.01, # 调低初始学习率 weight_decay=0.0005 )

7. 深入理解问题本质

这个问题的根源在于GTX 16系列显卡的硬件限制。虽然它们支持FP16存储和基本运算，但缺乏专业显卡的Tensor Core，无法高效处理混合精度训练中的某些运算。当YOLOv8尝试在这些显卡上使用FP16时，数值精度不足导致梯度计算出现异常。

关键教训：

• 消费级显卡和专业显卡在深度学习支持上有本质区别
• 官方文档的默认配置不一定适合所有硬件环境
• 遇到NaN或零指标时，硬件兼容性应是首要排查点

经过这次调试经历，我建议所有使用消费级显卡进行深度学习训练的开发者在遇到类似问题时，首先考虑禁用混合精度训练。虽然这会稍微降低训练速度，但能保证训练的稳定性和结果的可靠性。