模型调参日志：每一次炼丹都要留下脚印

模型调参日志：每一次炼丹都要留下脚印

一、调参最怕只记得感觉

训练模型时，学习率、batch size、优化器、warmup、权重衰减、数据清洗和随机种子都会影响结果。很多人调参时靠感觉，今天改学习率，明天换数据，后天改模型结构，最后只记得“好像某次效果不错”。这不是炼丹，这是雾里抓药。

模型调参日志的价值，是让每一次实验都可比较、可复现、可回退。实验失败也有价值，因为它告诉我们哪些方向不用再试。深夜看到指标上涨当然快乐，但第二天还得知道为什么。

二、实验链路：配置、训练、评测、结论

flowchart TD A[实验配置] --> B[训练运行] B --> C[指标记录] C --> D[评测报告] D --> E[实验结论] E --> F[下一轮假设]

每次实验都应该有假设。比如“降低学习率能减少验证集震荡”，而不是“随便试一下”。有假设，结果才有解释。否则指标变好也不知道是哪个因素起作用。

实验记录至少包括代码提交、数据版本、模型版本、超参数、随机种子、硬件环境、训练时长、关键指标和备注。少一个关键字段，复现实验时就会变成考古。

三、日志模板：失败实验也要记录

下面是一份简化实验记录。

experiment: id: "exp_20260702_01" hypothesis: "increase warmup ratio to stabilize early training" dataset_version: "v3.2" seed: 42 learning_rate: 0.0002 warmup_ratio: 0.08 result: val_loss: 1.82 f1: 0.713 conclusion: "early loss smoother, final f1 unchanged"

结论要写人话。不要只贴指标。比如“早期 loss 更平滑，但最终 F1 没提升，说明当前问题可能不是 warmup 不足”。这种结论能指导下一轮实验。日志不是给机器看的，也是给未来的自己看的。

失败实验更要记录。没有记录，几周后很可能又试同一个方向。调参真正的成本，不只是 GPU 时间，还有人的注意力。

四、比较方法：一次只改一个关键变量

调参最忌讳同时改很多东西。换数据、改学习率、调 batch、换模型一起做，指标涨了也不知道原因。除非是明确的大版本实验，否则一次只改一个关键变量。变量控制是科学实验的地基。

随机种子也要固定或多种子复跑。单次结果可能受随机性影响。重要结论最好至少跑 3 个种子，看均值和方差。指标只涨 0.2%，但方差 0.5%，就不要急着宣布突破。

最后，要定期整理实验表。哪些方向有效，哪些无效，哪些需要更多数据。调参不是靠玄学感应，而是用记录把不确定性一点点压下去。

实验日志还要保存负结果的原因分类。比如“无提升”“训练不稳定”“成本过高”“线上延迟不可接受”“评测方差过大”。这些标签能帮助后续复盘，知道团队为什么放弃某个方向。半年后重新看，不会把已经踩过的坑再当新灵感。

如果团队多人同时实验，命名规则更重要。实验 ID、分支、数据版本和负责人要统一，否则看板上会出现一堆test1、new_lr、final_final。模型训练已经够混沌了，命名就别再添乱。

实验记录最好自动生成一部分。代码提交、启动命令、依赖版本、GPU 型号和环境变量可以由脚本写入，减少人工遗漏。人负责写假设和结论，机器负责记录客观事实。这样日志既有温度，也有可靠性。

五、总结

模型调参日志是把炼丹变成实验的关键。每次实验要有假设、配置、数据版本、指标和结论。失败也要记录，变量要控制，重要结果要复跑。留下脚印，才知道自己走过哪里。