模型训练可视化:TensorBoard、Weights Biases (WB) 实战
007、模型训练可视化:TensorBoard、Weights & Biases (W&B) 实战
上周调一个BERT变体,loss曲线看着正常,验证集指标却死活上不去。盯着终端里滚动的数字看了半天,突然意识到问题——我们根本不知道中间层到底在学什么。同事凑过来问:“要不要把每一层的激活值打印出来看看?”我苦笑,那得往代码里塞多少print啊。这时候才想起,可视化工具不是“锦上添花”,而是调试的“氧气面罩”。
一、TensorBoard:老将的沉稳
TensorBoard像实验室里的示波器,不一定炫酷,但关键时刻总能给你信号。很多团队抱怨“TensorBoard太基础”,其实是用得太浅。
安装和基础集成
fromtorch.utils.tensorboardimportSummaryWriterimportnumpyasnp