【专栏二：深度学习06】-【一张图讲清楚：训练到底跑了多少次？Batch、Epoch、Iteration 全解析】

前言

在训练模型的时候，你一定见过这几个词：

• Batch
• Epoch
• Iteration

但很多人其实是“会用，但说不清”：

• 一轮训练到底是几次？
• iteration 到底算不算一轮？
• batch size 调大了，训练次数变了吗？

👉 本质问题其实只有一个：

训练到底跑了多少次？

这篇文章，我们用一张图，把这三个概念彻底讲清楚。

训练次数，本质上看的是 Iteration 次数。

一、一句话讲清“整个训练流程”

一次完整训练，其实就是：

• 把数据拆成多个 Batch
• 每个 Batch 做一次 Iteration（参数更新）
• 所有 Batch 跑完 → 1 个 Epoch
• 重复多个 Epoch

👉 接下来，我们一步一步拆开看。

二、Batch：一次喂多少数据

先看最左边。

模型不会一次把所有数据全部吃进去，而是会：

把数据拆成很多小块（Batch）

举个具体例子，假设：

• 数据总量：1000 条
• batch size：100

那么：1000/100=10，即 一共会被拆成10个 Batch

一句话总结

Batch = 一小批训练数据

三、Iteration：模型真正“学一步”的过程（重点）

接下来是整张图最关键的部分：Iteration（迭代）

定义（必须记住）

1 次 Iteration = 用 1 个 Batch 完成 1 次参数更新

一次 Iteration 里发生了什么？每一次 Iteration，其实都会完整走一遍：

• forward（前向计算）
• loss（计算误差）
• backward（反向传播）
• update（更新参数）

用伪代码看更清楚

forone_batch in train_loader:y_pred=model(one_batch.x)# forward loss=compute_loss(y_pred,one_batch.y)grad=backward(loss)# backwardupdate_parameters(grad)# update

这一整套流程跑完一次，就是：1 次 Iteration

用刚才的例子代入，我们有 10 个 Batch：

• 每处理 1 个 Batch → 1 次 Iteration
• 处理完全部 Batch → 10 次 Iteration

一句关键总结:

模型每“学一步”，其实就是一次 Iteration。

四、Epoch：把数据完整看一遍

现在我们来看第三个概念：Epoch（时代）

定义

1 个 Epoch = 整个数据集被完整跑一遍

用例子代入，刚才我们算过：

• 一共有10个 Batch
• 每个 Batch →1次 Iteration

那么：

跑完这 10 个 Batch：1 𝐸𝑝𝑜𝑐ℎ= 10 𝐼𝑡𝑒𝑟𝑎𝑡𝑖𝑜𝑛𝑠

一句话总结

1 Epoch = N 次 Iteration（N = Batch数量）

五、多个 Epoch：模型为什么要反复训练？

模型不会只训练一轮，而是：反复训练多轮（多个 Epoch）

为什么？因为：

• 一次学习不够
• 参数需要不断调整
• 模型需要逐渐逼近最优解

图中对应：Epoch1 → Epoch2 → Epoch3 → …

一句话总结

Epoch 决定“数据被看了几遍”

六、用公式把三者关系彻底讲清

现在我们用公式来统一一下：

七、回到核心问题：训练到底跑了多少次？

我们用完整例子算一遍：

📌 已知：
数据总量：1000
batch size：100
epoch：5

📌 计算：
每个 epoch 的 batch 数量：1000/100=10
总 iteration：5×10=50

📌 最终结论
模型一共更新了 50 次参数

核心总结

训练次数，本质上看的不是 Epoch，而是 Iteration 次数。

八、Batch Size 为什么会影响训练？

我们再对比两个情况：
情况1：
batch size = 100
1000/100=10
👉 1 epoch = 10 iteration

情况2：
batch size = 200
1000/200=5
👉 1 epoch = 5 iteration

结论

• batch size 越大 → iteration 越少
• batch size 越小 → iteration 越多

也就是说：

batch size 会直接影响“训练步数”

九、串联上一篇：梯度下降到底在哪发生？

如果你看过上一篇“梯度下降”的内容，这里就能串起来了：

梯度下降，并不是在每个 epoch 发生一次，而是：在每一次 Iteration 里发生，
换句话说：每处理一个 Batch，模型就更新一次参数

我们把三个概念再总结一遍：

• Batch：一次喂多少数据
• Iteration：更新多少次参数
• Epoch：把数据看了几遍

最关键的一句话：

模型不是因为“看了多少轮”变强，而是因为“更新了多少次”。