计算图的定义
计算图是一种有向无环图（DAG），用来表示计算过程中的数据流和操作依赖关系。 图中的每个节点代表一个操作或变量，每条边代表数据在操作之间的流动。
核心特性
计算图具有以下主要特点：
- 节点（Nodes）：代表数学操作（如加法、乘法、激活函数）或数据（如变量、常数、张量）
- 边（Edges）：表示数据的传递方向，从一个操作的输出连接到另一个操作的输入
- 有向性：数据沿着箭头方向流动，表示依赖关系
- 无环性：不存在循环，确保计算可以按照拓扑顺序执行
实际应用
深度学习框架
计算图在现代深度学习框架中应用最广泛。TensorFlow、PyTorch 等框架都使用计算图来组织神经网络的前向传播和反向传播。 这使得自动微分（自动求导）成为可能，从而高效地计算梯度用于训练。
具体例子
假设你要计算 z = (x + y) * w，计算图会这样表示：
- 节点：
x、y、w、x+y（中间结果）、z（最终结果） - 边：
x → (x+y)、y → (x+y)、(x+y) → z、w → z
优势
- 自动求导：系统可以自动计算每个变量对输出的梯度
- 优化执行：可以识别冗余计算并进行优化
- 可视化：便于理解复杂的计算过程
- 分布式计算：便于在多个设备上并行执行不同的操作