什么是导数

tensorFlow会自动使用反向传播，来计算倒数并使用梯度下降或者adam来训练神经网络参数，因此反向传播算法计算了代价函数相对于参数的倒导数，是神经网络的关键算法，那么他是如何工作的呢？让我们看一看反向传播是如何计算倒数的。会涉及到微积分

微积分就是 自变量增加了很小很小的量，因变量会增加几倍，这个几倍能是一个倍数，也可能是一个公式，

官方定义，当W增加一个非常微小的v值，j(w)会增加K倍的v,,那么j对w的导数就是K

导数大小代表着对参数W的变化对函数影响程度的变化，

导数的 计算和绘图，导数就是这一个点的斜率。

有一个Sympy的库可以自己计算导数

导数的两种表达形式