25、卷积和循环神经网络：原理、应用与研究实践

卷积和循环神经网络：原理、应用与研究实践

1. 卷积网络训练与超参数

在进行卷积网络训练时，以下代码是常见的训练流程：

for i in range(0, train.shape[0], batch_size): x_batch = train[i:i + batch_size,:] y_true_batch = labels_[i:i + batch_size,:] sess.run(optimizer, feed_dict={x: x_batch, y_true: y_true_batch}) train_accuracy += sess.run(accuracy, feed_dict={x: x_batch, y_true: y_true_batch}) train_accuracy /= int(len(labels_)/batch_size) dev_accuracy = sess.run(accuracy, feed_dict={x:dev, y_true:labels_dev_})

运行这段代码，大约十分钟后，经过一个训练周期，训练准确率可达 63.7%，经过十个训练周期，训练准确率能达到 86%（在验证集上也是如此）。需要注意的是，这里仅训练了十个周期，如果增加训练周期，准确率会更高。而且，目前还未进行超参数调优，如果花费时间调整参数，会得到更好的结果。

每次引入卷积层时，都会引入新的超参数，主要包括：
| 超参数 | 说明 |
| ---- | ---- |
| Kernel size | 卷积核的大小