PyTorch深度学习实战（52）——PyTorch深度学习模型部署

0. 前言

我们已系统性地探讨了如何使用 PyTorch 训练和测试各类机器学习模型。我们从 PyTorch 的基础组件入手，掌握了高效完成深度学习任务的必备工具；随后深入研究了基于PyTorch实现的多种深度学习模型架构及其应用场景。在本节中，我们将重点讨论如何将这些模型投入生产环境。简单来说，就是讨论将一个已经训练并测试过的模型对象部署到一个独立的环境中，使其能够对新输入数据进行预测或推理。这称为模型的生产化，即将模型部署到生产系统中。
本节我们将首先构建一个简易的PyTorch推理管道：通过输入数据和预训练模型的存储路径即可完成预测。随后将该推理管道部署至模型服务器，使其能够接收数据请求并返回预测结果。

1. 构建 PyTorch 模型推理管道

我们将使用MNIST手写数字分类模型。利用这个训练好的模型，构建一个推理管道，该管道能够根据给定的手写数字输入图像预测一个0到9之间的数字。

1.1 保存和加载训练模型

在本节中，我们将演示如何高效地加载一个已保存的预训练PyTor