【模型序列化】pkl 的问题与格式选型

​ 为什么 pkl 不够用？你把iris_model.pkl拷到另一台服务器上，大概率会遇到这种情况：生产服务器的 scikit-learn 版本和你本地不一样，pkl 文件加载失败。

​ 或者：推理太慢，想换 TensorRT 加速，但 TensorRT 不认识你的 pkl 文件。

​ 这就是序列化问题，如果选错格式，后面的优化全是空谈。

一、背景：序列化是部署的第一道门

​ 模型序列化（Model Serialization）解决一个核心问题：把内存里的模型对象，变成一个可移植的文件。这个文件要能在另一台机器、另一个时间、另一个框架里被正确还原。

• "可移植"说起来简单，实际上有三个维度的兼容性需要考量：

  • 版本兼容：用 sklearn 0.24 保存的模型，能用 1.2 加载吗？
  • 框架兼容：PyTorch 训练的模型，能用 TensorFlow Serving 部署吗？
  • 硬件兼容：CPU 上训练的模型，能高效跑在 NVIDIA GPU 上吗？

• 不同序列化方案在这三个维度上有不同的权衡。

二、基础知识：格式演进的三代

2.1 第一代：框架原生格式

​ 最简单，直接用框架自带的序列化工具：

# sklearnjoblib.dump(model,"model.pkl")model=joblib.load("model.pkl")# PyTorch（只存权重）torch.save(model.state_dict(),"weights.pt")# PyTorch（存整个模型，依赖代码结构）torch.save(model,"model.pt")

• 优点：简单，零学习成本。
• 缺点：强依赖框架版本，跨框架不通，无法被高性能推理引擎直接加载。

​ Pickle（pkl）尤其危险：它序列化的是 Python 对象，加载时会执行任意代码，既有安全风险，也有版本绑定问题。

2.2 第二代：计算图格式

​ PyTorch 和 TensorFlow 各自有"冻结计算图"的格式：

• TorchScript（.pt或.torchscript）：把 PyTorch 模型编译成静态图，不依赖原始 Python 代码

  # PyTorch → TorchScriptmodel.eval()scripted=torch.jit.script(model)# 编译为静态图scripted.save("model.torchscript")# 保存，不再依赖原始类定义# 加载时不需要 model 的类定义loaded=torch.jit.load("model.torchscript")output=loaded(input_tensor)

• SavedModel（TF）：TensorFlow 2.x 的标准格式，包含计算图和变量

  # TensorFlow → SavedModeltf.saved_model.save(model,"saved_model/")# 导出整个目录# 加载loaded=tf.saved_model.load("saved_model/")output=loaded(input_tensor)

​ 这一代解决了版本绑定问题，加载时不再需要原始的模型类定义，序列化的是计算图本身而不是 Python 对象。但还是框架内的方案：TorchScript 只能被 PyTorch 生态加载，SavedModel 只能被 TensorFlow 生态加载，不能跨框架。

2.3 第三代：ONNX跨框架标准

​ONNX（Open Neural Network Exchange）是微软、Facebook、AMD 等共同推出的开放格式，定义了一套与框架无关的算子集。

​ 训练框架和推理引擎之间，ONNX 充当通用翻译层：你用 PyTorch 训练，导出 ONNX，然后用任意支持 ONNX 的引擎部署，完全解耦。

三、总结

• Pickle/pkl是原型阶段的工具，不适合生产，版本依赖强、安全风险高、跨框架不通
• 序列化格式经历了三代演进：框架原生 → 计算图格式 →ONNX 跨框架标准
• 选格式的核心判断：你需要版本兼容、框架兼容还是硬件兼容，pkl 三个都不满足，ONNX 三个都覆盖