AI模型基础

• AI模型到底是什么

AI模型 ≠ 文件（.pt / .pth / .onnx）
AI模型 = 数学结构 + 参数（权重） + 计算逻辑

结构：几层，attention怎么做，embedding多大

权重：类似pth里的一串数字[0.123, -0.98, ...]，算是模型学到的东西

计算逻辑：在pytorch里写的forward。

.pth：最原始的权重文件

没有结构，没有完整计算图，只有参数

torch.save(model.state_dict())

.pt:TorchScript

是结构+权重+计算图，可以脱离python，c++可用（libtorch）

是真正的可部署模型

.onnx：通用计算图格式

torch.onnx.export()

得到：结构+权重+标准化计算图

可以用ONNX Runtime.,tensorRT等，用于跨框架或工业部署

.ptvs.onnx本质区别

• hugging face上下载的是什么

包括

config.json（结构）

pytorch_model.bin（权重 ≈.pth）

tokenizer（分词器）

vocab.txt

它不是一个单文件模型，而是模型组件集合

• 为什么c++不能用.pth

python里：结构 + 权重 + tokenizer + 框架

但拿到c++时，只有.pth不够