[具身智能-334]：大模型存储文件中包含的内容与格式？
大模型存储文件的内容和格式，取决于其具体的应用场景和使用框架。之前提到的 Ollama 为例，其存储机制就非常具有代表性，它并非简单地将一个模型文件放在磁盘上，而是采用了一套结构化的管理方式。
📂 Ollama 的模型存储结构
Ollama 默认将所有模型数据存储在用户主目录下的~/.ollama隐藏文件夹中。这个目录是整个模型管理系统的核心，其内部结构清晰地分离了模型的元数据、配置和实际权重数据。
| 目录/文件 | 类型 | 作用 |
|---|---|---|
blobs/ | 目录 | 存储模型的实际权重数据块。 |
manifests/ | 目录 | 存储模型的清单或配置文件。 |
models/ | 目录 | 存储模型的元数据和注册信息。 |
id_ed25519 | 文件 | Ollama 服务的私钥文件，用于安全通信。 |
下面我们来详细解析这些核心组成部分。
🧬 blobs/ - 模型的“血肉”
blobs目录是占用磁盘空间最大的部分，它存储了模型真正的“血肉”——权重数据。
- 内容寻址：这里的文件并非以模型名称命名，而是使用其内容的加密哈希值（通常是 SHA256）来命名，例如
sha256-abc123...。这种设计确保了数据的完整性和唯一性。 - 数据分块：一个完整的模型可能被分解成多个这样的数据块（Blob）。
- 核心格式：这些数据块的底层格式通常是GGUF (GPT-Generated Unified Format)。GGUF 是一种为
llama.cpp项目设计的文件格式，它将模型的权重、分词器、配置元数据等打包在一个文件中，并支持高效的量化（如 int4, int8），能显著减小模型体积和内存占用。
📜 manifests/ - 模型的“蓝图”
manifests目录存储的是模型的“蓝图”或“说明书”。
- 清单文件：每个模型都对应一个 JSON 格式的清单文件。这个文件描述了如何将
blobs/目录中的各个数据块组装成一个完整的、可运行的模型。 - 包含信息：清单文件中包含了模型的配置信息、层次结构，以及组成该模型所需的所有 Blob 的哈希值列表。当 Ollama 加载一个模型时，它会先读取这个清单，然后根据指引去
blobs/目录中找到并加载所有必要的数据块。
🗂️ models/ - 模型的“注册表”
models/目录充当了模型管理器的角色，相当于一个“注册表”。
- 元数据管理：它通常包含一个
manifests.db的 SQLite 数据库文件，记录了本地已下载的所有模型列表、它们对应的清单文件哈希、创建时间等管理信息。 - 快速索引：这个目录让 Ollama 能够快速查询和索引本地的模型，当你执行
ollama list命令时，信息就来源于此。
🔄 模型加载流程
结合以上结构，Ollama 加载一个模型（例如llama3）的完整流程如下：
- 查询注册表：Ollama 首先在
models/目录的数据库中查找llama3对应的清单文件哈希。 - 读取蓝图：根据哈希值，在
manifests/目录中找到并读取对应的清单文件。 - 组装模型：解析清单文件，获取所有必需的 Blob 哈希列表，然后从
blobs/目录中取出这些数据块。 - 加载运行：将这些 GGUF 格式的数据块在内存中组装成完整的模型，并交给底层的
llama.cpp推理引擎进行加载和运行。
总而言之，Ollama 通过这种将模型“蓝图”（manifests）与“血肉”（blobs）分离，并用“注册表”（models）进行统一管理的结构化方式，实现了对大模型文件的高效、安全和灵活的存储与调用。