附录B：SVM 中的迁移策略：核心机制与性能优化

1. 引言

SVM 给了 CPU 和 GPU 一个“统一的虚拟地址空间”，使CPU和GPU能够共享内存，但这只是一个逻辑上的假象。物理上，数据要么在系统内存（RAM）里，要么在显存（VRAM）里。迁移策略就是那个在幕后负责“搬运数据”的智能管家，它决定了数据应该在什么时候、被搬到哪里去。迁移策略 Migration Policy是共享虚拟内存技术中最核心、最复杂，也是最决定性能上限的“大主题”。如果策略做得不好，SVM 不仅不会变快，反而会因为频繁的数据来回拷贝（Ping-pong 效应）导致性能崩盘。

2. 迁移策略的核心作用

2.1 解决“物理分离”与“逻辑统一”的矛盾

在SVM模型中，CPU和GPU看到的是同一个指针（虚拟地址），但硬件底层是分离的：

• RAM：容量大，但带宽低，延迟高（对GPU而言）。
• VRAM：带宽极高，延迟低，但容量有限。

迁移策略必须决定数据的物理归属地（Preferred Location）：

• 如果数据只被GPU读，策略应该把它搬到VRAM。
• 如果数据是CPU产生的参数，策略可能让它留在RAM。
• 当CPU和GPU都需要频繁修改同一块数据时，策略必须在"让GPU跑得快（放VRAM）"和"减少拷贝次数（放RAM或不动）"之间做权衡。

2.2 处理"缺页异常"的实时决策

这是迁移策略最"硬核"的工作时刻。当GPU试图访问一个当前只在RAM中存在的数据时，硬件会触发一个GPU页面异常（GPU Page Fault / Retry Fault）。

此时，迁移策略必须瞬间做出反应：

1. 捕获异常：驱动层收到GPU的求救信号。
2. 查找范围：在svm_range（内存范围）的数据结构中查找这块地址。
3. 决策（核心策略）：
   • 迁移到VRAM：如果判断GPU接下来会密集计算这块数据，策略会触发DMA引擎，把数据从RAM拷贝到VRAM。
   • 原地访问(Access In Place, AIP)：如果数据量很大或者只是偶尔访问，策略可能选择不迁移，而是直接修改GPU的页表，让GPU直接去读系统内存。
4. 更新页表：重新映射物理地址，让GPU继续运行。

决策失误的后果：太激进（动不动就搬）会导致总线带宽被占满；太保守（一直让GPU读内存）会导致计算单元空转等待数据。

2.3 维护数据一致性(Coherency)

SVM最大的痛点是一致性。假设数据在VRAM里，GPU修改了它，此时CPU如果去读RAM里的旧副本，就会出错。

迁移策略在这里扮演"仲裁者"的角色：

• 监听机制：SVM注册了mmu_interval_notifier，一旦CPU修改了内存，内核会通知SVM子系统。
• 失效处理(Invalidate)：策略必须决定是让GPU的副本失效（强制GPU下次重新抓取），还是立即把CPU的修改同步给GPU。
• 写保护：有些策略会暂时把页面标记为"只读"，一旦有人写，就触发异常，强制同步数据。

避免"抖动"(Thrashing)
这是迁移策略中最需要避免的灾难场景：

• 场景：CPU改一下数据 -> GPU改一下数据 -> CPU再改一下…
• 后果：数据在RAM和VRAM之间疯狂来回拷贝，系统速度比纯软件模拟还慢。

高级策略的应对方法：

• 预取(Prefetch)：提前把数据搬到GPU，或在后台悄悄搬运。
• 粒度控制：按"页"或"范围"迁移，而非单个字节。
• 位置提示(Location Hints)：程序员或编译器给策略提示，帮助策略少走弯路。

3. 迁移策略的性能影响

以下表格对比了不同策略对系统性能的影响：

4. 结论

迁移策略是SVM的大脑。它让SVM从一个简单的"内存共享工具"变成了一个能够感知应用行为、自动优化数据布局的智能系统。在AMD ROCm或NVIDIA CUDA的文档中，关于Managed Memory和Page Faulting的讨论总是围绕着策略和性能调优展开，正是因为迁移策略直接决定了SVM系统的性能上限。理解并优化迁移策略，是充分发挥SVM潜力的关键。

🔗 导航

• 07 - SVM内存迁移机制
• 12 - 内存预取prefetch与位置偏好preferred
• 13 - VRAM驱逐与恢复
• 返回目录: AMD ROCm-SVM技术的实现与应用深度分析目录