当前位置：首页 > news >正文

Minerva核心组件解析：DAG调度器如何让多GPU协同工作如丝般顺滑

news 2026/7/28 23:46:00

Minerva核心组件解析：DAG调度器如何让多GPU协同工作如丝般顺滑

【免费下载链接】minervaMinerva: a fast and flexible tool for deep learning on multi-GPU. It provides ndarray programming interface, just like Numpy. Python bindings and C++ bindings are both available. The resulting code can be run on CPU or GPU. Multi-GPU support is very easy.项目地址: https://gitcode.com/gh_mirrors/mi/minerva

Minerva是一个快速灵活的深度学习工具，提供类NumPy的NDarray编程接口，同时支持Python和C++绑定，能够在CPU或GPU上运行，尤其简化了多GPU支持的实现。本文将深入解析其核心组件DAG调度器，揭示它如何让多GPU协同工作如丝般顺滑。

DAG调度器：多GPU协同的大脑 🧠

在Minerva的架构中，DAG（有向无环图）调度器扮演着多GPU协同工作的核心角色。它位于minerva/backend/dag/dag_scheduler.h和minerva/backend/dag/dag_scheduler.cpp文件中，负责管理和协调深度学习任务在多个GPU上的执行流程。

DAG调度器的主要功能包括：

任务依赖管理：通过构建任务间的依赖关系图，确保任务按正确顺序执行
多GPU资源分配：智能分配计算任务到不同GPU设备
任务生命周期管理：从任务创建、调度、执行到资源释放的完整流程

核心工作原理：让多GPU高效协作

1. 任务图构建与管理

DAG调度器通过创建物理DAG（PhysicalDag）来表示计算任务和数据依赖关系。当用户创建计算操作时，调度器会：

创建相应的操作节点（PhysicalOpNode）和数据节点（PhysicalDataNode）
建立节点间的依赖边，形成完整的计算图
通过OnCreateNode和OnCreateEdge方法跟踪图结构变化

关键代码实现可见于DagScheduler::Create方法，它处理新计算节点的创建和依赖关系建立：

auto op_node = dag_->NewOpNode(param_data_nodes, rst_data_nodes, {fn, current_device_id}); Iter(unique_predecessors, & { OnCreateEdge(n, op_node); }); Iter(rst_data_nodes, & { OnCreateEdge(op_node, n); }); ProcessIfReady(op_node);

2. 智能任务调度机制

DAG调度器采用基于优先级的任务调度策略，通过PriorityDispatcherQueue管理待执行任务。调度器维护两个调度线程（dispatcher_0和dispatcher_1），不断从队列中取出任务并分配到合适的GPU设备。

调度逻辑主要在DispatcherRoutine方法中实现，它处理三种类型的任务：

kToRun：将操作节点分配到指定GPU执行
kToComplete：处理任务完成后的清理和后续任务触发
kToDelete：删除已完成并释放资源的节点

3. 设备间协同与数据管理

DAG调度器通过DeviceManager与GPU设备交互，实现任务的分发和结果回收。当任务在GPU上完成后，调度器通过OnOperationComplete方法接收通知，并触发后续操作：

void DagScheduler::OnOperationComplete(Task* task) { dispatcher_queue_.Push({TaskType::kToComplete, task->id}); delete task; }

同时，调度器通过RuntimeInfoMap跟踪每个节点的状态和引用计数，智能管理GPU内存资源，在节点不再被引用时及时释放资源：

if (--pred_ri.reference_count == 0 && pred_node->data_.extern_rc == 0) { FreeDataNodeRes(pred_node); ++num_nodes_yet_to_finish_; dispatcher_queue_.Push({TaskType::kToDelete, pred_node->node_id_}); }