CANN/GE模型配置设置API

aclmdlSetConfigOpt

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

功能说明

设置模型加载的配置对象中的各属性的取值，包括模型执行的优先级、模型的文件路径或内存地址、内存大小等。

本接口需要与以下其它接口配合，实现模型加载功能：

1. 调用aclmdlCreateConfigHandle接口创建模型加载的配置对象。
2. （可选）调用aclmdlSetExternalWeightAddress接口配置存放外置权重的Device内存。
3. 多次调用aclmdlSetConfigOpt接口设置配置对象中每个属性的值。
4. 调用aclmdlLoadWithConfig接口指定模型加载时需要的配置信息，并进行模型加载。
5. 模型加载成功后，调用aclmdlDestroyConfigHandle接口销毁。

函数原型

aclError aclmdlSetConfigOpt(aclmdlConfigHandle *handle, aclmdlConfigAttr attr, const void *attrValue, size_t valueSize)

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

参考资源

使用aclmdlSetConfigOpt接口、aclmdlLoadWithConfig接口时，是通过配置对象中的属性来区分，在加载模型时是从文件加载，还是从内存加载，以及内存是由系统内部管理，还是由用户管理。

当前还提供了以下接口实现模型加载的功能，从使用的接口上区分从文件加载，还是从内存加载，以及内存是由系统内部管理，还是由用户管理。

• aclmdlLoadFromFile接口
• aclmdlLoadFromMem接口
• aclmdlLoadFromFileWithMem接口
• aclmdlLoadFromMemWithMem接口
• aclmdlLoadFromFileWithQ接口
• aclmdlLoadFromMemWithQ接口

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge