CANN/ge TensorHolder文档

TensorHolder

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

模块导入

from ge.es import TensorHolder

功能说明

TensorHolder是 Eager-Style 图构建中的张量持有者类，由GraphBuilder的create_*方法（如create_input()、create_const_float()等）创建。该类支持运算符重载（+、-、*、/），可通过链式调用设置数据类型、格式和形状。

TensorHolder自动维护对所属GraphBuilder的强引用，确保底层 C++ 资源在TensorHolder存活期间不会被释放。

约束说明

• 不支持直接实例化：TensorHolder对象只能通过GraphBuilder的create_*方法创建，直接调用构造函数将抛出RuntimeError。
• 不可在build_and_reset()后调用 setter 方法：在GraphBuilder.build_and_reset()执行后，调用set_data_type()、set_format()、set_shape()等 setter 方法将导致错误。
• 运算要求同一 GraphBuilder：进行张量运算（add、sub、mul、div）时，参与运算的两个TensorHolder必须属于同一个GraphBuilder，否则将抛出ValueError。

name 属性（property）

获取生产者节点名称。

函数原型

@property def name(self) -> str: ...

参数说明

无参数。

返回值说明

set_data_type 方法

设置张量数据类型。

函数原型

def set_data_type(self, data_type: DataType) -> TensorHolder: ...

参数说明

返回值说明

约束说明

• data_type必须为DataType枚举类型，否则将抛出TypeError。

set_format 方法

设置张量数据格式。

函数原型

def set_format(self, format: Format) -> TensorHolder: ...

参数说明

返回值说明

约束说明

• format必须为Format枚举类型，否则将抛出TypeError。

set_shape 方法

设置张量形状。

函数原型

def set_shape(self, shape: List[int]) -> TensorHolder: ...

参数说明

返回值说明

约束说明

• shape必须为整数列表，且所有元素必须为int类型，否则将抛出TypeError。

add 方法

张量加法运算。

函数原型

def add(self, other: Union[TensorHolder, TensorLike]) -> TensorHolder: ...

参数说明

返回值说明

约束说明

• 若other为TensorHolder，必须与当前张量属于同一个GraphBuilder。
• 运算库（libes_math.so或默认生成的库）必须可加载，否则将抛出RuntimeError。

sub 方法

张量减法运算。

函数原型

def sub(self, other: Union[TensorHolder, TensorLike]) -> TensorHolder: ...

参数说明

返回值说明

约束说明

• 若other为TensorHolder，必须与当前张量属于同一个GraphBuilder。
• 运算库（libes_math.so或默认生成的库）必须可加载，否则将抛出RuntimeError。

mul 方法

张量乘法运算。

函数原型

def mul(self, other: Union[TensorHolder, TensorLike]) -> TensorHolder: ...

参数说明

返回值说明

约束说明

• 若other为TensorHolder，必须与当前张量属于同一个GraphBuilder。
• 运算库（libes_math.so或默认生成的库）必须可加载，否则将抛出RuntimeError。

div 方法

张量除法运算。

函数原型

def div(self, other: Union[TensorHolder, TensorLike]) -> TensorHolder: ...

参数说明

返回值说明

约束说明

• 若other为TensorHolder，必须与当前张量属于同一个GraphBuilder。
• 运算库（libes_math.so或默认生成的库）必须可加载，否则将抛出RuntimeError。

运算符重载

TensorHolder支持以下 Python 运算符重载，对应关系如下：

同时支持右操作数运算（__radd__、__rsub__、__rmul__、__rtruediv__），用于处理非TensorHolder类型在左侧的运算。

get_owner_builder 方法

获取所属的GraphBuilder。

函数原型

def get_owner_builder(self) -> GraphBuilder: ...

参数说明

无参数。

返回值说明

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge