CANN/AMCT自动通道稀疏搜索

auto_channel_prune_search

【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct

产品支持情况

功能说明

自动通道稀疏接口，根据用户模型来计算各通道的稀疏敏感度（影响精度）以及稀疏收益（影响性能），然后搜索策略依据该输入来搜索最优的逐层通道稀疏率，以平衡精度和性能。最终输出一个配置文件。

函数原型

auto_channel_prune_search(model, config, input_data, output_cfg, sensitivity, search_alg)

参数说明

返回值说明

无

调用示例

import amct_pytorch as amct #构造输入数据input_data input_data = torch.randn(input_shape) model.eval() output = model.forward(input_data) labels = torch.randn(output.size()) data = [input_data,labels] amct.auto_channel_prune_search( model=model, config='./tmp/sample.cfg', input_data=data, output_cfg='./tmp/output.cfg', sensitivity='TaylorLossSensitivity', search_alg='GreedySearch')

落盘文件说明：

保存的自动通道稀疏配置文件，需要传给通道稀疏接口完成后续的业务。

【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct