华为晟腾设备910B进行pytorch初始化时的设置 —— torch_npu的初始化设置
参考:
小模型在昇腾NPU上的推理部署:【 使用torch_npu进行模型迁移】
初始化昇腾设备
def init_npu_device(device_id=0):"""初始化NPU设备并设置优化选项"""# 关闭JIT编译,避免初期调试时的复杂问题torch_npu.npu.set_compile_mode(jit_compile=False)# 关闭内部格式转换,确保精度与CPU/GPU一致torch_npu.npu.config.allow_internal_format = False# 指定设备并设置为当前设备device = torch.device(f'npu:{device_id}')torch.npu.set_device(device)print(f"Using device: {device}")return device
本博客是博主个人学习时的一些记录,不保证是为原创,个别文章加入了转载的源地址,还有个别文章是汇总网上多份资料所成,在这之中也必有疏漏未加标注处,如有侵权请与博主联系。
如果未特殊标注则为原创,遵循 CC 4.0 BY-SA 版权协议。
