千问模型本地部署

重点：python环境python3.10.14

大模型下载网站： ModelScope 魔搭社区

随便找一个模型页：

https://www.modelscope.cn/models/Qwen/Qwen3-0.6B

下载模型：

例子

运行报错与修复

缺少环境，安装torch modelscope transformers

pip install torch modelscope transformers -i https://pypi.tuna.tsinghua.edu.cn/simple

pip install accelerate -i https://mirrors.tencent.com/pypi/simple

正确运行：