当前位置：首页 > news >正文

Qwen3.5-9B-AWQ-4bit Python数据分析环境搭建：Anaconda集成与模型调用

news 2026/6/1 15:37:24

Qwen3.5-9B-AWQ-4bit Python数据分析环境搭建：Anaconda集成与模型调用

1. 引言

如果你正在数据科学领域工作，或者对AI模型调用感兴趣，那么这篇教程就是为你准备的。我们将一步步教你如何在Anaconda环境中配置Python，调用Qwen3.5-9B-AWQ-4bit模型，并展示如何结合pandas进行数据交互。

为什么选择Anaconda？因为它能帮你轻松管理Python环境和依赖包，避免版本冲突。而Qwen3.5-9B-AWQ-4bit模型是一个高效的4位量化版本，特别适合在本地环境运行。跟着这篇教程，你将在30分钟内完成环境搭建并运行第一个模型调用示例。

2. 环境准备

2.1 Anaconda安装与配置

首先，我们需要安装Anaconda。如果你已经安装过，可以跳过这一步。

访问Anaconda官网下载适合你操作系统的版本
运行安装程序，按照提示完成安装
安装完成后，打开终端或Anaconda Prompt，验证安装是否成功：

conda --version

如果看到版本号输出（如conda 24.1.2），说明安装成功。

2.2 创建专用虚拟环境

为了避免与其他项目产生依赖冲突，我们创建一个专门用于Qwen模型的环境：

conda create -n qwen_env python=3.9 conda activate qwen_env

这里我们选择Python 3.9版本，因为它与大多数AI库兼容性良好。

3. 安装必要库

3.1 基础依赖安装

激活环境后，安装运行Qwen模型所需的核心库：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 pip install transformers requests pandas

这些库分别是：

PyTorch：深度学习框架
Transformers：Hugging Face的模型库
Requests：HTTP请求库
Pandas：数据处理库

3.2 验证安装

安装完成后，我们可以简单验证一下关键库是否可用：

import torch print(torch.__version__) # 应该输出PyTorch版本 import transformers print(transformers.__version__) # 应该输出Transformers版本

4. 模型加载与调用

4.1 下载并加载Qwen3.5-9B-AWQ-4bit模型

现在我们来加载Qwen3.5-9B-AWQ-4bit模型。这个4位量化版本相比原版大大减少了内存占用，同时保持了不错的性能。

from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "Qwen/Qwen1.5-9B-AWQ" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

注意：首次运行时会自动下载模型权重，可能需要一些时间，取决于你的网络速度。

4.2 基础文本生成示例

让我们尝试一个简单的文本生成：

input_text = "请用Python写一个计算斐波那契数列的函数" inputs = tokenizer(input_text, return_tensors="pt").to("cuda") outputs = model.generate(**inputs, max_new_tokens=200) print(tokenizer.decode(outputs[0], skip_special_tokens=True))

这段代码会让模型生成一个Python函数来计算斐波那契数列。你可以修改input_text来尝试不同的提示。

5. 结合Pandas进行数据分析

5.1 准备示例数据

让我们创建一个简单的DataFrame来演示如何结合模型进行数据分析：

import pandas as pd data = { '城市': ['北京', '上海', '广州', '深圳', '杭州'], '人口(万)': [2171, 2424, 1868, 1768, 1220], 'GDP(亿元)': [40270, 43214, 28232, 30665, 18753] } df = pd.DataFrame(data) print(df)

5.2 使用模型分析数据

现在，我们可以让模型帮我们分析这些数据：

analysis_prompt = f""" 以下是中国的五个主要城市数据： {df.to_string()} 请分析这些数据，指出： 1. 人口和GDP之间的关系 2. 哪个城市的人均GDP最高 3. 给出一个简短的总结 """ inputs = tokenizer(analysis_prompt, return_tensors="pt").to("cuda") outputs = model.generate(**inputs, max_new_tokens=300) print(tokenizer.decode(outputs[0], skip_special_tokens=True))

模型会生成一个包含上述三个要点的分析报告。你可以尝试修改提示词来获取不同类型的分析。