当前位置：首页 > news >正文

Qwen3.5-9B-AWQ-4bit Java开发环境一键配置与项目初始化指南

news 2026/6/4 19:02:32

Qwen3.5-9B-AWQ-4bit Java开发环境一键配置与项目初始化指南

1. 前言：为什么需要这篇指南

如果你刚在星图GPU平台部署了Qwen3.5-9B-AWQ-4bit模型，想用Java来调用它，可能会遇到一堆环境配置的麻烦。不同版本的JDK兼容性问题、构建工具的选择困难、IDE配置的复杂步骤...这些问题我都遇到过。

这篇指南就是要帮你跳过这些坑，用最简单直接的方式，从零开始搭建完整的Java开发环境。跟着步骤走，你不仅能快速跑通第一个调用模型的Java程序，还能学到一些实用的配置技巧。

2. 环境准备：基础软件安装

2.1 获取适合的JDK版本

Qwen3.5模型对Java版本有一定要求，建议使用JDK 11或更高版本。这里推荐两种安装方式：

通过模型获取推荐版本（最简单）：在已部署Qwen3.5的终端运行：

python -c "from transformers import AutoModelForCausalLM; model = AutoModelForCausalLM.from_pretrained('Qwen/Qwen3.5-9B-AWQ-4bit'); print('推荐Java版本：JDK 11+')"

手动安装：
- Windows：从Oracle官网下载JDK 11+安装包
- Mac/Linux：使用Homebrew或apt安装：
```
# Mac brew install openjdk@11 # Ubuntu/Debian sudo apt install openjdk-11-jdk
```

安装后验证：

java -version # 应该看到类似：openjdk version "11.0.xx"

2.2 构建工具选择：Maven还是Gradle？

两种主流Java构建工具都支持，根据你的偏好选择：

工具	安装命令	特点
Maven	`sudo apt install maven`	配置简单，生态成熟
Gradle	`sudo apt install gradle`	构建速度快，灵活性高

建议新手从Maven开始，老手可以用Gradle。不用担心选错，后面我会提供两种工具的初始化脚本。

3. 项目初始化：一键生成基础框架

3.1 通过模型生成项目模板

Qwen3.5可以帮你生成项目初始化脚本，省去手动创建的麻烦。在模型交互界面输入：

请生成一个Java项目模板，用于调用Qwen3.5-9B-AWQ-4bit模型，要求包含： 1. Maven和Gradle两种构建配置 2. 必要的依赖项 3. 基础目录结构 4. 一个简单的调用示例

模型会返回完整的项目结构建议。这里我提取了核心部分：

Maven的pom.xml关键依赖：

<dependencies> <dependency> <groupId>com.google.code.gson</groupId> <artifactId>gson</artifactId> <version>2.10.1</version> </dependency> <dependency> <groupId>org.apache.httpcomponents</groupId> <artifactId>httpclient</artifactId> <version>4.5.14</version> </dependency> </dependencies>

Gradle的build.gradle关键配置：

dependencies { implementation 'com.google.code.gson:gson:2.10.1' implementation 'org.apache.httpcomponents:httpclient:4.5.14' }

3.2 手动创建项目（备用方案）

如果模型生成不成功，可以手动创建：

Maven项目：

mvn archetype:generate -DgroupId=com.qwen.demo -DartifactId=qwen-java -DarchetypeArtifactId=maven-archetype-quickstart -DinteractiveMode=false

Gradle项目：

gradle init --type java-application --project-name qwen-java --package com.qwen.demo

然后手动添加上述依赖项。

4. IDE配置：IntelliJ IDEA优化设置

4.1 推荐配置

安装插件：
- Rainbow Brackets：彩色括号，代码更易读
- TabNine：AI代码补全
- Lombok：简化Java代码
关键设置：
- 启用自动导包（Auto Import）
- 设置JDK 11为项目SDK
- 开启注解处理（Lombok需要）

4.2 导入项目的正确姿势

Maven项目：
- 直接打开pom.xml文件，IDEA会自动识别
- 等待依赖下载完成（第一次可能较慢）
Gradle项目：
- 打开build.gradle
- 点击右上角的"大象"图标同步项目

5. 第一个Java程序：调用Qwen3.5模型

5.1 基础调用示例

创建一个简单的Java类来调用模型：

import java.net.URI; import org.apache.http.client.methods.HttpPost; import org.apache.http.entity.StringEntity; import org.apache.http.impl.client.CloseableHttpClient; import org.apache.http.impl.client.HttpClients; import org.apache.http.util.EntityUtils; public class QwenDemo { private static final String MODEL_URL = "http://localhost:8000/v1/completions"; public static void main(String[] args) throws Exception { String prompt = "用Java写一个快速排序算法"; try (CloseableHttpClient client = HttpClients.createDefault()) { HttpPost request = new HttpPost(new URI(MODEL_URL)); request.setHeader("Content-Type", "application/json"); String jsonBody = String.format("{\"prompt\":\"%s\",\"max_tokens\":500}", prompt); request.setEntity(new StringEntity(jsonBody)); String response = client.execute(request, httpResponse -> EntityUtils.toString(httpResponse.getEntity())); System.out.println("模型响应：\n" + response); } } }

5.2 运行与调试

直接运行：
- 右键点击类文件 → Run
- 确保模型服务已启动（localhost:8000）
常见问题解决：
- 连接失败：检查模型服务地址和端口
- 超时问题：增加HTTP超时设置
- JSON解析错误：确保请求格式正确

6. 进阶配置与优化建议

6.1 性能调优

对于生产环境，建议添加这些配置：

连接池配置：

PoolingHttpClientConnectionManager cm = new PoolingHttpClientConnectionManager(); cm.setMaxTotal(20); // 最大连接数 cm.setDefaultMaxPerRoute(10); // 每个路由最大连接数

超时设置：

RequestConfig config = RequestConfig.custom() .setConnectTimeout(5000) // 连接超时5秒 .setSocketTimeout(30000) // 读写超时30秒 .build();

6.2 日志记录

添加SLF4J日志记录依赖，方便调试：

Maven:

<dependency> <groupId>org.slf4j</groupId> <artifactId>slf4j-api</artifactId> <version>2.0.7</version> </dependency> <dependency> <groupId>ch.qos.logback</groupId> <artifactId>logback-classic</artifactId> <version>1.4.7</version> </dependency>