当前位置：首页 > news >正文

Node.js后端集成：快速配置环境并调用Qwen3.5-9B-AWQ-4bit模型API

news 2026/6/16 17:21:55

Node.js后端集成：快速配置环境并调用Qwen3.5-9B-AWQ-4bit模型API

1. 准备工作与环境搭建

在开始之前，我们需要确保开发环境已经准备就绪。这部分将带你完成Node.js和npm的安装，这是构建我们API调用服务的基础。

首先，访问Node.js官网下载最新LTS版本。安装过程非常简单，Windows用户直接运行安装程序，macOS用户可以使用Homebrew命令brew install node。安装完成后，打开终端运行以下命令验证安装是否成功：

node -v npm -v

如果看到版本号输出，说明安装正确。接下来创建一个新的项目目录并初始化npm：

mkdir qwen-api-demo cd qwen-api-demo npm init -y

2. 项目依赖安装与配置

2.1 安装必要依赖

我们将使用axios来处理HTTP请求，dotenv来管理环境变量。在项目目录下运行：

npm install axios dotenv

如果你更喜欢使用fetch API，现代Node.js版本已经内置支持，无需额外安装。

2.2 配置环境变量

创建一个.env文件来存储API端点等敏感信息：

QWEN_API_ENDPOINT=https://your-api-endpoint.com/v1/chat/completions QWEN_API_KEY=your_api_key_here

记得将这个文件添加到.gitignore中，避免将密钥提交到版本控制。

3. 构建API调用服务

3.1 创建基础请求模块

新建一个qwenService.js文件，编写我们的核心API调用逻辑：

const axios = require('axios'); require('dotenv').config(); async function callQwenAPI(messages) { try { const response = await axios.post( process.env.QWEN_API_ENDPOINT, { model: "Qwen3.5-9B-AWQ-4bit", messages: messages, stream: true }, { headers: { 'Authorization': `Bearer ${process.env.QWEN_API_KEY}`, 'Content-Type': 'application/json' }, responseType: 'stream' } ); return response.data; } catch (error) { console.error('API调用失败:', error.message); throw error; } } module.exports = { callQwenAPI };

3.2 处理流式响应

Qwen3.5-9B-AWQ-4bit模型支持流式响应，我们可以这样处理：

async function handleStreamResponse(stream) { return new Promise((resolve, reject) => { let fullResponse = ''; stream.on('data', (chunk) => { const lines = chunk.toString().split('\n').filter(line => line.trim() !== ''); for (const line of lines) { const message = line.replace(/^data: /, ''); if (message === '[DONE]') { return; } try { const parsed = JSON.parse(message); if (parsed.choices && parsed.choices[0].delta.content) { const content = parsed.choices[0].delta.content; process.stdout.write(content); fullResponse += content; } } catch (err) { console.error('解析错误:', err); } } }); stream.on('end', () => { resolve(fullResponse); }); stream.on('error', (err) => { reject(err); }); }); }

4. 创建命令行对话工具

4.1 实现交互式对话

现在我们将上述模块组合起来，创建一个简单的命令行对话工具。新建cli.js文件：

const readline = require('readline'); const { callQwenAPI } = require('./qwenService'); const { handleStreamResponse } = require('./streamHandler'); const rl = readline.createInterface({ input: process.stdin, output: process.stdout }); const conversationHistory = []; async function startConversation() { rl.question('你: ', async (userInput) => { if (userInput.toLowerCase() === 'exit') { rl.close(); return; } conversationHistory.push({ role: 'user', content: userInput }); try { process.stdout.write('AI: '); const stream = await callQwenAPI(conversationHistory); const aiResponse = await handleStreamResponse(stream); conversationHistory.push({ role: 'assistant', content: aiResponse }); console.log('\n'); startConversation(); } catch (error) { console.error('对话出错:', error); rl.close(); } }); } console.log('输入"exit"退出对话\n'); startConversation();