当前位置：首页 > news >正文

nodejs服务端应用集成taotoken实现异步ai对话功能

news 2026/5/13 10:51:26

🚀 告别海外账号与网络限制！稳定直连全球优质大模型，限时半价接入中。 👉 点击领取海量免费额度

Node.js 服务端应用集成 Taotoken 实现异步 AI 对话功能

本文面向 Node.js 后端开发者，介绍如何将 Taotoken 平台提供的 OpenAI 兼容 API 集成到您的服务端应用中，实现异步的 AI 对话功能。我们将使用官方的openainpm 包，通过环境变量配置，快速构建一个具备 AI 能力的 Web 服务端点。

1. 准备工作与环境配置

在开始编写代码之前，您需要在 Taotoken 平台完成一些基础配置。首先，访问 Taotoken 控制台，创建一个 API Key。这个 Key 将作为您服务端应用与平台通信的凭证。同时，您可以在平台的模型广场查看并选择您希望使用的模型 ID，例如claude-sonnet-4-6或gpt-4o-mini。

在您的 Node.js 项目根目录下，创建一个.env文件来管理敏感信息和配置。这是避免将密钥硬编码在代码中的推荐做法。

TAOTOKEN_API_KEY=your_taotoken_api_key_here TAOTOKEN_MODEL=claude-sonnet-4-6

请务必将your_taotoken_api_key_here替换为您在控制台获取的真实 API Key。同时，安装项目所需的依赖包。

npm install openai dotenv

dotenv包将帮助我们加载.env文件中的环境变量。

2. 初始化 OpenAI 客户端

接下来，在您的服务端应用代码中（例如app.js或server.js），初始化 OpenAI SDK 客户端。关键步骤是指定正确的baseURL参数，将其指向 Taotoken 的 OpenAI 兼容 API 端点。

import OpenAI from 'openai'; import dotenv from 'dotenv'; // 加载 .env 文件中的环境变量 dotenv.config(); // 初始化客户端，关键配置是 baseURL const openaiClient = new OpenAI({ apiKey: process.env.TAOTOKEN_API_KEY, baseURL: 'https://taotoken.net/api', });

请注意，baseURL的值是https://taotoken.net/api。OpenAI SDK 会在内部自动为您拼接后续的路径（如/v1/chat/completions），因此这里不需要也不应该加上/v1。这是集成过程中一个常见的配置点。

3. 实现异步聊天补全调用

现在，我们可以创建一个异步函数来处理用户的对话请求。以下是一个基本的非流式响应示例，适用于大多数需要等待 AI 生成完整回复后再返回给客户端的场景。

async function getChatCompletion(userMessage) { try { const completion = await openaiClient.chat.completions.create({ model: process.env.TAOTOKEN_MODEL, // 从环境变量读取模型 messages: [ { role: 'system', content: '你是一个乐于助人的助手。' }, { role: 'user', content: userMessage }, ], temperature: 0.7, }); // 返回 AI 的回复内容 return completion.choices[0]?.message?.content || '未收到回复。'; } catch (error) { // 错误处理将在下一节详述 console.error('调用 AI 接口失败:', error); throw error; } }

您可以将此函数集成到 Express、Koa 或 Fastify 等 Web 框架的路由处理器中。例如，在 Express 中创建一个 POST 端点：

import express from 'express'; const app = express(); app.use(express.json()); app.post('/api/chat', async (req, res) => { const { message } = req.body; if (!message) { return res.status(400).json({ error: '请输入消息内容。' }); } try { const aiResponse = await getChatCompletion(message); res.json({ reply: aiResponse }); } catch (error) { res.status(500).json({ error: 'AI 服务暂时不可用。' }); } }); const PORT = process.env.PORT || 3000; app.listen(PORT, () => console.log(`服务运行在端口 ${PORT}`));

4. 错误处理与流式响应

健壮的错误处理对于生产环境应用至关重要。API 调用可能因网络问题、额度不足、模型不可用或参数错误而失败。

async function getChatCompletionWithRetry(userMessage, maxRetries = 2) { for (let i = 0; i <= maxRetries; i++) { try { const completion = await openaiClient.chat.completions.create({ model: process.env.TAOTOKEN_MODEL, messages: [{ role: 'user', content: userMessage }], }); return completion.choices[0]?.message?.content; } catch (error) { console.error(`尝试 ${i + 1} 失败:`, error.message); // 根据错误类型决定是否重试 if (error.status === 429 || error.status >= 500) { if (i < maxRetries) { // 等待一段时间后重试 await new Promise(resolve => setTimeout(resolve, 1000 * (i + 1))); continue; } } // 对于客户端错误（如 400）或不重试的错误，直接抛出 throw new Error(`AI 对话失败: ${error.message}`); } } }

对于需要实时交互体验的场景，例如构建聊天机器人，流式响应（Streaming）可以逐字返回结果，显著降低用户感知延迟。实现流式响应需要对返回的迭代器进行处理。

import { PassThrough } from 'stream'; app.post('/api/chat-stream', async (req, res) => { const { message } = req.body; res.setHeader('Content-Type', 'text/event-stream'); res.setHeader('Cache-Control', 'no-cache'); res.setHeader('Connection', 'keep-alive'); try { const stream = await openaiClient.chat.completions.create({ model: process.env.TAOTOKEN_MODEL, messages: [{ role: 'user', content: message }], stream: true, // 启用流式输出 }); for await (const chunk of stream) { const content = chunk.choices[0]?.delta?.content; if (content) { // 以 SSE (Server-Sent Events) 格式发送数据 res.write(`data: ${JSON.stringify({ content })}\n\n`); } } res.write('data: [DONE]\n\n'); res.end(); } catch (error) { console.error('流式请求失败:', error); res.status(500).write(`data: ${JSON.stringify({ error: '流中断' })}\n\n`); res.end(); } });

前端可以通过 EventSource API 来连接这个/api/chat-stream端点，实时接收并显示返回的文本。