当前位置：首页 > news >正文

在Node.js服务中接入Taotoken并实现异步流式响应

news 2026/5/4 20:08:01

在Node.js服务中接入Taotoken并实现异步流式响应

1. 环境准备与依赖安装

在开始集成Taotoken服务前，确保您的Node.js环境版本为16或更高。新建一个项目目录并初始化npm：

mkdir taotoken-stream-demo cd taotoken-stream-demo npm init -y

安装必要的依赖包，包括Express框架和官方OpenAI JavaScript库：

npm install express openai dotenv

关键依赖说明：

openai：OpenAI官方JavaScript库，兼容Taotoken的API规范
dotenv：用于加载环境变量中的API密钥
express：提供HTTP服务基础框架

2. 配置Taotoken连接参数

在项目根目录创建.env文件存储敏感信息：

TAOTOKEN_API_KEY=your_api_key_here

创建config.js文件集中管理配置：

require('dotenv').config(); module.exports = { taotoken: { apiKey: process.env.TAOTOKEN_API_KEY, baseURL: 'https://taotoken.net/api', defaultModel: 'claude-sonnet-4-6' // 可在模型广场查看可选模型 } };

安全提示：务必在.gitignore中添加.env，避免密钥误提交到版本库。

3. 实现流式响应接口

创建app.js文件实现核心逻辑：

const express = require('express'); const { OpenAI } = require('openai'); const config = require('./config'); const app = express(); app.use(express.json()); const client = new OpenAI({ apiKey: config.taotoken.apiKey, baseURL: config.taotoken.baseURL, }); app.post('/api/chat', async (req, res) => { try { const { messages } = req.body; // 设置流式响应头 res.setHeader('Content-Type', 'text/event-stream'); res.setHeader('Cache-Control', 'no-cache'); res.setHeader('Connection', 'keep-alive'); const stream = await client.chat.completions.create({ model: config.taotoken.defaultModel, messages, stream: true, }); for await (const chunk of stream) { const content = chunk.choices[0]?.delta?.content || ''; res.write(`data: ${JSON.stringify({ content })}\n\n`); } res.write('data: [DONE]\n\n'); res.end(); } catch (error) { console.error('Error:', error); res.status(500).json({ error: error.message }); } }); const PORT = process.env.PORT || 3000; app.listen(PORT, () => { console.log(`Server running on port ${PORT}`); });

4. 前端消费流式接口

虽然本文重点在服务端实现，这里提供一个简单的前端示例展示如何消费流式接口：

const chat = async (messages) => { const response = await fetch('http://localhost:3000/api/chat', { method: 'POST', headers: { 'Content-Type': 'application/json' }, body: JSON.stringify({ messages }), }); const reader = response.body.getReader(); const decoder = new TextDecoder(); let result = ''; while (true) { const { done, value } = await reader.read(); if (done) break; const chunk = decoder.decode(value); const lines = chunk.split('\n\n').filter(line => line.trim()); for (const line of lines) { if (line === 'data: [DONE]') { console.log('Stream completed'); return result; } try { const data = JSON.parse(line.replace('data: ', '')); result += data.content; console.log('Received:', data.content); } catch (e) { console.error('Error parsing chunk:', e); } } } };