当前位置：首页 > news >正文

使用Nodejs和Taotoken为网站构建实时AI客服后端

news 2026/5/5 22:31:33

使用Nodejs和Taotoken为网站构建实时AI客服后端

1. 环境准备与依赖安装

在开始构建AI客服后端前，需要确保开发环境已安装Node.js（建议版本18或更高）。创建一个新项目目录并初始化npm：

mkdir ai-customer-service cd ai-customer-service npm init -y

安装必要的依赖包，包括openai用于与Taotoken API交互，express用于构建web服务，以及dotenv管理环境变量：

npm install openai express dotenv cors

2. 配置Taotoken API连接

在项目根目录创建.env文件用于安全存储API密钥：

TAOTOKEN_API_KEY=your_api_key_here PORT=3000

通过Taotoken控制台获取API Key后替换上述占位符。新建config.js文件配置OpenAI客户端：

import 'dotenv/config'; import OpenAI from 'openai'; export const openai = new OpenAI({ apiKey: process.env.TAOTOKEN_API_KEY, baseURL: 'https://taotoken.net/api', });

关键点说明：

baseURL必须设置为https://taotoken.net/api以实现OpenAI兼容接入
密钥通过环境变量注入，避免硬编码风险
模型ID可在Taotoken模型广场查看，如claude-sonnet-4-6

3. 实现流式聊天接口

创建server.js文件实现核心聊天功能。以下示例展示支持流式响应的POST接口：

import express from 'express'; import cors from 'cors'; import { openai } from './config.js'; const app = express(); app.use(cors()); app.use(express.json()); app.post('/chat', async (req, res) => { try { const { messages } = req.body; const stream = await openai.chat.completions.create({ model: 'claude-sonnet-4-6', messages, stream: true, }); res.setHeader('Content-Type', 'text/event-stream'); for await (const chunk of stream) { const content = chunk.choices[0]?.delta?.content || ''; res.write(`data: ${JSON.stringify({ content })}\n\n`); } res.end(); } catch (error) { console.error('API Error:', error); res.status(500).json({ error: error.message }); } }); app.listen(process.env.PORT, () => { console.log(`Server running on port ${process.env.PORT}`); });

4. 前端对接与测试

前端可通过EventSource或fetch API连接该接口。以下是使用fetch的示例：

async function sendMessage(messages) { const response = await fetch('http://localhost:3000/chat', { method: 'POST', headers: { 'Content-Type': 'application/json' }, body: JSON.stringify({ messages }), }); if (!response.ok) throw new Error('Network response was not ok'); const reader = response.body.getReader(); const decoder = new TextDecoder(); while (true) { const { done, value } = await reader.read(); if (done) break; const chunk = decoder.decode(value); const lines = chunk.split('\n').filter(line => line.startsWith('data:')); lines.forEach(line => { const data = JSON.parse(line.replace('data: ', '')); console.log('Received:', data.content); }); } }

5. 错误处理与生产建议

实际部署时需要考虑以下增强措施：

速率限制：添加express-rate-limit中间件防止滥用
输入验证：检查messages数组结构是否符合API要求
超时控制：为长时间流式响应设置适当超时
模型切换：通过请求参数动态指定模型ID
日志记录：记录关键交互信息用于分析优化

完整的错误处理增强示例：

app.post('/chat', async (req, res) => { try { // 输入验证 if (!Array.isArray(req.body.messages)) { return res.status(400).json({ error: 'Messages must be an array' }); } // 模型选择（默认为claude-sonnet-4-6） const model = req.body.model || 'claude-sonnet-4-6'; const controller = new AbortController(); const timeout = setTimeout(() => controller.abort(), 30000); // 30秒超时 const stream = await openai.chat.completions.create({ model, messages: req.body.messages, stream: true, }, { signal: controller.signal }); // ...流式响应处理逻辑 } catch (error) { if (error.name === 'AbortError') { res.status(504).json({ error: 'Request timeout' }); } else { res.status(500).json({ error: error.message }); } } finally { clearTimeout(timeout); } });

通过Taotoken平台，开发者可以快速构建支持多模型的AI应用。如需了解更多接入细节，请访问Taotoken查看完整文档。

查看全文

http://www.jsqmd.com/news/759801/