当前位置：首页 > news >正文

nli-MiniLM2-L6-H768代码实例：curl/API/Python SDK三种调用方式完整示例

news 2026/4/21 5:41:13

nli-MiniLM2-L6-H768代码实例：curl/API/Python SDK三种调用方式完整示例

1. 服务概述

nli-MiniLM2-L6-H768是一个基于自然语言推理的句子关系判断服务，采用cross-encoder/nli-MiniLM2-L6-H768模型（630MB）。该服务能够分析两个句子之间的关系，判断它们是互相矛盾、存在蕴含关系还是中立无关。

服务默认运行在7860端口，支持多种调用方式，包括：

通过curl命令直接调用
通过REST API接口调用
通过Python SDK集成到应用中

2. 环境准备

2.1 服务启动

确保服务已正确启动，可以通过以下两种方式：

一键启动（推荐）：

cd /root/nli-MiniLM2-L6-H768 ./start.sh

手动启动：

cd /root/nli-MiniLM2-L6-H768 python3 /root/nli-MiniLM2-L6-H768/app.py

启动成功后，服务将运行在http://localhost:7860。

2.2 功能验证

服务启动后，可以通过简单的测试验证功能是否正常。服务接收两个句子作为输入，返回它们之间的关系判断：

关系类型	说明
❌ 矛盾	两句互相矛盾
✅ 蕴含	前提推导出假设
➖ 中立	无直接关系

3. curl调用方式

curl是最简单的调用方式，适合快速测试和脚本集成。

3.1 基本调用格式

curl -X POST "http://localhost:7860/api/v1/nli" \ -H "Content-Type: application/json" \ -d '{"premise": "前提句子", "hypothesis": "假设句子"}'

3.2 完整示例

curl -X POST "http://localhost:7860/api/v1/nli" \ -H "Content-Type: application/json" \ -d '{"premise": "一个人正在吃披萨", "hypothesis": "一个人在吃东西"}'

3.3 响应示例

{ "relationship": "entailment", "confidence": 0.987, "premise": "一个人正在吃披萨", "hypothesis": "一个人在吃东西" }

4. API接口调用

对于需要集成到其他系统的场景，可以使用标准的REST API方式调用。

4.1 API端点

URL:http://<server>:7860/api/v1/nli
Method: POST
Content-Type:application/json

4.2 请求参数

{ "premise": "前提句子", "hypothesis": "假设句子" }

4.3 Python请求示例

import requests url = "http://localhost:7860/api/v1/nli" headers = {"Content-Type": "application/json"} data = { "premise": "黑色赛车在人群前启动", "hypothesis": "独自路上开车" } response = requests.post(url, headers=headers, json=data) print(response.json())

4.4 响应格式

{ "relationship": "contradiction", "confidence": 0.956, "premise": "黑色赛车在人群前启动", "hypothesis": "独自路上开车" }

5. Python SDK集成

对于Python开发者，可以使用提供的SDK更方便地集成服务。

5.1 安装SDK

pip install nli-client

5.2 基本使用方法

from nli_client import NLIClient # 初始化客户端 client = NLIClient(base_url="http://localhost:7860") # 调用推理服务 result = client.predict( premise="猫在沙发上睡觉", hypothesis="狗在花园玩耍" ) print(f"关系类型: {result['relationship']}") print(f"置信度: {result['confidence']:.3f}")

5.3 高级功能

SDK还提供批量处理功能：

# 批量处理示例 sentences = [ {"premise": "天空是蓝色的", "hypothesis": "天空有颜色"}, {"premise": "他在跑步", "hypothesis": "他在运动"}, {"premise": "门是开着的", "hypothesis": "门是关着的"} ] results = client.batch_predict(sentences) for res in results: print(f"前提: {res['premise']}") print(f"假设: {res['hypothesis']}") print(f"关系: {res['relationship']} (置信度: {res['confidence']:.3f})") print("---")