让本地大模型对话时有联网搜索功能

 

联网搜索功能，需要调用外网付费API。本示例，使用 

https://api.bochaai.com/v1/web-search

 

 

示例：

 

import requests
import os
from openai import OpenAI
from dotenv import load_dotenv
import sys
sys.path.append('PT.Common')
from LLM import LLM# 加载.env文件中的环境变量
load_dotenv()# 从环境变量获取API密钥
OPENAI_API_KEY = os.getenv("OPENAI_API_KEY", "YOUR-OPENAI-API-KEY")
BOCHA_API_KEY = os.getenv("BOCHA_API_KEY", "YOUR-BOCHA-API-KEY")def bocha_websearch(query: str, count: int = 10) -> str:"""使用Bocha Web Search API 进行网页搜索。参数:- query: 搜索关键词- count: 返回的搜索结果数量返回:- 搜索结果的详细信息"""url = 'https://api.bochaai.com/v1/web-search'headers = {'Authorization': f'Bearer {BOCHA_API_KEY}','Content-Type': 'application/json'}data = {"query": query,"freshness": "noLimit",  # 搜索的时间范围"summary": True,  # 是否返回长文本摘要"count": count}response = requests.post(url, headers=headers, json=data)if response.status_code == 200:json_response = response.json()try:if json_response["code"] != 200 or not json_response["data"]:return f"搜索API请求失败，原因是: {json_response.get('msg', '未知错误')}"webpages = json_response["data"]["webPages"]["value"]if not webpages:return "未找到相关结果。"formatted_results = ""for idx, page in enumerate(webpages, start=1):formatted_results += (f"引用: {idx}\n"f"标题: {page['name']}\n"f"URL: {page['url']}\n"f"摘要: {page['summary']}\n"f"网站名称: {page['siteName']}\n"f"网站图标: {page['siteIcon']}\n"f"发布时间: {page['dateLastCrawled']}\n\n")return formatted_results.strip()except Exception as e:return f"搜索API请求失败，原因是：搜索结果解析失败 {str(e)}"else:return f"搜索API请求失败，状态码: {response.status_code}, 错误信息: {response.text}"# 初始化自定义LLM客户端
try:client = LLM()
except ValueError as e:print(f"初始化LLM客户端失败: {e}")print("请确保在.env文件中设置了LLM_MODEL_ID、LLM_API_KEY和LLM_BASE_URL")exit(1)# 用户问题
user_question = "九阳电热毯 在市场竞争中的优劣势"# 调用Bocha搜索工具获取相关信息
print("正在搜索相关信息...")
search_results = bocha_websearch(user_question)print("搜索结果:")
print(search_results)if "搜索API请求失败" in search_results or "未找到相关结果" in search_results:print(search_results)
else:# 构造提示词，结合搜索结果prompt = f"""基于以下搜索结果，请总结产品亮点：搜索结果：{search_results}请以清晰、简洁的方式总结产品的主要亮点。"""print("正在生成回答...")# 使用自定义LLM客户端生成回答messages = [{"role": "system", "content": "你是一个专业的分析师，能够从搜索结果中提取关键信息并总结。"},{"role": "user", "content": prompt}]completion = client.think(messages)print("回答:")print(completion)