基于 Doris + LangChain 的 AI 助手升级：Embedding + BM25 混合检索改造
一、为什么要做这次改造？
在之前的[《基于Doris+LangChain构建数据智能运营AI助手》]项目中，知识库检索采用的是典型的Embedding向量检索方案。
整体流程如下：
用户问题 ↓Embedding 向量化 ↓Doris 向量检索 ↓TopK知识召回 ↓LLM生成答案这种方案能够很好地解决语义理解问题，但随着知识库规模不断扩大，我们逐渐发现，仅依赖向量检索并不能覆盖所有场景。
问题一：专业术语召回不稳定
在企业知识库中，经常会出现大量业务术语：
GMV支付转化率风控拒贷率授信通过率这类问题往往要求精确匹配，而Embedding更擅长理解语义，对于专业名词、缩写词、指标编码的匹配能力相对有限。
问题二：表名、字段名检索效果较差
例如用户查询：
ods_user_login_dirisk_control_scoreloan_apply_cnt这些内容本质上属于：
表名字段名指标编码枚举值对于这种精确关键词场景，向量检索的优势并不明显。
问题三：单一路径检索存在天然盲区
| 检索方式 | 优势 |
|---|---|
| Embedding | 语义理解能力强，能够发现表达不同但含义相近的内容 |
| BM25 | 关键词匹配能力强，适合术语、指标名、表名、字段名等精确检索场景 |
二者解决的是不同类型的问题，如果仅依赖其中一种检索方式，都会出现召回盲区。
因此，我们希望同时利用Embedding的语义理解能力以及BM25的关键词匹配能力，构建一套更加稳定的混合检索方案。
二、改造目标
本次升级的核心目标：引入BM25关键词检索，与现有Embedding检索形成双路召回，通过融合排序提升知识库召回准确率。
最终实现：
✅ 提升专业术语召回能力
✅ 提升表名、字段名匹配能力
✅ 降低漏召率
✅ 提高大模型最终回答准确率
三、整体方案设计
本次改造采用业内主流的Hybrid Search（混合检索） 方案。
整体思路如下：
- 用户问题同时进入两条检索链路
Embedding检索负责语义召回BM25检索负责关键词召回- 双路结果通过
RRF（Reciprocal Rank Fusion）融合排序 - 返回最终
Top3结果供大模型生成答案
整体架构如下：
四、检索流程详解
五、核心代码实现
修改search_metric_definitions方法，新增_rrf_fusion方法：
def search_metric_definitions(self, query, types="document", kw="metric"): """搜索相关指标定义 / 表字段信息 — 混合检索版本""" if types == "document": ifnot self.vector_store: return ["未找到相关指标定义"] # === 1. Embedding检索 === query_vec = TextEmbedding.call( model=TextEmbedding.Models.text_embedding_v3, input=query, dimension=512 ).output['embeddings'][0]['embedding'] auth = AuthOptions( host=DORIS_CONFIG["host"], query_port=DORIS_CONFIG["port"], user=DORIS_CONFIG["user"], password="" ) client = DorisVectorClient(database=DORIS_CONFIG["database"], auth_options=auth) table = client.open_table("doris_vector_table") embedding_results = table.search(query_vec, metric_type="l2_distance").limit(10).select(["content"]).to_list() # === 2. BM25检索 === corpus = [row[1] for row in self.vector_store] tokenized_corpus = [list(jieba.cut(doc)) for doc in corpus] bm25 = BM25Okapi(tokenized_corpus) tokenized_query = list(jieba.cut(query)) bm25_scores = bm25.get_scores(tokenized_query) top_bm25_indices = sorted( range(len(bm25_scores)), key=lambda i: bm25_scores[i], reverse=True )[:10] bm25_results = [{"content": corpus[i]} for i in top_bm25_indices if bm25_scores[i] > 0] # === 3. RRF融合 === return self._rrf_fusion(embedding_results, bm25_results, top_k=3) elif types == "table": return search_by_table(kw.strip()) elif types == "column": return search_by_column(kw.strip()) else: return ["未找到相关指标定义"]def _rrf_fusion(self, embedding_results, bm25_results, top_k=3, k=60): """Reciprocal Rank Fusion 融合两路检索结果""" scores = {} for rank, item in enumerate(embedding_results): content = item["content"] if isinstance(item, dict) else str(item) scores[content] = scores.get(content, 0) + 1.0 / (k + rank + 1) for rank, item in enumerate(bm25_results): content = item["content"] if isinstance(item, dict) else str(item) scores[content] = scores.get(content, 0) + 1.0 / (k + rank + 1) sorted_results = sorted(scores.items(), key=lambda x: x[1], reverse=True) return [{"content": content} for content, _ in sorted_results[:top_k]]学AI大模型的正确顺序，千万不要搞错了
🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！
有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！
就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！
我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～