当前位置: 首页 > news >正文

LinearRAG: Linear Graph Retrieval Augmented Generation on Large-scale Corpora——面向大规模语料的线性图检索增强生成

文章介绍了一个名为LinearRAG的全新 GraphRAG(图检索增强生成)框架,旨在解决现有 GraphRAG 系统在构建知识图谱时依赖关系抽取所带来的高成本、高错误率和性能不稳定等问题。以下是其主要研究内容的全面总结:

1. 研究背景与问题

  • RAG 的局限性:传统 RAG 系统在处理需要跨文档整合信息的多跳复杂查询时,常因文档碎片化而丢失关键上下文。

  • GraphRAG 的兴起与困境:GraphRAG 通过构建知识图谱来捕捉实体间的结构化关系,以增强多跳推理能力。然而,现有方法过度依赖显式关系抽取(如 OpenIE),这不仅计算成本高昂,而且容易产生局部不准确(如错误的三元组)和全局不一致(如冗余或矛盾的关系)的问题,导致检索结果噪声大、性能甚至不如朴素 RAG。

2. 核心思想与创新点

LinearRAG 的核心洞察是:显式关系抽取既不必要也不可靠,因为原始文本本身已保留了完整的语义关系。因此,它提出了一个全新的构建范式:

  • 关系无关的图结构(Tri-Graph):放弃关系抽取,仅通过轻量级的命名实体识别(NER)构建一个包含实体节点、句子节点、段落节点的层次图。边仅表示“包含”或“提及”关系,避免了复杂的关系建模。

  • 线性可扩展性:图构建过程仅依赖 NER,不调用 LLM,因此零令牌消耗,且时间和内存复杂度随语料库大小线性增长,相比现有方法(如 LightRAG)索引时间减少超过 77%。

3. 两阶段检索机制

LinearRAG 的检索过程分为两个互补阶段,以平衡精确度和召回率:

  • 第一阶段:局部语义桥接(相关实体激活)

    • 通过查询与句子的语义相似度,在实体-句子子图上进行多跳语义传播,激活那些虽未直接提及但与查询逻辑相关的中间实体。

    • 采用动态剪枝机制,通过阈值控制传播范围,避免语义漂移和组合爆炸。

  • 第二阶段:全局重要性聚合(段落检索)

    • 将第一阶段激活的实体作为种子,在实体-段落子图上运行个性化 PageRank(PPR)算法。

    • 综合实体激活分数、实体出现频率、层次级别以及查询-段落相似度,计算每个段落的全局重要性,最终选出最相关的段落。

4. 实验评估与主要结果

在 HotpotQA、2WikiMultiHopQA、MuSiQue 和 Medical 四个基准数据集上,LinearRAG 与多种 SOTA 基线进行了对比:

  • 生成准确性(Q1):LinearRAG 在所有数据集上均取得最佳或次优成绩。例如在 2Wiki 上,GPT 评估准确率达63.70%,相比第二好基线提升约 3.8%。

  • 效率与成本(Q2):LinearRAG 索引时间仅需约249 秒,且零令牌消耗,而 LightRAG 索引需 4933 秒且消耗数千万令牌。检索速度也极快(平均 0.09 秒)。

  • 消融研究(Q3):移除“语义桥接”或“全局重要性聚合”任一模块都会导致性能显著下降,证明了两阶段设计的互补性和必要性。

  • 检索质量:在 GraphRAG-Bench 的评估中,LinearRAG 同时实现了高召回率高相关性,克服了传统 GraphRAG 在提升召回率时引入噪声的缺陷。

5. 总结与贡献

  • 理论贡献:重新审视并质疑了 GraphRAG 对关系抽取的依赖,提出了“以实体为锚点,以原文为载体”的新视角。

  • 方法贡献:设计了 Tri-Graph 结构和两阶段检索算法,实现了高效、可靠且可扩展的图增强检索。

  • 实践贡献:在多个公开数据集上证明了 LinearRAG 在性能、速度和成本控制方面的综合优势,为实际部署提供了极具竞争力的解决方案。

LinearRAG 通过摒弃不稳定的关系抽取,构建轻量级线性图,并配合两阶段检索策略,显著提升了 GraphRAG 的生成质量、检索精度和运行效率,同时大幅降低了计算成本。这里是自己的论文阅读记录,感兴趣的话可以参考一下,如果需要阅读原文的话可以看这里,如下所示:

项目地址在这里,如下所示:

摘要

检索增强生成(RAG)被广泛用于通过利用外部知识来缓解大型语言模型(LLM)的幻觉问题。虽然对于简单查询有效,但传统的RAG系统在处理大规模、非结构化的语料库时表现不佳,因为其中的信息是碎片化的。近期的进展引入了知识图谱来捕获关系结构,从而为复杂的、多跳推理任务实现更全面的检索。然而,现有的基于图的RAG(GraphRAG)方法依赖于不稳定且成本高昂的关系抽取来进行图构建,常常产生带有错误或不一致关系的噪声图,从而降低检索质量。在本文中,我们重新审视了现有GraphRAG系统的流程,并提出了基于线性图的检索增强生成(LinearRAG),这是一个高效的框架,能够实现可靠的图构建和精确的段落检索。具体来说,LinearRAG仅使用轻量级的实体抽取和语义链接来构建一个无关系的层次图,称为Tri-Graph,从而避免了不稳定的关系建模。这种新的图构建范式随语料库大小线性扩展,且不产生额外的令牌消耗,为原始段落提供了一种经济且可靠的索引方式。在检索方面,LinearRAG采用两阶段策略:(i)通过局部语义桥接进行相关实体激活,随后(ii)通过全局重要性聚合进行段落检索。在四个数据集上的大量实验表明,LinearRAG显著优于基线模型。

1 引言

检索增强生成(RAG)已成为通过利用外部知识库来增强大型语言模型(LLM)的一种有前景的方法(Gao et al., 2023; Lewis et al., 2020; Zhou et al., 2025a; Zhang et al., 2025c)。然而,现有的RAG系统在处理现实场景中大规模、非结构化语料库的复杂性时面临困难,其中相关信息常常不均匀地分布在异构文档中。RAG系统检索到的上下文通常庞大、复杂且缺乏清晰的组织,导致准确性和连贯性出现波动(Sun et al., 2024; Zhang et al., 2024)。尽管近期的进展试图通过将文档分割成更小的块以进行高效索引来管理此问题(Borgeaud et al., 2022; Izacard et al., 2023; Jiang et al., 2023),但这种策略常常导致关键上下文细节的丢失,损害了复杂任务的检索准确性和推理能力(Han et al., 2024; Zhang et al., 2025b)。

为了解决这个问题,图检索增强生成(GraphRAG)(Zhang et al., 2025b; Procko & Ochoa, 2024; Xiao et al., 2025a; Xiang et al., 2025)近来已成为一种强大的范式,它利用外部结构化图来模拟背景知识的层次结构(Han et al., 2024)。具体来说,早期的工作,如RAPTOR(Sarthi et al., 2024)和微软的GraphRAG(Edge et al., 2024),通过使用LLM生成的关联进行递归总结和社区检测来组织知识,实现了从粗到细的检索以获得全面的回答。在此基础上,近期的方法,包括GFM-RAG(Luo et al., 2025)、G-Retriever(He et al., 2024)和LightRAG(Guo et al., 2024),整合了专门的编码器和目标,如查询依赖的GNN、 Prize Collecting Steiner Trees 和双层索引,以提高多跳泛化能力、可扩展性和效率。最近,HippoRAG(Gutiérrez et al., 2024)及其增强版HippoRAG2(Gutiérrez et al., 2025)从认知过程中汲取灵感,利用个性化PageRank进行多跳检索。这些策略显著提高了检索精度和上下文深度,使LLM能够更有效地处理复杂的多跳查询。

图1:RAG系统的三种范式。

尽管GraphRAG具有概念上的前景和理论上的优越性,但近期研究表明,在许多实际应用中,GraphRAG模型的表现甚至不如朴素的RAG方法(Han et al., 2025; Zhou et al., 2025b; Xiang et al., 2025; Zhuang et al., 2025)。这种性能下降主要源于自动构建的知识图质量低下。虽然基于图的检索增加了相关知识的召回率,但由于图构建中的错误,它也同时向检索到的上下文中引入了大量噪声和歧义。具体来说,两个关键缺陷损害了图质量,包括(i)局部不准确性:关系抽取过程存在显著错误率,导致实体间关系不准确。(ii)全局不一致性:在抽取过程中缺乏强制执行层次一致性和全局连贯性的机制,导致图结构碎片化且连通性差。这些缺陷共同表现为知识图中的结构冲突和语义歧义,进而污染了检索和生成过程。尽管近期尝试通过自下而上的基于聚类的社区摘要(Edge et al., 2024; Gutiérrez et al., 2025; Wang et al., 2025)或主题建模(Sarthi et al., 2024)来优化图质量,以提供更广泛、宏观的数据视图,但这些无监督方法容易受到错误传播的影响,即实体关系中的不准确性在更高的抽象层次被放大。

在本文中,我们重新审视了现有GraphRAG系统的流程,并提出了基于线性图的检索增强生成(LinearRAG),这是一个能够实现高效、可靠的图构建和具有多跳推理能力的精确语料库检索的框架。LinearRAG的核心思想是通过仅关注建模目标实体与底层文本段落之间的语义,将复杂的关系图简化为一个线性的、易于索引的视图。LinearRAG不依赖昂贵的关系抽取,而是仅使用轻量级的实体抽取和语义链接,从实体、句子和段落构建一个层次图。在此图之上,LinearRAG引入了一种两阶段段落检索技术:
∙∙ 用于实体激活的局部语义桥接,它通过传播句子中的语义相似性来挖掘多跳上下文关联,从而识别出超越字面匹配的上下文相关实体;以及
∙∙ 用于段落检索的全局重要性聚合,它在激活的子图上应用个性化PageRank,从全局角度聚合段落重要性。
这些模块共同使LinearRAG能够为复杂查询实现可扩展、准确且对噪声具有鲁棒性的检索。我们的总体贡献总结如下:

我们识别了现有GraphRAG系统中的关键局限性,特别强调了依赖不稳定的关系抽取如何引入噪声和结构不一致性。这促使我们设计了LinearRAG,一个新颖的框架,能够在保持线性可扩展性的同时实现可靠的图构建和精确的段落检索。LinearRAG仅使用轻量级的实体抽取和语义链接构建一个无关系的层次图,称为Tri-Graph,这避免了传统关系建模的不稳定性,并将索引时间减少了超过 77%。在所构建的图之上,我们设计了一种两阶段检索机制,将用于精确实体激活的局部语义桥接与用于段落召回的全局重要性聚合相结合。

图2:(a)朴素RAG与GraphRAG基线的检索和生成性能(%)。值得注意的是,在Medical数据集上的评估衡量了不同RAG基线的基于GPT的准确率、上下文相关性和证据召回率。(b)从局部不准确性和全局不一致性角度进行知识图谱构建中关系错误的案例研究。

这种集成策略实现了更准确、对噪声更具鲁棒性且单次通过的多跳检索。我们在四个基准数据集上进行了大量实验,证明LinearRAG在检索质量、生成准确性和可扩展性方面始终优于最先进的基线,验证了其在实际应用中的实用性。

2 初步研究

在本节中,我们进行了一系列初步研究,以调查RAG系统中使用的图的效果。我们的发现揭示了图构建中的关键缺陷,这些缺陷解释了GraphRAG在传统任务中频繁表现不如朴素RAG的根本原因。

2.1 GRAPHAG系统中的性能下降

GraphRAG模型在许多实际任务中的表现经常不如传统的RAG方法。具体来说,我们在GraphRAG-Bench(Xiang et al., 2025)上的实验表明,虽然GraphRAG利用图结构通过检索更广泛的潜在相关段落来提高召回率,但这种收益被显著引入的噪声和模糊上下文信息所抵消。具体而言,像LightRAG和HippoRAG这样的GraphRAG方法在证据召回率上取得了适度的改进,但其上下文相关性显著较低,范围从 36.86% 到 54.61%,而朴素RAG达到了 62.87% 的性能。这表明,尽管基于图的检索扩展了上下文信息的范围,但它引入了大量噪声,损害了生成答案的相关性和可靠性。例如,在一个关于“气候变化影响”的问答任务中,GraphRAG可能由于松散的图链接而检索到与“经济政策”相关的段落。相比之下,朴素RAG保持了与查询上下文更紧密的对齐,从而产生更准确和稳定的输出。

2.2 图质量和错误分析

为了诊断图2a中观察到的性能下降的根本原因,我们对GraphRAG中使用的知识图谱进行了细粒度的错误分析。我们的分析表明,这种性能下降直接源于知识图谱构建中的缺陷。传统的GraphRAG流程依赖显式的关系抽取来构建关系图,这通常在两个层面引入错误:(i)局部不准确性:关系抽取模型常常产生事实上不正确的三元组。例如,如图2b所示,句子“爱因斯坦并未因其相对论而获得诺贝尔奖”可能被错误地表示为(爱因斯坦,因相对论获得诺贝尔奖),从根本上改变了事实含义。(ii)全局不一致性:现有关系抽取是在单个文本段落上局部执行的,没有机制来验证或协调整个语料库中的连接,导致冗余或矛盾的关系。例如,“AI”可能被链接到“Unsupervised Learning”、“NLP”和“CV”作为并列的子类别,而缺乏层次连贯性(例如,NLP和CV是AI的子领域,而“Unsupervised Learning”是它们内部使用的一种技术)。这种结构歧义直接误导了检索过程,基于这些不一致的连接引入了语义噪声。

图3:提出的LinearRAG框架的整体流程。I. 离线构建。首先,我们构建一个包含实体、句子和段落节点的Tri-Graph,边连接实体到句子以及实体到段落。II. 在线检索。我们首先在固定段落节点的同时,通过实体-句子子图上的局部语义桥接激活相关实体,然后使用激活的实体聚合全局重要性分数,最后,在固定句子节点的同时,在实体-段落子图上应用个性化PageRank进行段落检索。

2.3 讨论

传统的GraphRAG流程严重依赖显式的关系抽取和基于三元组的知识表示。虽然这种方法旨在将段落总结为结构化的关系形式,但它面临两个基本问题:首先,提取简洁准确的关系三元组在计算上昂贵且在语言上具有挑战性。自然语言中表达的关系通常是复杂的、上下文依赖的,并且常常是细微的或组合性的,难以被准确地提炼为原子三元组;例如,句子“Rachel reluctantly agreed to go running with Phoebe”无法在不丢失关键语义细微差别的情况下被简洁地还原为单个原子三元组。其次,显式的关系抽取并非必要。对齐的实体,而非关系,是连接分布在各个段落中的信息的主要锚点。原始文本在完整的上下文中保留了关系语义,可以在推理过程中由大型语言模型动态解释,而无需依赖易出错的关系抽取。

3 LINEARRAG框架

初步发现表明,显式关系抽取不仅计算成本高昂,而且在很大程度上是不必要的。这些见解促使我们重新审视GraphRAG组件的设计,最终形成了两个核心主张:(i)对齐的实体是连接分布在各个段落中的信息的主要锚点。(ii)上下文关系最好保留在原始段落中,从而无需显式的关系抽取。

受此想法驱动,我们引入了一种新的GraphRAG范式,如图3所示。它构建了一个包含三种类型节点的图:实体节点、句子节点和段落节点。边连接实体到句子以及实体到段落,表示为两个邻接矩阵。检索分为两个阶段:1) 实体激活阶段,在此阶段我们固定段落节点,并在实体-句子子图上使用局部语义桥接来识别连接不同段落的中间实体;以及 2) 段落检索阶段,在此阶段我们固定句子节点,并在实体-段落子图上应用个性化PageRank,利用第一阶段激活的实体作为种子进行全局重要性聚合。该框架在图构建和检索方面均表现出线性可扩展性(详细分析见附录D),我们将其称为LinearRAG。

3.1 无令牌消耗的图构建

这种设计使得随着语料库的增长,图能够高效更新。当新的段落到达时,仅需对这些段落进行句子分割、NER和边构建,从而总体上保持线性复杂度。值得注意的是,与OpenIE相比,NER既精确又高效,并且可以使用轻量级语言模型(例如,spaCy中基于BERT的模型)执行,而不会产生LLM令牌成本。此外,邻接矩阵 C 和 M 以稀疏形式实现,利用其固有的稀疏性进一步将内存使用降低到线性可扩展性。最后,通过保留原始段落作为知识载体,生成的图保留了所有上下文信息,从而确保了信息无损的构建过程。

3.2 段落检索

在构建的图作为无损知识载体的前提下,目标是有效地识别信息最丰富的段落。基于图的检索设计至关重要,因为它必须在精确度和召回率之间取得平衡,尤其是在多跳查询的情况下。我们将检索过程分解为两个阶段:通过局部语义桥接进行精确的实体激活阶段,随后是通过全局重要性聚合进行段落召回阶段。

3.2.1 第一阶段:通过语义桥接进行相关实体激活

通常,直接的实体匹配可能会遗漏连接多跳关系的关键中间实体,而这些实体对于多跳查询至关重要。因此,识别这些潜在的连接器至关重要。然而,此类中间实体无法直接挖掘,且海量的实体数量对精确识别它们构成了挑战。为解决此问题,我们提出了通过语义桥接进行相关实体激活。对于传入的查询 q,过程如下:

动态剪枝。虽然上述语义桥接成功地从查询实体建立了与潜在相关中间实体的初始关联,但它也引入了一个重大挑战:随着传播加深,搜索空间呈指数增长。如果没有适当的控制,不相关的实体可能会反复成为新的种子,导致过程组合爆炸,并漂移到与原始查询意图无关的语义区域。为了解决这个问题,我们执行图剪枝,将扩展限制在高品质的语义路径上。具体来说,在每个传播步骤,我们引入一个阈值 δ 。新激活的实体只有在其相关性分数超过 δ 时才会被保留用于下一次迭代;否则,它将被剪枝。此外,一旦没有新的实体超过阈值,该过程会自动终止。这种自适应机制确保传播仅沿着最相关的语义路径进行,同时根据每个查询的复杂性动态调整迭代范围。

3.2.2 第二阶段:通过全局重要性聚合进行段落检索

表1:基线和LinearRAG在四个基准数据集上的结果(%),包括包含匹配(Contain-Match)和GPT评估准确率(GPT-Evaluation Accuracy)。每个数据集的最佳结果以粗体突出显示,次优结果以下划线表示。

4 实验

在本节中,我们进行全面实验以验证LinearRAG的有效性和效率。具体来说,我们旨在回答以下问题。Q1(生成准确性):与最先进的GraphRAG方法相比,LinearRAG在生成性能方面表现如何?Q2(效率分析):与现有的GraphRAG方法相比,LinearRAG的成本效益和时间效率如何?Q3(消融研究):LinearRAG的每个组件对整体性能有何贡献?(请注意,为了全面评估LinearRAG,关于检索质量、参数敏感性、骨干分析、大规模效率分析和案例研究的额外实验见附录E。)

4.1 实验设置

数据集。我们首先在三个广泛使用的多跳问答数据集和一个特定领域数据集上评估LinearRAG的有效性,包括HotpotQA(Yang et al., 2018)、2WikiMultiHopQA(2Wiki)(Ho et al., 2020)、MuSiQue(Trivedi et al., 2022)以及来自GraphRAG-Bench(Xiang et al., 2025)的Medical数据集。我们遵循与HippoRAG相同的评估方法,使用相同的语料库进行检索,并从每个验证集中选择1,000个问题。这种设置允许在不同方法之间进行公平比较。我们还在来自GraphRAG-Bench(Xiang et al., 2025)的特定领域Medical数据集上测试了我们的方法,表明LinearRAG改善了生成结果和检索质量。

基线。我们将所有基线分为三组:(i)零样本LLM推理:我们评估了几个基础模型,包括LLaMA3(8B)和LLaMA3(13B)(Dubey et al., 2024),以及GPT-3.5-turbo和GPT-4o-mini(OpenAI, 2023)。(ii)我们采用朴素RAG方法,在多种检索配置下(检索1、3或5个顶级段落),将基于语义的文档检索与思维链推理提示相结合,以指导LLM的生成过程。(iii)最先进的GraphRAG系统:我们与领先的GraphRAG实现进行了比较,包括KGP(Wang et al., 2024)、G-retriever(He et al., 2024)、RAPTOR(Sarthi et al., 2024)、E²GraphRAG(Zhao et al., 2025)、LightRAG(Guo et al., 2024)、HippoRAG(Gutiérrez et al., 2024)、GFM-RAG(Luo et al., 2025)和HippoRAG2(Gutiérrez et al., 2025)。其中,RAPTOR将语料库组织成一个层次树图;G-Retriever、LightRAG、HippoRAG、GFM-RAG和HippoRAG2从段落中提取三元组以构建结构化图;而 E2E2 GraphRAG整合了两种策略。

评估指标。我们使用四个指标在两个类别上评估我们的方法。对于端到端的QA性能,遵循现有工作(Wang et al., 2025),我们使用:1)包含匹配准确率(Contain-Acc.),检查正确答案是否出现在生成的响应中;以及2)GPT评估准确率(GPT-ACC.),一种基于LLM的指标,评估预测答案是否与真实答案匹配。对于Medical数据集,由于标准答案由冗长的描述性陈述组成,我们仅使用GPT-ACC进行评估。对于检索质量评估,我们采用来自GraphRAG-Bench(Xiang et al., 2025)的指标:1)上下文相关性(Context Relevance),衡量问题与检索到的段落之间的语义对齐;以及2)证据召回率(Evidence Recall),评估检索到的内容是否包含正确回答问题所需的所有信息。

实现细节。为确保实现的一致性,所有算法使用相同的嵌入模型,即 all-mpnet-base-v2(Xiao et al., 2023))。我们在所有方法中设置 k=5 用于前 k 检索。所有RAG方法在生成和评估任务中均使用相同的LLM(GPT-4o-mini)。所有实验均在附录C中详述的硬件配置上进行。

4.2 生成准确性(Q1)

为了回答Q1,我们通过在四个基准数据集上比较各种基线方法与LinearRAG,对生成性能进行了全面评估。详细的实验结果见表1。基于我们的分析,我们得出以下关键观察结果。

观察1. RAG显著提升了零样本LLM性能。在没有外部知识检索的情况下直接提示LLM在所有数据集上表现最差。例如,像GPT-4o-mini这样的先进模型在没有检索增强的情况下,在MuSiQue数据集上仅达到 15.80% 的基于GPT的准确率。然而,将相关语料库内容整合到提示中显著提高了性能,例如,使用前5检索上下文的朴素RAG在相同数据集上将准确率提高到 29.60% 。这种显著的性能提升表明了RAG机制对于信息密集型应用的必要性。

观察2. 对于复杂推理,GraphRAG方法提供了RAG方法所缺失的关键上下文。虽然较大的 kk 值提高了准确率,但在更高值时增益递减,这揭示了朴素RAG在多跳推理中的核心局限性:它倾向于过度关注在文档中搜索提及的实体或关键词,从而遗漏了对完整推理链至关重要的逻辑相关文档。相比之下,在检索中建模结构依赖性的方法表现始终更好。其中,HippoRAG 2在大多数数据集上取得了最佳结果,在HotpotQA上达到 62.90% 的基于包含的准确率,在MuSiQue数据集上达到 31.00%。

观察3. LinearRAG相比GraphRAG方法表现出更优的性能,后者受限于构建图的质量。典型的GraphRAG方法通过将知识显式地结构化为图来解决语义错位问题,但其有效性严重依赖于关系抽取。相反,LinearRAG摒弃了低效的图构建,并在所有数据集上显著优于所有基线。值得注意的是,LinearRAG在2Wiki上达到了 63.70% 的基于GPT的准确率,比第二好的基线提高了约 3.80% 的绝对改进,并将基于包含的准确率提升至 70.20%。

4.3 效率分析(Q2)

为了更好地理解相关的效率和成本影响,我们在2WikiMultiHopQA数据集上对不同GraphRAG模型在索引和检索阶段的提示统计进行了专门分析,比较了它们的令牌使用量和运行时间。结果见表2,我们的关键观察总结如下:

观察4. 复杂的图构建在索引和检索阶段都不可避免地带来了显著的时间成本。像G-Retriever和LightRAG这样的模型采用复杂的模式定义,导致效率明显较差。例如,LightRAG需要4,933.22秒进行索引,10.963秒进行检索。这些模型在图内定义实体和关键词,并执行高级和低级检索。因此,LLM在处理从这两个信息来源检索到的大量内容时负担过重,导致更高的费用和延迟。

观察5. 降低LLM令牌成本不一定对性能产生负面影响。G-Retriever和LightRAG中复杂的提示构建和完成未能带来持续的性能提升。例如,HippoRAG在提示构建期间仅使用3.05M个令牌,完成阶段使用0.98M个令牌,而HippoRAG2在提示构建中消耗4.98M个令牌,完成阶段消耗1.22M个令牌。尽管令牌成本较低,但这两个模型都优于G-Retriever和LightRAG。

观察6. LinearRAG提供了最强的整体效率。考虑到整个流程,LinearRAG速度最快,并且引入了零令牌使用量。虽然E²GraphRAG和RAPTOR在检索阶段比LinearRAG更节省时间,但这是以显著降低模型性能为代价的,因为它们仅检索与查询直接相关的文档,而不考虑推理链中的结构依赖性。相比之下,LinearRAG的轻量级流程避免了索引和检索阶段的LLM调用,从而最大程度地减少了延迟并消除了令牌成本。对于需要强大性能以及速度、可扩展性和成本控制的部署,LinearRAG是最实用的选择。

表2:不同GraphRAG方法的效率和性能比较。注意,准确率表示包含匹配准确率(Contain-Acc.)和GPT评估准确率(GPT-Acc.)指标的平均值。提示词令牌表示输入给LLM的令牌,完成令牌表示LLM输出的令牌。最佳结果以粗体突出显示,次优结果以下划线表示。

图4:LinearRAG关键模块在四个不同数据集上的消融研究。Y轴表示GPT-Acc.和Contain-Acc.的平均值。

为了回答Q3,我们在四个数据集上对LinearRAG的核心组件进行了系统的消融研究。我们检查了两个关键模块:∙∙ 通过语义桥接进行相关实体激活,即 w/o Entity Activation,直接使用从查询中提取的初始实体作为激活实体,绕过将激活分数从查询实体传播到知识图中相关实体的语义桥接过程。∙∙ 通过全局重要性聚合进行段落检索,即 w/o Global Importance Aggregation,跳过个性化PageRank算法,直接使用阶段 ∙∙ 计算的初始激活分数从语料库中检索文档,而不考虑全局重要性关系。每个变体以GPT-Acc.和Contain-Acc.的平均值作为主要评估指标进行评估。实验结果如图4所示,我们有以下发现。

观察7. LinearRAG的每个模块对实现最佳性能都至关重要。性能增益主要归功于两个互补的阶段。在第一阶段,LinearRAG通过语义相似性传播识别上下文相关的实体,揭示多跳问题中隐藏的逻辑关系。在第二阶段,模型在激活的子图上使用个性化PageRank算法从全局角度评估文档重要性。

5 结论

在这项工作中,我们介绍了LinearRAG,一种新颖的GraphRAG框架,它通过用轻量级的实体抽取取代昂贵且易出错的关系抽取来简化图构建。它创建了一个包含实体、句子和段落的层次图。在此基础上,LinearRAG采用了一种两阶段检索机制,通过联合利用局部和全局结构信息,推进了精确度-召回率的帕累托前沿。大量实验表明,LinearRAG在检索精度、生成准确性和可扩展性方面始终超越最先进的基线,为处理复杂查询提供了一种稳健且高效的解决方案。

伦理声明

实验中使用的前三个数据集,包括HotpotQA、2WikiMultiHopQA和MuSiQue,是广泛使用的数据集。医疗基准数据集是根据公共资源构建的。我们的研究严格遵守ICLR道德准则,特别是在数据隐私、透明度和负责任的计算实践方面。并且没有参与者参与。

可复现性声明

我们提供了复现论文主要实验结果所需的详细信息,包括数据划分和超参数配置。此外,对于每个实验,我们概述了所需的计算资源,例如内存使用和执行时间。所有基线模型均来自公共仓库。我们的代码和数据集已公开可用。

http://www.jsqmd.com/news/1182942/

相关文章:

  • 网页数据提取实战 ※ 第1关:从HTML表格到结构化数据
  • 为什么“老方法“在高维数据搜索中反而越来越好用?
  • kytuning-server扩展开发教程:如何添加新的基准测试工具支持
  • 如何快速上手Gemma-4-E2B-it-qat-OptiQ-4bit:5分钟完成安装与首次推理
  • 如何用ChatGPT查询真实文献,并轻松撰写文献综述,七步搞定,全攻略指南
  • 2026 年 7 月南京屋顶外墙防水测评|正规工程防水商家实力排名 - 苏易房屋修缮
  • 消息中间件面试精讲:RabbitMQ/Kafka核心概念、消息丢失与重复消费解决方案
  • 从示例到源码:深入理解RequireJS Plugins的工作原理
  • TVA具身智能的概念、架构与应用(9)
  • Botty:暗黑2重制版的像素智能自动化新范式
  • 2篇8章2节:多状态生存模型的基本原理、竞争风险与三状态模型
  • DeepSeek-R1-Distill-Qwen-1.5B推理参数调优:温度、Top-k和Top-p设置技巧终极指南
  • 小程序毕设选题推荐:社区校园共享雨伞智能租赁管理平台的设计与实现 SpringBoot 移动端共享雨伞租借运维系统【附源码、mysql、文档、调试+代码讲解+全bao等】
  • 萧邦中国官方售后服务中心|服务热线及门店详细地址权威信息声明(2026年7月最新) - 萧邦中国官方服务中心
  • NestOS构建利器nestos-assembler:从容器环境到系统镜像的完整指南
  • 使用ChatGPT,两周搞定一个课题申报和两篇学术论文,借助GPT高级学术版真实经验分享
  • Gotalk实战:构建多房间聊天应用的完整教程
  • 未来展望:Cosmos-H-Surgical-Simulator 在医疗AI和手术机器人领域的发展路线图
  • 2026年AI就业风口:收藏!大模型方向零基础入局指南,高薪岗位等你来拿!
  • 转:战略是有计划的机会主义
  • AMD-Quark量化实战:从零开始将Kimi-K2.6转换为NVFP4格式
  • 设计模式面试高频题:单例/工厂/代理/观察者模式在框架中的实际应用
  • Nemotron-Labs-Diffusion-VLM-8B开发者指南:自定义训练与微调的最佳实践
  • Llama-3.2-3B_rai_1.7.1_npu_16K模型参数详解:隐藏层、注意力头与16384上下文窗口配置
  • Jenkins-更改插件源为国内源
  • 小程序毕设选题推荐:基于小程序的特色农副产品推广交易系统的设计与实现 SpringBoot 赋能的农产品线上购销服务平台【附源码、mysql、文档、调试+代码讲解+全bao等】
  • 用“量子启发“的小模型,精准预测互联网的流量走向
  • 2026年Q3岩棉复合板行业靠谱的供应厂家与品牌机构综合选型参考 - 甄选服务推荐
  • Instant-NuRec硬件要求详解:如何配置最佳GPU环境运行NVIDIA 3D重建模型
  • 简单3步!使用kokoro_mlx实现个性化语音定制的完整教程