从本地到全局:基于图的RAG方法进行查询聚焦原理摘要

摘要

使用检索增强生成(RAG)从外部知识源检索相关信息,使大型语言模型(LLMs)能够回答有关私有和/或以前未见过的文档集合的问题。然而,当针对整个文本文档库提出全局问题时,例如“数据集中的主要主题是什么?”,RAG 会失败,因为这本质上是一个查询聚焦摘要(QFS)任务,而不是明确的检索任务。与此同时,之前的 QFS 方法无法扩展到典型 RAG 系统索引的大量文本。为了结合这些对立方法的优势,我们提出了一个基于图的 RAG 框架来回答私人文本语料库中的问题,该框架可以扩展到用户问题的一般性和要索引的源文本的数量。我们的方法使用 LLM 在两个阶段构建基于图的文本索引:首先从源文档中推导出实体知识图,然后为所有密切相关的实体组预生成社区摘要。给定一个问题,每个社区摘要用于生成部分响应,然后对所有部分响应进行总结以提供最终响应。对于一类关于 100 万个标记范围的数据集的全局理解问题,我们证明了图 RAG 在生成答案的全面性和多样性方面相对于简单的 RAG 基线有了显着改进。Python 实现的开源版本即将在Project GraphRAG - Microsoft Research上提供。

1. 简介

人类在各个领域的努力都依赖于我们阅读和推理大量文档的能力,通常得出的结论超出了源文本本身的任何陈述。随着大型语言模型(LLMs)的出现,我们已经目睹了试图在复杂领域实现类人思维的努力,例如科学发现(Microsoft, 2023 年)和情报分析(Ranade 和 Joshi, 2023 年),其中类人思维被定义为“理解一个或多个给定信息的上下文,并从中推断出新信息”的过程。

image

“有动机、持续不断地努力去理解联系(可以是在人与人之间,地点之间,事件之间)以预测他们的轨迹并有效地行动。”(Klein等人,2006a)。然而,在整个文本语料库中支持人类主导的情境感知需要一种方法来使人们在对全球性问题提问时应用和细化他们对数据的心理模型(Klein等人,2006b)。

检索增强生成(RAG,刘易斯等人,2020年)是一种回答用户问题的方法,对整个数据集进行查询,但它是为这些答案在文本区域内的局部位置设计的,其中的检索提供了生成任务所需的足够基础。相反,一个更合适的任务框架是关注查询的摘要(QFS,Dang,2006),特别是关注查询的抽象摘要,它不仅产生自然语言摘要,而且不只产生连接片段(Baumel等人,2018;Laskar等人,2020;Yao等人,2017)。然而,在最近几年中,诸如抽象与提取、通用与查询聚焦以及单文档与多文档之间的差异性等总结任务之间的区别变得不再相关。虽然早期应用架构的结果表明,在所有此类总结任务中都取得了显着的改进(Goodwin等人,2020;Laskar等人,2022;刘易斯和拉帕塔,2019),但这些任务现在已被现代 LLM 所简化,包括 GPT(Achiam 等人,2023;Brown 等人,2020)、LLAMA(Touvron 等人,2023)和 Geminni(Anil 等人,2023)系列,它们都可以使用上下文学习来总结其语境窗口中的任何内容。

然而,查询驱动的语义摘要在整篇文档上的挑战仍然存在。 这些文本量可能远远超出 LLM 上下文窗口的限制,而扩大这些窗口可能不足以避免信息“在中间丢失”的情况(Kuratov 等人,2024;刘等人,2023)。 此外,虽然朴素 RAG 中直接检索文本块可能不适用于 QFS 任务,但预索引的替代形式可能会支持专门针对全局摘要的新 RAG 方法。

在本文中,我们提出了一种基于图RAG的方法,该方法使用了从语言模型衍生出的知识图谱的全局摘要(见图1)。与利用图形索引的结构检索和遍历功能的相关工作形成对比(见第4.2节),我们关注的是在这种背景下图形的先前未探索的质量:它们固有的模块化性(Newman, 2006)以及社区检测算法将图形划分为紧密相关的节点模

社区描述提供了底层索引图的完整覆盖,以及它所代表的输入文档。然后可以使用映射-减少方法对整个语料库进行查询聚焦摘要:首先使用每个社区摘要独立并行地回答查询,然后汇总所有相关的部分答案以得出最终的整体答案。

为了评估这种方法,我们使用了一个语言模型来从两个代表性的现实世界数据集的简短描述中生成一系列以活动为中心的意义构建问题。这些数据集分别包含播客转录和新闻文章。为了目标质量的全面性、多样性以及赋予能力(在第3.4节中有定义),以发展对广泛问题和主题的理解,我们探索了回答查询时所使用的社区总结层次的不同影响,并将其与源文本的朴素RAG和全局地图减少摘要进行比较。我们发现所有全局方法在全面性和多样性方面都优于朴素RAG,而带有中级和低级社区摘要的图RAG在这两项指标上也显示出比源文本摘要更好的性能,且成本更低。

2 图形 RAG 方法 & 管道

现在,我们对 图形RAG方法(图1)和流水线进行高层次的数据流分析,描述每个步骤的关键设计参数、技术以及实现细节。

2.1 源文件 → 文本块

一个基本的设计决策是输入文本应以多大的粒度拆分为处理文本块。在接下来的步骤中,每个这样的块将被传递给一组预训练模型提示,用于提取图索引的各种元素。较长的文本块需要更少的预训练模型调用才能进行此类提取,但会受到较长预训练模型上下文窗口(Kuratov等人,2024;刘等人,2023)的召回率下降的影响。这种行为可以在单个提取轮次(即零摘录)的情况下观察到:在一个样本数据集(HotPotQA,Yang等人,2018),使用大小为600令牌的块几乎提取了两倍于使用大小为2400令牌的块的实体引用。虽然更多的参考通常更好,但任何提取过程都需要权衡目标活动的召回率和精度。

2.2 文本块 → 元素实例

此步骤的基本要求是从源文本的每一部分识别并提取图节点和边。我们使用多段式的 LLM 提示来实现这一点,该提示首先识别文本中的所有实体,包括它们的名称、类型和描述,然后识别清楚相关的实体之间的所有关系,包括源和目标实体及其关系的描述。这两种类型的元素实例都以单个分隔的元组列表的形式输出。

在文档语料库领域定制提示的主要机会在于为上下文学习向 LLM 提供的一些示例(Brown 等人,2020 年)。

例如,虽然我们默认提取人物、地点和组织等“命名实体”的大类通常都是通用的,但具有专门知识(如科学、医学、法律)的领域可以从针对这些领域的少样本示例中受益。我们还支持附加协变量的二级提取提示,以便与提取的节点实例相关联。我们的默认协变量提示旨在提取与检测到的实体相关的声明,包括主语、宾语、类型、描述、源文本跨度以及开始和结束日期。

为了平衡效率和质量的需求,我们使用多轮“拾取”,直到达到一个特定的最大值,以鼓励语言模型检测到在之前的提取轮中可能遗漏的所有实体。这是一个多阶段的过程,在这个过程中,我们首先要求语言模型评估所有实体是否被提取,通过设置对数线性偏移量为100来迫使二元决策。如果语言模型表示有实体未被发现,则继续操作,表明“上次提取中有许多实体未被发现”,这会促使语言模型去拾取这些丢失的实体。这种方法使我们可以使用更大的块大小,而不会降低质量(见图2),也不会强制引入噪声。

2.3 元素实例 → 元素摘要

使用 LLM 从源文本中“提取”实体、关系和断言的描述已经是抽象总结的形式,依靠 LLM 为文本本身隐含但未明确表达的概念(例如,隐含的关系的存在)生成独立且有意义的摘要。要将所有此类实例级摘要转换为每个图形元素(即实体节点、关系边缘和断言协变量)的单个描述性文本块,需要对匹配的实例组进行进一步的 LLM 总结。

目前的一个潜在问题是,LLM 可能不会始终从同一文本格式中提取对同一实体的引用,导致实体图中有重复的实体元素。然而,由于所有密切相关的“社区”实体将在接下来的步骤中被检测到并进行总结,并且鉴于 LLM 能够理解多个名称变体背后共同存在的实体,只要所有变体都足够连接到一组共享的密切相关的实体,我们的总体方法就能抵抗这种变化。

总的来说,我们在潜在嘈杂的图结构中使用丰富的描述性文本来表示同质节点的做法既符合 LLM 的能力,也符合全球、查询驱动的摘要的需求。这些特性还使我们的图形索引与典型的知识图谱区别开来,后者依赖于下游推理任务所需的简洁且一致的知识三元组(主语、谓词、宾语)。

2.4 元素总结→ 社区图

在前一步中创建的索引可以建模为一个同质无向加权图,其中实体节点通过关系边连接,边权重表示检测到的关系实例的归一化计数。给定这样的图,可以使用各种社区检测算法将图分割为一组节点,这些节点之间的连接比与其他图中的节点更强(例如,请参阅 Fortunato, 2010 和 Jin 等人,2021 年的调查)。在我们的管道中,我们使用 Leiden (Traag et al.,2019),因为它能够有效地恢复大规模图的层次结构社区(见图3)。这种层次结构的每一级都提供了一个覆盖图中所有节点的互斥、完全且穷尽的社区划分,从而使我们可以实现分治式的全局总结。

2.5 图形社区 → 社区摘要

接下来,我们将使用一种设计用于处理大型数据集的方法,在莱顿层次结构中为每个社区创建类似报告的摘要。这些摘要本身作为理解数据集的全球结构和语义的一种方式而独立有用,并且可以用来在没有问题的情况下对语料库进行解释。例如,用户可以浏览一个级别的社区摘要,寻找感兴趣的总体主题,然后通过链接到较低级别提供的更详细的子主题报告。然而,这里我们关注的是它们作为回答全局查询的基于图形索引的一部分的效用。

社区摘要以如下方式生成:

图3:使用Leiden算法(Traag等人,2019)在MultiHop-RAG数据集中检测到的图社区。圆圈代表实体节点,大小与它们的度数成比例。通过OpenORD(Martin等人,2011)和Force Atlas 2(Jacomy等人,2014)进行节点布局。节点颜色表示实体社区,在两个层次的聚类中显示:(a)第0层,对应具有最大模块性的分层分区,以及 (b) 第1层,揭示这些根级别社区内的内部结构。

• 叶级社区。 优先考虑叶级社区(节点、边、协变量)的元素摘要,然后迭代地将其添加到 LLM 上下文窗口中,直到达到标记限制为止。 优先顺序如下:对于每个社区边,按其源节点和目标节点度数之和的降序(即总体重要性),依次添加源节点描述、目标节点描述、关联协变量描述以及边本身描述。

• 高级社区。如果所有元素摘要都适合上下文窗口中的标记限制,则按照叶级社区进行处理,并在社区中汇总所有元素摘要。 否则,按元素摘要令牌降序对子社区进行排名,并迭代地用子社区摘要(较短)替换其相关元素摘要(较长),直到适应上下文窗口为止。

2.6 社区总结→社区答案→全局答案

给定用户查询,可以在多阶段过程中使用上一步生成的社区摘要来生成最终答案。社区结构的层次性也意味着可以使用来自不同级别的社区摘要来回答问题,这引发了在分层社区结构中的特定级别是否为一般意义的理解提供了最佳的摘要细节和范围的问题(在第 3 节中进行了评估)。

对于给定的社区级别,任何用户查询的全球答案如下所示:

• 准备社区摘要。 社区摘要被随机打乱并划分为预定义的标记大小块。 这可以确保相关信息分布在块中,而不是集中在单个上下文窗口中(可能会丢失)。

• 地图社区答案。 并行生成中间答案,每个块一个。 还要求 LLM 为生成的答案提供一个介于 0 到 100 之间的分数,以指示它在回答目标问题方面的帮助程度。 得分 0 的答案被过滤掉。

• 将全球答案降低到中间社区的答案。 中间社区的答案按帮助分数降序排列,并迭代添加到新的上下文窗口,直到达到令牌限制。 这个最终的上下文用于生成用户返回的全局答案。

image

表1:根据目标数据集的简短描述,LLM生成的潜在用户、任务和问题示例。这些问题针对全局理解而不是具体细节。

3 评价

3.1 数据集

我们选择了两个在一百万词左右的语料库,每个都包含大约十部小说文本,代表了用户可能在其真实世界活动中遇到的语料库类型:

•播客文字稿。微软首席技术官凯文·斯科特和其他科技领袖(“幕后科技”,斯科特,2024)之间的播客对话的文字稿。大小:1669×600标记文本块,每块之间有100个标记重叠(约100万个标记)。

• 新闻文章。由多跳可扩展图(MultiHop-RAG;Tang和Yang,2024)组成的基准数据集,其中包含从2013年9月到2023年12月在多个类别中发布的新闻文章,包括娱乐、商业、体育、科技、健康和科学。大小:3197×600标记文本块,块之间有100个标记重叠(约170万个标记)。

3.2 查询

许多开放领域的基准数据集用于问答,包括HotPotQA(Yang等人,2018年),MultiHop-RAG(Tang和Yang,2024年)和MT-Bench(Zheng等人,2024年)。然而,相关的问题集针对明确的事实检索而不是为了数据思维的目的进行摘要,即人们检查、参与并从更广泛的现实世界活动中推断数据的过程(Koesten等人,2021)。类似地,也存在从源文本中提取潜在摘要查询的方法(Xu和Lapata,2021),但提取的问题可能会泄露文本的先前知识。

为了评估RAG系统在更全球化的数据集理解任务中的有效性,我们需要提出的问题只能传达对数据集内容的高层次理解,而不是具体文本的细节。我们使用了一种以活动为中心的方法来自动产生此类问题:给定一个数据集的简短描述,我们要求模型识别出每个用户N个潜在用户和每个用户N个任务,然后对于每个 (user, task) 组合,我们要求模型生成需要理解整个语料库的问题N个。在我们的评估中,值为N = 5时,每个数据集产生了125个测试问题。表1显示了两个评估数据集中每个示例问题的示例。

3.3 条件

在我们的分析中,我们比较了六个不同的条件,包括使用四层社区图(C0、C1、C2 和 C3)的图形RAG、直接应用于源文本的映射减少法文本摘要方法(TS),以及朴素的“语义搜索”RAG 方法(SS):

• CO。 使用根级别社区摘要(数量最少)来回答用户查询。

• C1:使用高级社区摘要来回答查询。如果存在,则为 C0 的子社区,否则为投影到 C0 的社区。

• C2。使用中等水平的社区摘要来回答查询。如果存在,这些是C1的子社区;否则,它们是从C1投影下来的社区。

• C3. 使用低级社区摘要(数量最多)来回答查询。如果存在,这些是C2的子社区;否则,是C2社区的投影。

• TS。与子段落2.6相同的方法,除了源文本(而不是社区摘要)被随机排列并分块用于地图减少总结阶段。

• SS。一个简单的 RAG 实现,其中文本块被检索并添加到可用上下文窗口中,直到达到指定的标记限制。

生成答案所用的上下文窗口大小和提示与所有六个条件相同(除了参考风格的小改动以匹配使用的上下文信息类型)。 条件仅在如何创建上下文窗口的内容方面有所不同。

我们使用通用提示,用于实体和关系提取,仅创建了支持条件 C0-C3 的索引。 这些实体类型和少量示例专门针对数据域进行了定制。 使用了上下文窗口大小为 600 个令牌,播客数据集有 1 次收集,新闻数据集没有收集。

3.4 指标

研究表明,语言模型可以很好地评估自然语言生成,与人类判断相比,取得了最先进的或竞争性的结果(Wang等人,2023a;Zheng等人,2024)。虽然当黄金标准答案已知时,这种方法可以生成基于参考的度量值,但它也可以以无参考的方式衡量生成文本的质量(例如,连贯性)(Wang等人,2023a),以及在竞争对手输出之间的头对头比较中进行评估(作为裁判的语言模型,Zheng等人,2024)。语言模型还显示出了对传统RAG系统的性能评估的潜力,自动评估上下文相关性、忠实性和答案相关性等质量(RAGAS,Es等人,2023)。

鉴于我们的图状RAG机制的多阶段性质,我们想要比较的多个条件以及我们基于活动的问题缺乏黄金标准答案,我们决定采用使用 LLM 评估器的直接比较方法。我们选择了三个目标指标来捕捉对思维活动有帮助的品质,以及一个控制指标(直接性),用作有效性指标。由于直接性实际上与全面性和多样性相对立,因此我们不期望任何方法在所有四个指标上都表现出色。

我们使用 LLM 评估器计算的对头测量结果如下:

• 完整性。答案提供了多少细节来涵盖问题的所有方面和细节?

• 多样性。答案提供了多少不同的视角和见解?有多少种可能性?

赋权。答案在多大程度上帮助读者了解并做出关于主题的明智判断?

• 扩大范围。这个话题或问题是否与更大的话题相关,如果是的话,请解释为什么它很重要。

• 直接性。回答问题的具体性和清晰度如何?

在我们的评估中,语言模型被提供了问题、目标度量以及一对答案,并要求根据该度量来评估哪个答案更好,以及为什么。如果存在赢家,则返回赢家;否则,在它们本质上相似且差异可以忽略不计的情况下,返回平局。为了考虑 LLM 的随机性,我们对每种比较进行了五次运行并使用平均分数。表 2 显示了 LLM 生成的评估示例。

image

image

3.5 配置

上下文窗口大小对任何特定任务的影响尚不清楚,尤其是对于具有 128k 个标记的大上下文大小的模型(如 gpt-4-turbo)。鉴于信息可能在较长的上下文“中间丢失”(Kuratov 等人,2024 年;刘等人,2023 年),我们希望探索在我们的数据集、问题和指标组合中更改上下文窗口大小的效果。具体而言,我们的目标是确定基准条件 (SS) 的最佳上下文大小,然后在此基础上为所有查询时间 LLM 使用进行统一设置。为此,我们测试了四种上下文窗口大小:8k、16k、32k 和 64k。令人惊讶的是,在所有比较中,测试到的最小上下文窗口大小(8k)在全面性方面普遍更好(平均胜率 58.1%),而在多样性方面与较大的上下文大小相当(平均胜率 = 52.4%)以及赋权(平均胜率 = 51.3%)。鉴于我们更喜欢更全面且多样化的答案,因此我们在最终评估中使用了一个固定大小的上下文窗口 8k 令牌。

3.6 结果

Podcast 数据集的索引过程导致了一个包含 8564 个节点和 20691 条边的图,News 数据集的图更大,有 15754 个节点和 19520 条边。表 3 显示了每个图社区层次结构中不同级别的社区摘要数量。

全局方法与朴素RAG。如图 4 所示,无论是在数据集上还是在多样性指标上,全局方法都比朴素RAG(SS)表现得更好。具体来说,在播客脚本中,全局方法实现了72%-83% 的全面性胜率,而在新闻文章中则为72%-80%,而多样性胜率分别为75%-82% 和62%-71%。我们使用直接性作为有效性测试也取得了预期的结果,即朴素RAG 在所有比较中产生的回答最直接。

第 10 页

image

社区摘要与源文本。使用Graph RAG比较社区摘要和源文本时,社区摘要通常在答案全面性和多样性方面提供了小但一致的改进,除了根级别摘要。播客数据集中的中级摘要和新闻数据集中的低级社区摘要实现了57% 和64% 的全面性胜率。多样性的胜利率为57%(播客中级摘要)和60%(新闻低级社区摘要)。表3 还展示了Graph RAG相对于源文摘的优点:对于低级社区摘要(C3),Graph RAG需要少于26%-33% 的上下文标记;而对于根级别社区摘要(C0),则需要少于97% 的标记。与其他全局方法相比,性能下降幅度不大,根级别的Graph RAG为迭代问答提供了一种高效的方法,这种问答活动具有信息构建的特点,并且在全面性(72% 胜率)和多样性(62% 胜率)方面优于naive RAG。

赋权。与全球方法相比,naive RAG (SS) 和 Graph RAG 方法之间的赋权比较显示出了好坏参半的结果。用于分析模型推理的 ad-hoc LLM 表明,提供具体示例、引文和参考资料的能力被认为是帮助用户获得知情理解的关键。调整元素提取提示可能有助于在 Graph RAG 指数中保留更多这些细节。

4 相关工作

4.1 情绪分析方法与系统

在使用 LLM 时,RAG 首先从外部数据源检索相关信息,然后将这些信息与原始查询一起添加到 LLM 的上下文窗口中(Ram 等人,2023)。Naive RAG 方法通过将文档转换为文本、将文本拆分为块并将这些块嵌入到一个向量空间来实现这一点,在该向量空间中,相似的位置表示相似的语义。然后将查询嵌入到同一向量空间中,并使用最近的 k 个向量的文本块作为上下文。虽然存在更先进的变体,但所有这些变体都解决了当感兴趣的外部数据集超出 LLM 上下文窗口的问题。

先进的RAG系统包括旨在克服Naive RAG缺点的预检索、检索和后检索策略,而模块化RAG系统包括交替检索和生成(Gao等人,2023年)的迭代和动态循环模式。我们的图RAG实现包含与其它系统相关的多个概念。例如,我们的社区摘要是一种自我记忆(Selfmem,Cheng等人,2024),用于增强检索(GAR,Mao等人,2020),这有助于未来的生成周期,而我们从这些摘要中并行生成社区答案则是一种迭代(Iter-RetGen,Shao等人,2023)或联邦(FeB4RAG,Wang等人,2024)检索-生成策略。其他系统也结合了这些概念进行多文档摘要(CAiRE-COVID,Su等人,2020)和多跳问答(ITRG,Feng等人,2023;IR-CoT,Trivedi等人,2022;DSP,Khattab等人,2022)。我们使用层次索引和总结也类似于进一步的方法,如通过聚类文本嵌入向量来生成文本块的层次索引(RAPTOR,Sarthi等人,2024)或为回答模糊问题的多重解释生成“澄清树”(Kim等人,2023)。然而,并没有这些迭代或层次方法使用能够启用图RAG的自动生成的图形索引。

4.2 图表与LLMs

使用图形与 LLM 和 RAG 的结合是一个正在发展的研究领域,已经建立了多个方向。这些包括使用 LLM 生成知识图谱(Trajanoska 等人,2023 年)以及对源文本进行补全(Yao 等人,2023 年),以及从源文本中提取因果图(Ban 等人,2023 年;Zhang 等人,2024 年)。它们还包括高级 RAG 的形式(Gao 等人,2023 年),其中索引是一个知识图谱(KAPING,Baek 等人,2023 年),其中子图结构的子集(G-Retriever,He 等人,2024 年)或派生图度量(Graph-ToolFormer,Zhang,2023 年)是调查的对象,叙事输出强烈基于检索到的子图的事实(SURGE,Kang 等人,2023 年),检索到的事件图子图通过叙事模板序列化(FABULA,Ranade 和 Joshi,2023 年),系统支持用于多跳问答的文本关系图的创建和遍历(Wang 等人,2023 年 b)。在开源软件方面,多种图形数据库都得到了 LangChain(LangChain,2024 年)和 LlamaIndex(LlamaIndex,2024 年)库的支持,而各种基于图形的 RAG 应用程序也正在出现,包括可以在 Neo4j(NaLLM,Neo4j,2024 年)和 NebulaGraph(GraphRAG,NebulaGraph,2024 年)格式中创建和推理知识图谱的系统。然而,与我们的图形 RAG 方法不同,这些系统都没有利用图形的自然模块化来为全局摘要分段数据。

5 讨论

评估方法的局限性。到目前为止,我们对两个语料库进行了约一百万令牌的特定类别的推理问题的评估。需要更多的工作来了解性能如何在不同类型的推理问题、数据类型和数据集大小范围内变化,并与最终用户验证我们的推理问题和目标指标。使用 SelfCheckGPT(Manakul 等人,2023 年)等方法比较制造率也会改进当前分析。

构建图索引的权衡。我们一致观察到,Graph RAG 在与其他方法的直接比较中取得了最佳效果,但在许多情况下,无图法对源文本进行全局摘要的方法也具有竞争力。在现实世界中,是否投资于构建图索引取决于多个因素,包括计算预算、每条数据集的预期生命周期查询次数以及从图索引的其他方面获得的价值(包括通用社区摘要和其他与图相关的 RAG 方法的使用)。

未来的工作。 图表索引、丰富的文本注释和分层社区结构支持当前的 图表RAG方法 提供了许多改进和适应的机会。这包括在更本地化的方式下运行的RAG方法,通过基于嵌入的用户查询和图表注释匹配,以及混合RAG方案的可能性,该方案结合了基于嵌入的对社区报告的匹配,然后使用我们的 map-reduce 汇总机制。这种“汇总”操作也可以扩展到更多级别的社区层次结构,并且可以实现为更具探索性的“深入”机制,遵循包含在更高层次社区摘要中的信息气味。

6 结论

我们提出了一个用于图RAG的全球方法,结合知识图谱生成、检索增强生成(RAG)和查询聚焦摘要(QFS),以支持人类对整个文本语料库的理解。初步评估表明,在答案的全面性和多样性方面,与基于naive RAG的基线相比,取得了显著的改进,并且与使用map-reduce源文摘的无图形全局方法进行了有利的比较。对于需要对同一数据集进行许多全局查询的情况,实体图形索引中根级别社区的摘要提供了比naive RAG更好的数据索引,并在极小的成本下实现与其他全局方法竞争的性能。

一个基于开源Python的实现,包括全局和局部图RAG方法,请参见 Project GraphRAG - Microsoft Research。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/46402.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

音视频入门基础:H.264专题(13)——FFmpeg源码中通过SPS属性获取视频色彩格式的实现

一、引言 通过FFmpeg命令可以获取到H.264裸流文件的色彩格式(又译作色度采样结构、像素格式): 在vlc中也可以获取到色彩格式(vlc底层也使用了FFmpeg进行解码): 这个色彩格式就是之前的文章《音视频入门基础…

【精品资料】模块化数据中心解决方案(33页PPT)

引言:模块化数据中心解决方案是一种创新的数据中心设计和部署策略,旨在提高数据中心的灵活性、可扩展性和效率。这种方案通过将数据中心的基础设施、计算、存储和网络资源封装到标准化的模块中,实现了快速部署、易于管理和高效运维的目标 方案…

2024最新Cloudways主机使用教程(含最新Cloudways折扣码)

Cloudways是一家提供云托管服务的公司,可以帮助你轻松管理和运行你的网站。本教程是Cloudways主机注册和使用教程。Cloudways界面简洁,使用方便,不需要复杂的设置,就能快速搭建一个WordPress网站。它的主机功能包括高级缓存和Bree…

DepthAnything(2): 基于ONNXRuntime在ARM(aarch64)平台部署DepthAnything

DepthAnything(1): 先跑一跑Depth Anything_depth anything离线怎么跑-CSDN博客 目录 1. 写在前面 2. 安装推理组件 3. 生成ONNX 4. 准备ONNXRuntime库 5. API介绍 6. 例程 1. 写在前面 DepthAnything是一种能在任何情况下处理任何图像的简单却又强大的深度估计模型。 …

KingbaseES数据库逻辑备份还原

数据库版本:KingbaseES V008R006C008B0014 简介 介绍2个KingbaseES用于备份还原的工具: sys_dump:逻辑备份sys_restore:逻辑还原 sys_dump 是 KingbaseES 用于逻辑备份的工具,可以将数据备份为不同类型的文件。支持数据…

ARM功耗管理标准接口之SCMI

安全之安全(security)博客目录导读 思考:功耗管理有哪些标准接口?ACPI&PSCI&SCMI? Advanced Configuration and Power Interface Power State Coordination Interface System Control and Management Interface 下图示例说明了实现…

docker部署canal 并监听mysql

1.部署mysql 需要开启mysql的binlong,和创建好用户等 可以参考这个 Docker部署Mysql数据库详解-CSDN博客 2.部署canal 参考这一篇: docker安装Canal,开启MySQL binlog ,连接Java,监控MySQL变化_docker canal-CSD…

内网信息收集——MSF信息收集浏览器记录配置文件敏感信息

文章目录 一、配置文件敏感信息收集二、浏览器密码&记录三、MSF信息收集 域控:windows server 2008 域内机器:win7 攻击机:kali 就是红日靶场(一)的虚拟机。 一、配置文件敏感信息收集 使用searchall64.exe&#…

【错题集-编程题】四个选项(DFS + 剪枝 + 哈希表)

牛客对应题目链接:四个选项 (nowcoder.com) 一、分析题目 用递归枚举出所有的情况,注意剪枝: 填写某个数时,要看看还有没有剩余次数。填写某个数时,要看看符不符合若干题的选项必须相同。 二、代码 // 值得学习的代码…

【学习笔记】无人机(UAV)在3GPP系统中的增强支持(六)-人工智能控制的自主无人机用例

引言 本文是3GPP TR 22.829 V17.1.0技术报告,专注于无人机(UAV)在3GPP系统中的增强支持。文章提出了多个无人机应用场景,分析了相应的能力要求,并建议了新的服务级别要求和关键性能指标(KPIs)。…

SparkStreaming--scala

文章目录 第1关:QueueStream代码 第2关:File Streams代码 第1关:QueueStream 任务描述 本关任务:编写一个清洗QueueStream数据的SparkStreaming程序。 相关知识 为了完成本关任务,你需要掌握:1.如何使用S…

OrangePi AI Pro 实测:感受 AI 应用的独特魅力与强大性能

OrangePi AiPro介绍和初始化配置 小寒有话说一、OrangePi AiPro介绍1. 主板详情2. 开发配置3. 镜像烧录4. 设备连接5. WiFi连接6. NVMe SSD的安装和挂载7. 更新下载源并下载必要的软件8. 扩展内存 二、Jupyter Lab AI测评应用案例1. 获取Jupyter Lab 网址链接2. 图像提取文字3.…

帕金森病患者应该如何进行日常锻炼以提高生活质量?

帕金森病患者的日常锻炼建议 帕金森病患者进行日常锻炼对于改善症状、维持肌肉功能和延缓疾病进展至关重要。以下是一些具体的锻炼建议: 选择适合的运动类型:帕金森病患者应选择低冲击、有氧的活动,如散步、骑自行车、游泳和太极拳等。这些运…

【qt】考试系统项目

话不多说,先一睹芳颜 咱们的账号,题库和答案都是通过文件获取的. 话不多说,直接开干 目录 一.登录窗口1.界面设计2.邮箱验证3.登录验证 二.题库窗口1.考试计时2.布局管理器3.题库显示4.按钮布局5.计算分数 三.窗口交互四.完整代码五.结语 一.登录窗口 1.界面设计 这里添加背…

从信息化、数字化、智能化到企业大模型应用

新时代背景下,数字经济发展速度之快、辐射范围之广、影响程度之深前所未有,5G、大数据、云计算、人工智能、区块链等技术加速创新,全域融入经济社会、民生服务全过程,成为资源要素重组、经济结构重塑、竞争格局重构的关键力量。千…

Visual Studio 安装程序无法执行修复或更新

一.问题场景 出现问题的场景:当你的VS已经安装但是无法在工具中下载新组件或者卸载了当时一直无法安装。 二.问题原因 如果计算机上的 Visual Studio 实例已损坏,则可能会出现此问题。 三.解决方法 如果之前尝试修复或更新 Visual Studio 失败&…

浅谈RLHF---人类反馈强化学习

浅谈RLHF(人类反馈强化学习) RLHF(Reinforcement Learning fromHuman Feedback)人类反馈强化学习 RLHF是[Reinforcement Learning from Human Feedback的缩写,即从人类反馈中进行强化学习。这是一种结合了机器学习中…

51单片机6(P0P1P2P3结构框架图)

一、GPIO结构框架图与工作原理 1、接下来我们介绍一下这个GPIO结构框图和工作原理,我们使用51单片机的GPIO分为了P0,P1,P2,P3这四组端口,下面我们就分别来介绍这四组端口它的一个内部结构,只有了解了内部的…

[PM]原型与交互设计

原型分类 1.草图原型 手绘图稿, 规划的早期,整理思路会使用 2.低保真原型 简单交互, 无需配色, 黑白灰为主, 产品规划和评审阶段使用 标准化的低保真原型是高保真原型的基础 3.高保真原型 复杂交互, 一般用于公开演示, 产品先产出低保真原型, 设计师根据原型产出设计稿 低保…

Vue3学习体验(一)

搭建工程 使用vue-cli脚手架创建vue3工程 vue create vue3-app-vue-cliVue-cli官网:https://cli.vuejs.org/zh/guide/installation.html 使用vite搭建vue3工程 npm init表示临时的下载vite应用来创建vue3工程,工程名称为vue3-app-vite npm init vit…