用通俗易懂的方式讲解：大模型 RAG 在 LangChain 中的应用实战

Retrieval-Augmented Generation（RAG）是一种强大的技术，能够提高大型语言模型（LLM）的性能，使其能够从外部知识源中检索信息以生成更准确、具有上下文的回答。

本文将详细介绍 RAG 在 LangChain 中的应用，以及如何构建一个简单的 RAG 管道。

LangChain 是什么

LangChain 是一个强大的自然语言处理工具，提供了丰富的功能来简化文本处理和信息检索任务。它的强大之处在于可以无缝集成不同的组件，从而构建复杂的文本处理管道。

RAG 是什么

RAG 的核心思想是将语言模型（LLM）与检索模块结合起来，使其能够利用外部知识源的信息。这有助于生成更加准确和上下文相关的回答，从而减少幻觉（hallucination）的风险。

RAG 工作原理分为两个主要阶段：

索引阶段

该阶段是信息检索系统中的一个关键步骤，旨在将原始数据（例如文档、文本等）进行处理和组织，以便后续能够更快速、有效地检索和获取相关信息。

以下是索引阶段的主要组成部分：

  1. 索引： 数据被处理成一个索引结构，其中特定的信息块被赋予唯一的标识符或值。索引结构充当后续检索操作的入口，加速信息查找的过程。

  2. 文档加载器： 负责从各种来源（如私有S3存储桶、信息网站、社交平台等）获取原始数据。文档加载器的任务是将原始数据导入系统，以便进行后续的处理和索引。

  3. 文档转换器： 对原始文档进行处理，将其转换成更容易处理的形式。这可能包括将大型文档分解为小块，准备文档以便后续的信息检索。

  4. 文本嵌入模型： 一旦文档被转换，系统会使用文本嵌入模型为文本创建嵌入。嵌入捕捉文本的潜在语义含义，使得后续的检索可以更准确地匹配用户查询。

  5. 向量存储： 为了存储处理后的数据和相应的嵌入，系统提供与多种向量存储的连接。

检索和生成阶段

该阶段是信息检索系统中的两个关键步骤，涉及根据用户的查询检索相关信息并生成自然语言响应。以下是的主要组成部分：

  1. 检索： 在用户提出问题时，系统使用检索器从存储中获取与用户需求相关的信息。这类似于搜索引擎，系统寻找匹配用户问题的数据片段。

  2. 生成： 获取所需信息后，ChatModel 或大语言模型（LLM）介入，通过将用户的问题与获取的数据结合，生成自然而直接相关的响应。

RAG 的工作流程

在这里插入图片描述

RAG 的工作流程主要分为三个步骤：检索、增强和生成。

  • 检索： 使用用户查询从外部知识源中检索相关上下文。将用户查询嵌入到向量空间中，与向量数据库中的附加上下文进行相似性搜索，返回前 N 个最接近的数据对象。

  • 增强： 使用用户查询和检索到的附加上下文填充提示模板。

  • 生成： 将经过检索增强的提示传递给LLM。

通俗易懂讲解大模型系列

  • 用通俗易懂的方式讲解：一文讲清大模型 RAG 技术全流程

  • 用通俗易懂的方式讲解：如何提升大模型 Agent 的能力?

  • 用通俗易懂的方式讲解：使用 Mistral-7B 和 Langchain 搭建基于PDF文件的聊天机器人

  • 用通俗易懂的方式讲解：ChatGPT 开放的多模态的DALL-E 3功能，好玩到停不下来！

  • 用通俗易懂的方式讲解：结合检索和重排序模型，改善大模型 RAG 效果明显

  • 用通俗易懂的方式讲解：基于扩散模型（Diffusion）,文生图 AnyText 的效果太棒了

  • 用通俗易懂的方式讲解：在 CPU 服务器上部署 ChatGLM3-6B 模型

  • 用通俗易懂的方式讲解：ChatGLM3-6B 功能原理解析

  • 用通俗易懂的方式讲解：使用 LangChain 和大模型生成海报文案

  • 用通俗易懂的方式讲解：一个强大的 LLM 微调工具 LLaMA Factory

  • 用通俗易懂的方式讲解：ChatGLM3-6B 部署指南

  • 用通俗易懂的方式讲解：LangChain Agent 原理解析

  • 用通俗易懂的方式讲解：HugggingFace 推理 API、推理端点和推理空间使用详解

  • 用通俗易懂的方式讲解：使用 LangChain 封装自定义的 LLM，太棒了

  • 用通俗易懂的方式讲解：使用 FastChat 部署 LLM 的体验太爽了

  • 用通俗易懂的方式讲解：基于 Langchain 和 ChatChat 部署本地知识库问答系统

  • 用通俗易懂的方式讲解：使用 Docker 部署大模型的训练环境

  • 用通俗易懂的方式讲解：在 Ubuntu 22 上安装 CUDA、Nvidia 显卡驱动、PyTorch等大模型基础环境

  • 用通俗易懂的方式讲解：Llama2 部署讲解及试用方式

  • 用通俗易懂的方式讲解：LangChain 知识库检索常见问题及解决方案

  • 用通俗易懂的方式讲解：基于 LangChain 和 ChatGLM2 打造自有知识库问答系统

  • 用通俗易懂的方式讲解：代码大模型盘点及优劣分析

  • 用通俗易懂的方式讲解：Prompt 提示词在开发中的使用

  • 用通俗易懂的方式讲解：万字长文带你入门大模型

技术交流

技术要学会分享、交流，不建议闭门造车。一个人可以走的很快、一堆人可以走的更远。

相关资料、数据、技术交流提升，均可加我们的交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。

方式①、添加微信号：mlc2060，备注：来自CSDN + 技术交流
方式②、微信搜索公众号：机器学习社区，后台回复：加群

在这里插入图片描述

配置与准备

在开始使用 LangChain 之前，首先需要安装必要的依赖。以下是配置OpenAI 环境和安装所需依赖项的代码：

!pip install openai --quiet
!pip install langchain --quiet
!pip install docx2txt --quiet
!pip install weaviate-client --quiet

然后，配置 OpenAI 环境的代码如下：

import os# 设置OpenAI API密钥
os.environ["OPENAI_API_KEY"] = "YOUR_OPENAI_API_KEY"

文档处理与分段

接下来，加载并处理示例文档。这包括使用文档加载器加载文档，然后将其分成较小的段落。

from langchain.document_loaders import Docx2txtLoader
from langchain.text_splitter import CharacterTextSplitter# 加载文档
document_path = "文件路径"
loader = Docx2txtLoader(document_path)
documents = loader.load()# 分割文档
text_splitter = CharacterTextSplitter(chunk_size=300, chunk_overlap=0)
texts = text_splitter.split_documents(documents)

文本嵌入与向量存储

现在，使用 LangChain 进行文本嵌入和向量存储，以便后续的检索操作。

from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import Weaviate# 初始化 OpenAI 嵌入模型
embeddings = OpenAIEmbeddings()# 创建Weaviate向量数据库
vectorstore = Weaviate.from_documents(client=weaviate.Client(embedded_options=EmbeddedOptions()),documents=texts,embedding=embeddings,by_text=False
)

检索链的创建

接下来，将演示如何在 LangChain 中创建检索链。使用一个示例文档，并将其分段以便进行更有效的检索。

基于文档填充的检索链
from langchain.chains import RetrievalQA# 创建 RetrievalQA 检索链
retriever = vectorstore.as_retriever()
qa = RetrievalQA.from_chain_type(llm=ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0), chain_type="stuff", retriever=retriever)# 运行查询
query = "这文档里都有什么内容?"result = qa_map_reduce.run(query)
print(result)

Map-Reduce 文档链

from langchain.chains import RetrievalQA# 构建 Map-Reduce文档链
retriever = vectorstore.as_retriever()
qa_map_reduce = RetrievalQA.from_chain_type(llm=OpenAI(), chain_type="map_reduce", retriever=retriever)# 运行查询
query = "这文档里都有什么内容?"result = qa_map_reduce.run(query)
print(result)

优化文档链

from langchain.chains import RetrievalQA# 构建优化文档链
retriever = vectorstore.as_retriever()
qa_refine = RetrievalQA.from_chain_type(llm=OpenAI(), chain_type="refine", retriever=retriever)# 运行查询
query = "这文档里都有什么内容?"result = qa_refine.run(query)
print(result)

RAG 实现示例

1. 基础设置和文档处理：通过 LangChain 处理文本数据，将其嵌入为向量，并通过 Weaviate 向量数据库，为文本搜索或相似性匹配提供支持。

import requests
from weaviate import Weaviate, Client, EmbeddedOptions
from weaviate.language_embedding.vectorization import OpenAIEmbeddings
from weaviate.util import CharacterTextSplitter, TextLoader
import dotenv# 加载环境变量
dotenv.load_dotenv()# 下载数据
url = "https://raw.githubusercontent.com/langchain-ai/langchain/master/docs/docs/modules/state_of_the_union.txt"
res = requests.get(url)
with open("state_of_the_union.txt", "w") as f:f.write(res.text)# 使用 TextLoader 加载文本
loader = TextLoader('./state_of_the_union.txt')
documents = loader.load()# 使用 CharacterTextSplitter 拆分文本成小块
text_splitter = CharacterTextSplitter(chunk_size=500, chunk_overlap=50)
chunks = text_splitter.split_documents(documents)# 初始化 Weaviate 客户端
client = Client(embedded_options=EmbeddedOptions())# 在 Weaviate 中创建向量存储
vectorstore = Weaviate.from_documents(client=client,documents=chunks,embedding=OpenAIEmbeddings(),by_text=False
)

2. 构建 RAG Pipline：使用 RAG 模型进行问答对话，通过检索上下文信息来支持生成更精准的回答。

from langchain.prompts import ChatPromptTemplate
from langchain.chat_models import ChatOpenAI
from langchain.schema.runnable import RunnablePassthrough
from langchain.schema.output_parser import StrOutputParser# 定义检索器
retriever = vectorstore.as_retriever()# 准备中文prompt模板
template = """你是一个用于问答任务的助手。
使用以下检索到的上下文片段来回答问题。
如果你不知道答案，只需说你不知道。
最多使用三句话，保持回答简洁。
问题: {question}
上下文: {context}
回答:
"""
prompt = ChatPromptTemplate.from_template(template)# 定义LLM
llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0)# 构建RAG链
rag_chain = ({"context": retriever,  "question": RunnablePassthrough()} | prompt | llm| StrOutputParser() 
)# 运行RAG链
query = "总结内容并列出关键词."
result = rag_chain.invoke(query)
print(result)

以上就是一个简单的 RAG Pipline 的构建和运行过程。通过这种方式，LangChain 提供了一种方便而强大的方法来实现检索增强生成任务，使得语言模型能够更好地利用外部知识源来提高其性能。

总结

LangChain 提供了丰富的组件和功能，使得 RAG 的实现变得简单而灵活。通过检索增强生成，使我们能够充分利用大语言模型和外部知识源，生成更加准确和具有上下文的回答，从而提高自然语言处理任务的性能。

引用

  1. https://github.com/langchain-ai/langchain
  2. https://python.plainenglish.io/rag-using-langchain-c371fcd02d13
  3. https://towardsdatascience.com/retrieval-augmented-generation-rag-from-theory-to-langchain-implementation-4e9bd5f6a4f2

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/610289.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

愤怒的小红帽

愤怒的小红帽

欢迎来到程序小院 愤怒的小红帽 玩法：帮助小红帽安全送达老奶奶家，当狼进入靶子以后鼠标对准靶子， 点击鼠标左键🏹，对应的狼就会被射死，然后继续往前冲，快去🏹吧^^。开始游戏https:…
阅读更多...
Jmeter压缩包安装

Jmeter压缩包安装

JMeter安装及配置-Mac 本章要点 前置条件命令行安装压缩包安装 在Mac上安装对应的JMeter工具有两种方式：一种直接借助终端命令行brew进行安装；另外一种和Window电脑一样去JMeter官网下载压缩包安装。 JMeter不需要安装，但是JMeter作为java应用…
阅读更多...
伺服电机：伺服电机的控制方式（脉冲控制）

伺服电机：伺服电机的控制方式（脉冲控制）

脉冲控制是伺服系统最常见的一种控制方式，基本上每家的伺服驱动器都支持脉冲模式。脉冲模式一般用于轴比较少的场合（4轴及以下），轴数比较多的话就需要用总线来控制，毕竟伺服控制器的脉冲输入输出口的数量是有限的。 一…
阅读更多...
Hive分区表实战 - 单分区字段

Hive分区表实战 - 单分区字段

文章目录 一、实战概述二、实战步骤（一）创建图书数据库（二）创建国别分区的图书表（三）在本地创建数据文件（四）按分区加载数据1、加载中文书籍数据到countrycn分区2、加载英文书籍数据…
阅读更多...
安全技能讲座 - 便携式灭火器 (Portable Fire Extinguishers )

安全技能讲座 - 便携式灭火器 (Portable Fire Extinguishers )

【Transcript 】 火灾随时随地都可能发生，而且毫无征兆。如果您在家中或工作中遇到火灾，便携式灭火器可以帮助您保护自己，并有可能将火灾扼杀在摇篮中。本课程将向您介绍便携式灭火器、其工作原理和使用方法。成功完成本课程后，您…
阅读更多...
字节跳动今年的校招薪资。。。

字节跳动今年的校招薪资。。。

字节跳动校招情况分析 在写完了绝对顶流 华为 和近两年炙手可热的 比亚迪 的校招薪资之后，不少同学点名要看「字节跳动」。 确实，玩归玩，闹归闹，别拿字节开玩笑。 先来看看和公众号读者相关性较高的岗位校待遇： 研发算…
阅读更多...
three.js实现电子围栏效果（纹理贴图）

three.js实现电子围栏效果（纹理贴图）

three.js实现电子围栏效果&#xff08;纹理贴图&#xff09; 实现步骤 围栏的坐标坐标转换为几何体顶点&#xff0c;uv顶点坐标加载贴图&#xff0c;移动 图例 代码 <template><div class"app"><div ref"canvesRef" class"canvas-…
阅读更多...
Linux的网络配置命令和网络设置实操

Linux的网络配置命令和网络设置实操

目录 一、网路命令 1.ifconfig 2.hostname 3.route 4.netstat 5.ss&#xff08;socket statistics&#xff09; 6.ping 7.nslookup 8.tcpdump 二、实操 1.单个网卡修改 2.双网卡配置 3.bond网卡绑定 一、网路命令 查看Linux基础的网络设置 网关route -nIP地址ifc…
阅读更多...
算法与数据结构--最小生成树算法

算法与数据结构--最小生成树算法

一.应用的场景 类似于这种最小成本问题&#xff0c;实际上就是计算加权图把所有点连起来权重之和最小值的时候是怎么连接的。类似的问题还有最短耗时之类的问题。 二.最小生成树的定义 生成树&#xff1a; 图的生成树是它的一颗含有其所有顶点的无环连通子图。 【简单说就是所…
阅读更多...
Java中的IO流

Java中的IO流

在Java中&#xff0c;I/O&#xff08;输入/输出&#xff09;流用于处理与输入和输出相关的操作。Java的I/O流按照数据处理的不同方式分为两大类&#xff1a;字节流和字符流。每个类别又分为输入流和输出流。以下是Java中常用的I/O流及其继承关系&#xff1a; 字节流&#xff0…
阅读更多...
BERT Intro

BERT Intro

继续NLP的学习&#xff0c;看完理论之后再看看实践&#xff0c;然后就可以上手去kaggle做那个入门的project了orz。 参考&#xff1a; 1810.04805.pdf (arxiv.org) BERT 论文逐段精读【论文精读】_哔哩哔哩_bilibili (强推!)2023李宏毅讲解大模型鼻祖BERT&#xff0c;一小时…
阅读更多...
竞赛保研 基于深度学习的动物识别 - 卷积神经网络 机器视觉 图像识别

竞赛保研 基于深度学习的动物识别 - 卷积神经网络 机器视觉 图像识别

文章目录 0 前言1 背景2 算法原理2.1 动物识别方法概况2.2 常用的网络模型2.2.1 B-CNN2.2.2 SSD 3 SSD动物目标检测流程4 实现效果5 部分相关代码5.1 数据预处理5.2 构建卷积神经网络5.3 tensorflow计算图可视化5.4 网络模型训练5.5 对猫狗图像进行2分类 6 最后 0 前言 &#…
阅读更多...
探索芊芊简历：一个革新的简历创建工具

探索芊芊简历：一个革新的简历创建工具

在寻找理想工作的道路上&#xff0c;一份出色的简历是打开机遇之门的关键。今天&#xff0c;我想向大家介绍一款名为“芊芊简历”的免费简历编辑器&#xff0c;它以其独特的功能和先进的技术&#xff0c;为求职者提供了一个简单而高效的简历制作解决方案。 丰富多样的模板&…
阅读更多...
虚拟局域网的基本概念与基本原理

虚拟局域网的基本概念与基本原理

虚拟局域网&#xff08;Virtual Local Area Network&#xff0c;VLAN&#xff09;是一种在物理局域网内部划分逻辑上独立的虚拟网络的方法。它通过在网络交换机上配置&#xff0c;将不同的设备分组到不同的虚拟网络中&#xff0c;实现了逻辑上分隔的网络通信。本文将介绍虚拟局…
阅读更多...
北京大学漏洞报送证书

北京大学漏洞报送证书

获取来源&#xff1a;edusrc&#xff08;教育漏洞报告平台&#xff09; url&#xff1a;教育漏洞报告平台(EDUSRC) 兑换价格&#xff1a;30金币 获取条件&#xff1a;北京大学任意中危或以上级别漏洞
阅读更多...
【排序】快速排序

【排序】快速排序

思想 快速排序是一种基于分治策略的排序算法&#xff0c;其核心思想通过选取一个基准元素&#xff0c;将数组分成两个子数组&#xff1a;一个包含小于基准元素的值&#xff0c;另一个包含大于基准元素的值。然后递归地对这两个子数组进行排序&#xff0c;最终将它们合并起来&a…
阅读更多...
UltraScale 和 UltraScale+ 生成已加密文件和已经过身份验证的文件

UltraScale 和 UltraScale+ 生成已加密文件和已经过身份验证的文件

注释 &#xff1a;如需了解更多信息&#xff0c;请参阅《使用加密和身份验证确保 UltraScale/UltraScale FPGA 比特流的安全》 (XAPP1267)。 要生成加密比特流&#xff0c;请在 Vivado IDE 中打开已实现的设计。在主工具栏中&#xff0c;依次选择“Flow” → “Bitstream Setti…
阅读更多...
解决在eclipse2021中，用mysql-connector-java-8.0.18.jar不兼容，导致无法访问数据库问题

解决在eclipse2021中，用mysql-connector-java-8.0.18.jar不兼容，导致无法访问数据库问题

1.环境场景 组件版本mysql5.7.44mysql-connector-java80.18 2. 问题描述 报mysql-connector-java 驱动连不上mysql数据库。 3. 可能的原因分析 查看数据库连接句柄是否对 如果数据库连接句柄中没有 useSSLfalse 的话可能会导致这样的问题。 就像下面这样&#xff1a; jdb…
阅读更多...
FRPS配置服务端（腾讯云）、客户端（PC电脑Windows、树莓派Debian）并设置虚拟域名

FRPS配置服务端（腾讯云）、客户端（PC电脑Windows、树莓派Debian）并设置虚拟域名

1.服务端&#xff08;腾讯云&#xff09;&#xff1a;frps.ini [common] bind_port 7000 vhost_http_port8080 vhost_https_port44344 dashboard_port 7500 privilege_token your_password subdomain_host example.com use_encryption true encryption_method tls dashb…
阅读更多...
搭建zuul网关

搭建zuul网关

1. 路由知识 有关网关的很多知识我们都在04.gateway讲解了&#xff0c;有关网关的详细知识可以到上节详细了解。本节我们主要来讲解下另一个网关zuul。本节结合之前的章节网关搭建的项目案例上实现zuul的搭建&#xff0c;侧重于实战。 2. Zuul现状 zuul官方文档 zuul截止clo…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023