如何用LLM和自有知识库搭建智能agent？

用LangChain建立知识库，文末中也推荐其他方案。
项目源码：ChatPDF实现
在这里插入图片描述

LangChain

Indexes使用

对加载的内容进行索引，在indexes中提供了一些功能：

  • Document Loaders，加载文档
  • Text Splitters，文档切分
  • VectorStores，向量存储
  • Retrievers，文档检索

LangChain作为问答可分为4个步骤：

  • Step1，创建索引
  • Step2，从该索引创建Retriever
  • Step3，创建问答链
  • Step4，提问！

ChatTxt实现

LangChain中定义的BaseRetriever，通过get_relevant_documents 函数，可以获取和query相关的文档列表。
在LangChain中使用了Chroma作为向量存储和检索引擎，所以你需要先安装工具箱。

from abc import ABC, abstractmethod
from typing import List
from langchain.schema import Document
class BaseRetriever(ABC):
@abstractmethod
def get_relevant_documents(self, query: str) -> 
List[Document]:
"""Get texts relevant for a query.
Args:
query: string to find relevant texts for
Returns:
List of relevant documents

Chroma是一个用于构建带有embedding的 AI 应用的数据库。

import chromadb
# 获取Chroma Client对象
chroma_client = chromadb.Client()
# 创建Chroma数据集
collection = 
chroma_client.create_collection(name="my_collection")
# 添加数据
collection.add(
documents=["This is an apple", "This is a banana"],
metadatas=[{"source": "my_source"}, {"source": 
"my_source"}],
ids=["id1", "id2"]
)
# 查询数据
results = collection.query(
query_texts=["This is a query document"],
n_results=2
)
results

{‘ids’: [[‘id1’, ‘id2’]],
‘embeddings’: None,
‘documents’: [[‘This is an apple’, ‘This is a banana’]],
‘metadatas’: [[{‘source’: ‘my_source’}, {‘source’: ‘my_source’}]],
‘distances’: [[1.652575969696045, 1.6869373321533203]]}

from langchain.chains import RetrievalQA
from langchain.llms import OpenAI
from langchain.document_loaders import TextLoader
from langchain.indexes import VectorstoreIndexCreator
# 文档加载
loader = TextLoader('./三国演义第1回.txt', encoding='utf8')
# 创建向量索引
index = VectorstoreIndexCreator().from_loaders([loader])
# 检索文档中的内容
query = "桃园三结义是哪三个人"
index.query(query)

更多参考项目源码：
Txt格式实现

LangChain的4种索引方式：

1.stuff
直接把文档作为prompt输入给OpenAI。

2.map_reduce
对于每个chunk做一个prompt（回答或者摘要），然后再做合并。

3.refine
在第一个chunk上做prompt得到结果，然后合并下一个文件再输出结果。

4.map_rerank
对每个chunk做prompt，然后打个分，然后根据分数返回最好的文档中的结果。

ChatPDF实现

方法1

from langchain.document_loaders import PyPDFLoader
from langchain.vectorstores import Chroma
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.document_loaders import UnstructuredPDFLoader
from langchain.llms import OpenAI
from langchain.chains.question_answering import load_qa_chain# 读取本地知识
loader = UnstructuredPDFLoader("三国演义第一回.pdf")
pages = loader.load_and_split()
embeddings = OpenAIEmbeddings()
docsearch = Chroma.from_documents(pages, embeddings).as_retriever()query = "桃园三结义都有谁"
docs = docsearch.get_relevant_documents(query)
chain = load_qa_chain(OpenAI(temperature=0), chain_type="stuff")
output = chain.run(input_documents=docs, question=query)
print(output)

方法2

相对完整版的ChatPDF：

Step1，生成embedding，保存到本地

1.加载PDF，得到文本 content。
2.将content切分成多个docs，设置每个doc的max_length，比如 max_length=300。
3.设置embedding编码方法，比如OpenAIEmbeddings，并对docs进行embedding。
4.持久化到本地目录，比如 db文件夹

Step2，用户query
1.检索相关docs（可以设置 Topk= 4）
2.使用 load_qa_chain，设置input_documents参数
3.得到Answer

import os
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import Chroma
from langchain.document_loaders import TextLoader
from langchain.chains.question_answering import load_qa_chain
from langchain.chat_models import ChatOpenAI
from langchain.prompts import PromptTemplate# os.environ["OPENAI_API_KEY"] = "{your-api-key}"global retriever
def load_embedding():global retriever# 使用OpenAI Embeddingembedding = OpenAIEmbeddings()# 指定了persist_directory, 所以在本地会有db文件夹，保存持久化结果vectordb = Chroma(persist_directory='db', embedding_function=embedding)# 检索Top4retriever = vectordb.as_retriever(search_kwargs={"k": 4})# 基于query进行问答
def prompt(query):prompt_template = """请注意：请谨慎评估query与提示的Context信息的相关性，只根据本段输入文字信息的内容进行回答，如果query与提供的材料无关，请回答"我不知道"，另外也不要回答无关答案：Context: {context}Question: {question}Answer:"""PROMPT = PromptTemplate(input_variables=["context", "question"],template=prompt_template)# 从向量数据库中，检索出Top5相似文档docs = retriever.get_relevant_documents(query)print('docs=', docs)print('len(docs)=', len(docs))# 基于docs来prompt，返回你想要的内容chain = load_qa_chain(ChatOpenAI(temperature=0), chain_type="stuff", prompt=PROMPT)result = chain({"input_documents": docs, "question": query}, return_only_outputs=True)return result['output_text']
#%%
# 加载embedding
load_embedding()
print('hhhhh')
query = "桃园三结义都有谁"
#query = "曹操都有哪些部将"print("Query:" + query + '\nAnswer:' + prompt(query) + '\n')

ChatPDF实现原理

加载文件 -> 读取文本-> 文本分割 -> 文本向量化-> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的top k个-> 匹配出的文本作为上下文和问题一起添加到 prompt 中-> 提交给 LLM 生成回答。

在这里插入图片描述

在这里插入图片描述

LangChain + ChatGLM

https://github.com/imClumsyPanda/langchain-ChatGLM

# 加载Google云硬盘
from google.colab import drive
drive.mount('/content/drive’)
# 拉取仓库
%cd /content/drive/MyDrive/chatglm/langchain-ChatGLM
!pip install -r requirements.txt
!pip install gradio==3.28.3
# 下载模型
%cd /content/drive/MyDrive/chatglm/langchain-ChatGLM
!git clone https://huggingface.co/THUDM/chatglm-6b-int4
!git clone https://huggingface.co/GanymedeNil/text2veclarge-chinese
#修改web.py和model_config.py文件
!sed -i 's/share=False/share=True/g' 
/content/drive/MyDrive/chatglm/langchainChatGLM/webui.py
!sed -i 's/GanymedeNil\/text2vec-largechinese/\/content\/drive\/MyDrive\/chatglm\/langchainChatGLM\/text2vec-large-chinese/g' 
/content/drive/MyDrive/chatglm/langchainChatGLM/configs/model_config.py
……

在这里插入图片描述

ChatPDF实现场景

典型的使用场景：

  • 项目经理角色：项目管理文档 + LLM
  • 新车导购角色：新车导购文章 + LLM
  • 二手车专家：二手车鉴定文档 + LLM
  • 老中医角色： 中医问诊文档 + LLM
  • 智能客服：客服聊天记录 + LLM
  • 律师角色：律师咨询记录 + LLM
  • HR角色：考勤绩效手册 + LLM

一个典型的prompt模板

已知信息：
{context} 根据上述已知信息，简洁和专业的来回答用户的问题。如果无法从中得到答案，请说 "根据已知信息无法回答该问题" 或 "没有提供足够的相关信息"，不允许在答案中添加编造成分，答案请使用中文。
问题是：{question}

向量数据库

存储embedding的数据库称为向量数据库。ChatGPT中的Transformer结构需要对知识进行Embedding。
在这里插入图片描述
在这里插入图片描述

其他知识库方案

https://chat.openai.com/g/g-V2KIUZSj0-ai-pdf

Ai PDF是基于GPT的一个PDF文档处理工具，具有以下特点:

  • 可以处理体积高达2GB的单个PDF文件，没有限制。
  • 支持在http://myaidrive.com免费账号下上传大量PDF，无需重复上传文件。
  • PRO版本可以在数千个PDF中进行检索，并可以处理扫描的OCR文档。
  • 可以为长度较长的文档生成高质量的摘要。
  • 利用GPT的能力从PDF中提取信息，进行问答。
  • 整体而言，Ai PDF致力于提供PDF文档处理、搜索、摘要和问答等功能,可以节省人工查阅PDF的大量时间，提高工作效率。
  • 该服务正在不断完善中，需要用户签约才能使用ChatGPT进行互动。

https://github.com/imartinez/privateGPT

这是一个开源项目，让用户可以利用GPT的力量与自己的文档进行交互,完全本地运行，不会泄露用户数据。用户可以导入各种文档，然后用自然语言提出问题，GPT会基于这些文档给出回答。

https://github.com/nomic-ai/gpt4all

它提供了开源的GPT聊天机器人，可以在本地环境运行,不需要连接外部API。支持多种编程语言实现，可以自定义训练来优化对话效果。

https://github.com/PromtEngineer/localGPT

这也是一个本地运行GPT模型的开源项目。用户可以将文档导入本地，GPT模型会基于这些文档内容来回答用户提出的问题，保护了用户隐私。

https://filegpt.app/

这是一个商业化的工具，同样可以让用户与各种格式的文档和内容进行自然语言交互,获取精确的回复。它支持PDF、Word文档、文本、音频、视频等多种格式。

https://www.popai.pro/

这是一个面向个人的AI工作空间服务，用户可以自定义训练模型来优化不同的任务,如写作、总结、问答等。它提供了可视化的训练监控界面。主要面向企业用户。

https://www.humata.ai/

Humata是一个利用AI技术让用户可以与各种数据文档进行自然语言交互的工具。

https://askwise.ai/

askwise.ai是一个基于GPT的知识助手服务。

结语

知识就是力量，AI生成筑高楼。

欢迎留言交流！

我是李孟聊AI，独立开源软件开发者，SolidUI作者，对于新技术非常感兴趣，专注AI和数据领域，如果对我的文章内容感兴趣，请帮忙关注点赞收藏，谢谢！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/623210.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

开发实践5_后台管理^/ 分_页器

开发实践5_后台管理^/ 分_页器

以下学习 朔宁夫 开发课 。（Python） 一 基本使用 创建超级用户 terminal // python manage.py createsuperuser 访问地址 //Log in | Django site adminhttp://127.0.0.1:8000/admin/login/?next/admin/ superuserr login django自带admin功能。其…
阅读更多...
一文读懂「Prompt Engineering」提示词工程

一文读懂「Prompt Engineering」提示词工程

在了解提示过程之前，先了解一下什么是提示prompt，见最后附录部分 一、什么是Prompt Engingering？ 提示工程（Prompt Engingering），也被称为上下文提示（In-Context Prompting）&#x…
阅读更多...
Django项目中的默认文件都有什么用

Django项目中的默认文件都有什么用

manager.py： 是django用于管理本项目的命令行工具，之后进行站点运行，数据库自动生成等都是通过本文件完成。 djangoStudy/__init__.py： 告诉python该目录是一个python包，暂无内容，后期一些工具的初始化可…
阅读更多...
【数据库】间隙锁Gap Lock

【数据库】间隙锁Gap Lock

什么是间隙锁 间隙锁（Gap Lock）：间隙锁是（RR级别下）一个在索引记录之间的间隙上的锁，可以是两个索引记录之间，也可能是第一个索引记录之前或最后一个索引之后的空间。间隙锁（Gap Lo…
阅读更多...
Github登录时,要二次验证.Github 2FA登录问题

Github登录时,要二次验证.Github 2FA登录问题

2023下半年, Github登录时,要二次验证. 点击“Enable 2FA now”跳到2FA验证界面。 点setup key是到secret串。 这里有一个可以不用app的验证方法。填入secret串,运行后,会得到验证码. https://blog.csdn.net/dejavu_980323/article/details/132318107 按照这个文章,得到验证…
阅读更多...
分布式任务调度平台XXL-JOB使用（二）

分布式任务调度平台XXL-JOB使用（二）

说明：之前总结过在CentOS系统里使用XXL-JOB。但在代码开发阶段，我们有时需要在本地环境测试定时任务代码，本文介绍如何在Windows系统使用XXL-JOB。 下载 （1）下载代码，解压打开 首先，去Github…
阅读更多...
在Android原生项目中 创建 Flutter模块

在Android原生项目中 创建 Flutter模块

前言 应用场景：在已有的Android原生项目中，引入Flutter模块，摸索了两天，终于给整出来了； 如果是新项目，最好直接创建Flutter项目，然后在Fluter的 android / ios目录中，写原生代码&…
阅读更多...
深思熟虑可能性模型介绍与使用

深思熟虑可能性模型介绍与使用

深思熟虑可能性模型介绍与使用 如何联系我 作者：鲁伟林 邮箱：thinking_fioa163.com或vlinyes163.com 版权声明：文章和记录为个人所有，如果转载或个人学习，需注明出处，不得用于商业盈利行为。 背景 20…
阅读更多...
[牛客周赛复盘] 牛客周赛 Round 28 20240114

[牛客周赛复盘] 牛客周赛 Round 28 20240114

[牛客周赛复盘] 牛客周赛 Round 28 20240114 总结A\B1. 题目描述2. 思路分析3. 代码实现 小红的炸砖块1. 题目描述2. 思路分析3. 代码实现 小红统计区间（easy）1. 题目描述2. 思路分析3. 代码实现 小红的好数组1. 题目描述2. 思路分析3. 代码实现 小红统…
阅读更多...
PPT插件-大珩助手-保留原素材的位置和大小一键替换

PPT插件-大珩助手-保留原素材的位置和大小一键替换

保留原素材的位置和大小一键替换 若勾选了一键替换，对于从素材库插入的图形，可以使得它的位置、大小与幻灯片中选中的形状一致 软件介绍 PPT大珩助手是一款全新设计的Office PPT插件，它是一款功能强大且实用的PPT辅助工具，支持W…
阅读更多...
在众多的材质中选择灰口铸铁铸造划线平台、铸铁平台等的原因——河北北重

在众多的材质中选择灰口铸铁铸造划线平台、铸铁平台等的原因——河北北重

使用灰口铸铁制作铸铁平台和划线平台的主要原因有以下几点： 强度高：灰口铸铁具有较高的强度和硬度，能够承受较大的载荷和冲击力。这使得灰口铸铁非常适合制作需要承受重压和磨损的平台和设备。 耐磨性好：灰口铸铁具有较高的耐磨性…
阅读更多...
MySQL的多版本并发控制(MVCC)

MySQL的多版本并发控制(MVCC)

MVCC MVCC，是Multiversion Concurrency Control的缩写，翻译过来是多版本并发控制，和数据库锁样，他也是一种并发控制的解决方案 我们知道，在数据库中，对数据的操作主要有2种，分别是读和写&…
阅读更多...
MetaGPT学习笔记 - task1task2

MetaGPT学习笔记 - task1task2

章节：task1&task2 一.github地址：github.com/geekan/MetaGPT 二.MetaGPT: 多智能体框架​ 使 GPT 以软件公司的形式工作，协作处理更复杂的任务 MetaGPT输入一句话的老板需求，输出用户故事 / 竞品分析 / 需求 / 数据结构 / A…
阅读更多...
1115: 数组最小值（数组）

1115: 数组最小值（数组）

题目描述 数组a有n个元素&#xff0c;请输出n个元素的最小值及其下标。若最小值有多个&#xff0c;请输出下标最小的一个。注意&#xff0c;有效下标从0开始。 输入 输入分两行&#xff0c;第一行是一个正整数n&#xff08;n<1000)&#xff0c;第二行是n个整数。 输出 …
阅读更多...
Makefile编译原理 变量的使用

Makefile编译原理 变量的使用

一.变量和不同的赋值方法 ->makefile中支持程序设计语言中变量的概念 ->makefile中的变量只代表文本数据&#xff08;字符串&#xff09; ->makefile中的变量名规则 - 变量名可以包含字符&#xff0c;数字&#xff0c;下划线。 - 不能包含 ":" "#&…
阅读更多...
你好2024，OpenStreetMap 20 周岁

你好2024，OpenStreetMap 20 周岁

2004年&#xff0c;OpenStreetMap在英国诞生。2024年&#xff0c;OpenStreetMap 满 20 周岁&#xff0c;其愿景是创建一个免费的、可编辑的世界地图。当时&#xff0c;地图数据的获取往往受到限制或价格昂贵1。 经过20年的发展&#xff0c;该数据集合成为了最为全面的街道级别开…
阅读更多...
宿舍维修管理系统：从数据库到前端的全面解析

宿舍维修管理系统：从数据库到前端的全面解析

✍✍计算机编程指导师 ⭐⭐个人介绍&#xff1a;自己非常喜欢研究技术问题&#xff01;专业做Java、Python、微信小程序、安卓、大数据、爬虫、Golang、大屏等实战项目。 ⛽⛽实战项目&#xff1a;有源码或者技术上的问题欢迎在评论区一起讨论交流&#xff01; ⚡⚡ Java实战 |…
阅读更多...
[openGL]在ubuntu20.06上搭建openGL环境

[openGL]在ubuntu20.06上搭建openGL环境

就在刚刚, 我跑上了一个6小时后出结果的测试程序. 离下班还有很久, 于是我打开了接单群 , 发现了很多可以写的openGL项目. 但是!!我的电脑现在是ubuntu呀, 但是不要慌!!!接下来我一步一步教你如何完美搭建一个ubuntu上的openGL环境. 保证一个坑也不会踩! 文章目录 创建项目工作…
阅读更多...
《Git学习笔记：IDEA整合Git》

《Git学习笔记：IDEA整合Git》

在IDEA中集成Git去使用 通过Git命令可以完成Git相关操作&#xff0c;为了简化操作过程&#xff0c;我们可以在IDEA中配置Git&#xff0c;配置好后就可以在IDEA中通过图形化的方式来操作Git。 在IDEA开发工具中可以集成Git&#xff1a; 集成后在IDEA中可以看到Git相关图标&…
阅读更多...
【MySQL】mysql集群

【MySQL】mysql集群

文章目录 一、mysql日志错误日志查询日志二进制日志慢查询日志redo log和undo log 二、mysql集群主从复制原理介绍配置命令 读写分离原理介绍配置命令 三、mysql分库分表垂直拆分水平拆分 一、mysql日志 MySQL日志 是记录 MySQL 数据库系统运行过程中不同事件和操作的信息的文件…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023