手把手教你基于 FastGPT 搭建个人知识库

前言 大家好，我是潇潇雨声。我发现在使用 GPT 时，尽管它能够生成一些小红书文案和日志，但内容常常显得空洞缺乏深度。今天我想分享一个解决这个问题的方法，那就是基于开源项目 FastGPT[1]。

我们可以通过向 GPT 提供一些有针对性的资料，然后让 AI 根据这些文档进行交互式对话，回答我们的问题。虽然回答的质量可能不会达到极高水平，但至少可以提高一定的质量下限。这就有点像使用 GPT 进行有针对性的训练。

接下来，我将带你安装并使用 FastGPT。

FastGPT

官方简介

❝

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！

❞

知识库核心流程图

一，安装 FastGPT

  1. 安装 Docker

如果没有安装 Docker 可以参考我之前写的 手把手教你在 windows 上安装 Dcoker

  1. 创建配置文件
  • 创建 docker-compose.yml 
# 非 host 版本, 不使用本机代理
# (不懂 Docker 的，只需要关心 OPENAI_BASE_URL 和 CHAT_API_KEY 即可！)
version: '3.3'
services:
  pg:
    image: ankane/pgvector:v0.5.0 # git
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.5.0 # 阿里云
    container_name: pg
    restart: always
    ports: # 生产环境建议不要暴露
      - 5432:5432
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后，重启镜像是不会生效的。需要把持久化数据删除再重启，才有效果
      - POSTGRES_USER=username
      - POSTGRES_PASSWORD=password
      - POSTGRES_DB=postgres
    volumes:
      - ./pg/data:/var/lib/postgresql/data
  mongo:
    image: mongo:5.0.18
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云
    container_name: mongo
    restart: always
    ports: # 生产环境建议不要暴露
      - 27017:27017
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后，重启镜像是不会生效的。需要把持久化数据删除再重启，才有效果
      - MONGO_INITDB_ROOT_USERNAME=username
      - MONGO_INITDB_ROOT_PASSWORD=password
    volumes:
      - ./mongo/data:/data/db
  fastgpt:
    container_name: fastgpt
    image: ghcr.io/labring/fastgpt:latest # git
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest # 阿里云
    ports:
      - 3000:3000
    networks:
      - fastgpt
    depends_on:
      - mongo
      - pg
    restart: always
    environment:
      # root 密码，用户名为: root
      - DEFAULT_ROOT_PSW=1234
      # 中转地址，如果是用官方号，不需要管。务必加 /v1
      - OPENAI_BASE_URL=https://api.openai.com/v1
      - CHAT_API_KEY=替换成你的OPENAI-KEY
      - DB_MAX_LINK=5 # database max link
      - TOKEN_KEY=any
      - ROOT_KEY=root_key
      - FILE_TOKEN_KEY=filetoken
      # mongo 配置，不需要改. 如果连不上，可能需要去掉 ?authSource=admin
      - MONGODB_URI=mongodb://username:password@mongo:27017/fastgpt?authSource=admin
      # pg配置. 不需要改
      - PG_URL=postgresql://username:password@pg:5432/postgres
    volumes:
      - ./config.json:/app/data/config.json
networks:
  fastgpt:

「注意:需要将 CHAT_API_KEY 的值换成自己 openai key。」

  • 再创建 config.json 
{
    "SystemParams": {
      "pluginBaseUrl": "",
      "vectorMaxProcess": 15,
      "qaMaxProcess": 15,
      "pgHNSWEfSearch": 100
    },
    "ChatModels": [
      {
        "model": "gpt-3.5-turbo-1106",
        "name": "GPT35-1106",
        "price": 0,
        "maxContext": 16000,
        "maxResponse": 4000,
        "quoteMaxToken": 2000,
        "maxTemperature": 1.2,
        "censor": false,
        "vision": false,
        "defaultSystemChatPrompt": ""
      },
      {
        "model": "gpt-3.5-turbo-16k",
        "name": "GPT35-16k",
        "maxContext": 16000,
        "maxResponse": 16000,
        "price": 0,
        "quoteMaxToken": 8000,
        "maxTemperature": 1.2,
        "censor": false,
        "vision": false,
        "defaultSystemChatPrompt": ""
      },
      {
        "model": "gpt-4",
        "name": "GPT4-8k",
        "maxContext": 8000,
        "maxResponse": 8000,
        "price": 0,
        "quoteMaxToken": 4000,
        "maxTemperature": 1.2,
        "censor": false,
        "vision": false,
        "defaultSystemChatPrompt": ""
      },
      {
        "model": "gpt-4-vision-preview",
        "name": "GPT4-Vision",
        "maxContext": 128000,
        "maxResponse": 4000,
        "price": 0,
        "quoteMaxToken": 100000,
        "maxTemperature": 1.2,
        "censor": false,
        "vision": true,
        "defaultSystemChatPrompt": ""
      }
    ],
    "QAModels": [
      {
        "model": "gpt-3.5-turbo-16k",
        "name": "GPT35-16k",
        "maxContext": 16000,
        "maxResponse": 16000,
        "price": 0
      }
    ],
    "CQModels": [
      {
        "model": "gpt-3.5-turbo",
        "name": "GPT35",
        "maxContext": 4000,
        "maxResponse": 4000,
        "price": 0,
        "functionCall": true,
        "functionPrompt": ""
      },
      {
        "model": "gpt-4",
        "name": "GPT4-8k",
        "maxContext": 8000,
        "maxResponse": 8000,
        "price": 0,
        "functionCall": true,
        "functionPrompt": ""
      }
    ],
    "ExtractModels": [
      {
        "model": "gpt-3.5-turbo-1106",
        "name": "GPT35-1106",
        "maxContext": 16000,
        "maxResponse": 4000,
        "price": 0,
        "functionCall": true,
        "functionPrompt": ""
      }
    ],
    "QGModels": [
      {
        "model": "gpt-3.5-turbo-1106",
        "name": "GPT35-1106",
        "maxContext": 1600,
        "maxResponse": 4000,
        "price": 0
      }
    ],
    "VectorModels": [
      {
        "model": "text-embedding-ada-002",
        "name": "Embedding-2",
        "price": 0.2,
        "defaultToken": 700,
        "maxToken": 3000
      }
    ],
    "ReRankModels": [],
    "AudioSpeechModels": [
      {
        "model": "tts-1",
        "name": "OpenAI TTS1",
        "price": 0,
        "voices": [
          { "label": "Alloy", "value": "alloy", "bufferId": "openai-Alloy" },
          { "label": "Echo", "value": "echo", "bufferId": "openai-Echo" },
          { "label": "Fable", "value": "fable", "bufferId": "openai-Fable" },
          { "label": "Onyx", "value": "onyx", "bufferId": "openai-Onyx" },
          { "label": "Nova", "value": "nova", "bufferId": "openai-Nova" },
          { "label": "Shimmer", "value": "shimmer", "bufferId": "openai-Shimmer" }
        ]
      }
    ],
    "WhisperModel": {
      "model": "whisper-1",
      "name": "Whisper1",
      "price": 0
    }
  }

  1. 启动

在 docker-compose.yml 同级目录下执行

  1. 拉取镜像 
docker-compose pull
  1. 运行容器 
docker-compose up -d

二，使用 FastGPT

  1. 访问

浏览器通过http://localhost:3000/进行访问

alt
alt

登录用户名为 root，密码为 docker-compose.yml 环境变量里设置的 DEFAULT ROOT PSW,默认是 1234.

  1. 新建知识库

新建一个知识库，这里我是专门的存储酷壳网站上的文章,所以就命名为酷壳。

alt
  1. 导入文档

通过文件导入已经下载好的文章

alt
alt
alt

确认后就开始将当前数据转化为向量数据

这两篇文章字数可能破完了，完全导入好,所花费的时间可能会有半个小时乃至一个小时.....,由于文本限制问题，按照固定字数拆分若干个数据集

alt

这是已经拆分好的，还有 5 个在排队,先测试一下。

  1. 使用知识库

新建一个应用

alt
  1. 绑定刚刚的知识库
alt
alt
  1. 开始对话，效果展示如下:
alt

这里有个小问题,

alt

翻译如下:您已经超过了每分钟请求的限制次数。对于您的账户（org-FPtm4iWkzMglOZn9J06QAK6F）中的 text-embedding-ada-002 模型来说，每分钟的请求限制是 3 次，您已经使用了 3 次请求，但是您又发送了 1 次请求，所以您需要等待 20 秒后再试。您可以访问https://platform.openai.com/account/rate-limits了解更多信息。如果您在账户https://platform.openai.com/account/billing中添加了付款方式，您可以增加您的请求限制。

粗略的理解，一分钟只能处理三次请求，可以尝试设置多个 key 进行轮询,来解决上述的问题。

如果觉得我的分享对您有帮助，请关注我。创作不易，您的三连就是对我最大的支持。

alt

Reference

[1]

FastGPT: https://github.com/labring/FastGPT

本文由 mdnice 多平台发布

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/239298.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Python---搭建Python自带静态Web服务器

Python---搭建Python自带静态Web服务器

1. 静态Web服务器是什么？ 可以为发出请求的浏览器提供静态文档的程序。 平时我们浏览百度新闻数据的时候，每天的新闻数据都会发生变化，那访问的这个页面就是动态的，而我们开发的是静态的，页面的数据不会发生变化。 …
阅读更多...
Floyd求最短路（Floyd算法）

Floyd求最短路（Floyd算法）

参考：约会怎么走到目的地最近呢？一文讲清所有最短路算法问题-CSDN博客 有4个城市8条路，公路上的数字表示这条公路的长短，并且路是单向的，现在要求我们求出任意两个城市之间的最短路程，也就是求任意两个点之…
阅读更多...
蓝桥杯2019年10月青少组Python程序设计省赛真题

蓝桥杯2019年10月青少组Python程序设计省赛真题

1:有n个人围成一个圈，按顺序排好号然后从第一个人开始报数(从1到3报数)，报到3的人退出圈子,然后继续从1到3报数，直到最后留下一个人游戏结束，问最后留下的是原来第几号输人描迹:输人一个正整数n 输出描迹:输出最后留下的是原来的第几号 [样例输人] [样例输出] 2: 3、 […
阅读更多...
【生物信息学】层次聚类过程

【生物信息学】层次聚类过程

文章目录 一、理论二、实践过程1过程2 一、理论 层次聚类是一种基于树状结构的聚类方法，它试图通过在不同层次上逐步合并或分裂数据集来构建聚类结构。这个树状结构通常被称为“树状图”（dendrogram），其中每个节点代表一个数据点或…
阅读更多...
cfa一级考生复习经验分享系列（六）

cfa一级考生复习经验分享系列（六）

本人背景：本科经济学，有一定基础。现为某国企员工，每天大概率加班到7点多，复习时间有限。 准备材料 买了JC的网课（主要复习依据），然后下载一个potplayer视频播放器（神器，…
阅读更多...
ACM32G1x3有那些优势？适用于那些产品上？

ACM32G1x3有那些优势？适用于那些产品上？

ACM32G1x3优势 • 320KB 程序Flash64KB SRAM，跑RTOS程序开发更加方便 • 从外挂Flash通过DMA搬运图片数据到PSRAM，无需打断程序运行 • 120MHz M33内核，处理性能佳 • 集成2路CAN接口，适合工控等需要CAN接口的场景 • QS…
阅读更多...
[JS设计模式]Flyweight Pattern

[JS设计模式]Flyweight Pattern

Flyweight pattern 享元模式是一种结构化的设计模式，主要用于产生大量类似对象而内存又有限的场景。享元模式能节省内存。 假设一个国际化特大城市SZ；它有5个区，分别为nanshan、futian、luohu、baoan、longgang；每个区都有多个图…
阅读更多...
代码随想录刷题题Day20

代码随想录刷题题Day20

刷题的第二十天，希望自己能够不断坚持下去，迎来蜕变。😀😀😀 刷题语言：C Day20 任务 ● 理论基础 ● 77. 组合 1 回溯算法理论基础 1.1 回溯法 回溯法是一种搜索的方式，是递归的副产品&#x…
阅读更多...
海外媒体发稿：雅虎全球发稿推广脱颖而出的10种方法-华媒舍

海外媒体发稿：雅虎全球发稿推广脱颖而出的10种方法-华媒舍

雅虎全球发稿是一项重要的推广手段，能够帮助企业和个人提升品牌知名度和曝光率。在众多的发稿中脱颖而出并不容易。本文将为您介绍10种让您的雅虎全球发稿在众多文章中脱颖而出的方法，帮助您取得更好的效果。 1. 深入研究目标受众 在撰写雅虎全球发稿前…
阅读更多...
Python to_numeric函数参数解读与最佳实践！

Python to_numeric函数参数解读与最佳实践！

更多资料获取 📚 个人网站：ipengtao.com Python中的to_numeric函数是pandas库提供的一个强大而灵活的工具，用于将数据转换为数字类型。本文将深入探讨to_numeric函数的各种参数和用法，通过丰富的示例代码帮助大家更全面地理解和运…
阅读更多...
基于thinkphp+vue的大学生校园生活服务平台sb00r

基于thinkphp+vue的大学生校园生活服务平台sb00r

大学生一体化服务平台可以提高大学生综合服务信息管理问题的解决效率，优化大学生综合服务信息处理流程，保证大学生综合服务信息数据的安全，它是一个非常可靠，非常安全的应用程序。 运行环境:phpstudy/wamp/xammp等 开发语言&#…
阅读更多...
CAS机制

CAS机制

Java中提供了很多原子操作类来保证共享变量操作的原子性。这些原子操作的底层原理都是使用了CAS机制。在使用一门技术之前，了解这个技术的底层原理是非常重要的，所以本篇文章就先来讲讲什么是CAS机制，CAS机制存在的一些问题以及在Java中怎么使…
阅读更多...
鸿蒙应用开发初体验 HelloWorld

鸿蒙应用开发初体验 HelloWorld

9 月 25 日，华为常务董事、终端 BG CEO、智能汽车解决方案 BU 董事长余承东华为秋季全场景新品发布会上介绍了鸿蒙系统的最新进展：HarmonyOS 4 发布后，短短一个多月升级用户已经超过 6000 万，成为史上升级速度最快的 HarmonyOS 版…
阅读更多...
硬件工程师桥——互动篇笔记

硬件工程师桥——互动篇笔记

知识体系 无论是做硬件还是软件，都最好看看基础篇，软件到了一定程度，如果硬件懂一些才会走的更远基础篇的电路不建议在实际中使用基础篇建议从头到尾都看，前后都有关联提高篇讲EMC和高速电路的东西，属于硬件工程师进阶…
阅读更多...
python异常之try/else分句

python异常之try/else分句

1 python异常之try/else分句 如果try语句代码块未发生异常，则执行else语句代码块，else需要放在except分句后面。 1.1 基本用法 用法 try:# try语句代码块# 执行时可能发生异常的代码块 except ExceptionType:# except语句代码块# 当发生指定类型的异…
阅读更多...
利用淘宝获得商品详情 API：提升电商平台的用户体验

利用淘宝获得商品详情 API：提升电商平台的用户体验

一、引言 随着电子商务的快速发展，电商平台之间的竞争日益激烈。为了在竞争中脱颖而出，电商平台需要不断提升用户体验，提高用户满意度和忠诚度。淘宝获得商品详情 API 的出现，为电商平台提供了一个重要的工具，可以帮助…
阅读更多...
WebGL开发三维解剖学应用

WebGL开发三维解剖学应用

开发基于 WebGL 的三维解剖学应用通常涉及以下步骤。这些步骤包括创建三维模型、整合交互性、优化性能等，希望对大家有所帮助。北京木奇移动技术有限公司，专业的软件外包开发公司，欢迎交流合作。 1.三维模型创建： 首先&#xff0…
阅读更多...
智能优化算法应用：基于白冠鸡算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用：基于白冠鸡算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用：基于白冠鸡算法3D无线传感器网络(WSN)覆盖优化 - 附代码 文章目录 智能优化算法应用：基于白冠鸡算法3D无线传感器网络(WSN)覆盖优化 - 附代码1.无线传感网络节点模型2.覆盖数学模型及分析3.白冠鸡算法4.实验参数设定5.算法结果6.参考文…
阅读更多...
vue proxy代理 和 Nginx 配置跨域

vue proxy代理 和 Nginx 配置跨域

vue.config.js文件中配置的代理： devServer: {port: 9095,// open: true, // 配置项目在启动时自动在浏览器打开proxy: {/yh: { // /api是代理标识，一般是每个接口前的相同部分target: "http://192.168.5.58:8002", // 请求地址，一…
阅读更多...
4.3【共享源】克隆实战开发之截屏（一）

4.3【共享源】克隆实战开发之截屏（一）

一，Screen截屏介绍 Screen的截屏是指从源读取像素，然后复制到缓冲区。然后可以根据需要操纵缓冲区；它可以简单地写入文件，也可以在其他窗口或显示器中使用。 Screen API从源中读取像素，并将其复制到提供的缓冲区中以捕获截屏。缓冲区可以是pixmap或窗口缓冲区，但必须设…
阅读更多...
最新文章

Copyright @ 2022~2023