DB-GPT系列（二）：DB-GPT部署（镜像一键部署、源码部署）

一、简介

DB-GPT 是一个开源项目，其将大语言模型 LLM 与数据库紧密结合。该项目主要致力于探索如何让预训练的大规模语言模型（例如 GPT）能够直接与数据库进行交互，从而生成更为准确且信息丰富的回答。

DB-GPT部署后能否直接使用以下六大应用场景：

  • Chat Excel（Excel对话）：可以围绕某个Excel数据文件进行快速分析，允许用户上传数据文件并直接对其进行分析；
  • Chat Dashboard（仪表盘对话）：可以围绕某个数据库，针对某个问题进行多维度分析与可视化展示；
  • Chat Data（数据对话）：可以连接本地各种不同类型关系型数据库，并围绕数据库中的某个库进行跨表问答；
  • Chat DB（数据库对话）：通过对话，进行问询式SQL代码创建；（但是不运行）
  • Chat Normal（原生对话）：与原生大模型进行对话
  • Chat Knowledge（知识库对话）：借助RAG实现私有知识库问答，用户可以自定义传输企业业务说明文档、专家文档或数据字典等信息，并围绕相关问题进行问答，从而辅助用户快速了解企业业务，或辅助进行业务决策等；

除此之外，还能进行promopt管理、知识库应用、自定义智能体应用、Text2SQL微调等高阶应用。

DB-GPT有多种部署方式，包括镜像一键部署、源码部署、Docker部署、小程序云部署等，可以适应于不同场景应用需求。下面介绍镜像一键部署、源码部署两种最方便的部署方式。

二、AutoDL镜像一键部署

1、登录AutoDL，选择DB-GPT镜像创建服务器实例

进入AutoDL官网AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL，进行注册登录，和充值

进入网址CodeWithGPU | 能复现才是好算法，codewithgpu.com是AutoDL公司对应的镜像仓库网站，放心使用。选择镜像版本，目前支持的DB-GPT最新版本是v0.5.10，点击AutoDL创建实例

然后自动跳转到AutoDL购买算力的页面，选择一个“RTX 4090”的型号即可满足DB-GPT的算力使用需求，选择好后点击立即创建。

创建完成后如下图所示

2、登录服务器实例主机

复制登录指令和密码。例如我复制出来的登录指令复制出来是

ssh -p 45084 root@connect.nmb1.seetacloud.com

ssh登录的地址是connect.nmb1.seetacloud.com

用户名是root

端口是45084

找一个远程服务器连接工具，例如xshell、finalshell、MobaXterm都可以，输入对应的ssh地址、用户名、端口、密码即可登录主机。

下面是MobaXterm连接界面的图示。

登录主机后如下所示

3、启动DB-GPT服务

输入conda activate dbgpt命令，切换dbgpt运行环境

conda create -n dbgpt_env python=3.10
conda activate dbgpt_env# 安装依赖的包，需要等待几分钟
pip install -e ".[default]"

输入 cd /root/DB-GPT/命令，进入DB-GPT目录

输入bash ./scripts/examples/load_examples.sh创建一些示例数据

输入dbgpt start webserver --port 6006启动DB-GPT服务，启动完后如下图所示。保留该界面不要关闭。如果关系DB-GPT服务也会终止。

4、本地浏览器访问DB-GPT

在AutoDL的容器示例内，选择对应实例的自定义服务，下载桌面工具。

该工具的作用是将远程服务器运行的服务映射到本地。

下载解压后直接运行AutoDL.exe文件

输入之前复制的SSH指令、SSH密码，然后点击开始代理

点击下面出现的地址进行跳转访问

现在就可以使用DB-GPT了

三、阿里云ECS源码部署（CPU版）

前面AutoDL部署的DB-GPT部署，最新仅支持v0.5.10

下面通过源码部署，可以支持最新版本的DB-GPT

1、开通阿里云ECS服务器

进入阿里云官网阿里云-计算，为了无法计算的价值

在顶部栏目中找到”产品-计算-云服务器ECS“

碰上阿里云有云服务器ECS的免费试用活动，个人有3个月300元的免费额度。

因为我们本次部署是使用在线大模型，所以不需要依赖GPU环境。

CPU的话建议4C以上，内存的话建议8G以上，这个配置部署DB-GPT运行起来比较流畅。

其他选项的话，除了镜像选择Ubuntu以外，其他按默认选择即可。

2、连接ECS服务器

进入ECS控制台，可以在右上角点击“控制台”，或者在搜索框里面输入ECS搜索进入。

进入对应的ECS服务器实例界面，在操作中点击“远程连接”即可

3、下载DB-GPT源码

输入以下命令安装git和下载DB-GPT源码

# 安装git
sudo apt update
sudo apt install gitgit clone https://github.com/eosphoros-ai/DB-GPT.git
# 进入DB-GPT目录
cd /DB-GPT

4、Miniconda环境安装

输入以下命令安装Miniconda环境

mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm ~/miniconda3/miniconda.sh

更详细的可以参见Miniconda安装教程：https://docs.anaconda.com/miniconda/

5、创建Python虚拟环境

conda create -n dbgpt_env python=3.10
conda activate dbgpt_env# 安装依赖的包，需要等待几分钟
pip install -e ".[default]"

6、修改DB-GPT配置文件

配置模板文件.env.template为配置正式文件.env

cp .env.template .env

添加大模型API的接口参数，下面以智谱清言为例：

LLM_MODEL=zhipu_proxyllm
PROXY_SERVER_URL=https://open.bigmodel.cn/api/paas/v4/chat/completions
ZHIPU_MODEL_VERSION=glm-4
ZHIPU_PROXY_API_KEY=YOUR_API_KEY

7、安装在线大模型对应的python包

安装对应在线大模型的python包

#通义千问
pip install dashscope
# 智谱
pip install zhipuai

8、ECS服务器增加安全组访问规则

9、运行DB-GPT服务

python dbgpt/app/dbgpt_server.py

10、打开浏览器访问

本地浏览器打开网址http://ECS服务器公网网址:5670，访问DB-GPT网页应用

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/diannao/58758.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Web组件之 Listener (监听器)

Web组件之 Listener (监听器)

文章目录 1.1 Listener概述1.2 Listener快速入门① xml版本② 注解版本 1.3 案例：模拟spring框架 1.1 Listener概述 ​ JavaWeb 中的监听器是监听 ServletContext HttpSession HttpServletRequest 三个数据域对象创建和销毁以及监听数据域对象中数据的变化&#xf…
阅读更多...
【论文翻译】IJCAI 2019 | Graph WaveNet：用于深度时空图建模的Graph WaveNet

【论文翻译】IJCAI 2019 | Graph WaveNet：用于深度时空图建模的Graph WaveNet

论文题目Graph WaveNet for Deep Spatial-Temporal Graph Modeling作者团队Zonghan Wu, Shirui Pan, Guodong Long, Jing Jiang, Chengqi Zhang机构澳大利亚悉尼科技大学人工智能中心 (UTS) 和 澳大利亚莫纳什大学发表会议IJCAI 2019论文链接https://www.ijcai.org/proceedings…
阅读更多...
Java数组的定义与使用

Java数组的定义与使用

今天来学习Java数组的定义与使用 目录 1 数组的基本概念1.1 数组的意义1.2 数组的定义1.3 数组的创建及初始化1.3.1 数组的创建1.3.2 数组的初始化 1.4 数组的使用1.4.1 数组中的元素访问1.4.2 遍历数组运行结果运行结果 2 数组是引用类型2.1 初始 JVM 的内存分布2.2 基本类型变…
阅读更多...
https://tieba.baidu.com/p/9247698007

https://tieba.baidu.com/p/9247698007

微深节能的库区智能化无人天车管理系统结合了格雷母线技术，提供了一种高精度的定位解决方案。格雷母线系统能够实现连续或断续的位置检测，精度高达≤5mm，适用于需要高精度作业的场景，如货物搬运和堆放。这种系统通过实时交互&…
阅读更多...
创作里程碑：纪念日回顾与展望

创作里程碑：纪念日回顾与展望

目录 机缘：创作者初心 1. 实战项目 2. 日常学习 3. 技术交流 4. 总结 收获：创作者动力 创作与工作、学习的关系 憧憬：职业规划与创作规划 职业规划： 创作规划： 机缘：创作者初心 回望自己踏上…
阅读更多...
软考（中级-软件设计师）数据库篇（1101）

软考（中级-软件设计师）数据库篇（1101）

第6章 数据库系统基础知识 一、基本概念 1、数据库 数据库（Database ，DB）是指长期存储在计算机内的、有组织的、可共享的数据集合。数据库中的数据按一定的数据模型组织、描述和存储，具有较小的冗余度、较高的数据独立性和扩展…
阅读更多...
go-zero 的使用

go-zero 的使用

目录 1. 生成 user api 服务 2. 生成 user rpc 服务 3. 生成 user model 模型 4. 编写 user rpc 服务 1 修改配置文件 user.yaml 2 添加 user model 依赖 3 添加用户登录逻辑 Login 5. 编写 user api 服务 1 修改配置文件user.yaml 2 添加 user rpc 依赖 3 添加用户…
阅读更多...
基金委：目前资助率过低，危害大，应提升至30~35%，增大青年、面上项目经费

基金委：目前资助率过低，危害大，应提升至30~35%，增大青年、面上项目经费

国家基金委 近日，国家基金委发表题为《近十年 NSF资助率和资助强度上升 对我国科学基金资助工作的启示》文章，文章基于近十年 NSF总体资助变化,提出对我国科学基金资助工作启示，阐述了国家自然基金项目资助率下降情况、危害，并提…
阅读更多...
NPM 包开发与优化全面指南

NPM 包开发与优化全面指南

前言 Hey, 我是 Immerse系列文章首发于【Immerse】，更多内容请关注该网站转载说明：转载请注明原文出处及版权声明！ 1. 理解 NPM 包的结构 1.1 package.json 文件：包的核心 package.json文件是 NPM 包的中央配置，定…
阅读更多...
学Linux的第六天

学Linux的第六天

目录 账户和组管理 工作组管理 创建工作组groupadd 修改工作组groupmod 添加/删除组成员gpasswd 删除工作组groupdel 查看用户登录系统的情况 users查看当前登录系统的用户 last命令 lastlog命令 w命令 显示登录到系统的用户信息 who命令 Linux文件系统权限 文件…
阅读更多...
来康生命科技有限公司心率监测解决方案在健身房与康养机构的应用探索

来康生命科技有限公司心率监测解决方案在健身房与康养机构的应用探索

引言 随着科技的日新月异，智能健康服务正逐步成为现代健康管理不可或缺的一环。来康生命科技有限公司，凭借其在智能物联集成交互领域的自主创新能力，推出了一款集蓝牙物联网、蓝牙手环、数据云与管理终端于一体的心率监测解决方案。此方案专…
阅读更多...
在 .NET 8 Web API 中实现 Entity Framework 的 Code First 方法

在 .NET 8 Web API 中实现 Entity Framework 的 Code First 方法

本次介绍分为3篇文章： 1：.Net 8 Web API CRUD 操作.Net 8 Web API CRUD 操作-CSDN博客 2：在 .Net 8 API 中实现 Entity Framework 的 Code First 方法https://blog.csdn.net/hefeng_aspnet/article/details/143229912 3：.NET …
阅读更多...
C++类和对象上

C++类和对象上

1. 类的定义 1.1 类定义格式 • class为定义类的关键字，Stack为类的名字，{}中为类的主体，注意类定义结束时后⾯分号不能省略。类体中内容称为类的成员：类中的变量称为类的属性或成员变量; 类中的函数称为类的⽅法或者成员函数。…
阅读更多...
NineData云原生智能数据管理平台新功能发布｜2024年10月版

NineData云原生智能数据管理平台新功能发布｜2024年10月版

10 月发布内容 本月发布 7 项更新，其中重点发布 2 项、功能优化 3 项、性能优化 1 项、其他发布 1 项。 重点发布​ 数据库 Devops - 数据生成​ NineData 支持在数据库中自动生成符合特定业务场景的随机数据，用于模拟实际生产环境中的数据情况&…
阅读更多...
BGP路径属性与路由反射器

BGP路径属性与路由反射器

前言 IBGP水平分割规则用于防止AS内部产生环路，在很大程度上杜绝了IBGP路由产生环路的可能性，但是同时也带来了新的问题：BGP路由在AS内部只能传递一跳，如果建立IBGP对等体全互联模型又会加重设备的负担。 BGP 路径属性 AS_Path …
阅读更多...
医学和生信web APP 平台- Appmatrix

医学和生信web APP 平台- Appmatrix

医学（和生信）web APP 平台- Appmatrix 最近使用shinyproxy将平时所构建的shiny和streamlit医学类应用汇集在一起，实现一站式访问，另外，使用了自己电脑内网穿透，一定程度上缓解了数据分析类APP消耗计算资源…
阅读更多...
Rust 力扣 - 1456. 定长子串中元音的最大数目

Rust 力扣 - 1456. 定长子串中元音的最大数目

文章目录 题目描述题解思路题解代码题目链接 题目描述 题解思路 我们遍历长度为k的窗口，我们只需要记录窗口内的元音字母数量即可，遍历过程中刷新最大数目 题解代码 impl Solution {pub fn max_vowels(s: String, k: i32) -> i32 {let s s.as_byt…
阅读更多...
Centos系统新增网卡后获取不到网卡的IP地址解决方法

Centos系统新增网卡后获取不到网卡的IP地址解决方法

一、问题描述 当我们给Centos系统添加了新的网卡后，使用查看IP地址命令【ip addr】时，发现新网卡没有获取到对应的IP地址信息，如下图所示： 二、解决方法 有两种解决方法：一种是自动获取IP地址；另外一种是手动配置IP地址； 2.1、自动获取IP地址 #自动获取网卡的IP地址命…
阅读更多...
跨境卖家必备！好用的独立站建站工具推荐 !

跨境卖家必备！好用的独立站建站工具推荐 !

对于跨境卖家来说，拥有一个独立站是拓展海外市场、提升品牌影响力的重要途径。而选择一款好用的独立站建站工具，则是成功搭建独立站的关键。 一、为什么跨境卖家需要独立站？ 在跨境电商领域，独立站具有诸多优势。首先&#xff0c…
阅读更多...
Windows Qt 6安装Oracle QOCI SQL Driver插件

Windows Qt 6安装Oracle QOCI SQL Driver插件

本文参考 QOCI for the Oracle Call Interface (OCI)。 Windows 打开 Qt 6.8.0 (MSVC 2022 64-bit)。 Setting up environment for Qt usage… Remember to call vcvarsall.bat to complete environment setup! 执行 "D:\Program Files\Microsoft Visual Studio\2022\E…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023