fastgpt本地详细部署以及配置

目录

  • 一、Docker部署
    • 1、docker安装
    • 2、docker启动
    • 3、添加用户到 docker 组:
    • 4、验证 Docker 安装:
  • 二、one_api 本地部署
    • 1、linux系统部署
    • 2、windows系统部署
  • 三、向量模型部署(m3e)
  • 四、chatglm2模型本地部署
  • 五、fastgpt模型本地部署
    • 1、下载配置文件
    • 2、文件配置--docker-compose配置和config配置
    • 3、fastgpt启动
    • 4、事务配置
  • 六、问题
    • 问题1

一、Docker部署

在 CentOS 上,如果您想让普通用户安装和使用 Docker,您需要执行以下步骤。请注意,这需要管理员权限(通常需要 sudo 或 root 访问权限)才能完成一些步骤。

1、docker安装

# 安装 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
# 安装 docker-compose
curl -L "https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 验证安装
docker -v
docker-compose -v
# 如失效,自行百度~

2、docker启动

一旦安装完成,您可以启动 Docker 服务并设置它在系统启动时自动启动:

sudo systemctl start docker 
sudo systemctl enable docker

3、添加用户到 docker 组:

为了允许普通用户运行 Docker 命令,您需要将用户添加到 docker 用户组。假设您的普通用户名是 yourusername:

sudo usermod -aG docker yourusername

请注意,用户必须注销并重新登录才能在不使用 sudo 的情况下运行 Docker 命令。

4、验证 Docker 安装:

您可以使用以下命令验证 Docker 是否正确安装:

docker --version
docker-compose -v

二、one_api 本地部署

oneapi中的通用key,如果配置的是本地chatglm或者m3e向量模型,填以下key即可
sk-aaabbbcccdddeeefffggghhhiiijjjkkk

1、linux系统部署

# 使用 SQLite 的部署命令(不用安装mysql):
docker run --name one-api -d --restart always  -p 4000:4000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
# 使用 MySQL 的部署命令,在上面的基础上添加 `-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"`,请自行修改数据库连接参数,不清楚如何修改请参见下面环境变量一节。
# 例如:
docker run --name one-api -d --restart always 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/736651.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Windows环境编译webots遇到报错:‘gbk‘ codec can‘t decode byte 0x93 in position 547

Windows环境下编译webots的官方说明在 https://github.com/cyberbotics/webots/wiki/Windows-installation/ ,概括起来就是:先安装MYSYS2,然后git clone --recurse-submodules -j8 https://github.com/cyberbotics/webots.git ,最…

finalize方法做什么用的?

在Java中,finalize() 方法是一个被垃圾回收器调用的特殊方法,用于执行对象在被回收之前的清理操作。当Java虚拟机确定某个对象没有被任何引用引用时,会将其标记为垃圾对象,接着在适当的时间由垃圾回收器回收这些对象。在回收对象之…

大数据赋能,能源企业的智慧转型之路

在数字洪流中,大数据已经成为推动产业升级的新引擎。特别是在能源行业,大数据的应用正引领着一场深刻的智慧转型。今天,我们就来探讨大数据如何在能源企业中发挥其独特的魅力,助力企业提效降本,实现绿色发展。 动态监控…

BK7231+字库+LCD显示

1、BK7231有2M flash,可以保存1个16*16汉字字库 2、驱动1个8位并口屏,将字库中的汉字中显示出来 一、将gb2312_80.bin打包到烧录镜像中。 1、bk7231u_rtt_sdk\OTAPackage\beken_packager中修改config.json文件: {"magic": "…

_note_26

1.介绍一下 MyBatis MyBatis是一个开源的持久层框架,它提供了一种简单且强大的方式来管理数据库访问。MyBatis允许开发者使用XML或注解的方式来配置SQL映射,以及提供了灵活的参数绑定和结果映射功能。它与数据库交互的方式是通过SQL语句直接与数据库进行…

2024济南艾灸设备展/山东艾草制品展/中国艾健康发展大会

艾草健康,全民共享;推动传统医学文化瑰宝,弘扬民族医药健康文化; 2024第6届中国(济南)国际艾健康产业展览会(CIWHE中国艾博会) The 6th China (Jinan) International Wormwood Heal…

有关线性表的算法题

1.回文字符串 判断一个非空字符串是否是回文。 #include <iostream> #include <string> using namespace std;bool judge(string str) {int len 0;for (int i 0; i < 100; i) {if (str[i] < 65 || str[i]>122) {break;}len;//计算字符串的大小}f…

【JAVA】基于HTML与CSS的尚品汇项目

1.代码 index.html <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><!-- 引入页签图标 --><link rel"shortcut icon"…

MySQL--索引类型详解

索引的类型 主键索引&#xff1a; PRIMARY KEY&#xff0c;当一张表的某个列是主键的时候&#xff0c;该列就是主键索引&#xff0c;一张表只允许有一个主键索引&#xff0c;主键所在的列不能为空。 创建主键索引的SQL语法&#xff1a; # 给user表中的id字段创建名为id_ind…

Linux下阻塞IO驱动实验实例二的测试

一. 简介 前面一篇文章实现了驱动代码,以实现应用程序阻塞式访问设备,以一种可以被信号打断的驱动实现方式。文章地址如下: Linux下阻塞IO驱动实验实例二-CSDN博客 本文对该驱动模块进行测试。测试按键功能是否可用,按键进程的CPU占用率是否为 0,按键进程是否可以被杀…

边界网关协议,Border Gateway Protocol 边界网关协议

边界网关协议&#xff0c;是不同自治系统AS&#xff0c;的路由器之间交换路由信息的协议&#xff0c;是一种外部网关协议。边界网关协议BGP&#xff0c;常用于互联网的网关之间。 内部网关协议主要是设法使得数据包在一个AS中&#xff0c;尽可能有效地从源站传送到目的站。 在…

【联邦学习综述:概念、技术】

出自——联邦学习综述&#xff1a;概念、技术、应用与挑战。梁天恺 1*&#xff0c;曾 碧 2&#xff0c;陈 光 1 从两个方面保护隐私数据 硬件层面 可 信 执 行 环 境 &#xff08;Trusted Execution Environment&#xff0c;TEE&#xff09;边 缘 计 算&#xff08;Edge Com…

Error attempting to get column ‘add_time‘ from result set

使用Mybatis-plus 重构项目&#xff0c;报错&#xff1a; Error attempting to get column add_time from result set 当前采用技术 1、数据库字段为 datetime 类型 2、使用了mybatis-plus 框架 3、实体类使用了 LocalDateTime 原因参考&#xff1a; Error attempting to ge…

天软特色因子看板(2024.3 第3期)

该因子看板跟踪天软特色因子A08006近一月日度买卖压力2)&#xff0c;该因子为近一个月个股每日的相对价格位置&#xff0c;用以刻画股票所受买卖压力&#xff0c;取作 个于0~1间&#xff0c;指标值越大&#xff0c;反映股票在价格相对高位停留的时间越长&#xff0c;所面临的买…

编辑器的一些碎碎念

做编辑器将近2年时间&#xff0c;越深入发现坑越多&#xff0c;社区中也没有比较好的资料&#xff0c;基本都是非常浅的资料&#xff0c;比如如何接入、API介绍之类的。 前端编辑器开源的非常多&#xff0c;至少有10 个&#xff0c;不过目前知名的主要有Slate、ProseMirror、Qu…

SSM整合项目(Vue3 + Element - Plus 创建项目基础页面)

文章目录 1.配置Vue启动端口1.修改vue.config.js2.启动 2.安装Element Plus命令行输入 npm install element-plus --save 3.修改Vue3默认样式并自定义一个组件1.修改App.vue1.删除原有结构2.启动项目查看 2.修改HomeView.vue3.删除HelloWorld.vue组件4.创建一个组件 src/compon…

PostgreSQL数据优化——死元组清理

最近遇到一个奇怪的问题&#xff0c;一个百万级的PostgreSQL表&#xff0c;只有3个索引。但是每次执行insert或update语句就要几百ms以上。经过查询发现是一个狠简单的问题&#xff0c;数据库表死元组太多了&#xff0c;需要手动清理。 在 PG 中&#xff0c;update/delete 语句…

SQL: 触发器/存储过程/游标的操作

目录 触发器存储过程创建存储过程修改存储过程删除存储过程执行存储过程 游标待续、更新中 触发器 待更新存储过程 定义 是一组TSQL语句的预编译集合&#xff0c;能实现特定的功能 是一种独立的数据库对象&#xff0c;在服务器上创建和运行 类似于编程语言中的过程或函数分类…

Redis精讲

redis持久化 RDB方式 Redis Database Backup file (redis数据备份文件), 也被叫做redis数据快照. 简单来说就是把内存中的所有数据记录到磁盘中. 快照文件称为RDB文件, 默认是保存在当前运行目录. [rootcentos-zyw ~]# docker exec -it redis redis-cli 127.0.0.1:6379> sav…

开源的python 游戏开发库介绍

本文将为您详细讲解开源的 Python 游戏开发库&#xff0c;以及它们的特点、区别和应用场景。Python 社区提供了多种游戏开发库&#xff0c;这些库可以帮助您在 Python 应用程序中实现游戏逻辑、图形渲染、声音处理等功能。 1. Pygame 特点 - 基于 Python 的游戏开发库。…