构建中国人自己的私人GPT

创作不易,请大家多鼓励支持。

在现实生活中,很多人的资料是不愿意公布在互联网上的,但是我们又要使用人工智能的能力帮我们处理文件、做决策、执行命令那怎么办呢?于是我们构建自己或公司的私人GPT变得非常重要。

先看效果

c224d9137179486592153ba5a0f6bc60.png

da9b88a7b097470e878b9391a02d94dc.png

b565a66c5d8e4270b6fec59d4b6136b4.png


他的原理是把大模型下载到本地,直接和大模型对话,下面是部署的详细步骤。


一、本地部署私人GPT

快速本地安装步骤:
1.        克隆存储库:
git clone 

git clone https://github.com/imartinez/privateGPT

e1079ca06783e96d8d915fd71d304551.png

文件目录
 

c1be30589a76bd222fc803ec3d9921b9.png



2.        安装 Python :

pyenv install 3.11
pyenv local 3.11

(如果报错可以直接安装python3.11)

系统之前已经安装过3.10的旧版本,为了避免干扰需要从系统变量path中删除:C:\Program Files\Python310\Scripts\;C:\Program Files\Python310\

3.        安装依赖:

poetry install --with ui,local

5e67407e3db33cd5787dc3d0c380bb18.png


4.        下载嵌入和 LLM 模型:

poetry run python scripts/setup

ed862cbd42d46a072233d3ac6ac95bb8.png

02de62a6691a75b035a7ba9457e52ef5.png

4d936b0ee8b983ddc5ca1f2efbad85e4.png



5.        (可选,在powershell中运行)启用GPU:

$env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'; poetry run pip install --force-reinstall --no-cache-dir llama-cpp-python

6.        运行本地服务器:

set PGPT_PROFILES=local
poetry run python -m private_gpt

813f46bf5fee6433c63defb4a6fbb0cd.png

7.        导航到 UI:在浏览器中打开 http://localhost:8001/。
 

ddb31b0c8ee7f4b9eb7b0846a6a3c152.png

下一篇讲如何让私人GPT支持中文。

本公司限时提供免费部署GPT的服务,请在下面留言或联系我们。
更多资料:

创建自己的私人GPT详细资料

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/636276.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

YOLOv8全网首发:新一代高效可形变卷积DCNv4如何做二次创新?高效结合SPPF

💡💡💡本文独家改进:DCNv4更快收敛、更高速度、更高性能,与YOLOv8 SPPF高效结合 收录 YOLOv8原创自研 https://blog.csdn.net/m0_63774211/category_12511737.html?spm=1001.2014.3001.5482 💡💡💡全网独家首发创新(原创),适合paper !!! 💡💡💡…

视频水平翻转,开启创意之旅

想象一下,一段普通的视频在瞬间被水平翻转,画面中的一切仿佛被镜子所反射,给人一种惊艳而又奇妙的感受。在这个充满无限可能的数字时代,我们不应被传统的视觉效果所束缚,尝试运用水平翻转技术,为你的作品注…

Linux /etc/issue 内的各代码意义

\d 本地端时间的日期; \l 显示第几个终端机接口;(小写的L) \m 显示硬件的等级 (i386/i486/i586/i686…); \n 显示主机的网络名称; \O 显示 domain name; \r 操作系统…

安装Office Web Apps 2013

Office Web Apps 可以让用户通过浏览器就能操作Office文件(Word,PowerPoint,Excel),客户端可以不安装Office,而且不用担心2003和2007文档格式的问题。下面入正题。 一、安装环境 因为Office Web Apps要求安装环境中不能用其它服…

pytest文档内置fixture的request详情

前言 request 是 pytest 的内置 fixture , "为请求对象提供对请求测试上下文的访问权,并且在fixture被间接参数化的情况下具有可选的“param”属性。"这是官方文档对request的描述,可参考的文档不多。 一、FixtureRequest Fixtur…

C#基本语法

定义:C#是一种面向对象的编程语言。 using关键字 在任何c#程序中的第一条语句都是 using System; using关键字用于在程序中包含命名空间。一个程序可以包含多个using语句 class关键字 class关键字用于声明一个类 C#的注释 注释是用于解释代码。编译器会忽略…

R语言【cli】——ansi_nzchar():检查是否存在ANSI语句

Package cli version 3.6.0 Usage ansi_nzchar(x, ...) Arguments 参数【x】:Charcater向量。其他对象使用base::as.character()进行转换。 参数【...】:传入base::nzchar()。 Examples > ansi_nzchar(col_red("dd")) [1] TRUE > an…

从入门到精通:ThinkPHP6异步请求的全面解析!

在ThinkPHP6中使用异步请求 在Web应用程序的开发中,经常会需要使用异步请求。异步请求能够在后台执行而不干扰页面的其他操作,提高了用户的体验。而在ThinkPHP6框架中,也提供了方便的异步请求方式,本文将详细介绍如何在ThinkPHP6…

Spring Bean 生命周期的执行流程?

一、问题解析 Spring 生命周期全过程大致分为五个阶段:创建前准备阶段、创建实例阶段、依赖注入阶段、容器缓存阶段和销毁实例阶段。 这张是 Spring Bean 生命周期完整流程图,其中对每个阶段的具体操作做了详细介绍: (把这张图按…

[Linux] Ubuntu install Miniconda

1. 以下是四个命令,它们可以快速地安装最新的64位Miniconda安装程序,然后在安装完成后进行清理。如果要安装不同版本或架构的Linux Miniconda,请在wget命令中更改.sh安装程序的名称。 mkdir -p ~/miniconda3wget https://repo.anaconda.com/…

【Linux】Linux进程间通信(四)

​ ​📝个人主页:Sherry的成长之路 🏠学习社区:Sherry的成长之路(个人社区) 📖专栏链接:Linux 🎯长路漫漫浩浩,万事皆有期待 上一篇博客:【Linux】…

Lua 快速入门 · 教程笔记

Lua语言快速入门 教程笔记 前言1. Lua 语言介绍2. Lua 语言基础之基本语法声明变量声明方法使用 if - else使用 for使用 while 3. Lua 语言基础之表4. Lua 语言基础之数组插入元素移除元素获取表的长度全局表 5. Lua 语言面向对象之复制表的方式面向对象实现继承和重写父类方法…

Prompt高级技巧:Few-Shots、COT、SC、TOT、Step-Back

CRISPE框架 如图所示。所谓CRISPE框架,指的是: CR:Capacity and Role(能力与角色)。你希望 ChatGPT 扮演怎样的角色。I:Insight(洞察),背景信息和上下文。S:&#xff08…

递归、搜索与回溯算法(专题二:深搜)

往期文章(希望小伙伴们在看这篇文章之前,看一下往期文章) (1)递归、搜索与回溯算法(专题零:解释回溯算法中涉及到的名词)【回溯算法入门必看】-CSDN博客 (2&#xff09…

全国性教师教学竞赛目录

全国性教师教学竞赛目录 序号 比赛名称 主办单位 开始年份 学科分类 拟举办时间 1 全国高校教师教学创新大赛 中国高等教育学会 2020 综合类 7-9月 2 全国高校青年教师教学竞赛 中国教科文卫体工会全国委员会 2012 综合类 8-10月 3 全国高校辅导员素质能力大赛 教育部思想政治…

【DP】1312.让字符串成为回文串的最少插入次数

题目 法1&#xff1a;DP 基本方法&#xff0c;必须掌握&#xff01; class Solution {public int minInsertions(String s) {int n s.length();if (n < 2) {return 0;}int[][] dp new int[n][n]; // 对于字符串s[i:j], 至少需要dp[i][j]次操作构成回文串for (int i n …

实验七 RMAN恢复管理器

&#x1f57a;作者&#xff1a; 主页 我的专栏C语言从0到1探秘C数据结构从0到1探秘Linux &#x1f618;欢迎关注&#xff1a;&#x1f44d;点赞&#x1f64c;收藏✍️留言 &#x1f3c7;码字不易&#xff0c;你的&#x1f44d;点赞&#x1f64c;收藏❤️关注对我真的很重要&…

利用appium自动控制移动设备并提取数据

安装appium-python-client模块并启动已安装好的环境 安装appium-python-client模块 在window的虚拟环境下执行pip install appium-python-client 启动夜神模拟器&#xff0c;进入夜神模拟器所在的安装路径的bin目录下&#xff0c;进入cmd终端&#xff0c;使用adb命令建立adb…

Kubernetes (十五) 认证与授权

一. 访问控制 二.UserAccount与serviceaccount区别 将认证信息添加…

关闭Windows自动更新的6种方法

关闭Windows自动更新的6种方法&#xff01; 方法一&#xff1a;通过Windows设置关闭Windows自动更新 步骤1. 按WinI打开Windows设置页面。步骤2. 单击“更新和安全”>“Windows更新”&#xff0c;然后在右侧详情页中选择“暂停更新7天”选项即可在此后7天内关闭Windows更新…