AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型(LLM)应用开发平台

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型(LLM)应用开发平台

目录

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型(LLM)应用开发平台

一、简单介绍

二、Docker 下载安装

三、Dify 下载安装,及部署

附录:一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

二、docker compose up -d 的时候,docker-db-1 总是重启 Restarting,无法正常 Running


一、简单介绍

AGI,即通用人工智能(Artificial General Intelligence),是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务,而且能够理解、学习和应用知识于广泛的问题解决中,具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整,并能在没有人为干预的情况下解决各种复杂问题。

Dify 是一个开源的大语言模型(LLM)应用开发平台,它旨在简化和加速生成式 AI 应用的创建和部署。这个平台结合了后端即服务(Backend as Service, BaaS)和 LLMOps 的理念,为开发者提供了一个用户友好的界面和一系列强大的工具,使他们能够快速搭建生产级的 AI 应用。

Dify 的核心功能包括:

  1. 低代码/无代码开发:通过可视化的方式允许开发者轻松定义 Prompt、上下文和插件等,无需深入底层技术细节。
  2. 模块化设计:采用模块化的设计,每个模块都有清晰的功能和接口,可以根据需求选择性地使用。
  3. 丰富的功能组件:包括 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等,帮助开发者从原型到生产的全过程。
  4. 支持多种大语言模型:已支持 OpenAI GPT 系列等模型,并计划进一步扩展。
  5. 数据处理和特征工程工具:提供了数据清洗、特征选择、特征变换等功能,帮助开发者更好地准备数据。
  6. 集成外部知识源:允许自定义 API 接入外部知识源,让大型语言模型深入理解企业知识和业务。

Dify 提供了四种基于 LLM 构建的应用程序,可以针对不同的应用场景和需求进行优化和定制,包括聊天助手、文本生成、智能代理和工作流程。此外,Dify 还支持从 Notion 导入数据,并设置同步,使得数据在 Notion 更新后便自动同步到 Dify。Dify 中存在知识库数据集的单独 API,这与他的服务 API 不同,可以单独使用数据集的 API。

Dify 适合各种技术背景的开发者使用,即使是没有编程基础的用户也能快速上手并参与到 AI 应用的定义和数据运营过程中。作为一个开源项目,Dify 在 GitHub 上有活跃的社区支持,鼓励用户贡献和分享经验。

Docker 是一个开源的应用容器引擎,它允许开发者打包他们的应用以及应用的依赖包到一个可移植的容器中,然后发布到任何流行的 Linux 机器上,也可以实现虚拟化。容器是完全使用沙箱机制,相互之间不会有任何接口。

Docker 的主要特点包括:

  1. 轻量级:Docker 容器与其他虚拟化技术相比,占用的资源更少,启动速度更快。

  2. 可移植性:Docker 容器可以在不同的机器、数据中心或云服务提供商之间轻松移动。

  3. 环境一致性:Docker 确保应用在不同环境之间具有一致性,从而减少了“在我机器上可以运行”的问题。

  4. 快速部署:Docker 容器的启动时间通常只需几秒钟,这使得部署应用变得更加迅速。

  5. 微服务架构:Docker 容器非常适合微服务架构,每个服务可以独立运行在自己的容器中。

  6. 版本控制和团队协作:Docker 容器可以与现代的 DevOps 工具链紧密结合,支持持续集成和持续部署(CI/CD)。

  7. 隔离性:每个容器都是相互隔离的,运行在自己的环境中,拥有自己的文件系统。

  8. 安全性:容器提供了一个额外的安全层,因为它们运行在用户空间,并且可以利用 Linux 内核的安全特性。

Docker 使用客户端-服务器架构,使用 Docker 守护进程来管理容器。Docker 客户端与守护进程通信,而守护进程负责构建、运行和分发容器。用户可以通过命令行接口(CLI)、Docker Compose(用于定义和运行多容器 Docker 应用的工具)或图形用户界面(GUI)与 Docker 交互。

注意 Dify Docker部署有部署要求,不过目前一般的电脑都符合要求:

二、Docker 下载安装

Docker Windows 版本下载地址:Windows | Docker Docs

为了在 Windows 系统上部署 Dify,你需要先安装 Docker Desktop。

Windows 中的 Docker 可以依赖于两种环境:Hyper-V(虚拟环境)和 WSL(Windows Linux 子系统)。

其中,利用 WSL 环境的部署方案,这需要你从 Microsoft Store 下载一个 Linux 发行版。

如果你的电脑无法使用 Microsoft Store 下载,比如生产环境电脑,那么可以选择使用基于 Hyper-V 的部署方法。启用 Hyper-V 环境的两种方法,下面介绍启用 Hyper-V 环境的方法,任选其一操作即可:

1、以管理员权限打开 PowerShell 控制台

2、输入如下命令即可

Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Hyper-V -All 

3、或者使用 “启用或关闭 Windows 功能”,找到并勾选“Hyper-V”,然后点击“确定”按钮以启用该功能

4、开启 Hyper-V 功能,会提示重启电脑,这时候重启电脑即可

5、下载 Docker ,根据需要选择下载即可

6、下载好Docker ,双击安装即可

值得注意的是如果使用 Hyper-V ,则需要取消勾选第一项

三、Dify 下载安装,及部署

Dify 官网:Dify.AI · 生成式 AI 应用创新引擎

Dify 进行 Docker Compose 部署可以参考:https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose

1、进入 Dify  官网,如图点击进入 Github ,克隆或者下载代码

2、下载好后,Shift + 鼠标右键,打开 Powershell

3、在 Powershell 中,进入 Dify 源代码的 Docker 目录 ,复制环境配置文件

命:1:cd .\docker\

命令2:cp .env.example .env

4、这里就要启动 Docker,确定当前的 Docker  版本

根据你系统上的 Docker Compose 版本,选择合适的命令来启动容器。

你可以通过命令:docker compose version 检查版本

  •     如果版本是 Docker Compose V2,使用以下命令:docker compose up -d
  •     如果版本是 Docker Compose V1,使用以下命令:docker-compose up -d

5、这里是 V2 版本,使用 docker compose up -d 命令来启动容器

运行命令后,开始会拉取数据,然后会看到类似以下的输出,显示所有容器的状态和端口映射:

6、运行完之后,输入 命令可以看到运行的服务

命令:docker compose ps

7、docker 界面也运行正常

8、在浏览器上,输入 http://localhost/install ,这时候也会正常显示设置管理员账号界面

输入信息,配置登录账号

9、在浏览器上,输入 http://localhost/signin,这时候也会正常显示登陆界面,登陆即可

10、登录之后,在工作室创建你的应用,开始玩转 Dify 吧

附录:一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

Error response from daemon: Get "https://registry-1.docker.io/v2/": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)

分析可能原因:

1)这个是因为源的问题,我们可以使用国内的镜像源。具体操作为:找到C:\Users\Administrator.docker\daemon.json(或者C:\Users\你的用户名.docker\daemon.json)文件

(如果.docker文件下没有daemon.json文件,就自己手动新增)

2)然后添加以下内容:

{"registry-mirrors": ["https://docker.211678.top","https://docker.1panel.live","https://hub.rat.dev","https://docker.m.daocloud.io","https://do.nark.eu.org","https://dockerpull.com","https://dockerproxy.cn","https://docker.awsl9527.cn"]
}

3)保存后重启docker,重启操作为在打开docker Desktop的前提下,点击电脑右小角的小图标,点击“Restart ”,版本不同可能显示不同。

二、docker compose up -d 的时候,docker-db-1 总是重启 Restarting,无法正常 Running

此时 http://localhost/install 界面也一直在转圈,网页一直加载中

docker-db-1 相关日志如下:

running bootstrap script ... 2024-10-14T04:20:59.355405500Z The files belonging to this database system will be owned by user "postgres".
2024-10-14 12:20:59 This user must also own the server process.
2024-10-14 12:20:59 
2024-10-14 12:20:59 The database cluster will be initialized with locale "en_US.utf8".
2024-10-14 12:20:59 The default database encoding has accordingly been set to "UTF8".
2024-10-14 12:20:59 The default text search configuration will be set to "english".
2024-10-14 12:20:59 
2024-10-14 12:20:59 Data page checksums are disabled.
2024-10-14 12:20:59 
2024-10-14 12:20:59 fixing permissions on existing directory /var/lib/postgresql/data/pgdata ... ok
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:19:58 child process exited with exit code 1
2024-10-14 12:19:58 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:20:59 creating subdirectories ... ok
2024-10-14 12:20:59 selecting dynamic shared memory implementation ... posix
2024-10-14 12:20:59 selecting default max_connections ... 20
2024-10-14 12:21:00 selecting default shared_buffers ... 400kB
2024-10-14 12:21:00 selecting default time zone ... UTC
2024-10-14 12:21:00 creating configuration files ... ok
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:21:00 child process exited with exit code 1
2024-10-14 12:21:00 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:21:00 running bootstrap script ...

解决方式之一如下

1、在 dify/docker 文件夹下找到 docker-compose.yaml

2、找到文件夹中的 volumes/db/data ,替换为 postgres-data,如下图

(不同版本,内容可能有些不一样)

3、最后在末尾,添加上 postgres-data

4、保存上面修改,然后在 powershell down 一下 容器

命令:docker compose down -v

5、之后,再次重新启动一下容器

命令:docker compose up

6、docker-db-1 运行正常了

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/56581.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

设置 Notepad++ 制表符(Tab 缩进)宽度为2个空格大小

Notepad 默认的制表符宽度是 4 个空格的大小,一个规模比较大的代码段或者 xml 等文件,小屏幕打开时看到的情景真的和让人着急,拖来拖去!有两种方案可以解决这种情况。 修改缩进为空格 这种我们不太推荐,但是有些公司…

小白必看web专题!配置环境还在用phpstudy?该用docker了!(php+nginx+mysql+phpmyadmin。)

大家好,我是Dest1ny。 大家用mac或者是windows都是使用phpstudy。 今天docker来搭建一整个phpnginxmysqlphpmyadmin。 而且mac用docker比较方便! docker才是众望所归。 大家多多点赞,多多支持,谢谢!!&…

Qml-Item的构造和显示顺序

Qml-Item的构造和显示顺序 qml文件中组件构造顺序 在同一个qml文件中,同层级的Item, 文件尾的Item优先构造,文件首的Item后构造。这就能解释默认情况下同一个qml文件中,几个同层级的item都设置了focus:true,为啥最上面item最终有…

echarts设置x轴中文垂直显示,x轴滚动条

echarts官网配置,主要配置dataZoom option {xAxis: {type: category,data: [张三,李四,王五,赵六,孙七,周八,吴九,郑十,钱十一,陈十二,刘十三,杨十四,黄十五,何十六,宋十七],axisLabel: {formatter: function (value) {return value.split().join(\n); // 使用换行…

超全!一文详解大型语言模型的11种微调方法

导读:大型预训练模型是一种在大规模语料库上预先训练的深度学习模型,它们可以通过在大量无标注数据上进行训练来学习通用语言表示,并在各种下游任务中进行微调和迁移。随着模型参数规模的扩大,微调和推理阶段的资源消耗也在增加。…

爬虫实战(黑马论坛)

1.定位爬取位置内容: # -*- coding: utf-8 -*- import requests import time import re# 请求的 URL 和头信息 url https://bbs.itheima.com/forum-425-1.html headers {user-agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like…

基于Java实现(PC)大学班级事务管理系统

courseDesign_Java Java 课设 要求 本次设计要求利用 Java 实现 C/S 模式的大学班级内日常事务管理系统(PC 版,应用于校内网有线网络访问,暂不开发移动端),不得依赖现有的建模框架,使用 swings 技术完成如…

华为OD机试 - 爱吃蟠桃的孙悟空 - 二分查找(Python/JS/C/C++ 2024 E卷 100分)

华为OD机试 2024E卷题库疯狂收录中,刷题点这里 专栏导读 本专栏收录于《华为OD机试真题(Python/JS/C/C)》。 刷的越多,抽中的概率越大,私信哪吒,备注华为OD,加入华为OD刷题交流群,…

决策树和集成学习的概念以及部分推导

一、决策树 1、概述 决策树是一种树形结构,树中每个内部节点表示一个特征上的判断,每个分支代表一个判断结果的输出,每个叶子节点代表一种分类结果 决策树的建立过程: 特征选择:选择有较强分类能力的特征决策树生成…

闯关leetcode——110. Balanced Binary Tree

大纲 题目地址内容 解题代码地址 题目 地址 https://leetcode.com/problems/balanced-binary-tree/description/ 内容 Given a binary tree, determine if it is height-balanced. A height-balanced binary tree is a binary tree in which the depth of the two subtrees…

决策树算法新手入门:从基础理论到Python实现

决策树新手入门详细教程 一、数学基础1. 信息熵(1) 基本定义(2) 条件熵(3) 有关定律 2. 信息增益 二、决策树的组成1. 决策节点2. 叶子节点3. 决策树的深度 三、决策树的建立(基于信息增益)—— ID31. 计算根节点的信息熵2. 计算属性的信息增益(1) 职业(…

【升华】python基础包NumPy学习

NumPy是使用Python进行科学计算的基础软件包。除其他外,它包括: 功能强大的N维数组对象。精密广播功能函数。集成 C/C和Fortran 代码的工具。强大的线性代数、傅立叶变换和随机数功能。 # 1、安装包 $ pip install numpy# 2、进入python的交互式界面 $…

蓄电池在线监测:保障电力安全的智能之选---安科瑞 吴雅芳

一、蓄电池在线监测的重要性 随着科技的飞速发展,蓄电池在各个领域的应用日益广泛,从通信、电力到金融、医疗等行业,蓄电池都扮演着至关重要的角色。然而,蓄电池在使用过程中也面临着诸多问题。 蓄电池老化可能导致鼓胀、短路、漏…

React 子组件调用父组件的方法,以及互相传递数据

<script type"text/babel" data-type"module"> import React, { StrictMode, useState } from react; import { createRoot } from react-dom/client;const ParentComponent () > {const [message, setMessage] useState("")//父组件…

【火山引擎】 Chat实践 | 大模型调用实践 | python

目录 一 前期工作 二 Doubao-pro-4k_test实践 一 前期工作 1 已在火山方舟控制台在线推理页面创建了推理接入点 ,接入大语言模型并获取接入点 ID。 2 已参考安装与初始化中的步骤完成 SDK 安装和访问凭证配置

基于SSM的个性化商铺系统【附源码】

基于SSM的个性化商铺系统 效果如下&#xff1a; 用户登录界面 app首页界面 商品信息界面 店铺信息界面 用户功能界面 我的订单界面 后台登录界面 管理员功能界面 用户管理界面 商家管理界面 店铺信息管理界面 商家功能界面 个人中心界面 研究背景 研究背景 科学技术日新月异…

LeetCode-3191 使二进制数组全部等于1的最少操作次数

又来到了今天的每日一题&#xff0c;距离上次更新每日一题得有十天了。 主要原因是这十天的题要么简单到爆&#xff0c;要么难到爆&#xff0c;再要么就是最近学校安排实训&#xff0c;时间比较紧。 废话不多说&#xff0c;来看看今天的题目。 题目很简单&#xff0c;就是给个…

CTF(五)

导言&#xff1a; 本文主要讲述在CTF竞赛中&#xff0c;web类题目easyphp。 靶场链接&#xff1a;攻防世界 (xctf.org.cn) 参考文章原文链接&#xff1a;Web安全攻防世界05 easyphp&#xff08;江苏工匠杯&#xff09;_攻防世界 easyphp-CSDN博客 一&#xff0c;观察页面。…

校验台账生成网络事业调查表的方法

校验台账生成网络事业调查表的方法 一、打开教育事业统计调查表学校&#xff08;机构&#xff09;信息管理标准化台账“采集信息核查辅助工具二、导入本校台账并校验三、调查表统计导出四、完 一、打开教育事业统计调查表学校&#xff08;机构&#xff09;信息管理标准化台账“…

在ESP-IDF环境中如何进行多文件中的数据流转-FreeRTOS实时操作系统_流缓存区“xMessageBuffer”

一、建立三个源文件和对应的头文件 建立文件名&#xff0c;如图所示 图 1-1 二、包含相应的头文件 main.h 图 2-1 mess_send.h mess_rece.h和这个中类似,不明白的大家看我最后面的源码分享 图2-2 三、声明消息缓存区的句柄 大家注意&#xff0c;在main.c中定义的是全局变…