dify部署，ollama部署，拉取模型，创建ai聊天应用

dify下载安装

dify1.0.1 windos安装包百度云盘地址

通过网盘分享的文件：dify-1.0.1.zip

链接: 百度网盘 请输入提取码 提取码: 1234

dify安装包 linux安装包百度云盘地址

通过网盘分享的文件：dify-1.0.1.tar.gz

链接: 百度网盘 请输入提取码 提取码: 1234

1.安装docker

  • 安装必要的依赖包
sudo yum install -y yum-utils \device-mapper-persistent-data \lvm2

如这一步报错“Could not retrieve mirrorlist http://mirrorlist.centos.org/?release=7&arch=x86_64&repo=os&infra=stock error was

14: curl#6 - "Could not resolve host: mirrorlist.centos.org; Unknown error"

可如下修改切换国内镜像源

#备份原有仓库配置：
sudo mkdir -p /etc/yum.repos.d/backup
sudo mv /etc/yum.repos.d/CentOS-*.repo /etc/yum.repos.d/backup/#下载阿里云镜像配置
sudo curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo
#更新缓存
sudo yum clean all
sudo yum makecache
  • 设置docker软件源
# 设置docker镜像源
yum-config-manager \--add-repo \https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.reposed -i 's/download.docker.com/mirrors.aliyun.com\/docker-ce/g' /etc/yum.repos.d/docker-ce.repoyum makecache fast
  • 安装Docker引擎
yum install -y docker-ce
  • 配置镜像加速

新建/etc/docker/daemon.json 文件，写入如下内容

{"registry-mirrors": ["https://docker.m.daocloud.io","https://dockerproxy.com","https://docker.mirrors.ustc.edu.cn","https://docker.nju.edu.cn","https://iju9kaj2.mirror.aliyuncs.com","http://hub-mirror.c.163.com","https://cr.console.aliyun.com","https://hub.docker.com","http://mirrors.ustc.edu.cn"]
}
  • 启动docker

注意一定要关闭防火墙,修改镜像加速后记得重启docker

# 关闭防火墙
systemctl stop firewalld
# 禁止开机启动防火墙
systemctl disable firewalld# 启动docker服务
systemctl start docker# 停止docker服务
systemctl stop docker  
# 重启docker服务
systemctl restart docker #查看docker版本
docker -v
  • 拉取镜像测试
#拉取镜像
docker pull nginx#查看镜像
docker images

 2.安装docker-compose

Linux 通过命令下载：

# 安装
curl -L https://github.com/docker/compose/releases/download/1.23.1/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose

如下载失败或很慢。可从百度云盘下载，手动安装

可使用网盘分享的文件：docker-compose-Linux-x86_64

链接: 百度网盘 请输入提取码 提取码: 1234

上传到服务器后执行如下命令：

mv docker-compose-Linux-x86_64 docker-compose
mv docker-compose /usr/local/bin/docker-compose

修改文件权限

#添加可执行权限
chmod +x /usr/local/bin/docker-compose

Bash自动补全命令

#补全命令
curl -L https://raw.githubusercontent.com/docker/compose/1.29.1/contrib/completion/bash/docker-compose > /etc/bash_completion.d/docker-compose

如果这里出现错误，需要修改自己的hosts文件：

echo "199.232.68.133 raw.githubusercontent.com" >> /etc/hosts

查看docker-compose版本

docker-compose version

 

3.进入dify docker文件夹,执行命令

#新建目录文件dify
#将dify安装包文件上传至新建目录
#解压文件
tar -zxvf dify-1.0.0.tar.gz
#进入docker文件夹，执行命令
cd docker
docker compose up -d

4.访问ip地址,默认80端口

默认会是填写邮箱，以及设置用户名和密码界面->登录

ollama下载安装-设置镜像加速方式

1.下载安装脚本

curl -fsSL https://ollama.com/install.sh -o ollama_install.sh

2.修改下载源，加速下载

sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh

3.新增可执行文件

chmod +x ollama_install.sh

4.执行sh下载安装

sh ollama_install.sh

如这里还是下载很慢，不能接受，看下个方式通过百度网盘下载安装包，手动安装。

5.启动服务

#设置开机自启
systemctl enable ollama
#查看ollama 服务状态
systemctl status ollama
#启动ollama服务
systemctl start ollama

如命令执行失败：Failed to execute operation: No such file or directory

则按照如下方式解决

#创建服务文件
vi /etc/systemd/system/ollama.service
写入如下内容
[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3[Install]
WantedBy=default.target#注意上面的ExecStart的值需要修改为你的/bin/ollama 的路径

生效服务命令行

systemctl daemon-reload

服务自启动

systemctl enable ollama

启动服务

systemctl start ollama

再次查看是否安装成功

ollama -v

ollama下载linux安装包，手动安装

通过网盘分享的文件：ollama-linux-amd64.tgz

链接: 百度网盘 请输入提取码 提取码: 1234

上传到目录文件后，解压

tar -zxvf ollama-linux-amd64.tgz

进入bin目录，执行./ollama -v

创建ollama.service

#创建服务文件
vi /etc/systemd/system/ollama.service
写入如下内容
[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/opt/software/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3[Install]
WantedBy=default.target#注意上面的ExecStart的值需要修改为你的/bin/ollama 的路径

生效服务命令行

systemctl daemon-reload

服务自启动

systemctl enable ollama

启动服务

systemctl start ollama

再次查看是否安装成功

./ollama -v

拉取deepseek r1 1.5b模型

./ollama run deepseek-r1:1.5b

注意：刚开始拉取快，后面慢，可多次暂停后在继续拉取，就可以一直快。

就可以输入文字和 deepseek聊天了。

dify关联ollama

进入dify中的docker目录，复制.env.example,修改为.env文件

在.env文件最后新增

#将最后的PIP_MIRROR_URL=注释掉
#PIP_MIRROR_URL=
CUSTOM_MODEL_ENABLED=true
OLLAMA_API_BASE_URL=http://192.168.31.14:11434/

重启dify

docker compose down
docker compose up -d

然后在模型中配置

在Dify的主界面http://localhost/apps,右上角用户名下的设置-》模型供应商

点击安装Ollama

安装后，刷新页面，直到出现下面界面

点击添加模型

输入模型名称： deepseek-r1:1.5b

输入基础URL:

http://192.168.31.14:11434/

点击保存。成功页面

遇到的错误：

刚开始配置的域名，修改为ip后正确。

其他错误：ollama不能被浏览器访问，修改配置，重启。

在[Service]下加上Environment="OLLAMA_HOST=0.0.0.0"即可

vi /etc/systemd/system/ollama.service#新增
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0"
wq 报错并退出
#重新加载，重启
systemctl daemon-reload
systemctl restart ollama

dify创建ai聊天应用

开始聊天

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/bicheng/76829.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

docx文档转为pdf文件响应前端

docx文档转为pdf文件响应前端

1、转换文件&#xff08;docx~pdf&#xff09; 1.引入pom依赖 <dependency><groupId>com.aspose</groupId><artifactId>aspose-words</artifactId><version>20.12.0</version> </dependency>2.读取docx文档数据-转换 // 初…
阅读更多...
网络安全中信息收集需要收集哪些信息了？汇总

网络安全中信息收集需要收集哪些信息了？汇总

目录 1. 域名信息 2. IP地址与网络信息 3. 备案与注册信息 4. Web应用与中间件信息 5. 操作系统与服务器信息 6. 敏感文件与配置文件 7. 社交工程信息 8. 证书与加密信息 9. API与接口信息 10. 外部威胁情报 11. 历史数据与缓存 常用工具与技术&#xff1a; 在网络…
阅读更多...
【锂电池SOH预测】PSO-BP锂电池健康状态预测，锂电池SOH预测（Matlab完整源码和数据）

【锂电池SOH预测】PSO-BP锂电池健康状态预测，锂电池SOH预测（Matlab完整源码和数据）

预测效果 基于PSO-BP算法的锂电池健康状态预测研究 一、引言 1.1 研究背景与意义 在当今社会&#xff0c;锂电池凭借其高能量密度、长寿命及环境友好等特性&#xff0c;在现代能源系统中占据着举足轻重的地位。从消费电子领域如智能手机、笔记本电脑&#xff0c;到动力领域中…
阅读更多...
智能车摄像头开源—9 动态权、模糊PID、速度决策、路径优化

智能车摄像头开源—9 动态权、模糊PID、速度决策、路径优化

目录 一、前言 二、动态权 1.概述 2.偏差值加动态权 三、模糊PID 四、速度决策 1.曲率计算 2.速度拟合 3.速度控制 五、路径 六、国赛视频 一、前言 在前中期通过识别直道、弯道等元素可进行加减速操作实现速度的控制&#xff0c;可进一步缩减一圈的运行速度&#xff…
阅读更多...
过往记录系列 篇五：市场黑天鹅事件历史梳理

过往记录系列 篇五：市场黑天鹅事件历史梳理

文章目录 系列文章文章地址文章摘要文章预览系列文章 过往记录系列 篇一：牛市板块轮动顺序梳理 过往记录系列 篇二：新年1月份（至春节前）行情历史梳理 过往记录系列 篇三：春节行情历史梳理 过往记录系列 篇四：年报月行情历史梳理 文章地址 原文审核不通过（理由：“违反…
阅读更多...
Mysql--基础知识点--85.1--Innodb自适应哈希索引

Mysql--基础知识点--85.1--Innodb自适应哈希索引

1. 自适应哈希索引的用途 InnoDB 的自适应哈希索引&#xff08;Adaptive Hash Index, AHI&#xff09;是 MySQL 数据库引擎中一项智能优化查询性能的功能。其核心作用如下&#xff1a; 加速等值查询 哈希索引通过哈希函数将键映射到固定位置&#xff0c;实现 O(1) 时间复杂度的…
阅读更多...
SQL优化技术分享：从 321 秒到 0.2 秒的性能飞跃 —— 基于 PawSQL 的 TPCH 查询优化实战

SQL优化技术分享：从 321 秒到 0.2 秒的性能飞跃 —— 基于 PawSQL 的 TPCH 查询优化实战

在数据库性能优化领域&#xff0c;TPC-H 测试集是一个经典的基准测试工具&#xff0c;常用于评估数据库系统的查询性能。本文将基于 TPCH 测试集中的第 20个查询&#xff0c;结合 PawSQL 自动化优化工具&#xff0c;详细分析如何通过 SQL 重写和索引设计&#xff0c;将查询性能…
阅读更多...
SpringBoot3-web开发笔记（下）

SpringBoot3-web开发笔记（下）

内容协商 实现&#xff1a;一套系统适配多端数据返回 多端内容适配&#xff1a; 1. 默认规则 SpringBoot 多端内容适配。 基于请求头内容协商&#xff1a;&#xff08;默认开启&#xff09; 客户端向服务端发送请求&#xff0c;携带HTTP标准的Accept请求头。 Accept: applica…
阅读更多...
Graylog 索引配置详解与优化建议

Graylog 索引配置详解与优化建议

Graylog 索引配置详解与优化建议 &#x1f680; 前言一、索引集基础信息 &#x1f4da;二、分片&#xff08;Shards&#xff09;与副本&#xff08;Replicas&#xff09;设置 ⚙️1. 分片 (Shards)2. 副本 (Replicas) 三、 字段类型刷新间隔&#xff08;Field Type Refresh Int…
阅读更多...
数据结构*包装类泛型

数据结构*包装类泛型

包装类 什么是包装类 在讲基本数据类型的时候&#xff0c;有提到过包装类。 基本数据类型包装类byteByteshortShortintIntegerlongLongfloatFloatdoubleDoublecharCharacterbooleanBoolean 我们知道&#xff1a;基本数据类型并不是对象&#xff0c;没有对象所具有的方法和属…
阅读更多...
【JDBC-54.1】MySQL JDBC连接字符串常用参数详解

【JDBC-54.1】MySQL JDBC连接字符串常用参数详解

在Java应用程序中连接MySQL数据库时&#xff0c;JDBC连接字符串是建立连接的关键。一个配置得当的连接字符串不仅能确保连接成功&#xff0c;还能优化性能、增强安全性并处理各种连接场景。本文将深入探讨MySQL JDBC连接字符串的常用参数及其最佳实践。 1. 基本连接字符串格式…
阅读更多...
[ctfshow web入门] web37

[ctfshow web入门] web37

信息收集 题目有了变化&#xff0c;include$c if(isset($_GET[c])){$c $_GET[c];if(!preg_match("/flag/i", $c)){include($c);echo $flag;}}else{highlight_file(__FILE__); }解题 通过协议解题 参考[ctfshow web入门] web31 同样是include&#xff0c;之前的方…
阅读更多...
Linux 调试代码工具：gdb

Linux 调试代码工具：gdb

文章目录 一、debug vs release&#xff1a;两种程序形态的本质差异1. 什么是 debug 与 release&#xff1f;2. 核心差异对比 二、为什么需要 debug&#xff1a;从项目生命周期看调试价值1. 项目开发流程中的调试闭环&#xff08;流程图示意&#xff09;2. Debug 的核心意义与目…
阅读更多...
Python设计模式：命令模式

Python设计模式：命令模式

1. 什么是命令模式&#xff1f; 命令模式是一种行为设计模式&#xff0c;它将请求封装为一个对象&#xff0c;从而使您能够使用不同的请求、队列或日志请求&#xff0c;以及支持可撤销操作。 命令模式的核心思想是将请求的发送者与请求的接收者解耦&#xff0c;使得两者之间的…
阅读更多...
nlp面试重点

nlp面试重点

深度学习基本原理&#xff1a;梯度下降公式&#xff0c;将损失函数越来越小&#xff0c;最终预测值和实际值误差比较小。 交叉熵&#xff1a;-p(x)logq(x)&#xff0c;p(x)是one-hot形式。如果不使用softmax计算交叉熵&#xff0c;是不行的。损失函数可能会非常大&#xff0c;…
阅读更多...
Leetcode：二叉树

Leetcode：二叉树

94. 二叉树的中序遍历 class Solution {public List<Integer> inorderTraversal(TreeNode root) {TreeNode cur root;Stack<TreeNode> stack new Stack<>();List<Integer> list new ArrayList<>();while (!stack.isEmpty() || cur ! null) {…
阅读更多...
SQL：Constraint（约束）

SQL：Constraint（约束）

目录 &#x1f3af; 什么是 Constraint&#xff1f; MySQL 中常见的约束类型&#xff1a; 1. PRIMARY KEY 2. FOREIGN KEY 3. UNIQUE 4. NOT NULL 5. DEFAULT 6. CHECK&#xff08;MySQL 8.0&#xff09; 7. AUTO_INCREMENT &#x1f3af; 什么是 Constraint&#xf…
阅读更多...
数据库数据恢复——sql server数据库被加密怎么恢复数据？

数据库数据恢复——sql server数据库被加密怎么恢复数据？

SQL server数据库数据故障&#xff1a; SQL server数据库被加密&#xff0c;无法使用。 数据库MDF、LDF、log日志文件名字被篡改。 数据库备份被加密&#xff0c;文件名字被篡改。 SQL server数据库数据恢复过程&#xff1a; 1、将所有数据库做完整只读备份。后续所有数据恢…
阅读更多...
MySQL 用 limit 影响性能的优化方案

MySQL 用 limit 影响性能的优化方案

一.使用索引覆盖扫描 如果我们只需要查询部分字段&#xff0c;而不是所有字段&#xff0c;我们可以尝试使用索引覆盖扫描&#xff0c;也就是让查询所需的所有字段都在索引中&#xff0c;这样就不需要再访问数据页&#xff0c;减少了随机 I/O 操作。 例如&#xff0c;如果我们…
阅读更多...
【算法笔记】并查集详解

【算法笔记】并查集详解

&#x1f680; 并查集&#xff08;Union-Find&#xff09;详解&#xff1a;原理、实现与优化 并查集&#xff08;Union-Find&#xff09;是一种非常高效的数据结构&#xff0c;用于处理动态连通性问题&#xff0c;即判断若干个元素是否属于同一个集合&#xff0c;并支持集合合…
阅读更多...
最新文章

Copyright @ 2022~2023