windows下open webui+ollama+sd webui

原文:https://wangguo.site/Blog/2024/Q2/2024-06-14/

说明:安装使用环境是在Windows下

1、给ollama一个好看的交互界面(open webui)

1.1、ollama安装

  • 安装:在ollama官网下载windows版本进行安装
  • 模型列表:支持的模型列表可以在ollama模型仓库查看
    在这里插入图片描述
  • 模型下载:使用ollama pull 模型名称下载模型
    如:ollama pull llama3
  • 模型使用
    • 终端使用:使用ollama run 模型名称即可使用
      如:ollama run llama3
    • api使用:使用ollama serve、或者直接点击ollama图标即可在这里插入图片描述
  • api服务验证:浏览器端输入127.0.0.1:11434,显示ollama id running即为正常
    在这里插入图片描述

1.2、open webui安装

Open WebUI是一个可扩展、功能强大且用户友好的自主WebUI,旨在完全离线操作。它支持多种LLM运行器,包括Ollama和OpenAI,兼容API。

  • 基于docker安装open webui
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  • 本地打开:localhost:3000
    首次打开需要注册,第一位注册的用户默认为管理员(注册的信息随便填写,只要邮箱符合@规则即可)在这里插入图片描述
    此时我们点击“选择一个模型”的时候是没有模型列表的,这个时候就需要配置ollama了

1.3、open webui引入ollama

  • 首先,我们需要让ollama可以通过本地ip访问,windows下需要新建环境变量

步骤:windows下直接搜索编辑系统环境变量-环境变量-在系统变量中新建-变量名:OLLAMA_HOST;变量值:0.0.0.0在这里插入图片描述

  • 验证ollama:此时在浏览器输入本地ip+端口号就显示可以正常使用了。比如我的地址为:192.168.1.9:11434
    在这里插入图片描述
  • 在open webui中配置ollama服务,并进行验证

步骤:点击右上角的图标-设置-管理员设置-外部连接-在ollama api中填写本地ip+端口号,如192.168.1.9:11434
验证:点击后面的刷新按钮,弹出已验证服务器连接
在这里插入图片描述

  • open webui中使用ol lama服务
    此时就可以选择ollama下载的模型进行对话使用了
    在这里插入图片描述

2、在open webui中连接sd,引入图像生成的功能

2.1、sd webui安装

  • 前提:需要安装git/python
git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
./webui.bat
  • 打开本地IP+端口号7860
    在这里插入图片描述
  • web.bat中添加启动参数(13行左右),以便sd提供api服务
set COMMANDLINE_ARGS=--xformers --api --listen --share

2.2、open webui引入sd

管理员面板- 设置-图像里面按照下图进行配置,所有的参数都可以根据自己的进行修改在这里插入图片描述

3、使用

  • 正常对话,进行描述
    在这里插入图片描述
  • 点击图像生成按钮,便可以生成图像
    在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/852856.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【SQLAlChemy】表之间的关系,外键如何使用?

表之间的关系 数据库表之间的关系分为三种: 一对一关系(One-to-One):在这种关系中,表A的每一行都与表B的一行关联,反之亦然。例如,每个人都有一个唯一的社保号,每个社保号也只属于…

南师大GIS专业2024排名NO.1!!!

南师大GIS 666 学科专业实力666,研究方向多多多! 有学术方向有开发应用方向, 有GIS(建模、数字地形、基础理论和三维GIS等)、 有Cartography (叙事地图、动态地图、地图风格迁移等&#…

Visual Studio Code 的安装教程和配置C语言环境插件推荐

目录 1.vscode简介2.下载安装vs code3.VSCode基础配置VSCode界面简介VSCode设置中文界面VSCode个性化设置VSCode常用设置基本编辑快捷键VSCode常用快捷键 4.下载安装MinGW5.设置vscode里的环境6.插件推荐7.vscode官方文档 1.vscode简介 VSCode是微软出的一款轻量级编辑器&…

Javaweb03-Servlet技术1(Servlet,ServletConfig,ServletContext)

Servlet技术(Servlet,ServletConfig,ServletContext) 1.Servlet的概述 Servlet是运行在Web服务器端的Java应用程序,它使用Java语言编写。与Java程序的区别是,Servlet 对象主要封装了对HTTP请求的处理,并且它的运行需要Servlet容器(Tomcat)的…

人工智能历史与现状

1 人工智能历史与现状 1.1 人工智能的概念和起源 1.1.1 人工智能的概念 人工智能 (Artificial Intelligence ,AI)是一门研究如何使计算机 能够模拟人类智能行为的科学和技术,目标在于开发能够感知、理解、 学习、推理、决策和解决问题的智能机器。人工智能的概念主要包含 以…

YOLOv8改进 | 注意力机制 | 正确的 Self-Attention 与 CNN 融合范式,性能速度全面提升【独家创新】

💡💡💡本专栏所有程序均经过测试,可成功执行💡💡💡 卷积和自注意力是两种强大的表征学习技术,它们通常被认为是彼此不同的两种平行方法。ACmix模型通过结合卷积和自注意力的优势,旨在解决卷积神经网络和自注意力模型在表征学习中的各自局限性,提高模型性能。它…

vivado HW_TARGET

HW_目标 描述 硬件目标hw_target是包含一个或多个JTAG链的系统板 Xilinx FPGA设备,您可以使用比特流文件进行编程,或用于调试您的设计。 系统板上的硬件目标与Vivado Design Suite之间的连接 由硬件服务器对象hw_server管理。 使用open_hw_target命令打开…

StableSwarmUI 安装教程(详细)

文章目录 背景特点安装 背景 StableSwarmUI是StabilityAI官方开源的一个文生图工作流UI,目前处于beta阶段,但主流程是可以跑通的。该UI支持接入ComfyUI、Stable Diffusion-WebUI。其工作原理就是使用ComfyUI、Stable Diffusion-WebUI或者StabilityAI官方…

利用系统或软件缺陷进行攻击

操作系统都有漏洞 这里就是输入的字符串长度太长了 超过8个字节了 没听懂

在下游市场需求带动下 我国聚天门冬氨酸脂防腐涂料市场规模不断扩大

在下游市场需求带动下 我国聚天门冬氨酸脂防腐涂料市场规模不断扩大 聚天门冬氨酸酯防腐涂料又称为天冬聚脲防腐涂料,是以聚天门冬氨酸酯作为主体树脂、脂肪族异氰酸酯为固化剂而形成的一种防腐涂料。与其他类型的防腐涂料相比,聚天门冬氨酸酯防腐涂料具…

【Hive下篇: 一篇文章带你了解表的静态分区,动态分区! 分桶!Hive sql的内置函数!复杂数据类型!hive的简单查询语句!】

前言: 💞💞大家好,我是书生♡,本篇文章主要分享的是大数据开发中hive的相关技术。连接查询!正则表达式! 虚拟列!爆炸函数!行列转换! Hive的数据压缩和数据存储…

利用穿戴甲虚拟试戴技术提高销量和参与度

在不断变化的美容行业,保持领先意味着拥抱创新技术。其中一项改变游戏规则的技术是人工智能驱动的虚拟指甲试戴。在穿戴甲领域,不断兴起的虚拟试戴技术对促进销售和参与度产生了重大影响。 视觉吸引力的力量 要了解虚拟试戴的重要性,必须了解…

简单了解MySql以及一些简单的应用MySql

MySql基础篇 1、数据模型概述 关系型数据库 概念:建立在关系模型基础上,由多张相互连接的二维表组成的数据库。 特点: 使用表存储数据,格式统一,便于维护使用SQL语言操作,标准统一,使用方便 数…

js 创建对象的几种方式

在 JavaScript 中,有多种方式可以创建对象,以下是常用的几种方式和对应的代码示例。 使用对象字面量(Object Literal)创建对象: const obj {prop1: value1,prop2: value2,method() {console.log(Hello, world!);} }…

基于hispark_taurus开发板示例学习OpenHarmony编译构建系统(2)

3、hispark_taurus产品解决方案-Vendor 产品解决方案为基于开发板的完整产品,主要包含产品对OS的适配、组件拼装配置、启动配置和文件系统配置等。产品解决方案的源码路径规则为:vendor/{产品解决方案厂商}/{产品名称}_。_产品解决方案也是一个特殊的组…

将Bean放入Spring容器中的五种方式

1、Configuration Bean 2、Compoent ComponentScan Component标记了,哪些类需要被扫描,ComponentScan指定了哪些包路径下的标记类可以被扫描 Component 如果不指定范围,默认从启动类所在包开始,扫描当前包及其子级包下的所有文…

Caused by: java.io.IOException: 打开的文件过多(Too many open files)

背景 在一次Linux系统中配置Java服务运行过程中,程序不能正常启动,报错(Too many open files) 解决方法 修改服务的LimitNOFILE配置 vim /usr/lib/systemd/system/xxx.service [Service] LimitNOFILE65535 重启xxx服务&#…

搭建Python虚拟环境(一):基础知识

在现代软件开发中,Python已经成为了最受欢迎的编程语言之一。它简洁的语法和强大的库支持使得Python非常适合快速开发。然而,随着项目的增长和依赖库的增加,管理不同项目的依赖关系可能会变得复杂。这时,Python虚拟环境的概念就显…

vue生命周期及组件讲解(如何导入引用外部vue文件,以及注册全局变量,自定义标签效果)

生命周期钩子的理解与应用 函数说明onBeforeMount( )组件挂载前onMounted( )组件挂载后onBeforeUpdate( )组件更新前onUpdated( )组件中任意的DOM元素更新后onBeforeUnmount( )组件实例被销毁前onUnmounted( )组件实例被销毁后 生命周期在 各类应用以及网站中使用非常广泛&…

k8s+springboot+redis部署配置连接

1 springboot 配置k8s中的redis服务名 #tomcat访问端口 # 应用名称 spring.application.namedemo # 应用服务Web访问端口 server.port8089 server.envtest #缓存关闭 spring.thymeleaf.cachefalse #可选配置 management.endpoints.enabled-by-defaulttrue management.endpoint…