windows下open webui+ollama+sd webui

原文:https://wangguo.site/Blog/2024/Q2/2024-06-14/

说明:安装使用环境是在Windows下

1、给ollama一个好看的交互界面(open webui)

1.1、ollama安装

  • 安装:在ollama官网下载windows版本进行安装
  • 模型列表:支持的模型列表可以在ollama模型仓库查看
    在这里插入图片描述
  • 模型下载:使用ollama pull 模型名称下载模型
    如:ollama pull llama3
  • 模型使用
    • 终端使用:使用ollama run 模型名称即可使用
      如:ollama run llama3
    • api使用:使用ollama serve、或者直接点击ollama图标即可在这里插入图片描述
  • api服务验证:浏览器端输入127.0.0.1:11434,显示ollama id running即为正常
    在这里插入图片描述

1.2、open webui安装

Open WebUI是一个可扩展、功能强大且用户友好的自主WebUI,旨在完全离线操作。它支持多种LLM运行器,包括Ollama和OpenAI,兼容API。

  • 基于docker安装open webui
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  • 本地打开:localhost:3000
    首次打开需要注册,第一位注册的用户默认为管理员(注册的信息随便填写,只要邮箱符合@规则即可)在这里插入图片描述
    此时我们点击“选择一个模型”的时候是没有模型列表的,这个时候就需要配置ollama了

1.3、open webui引入ollama

  • 首先,我们需要让ollama可以通过本地ip访问,windows下需要新建环境变量

步骤:windows下直接搜索编辑系统环境变量-环境变量-在系统变量中新建-变量名:OLLAMA_HOST;变量值:0.0.0.0在这里插入图片描述

  • 验证ollama:此时在浏览器输入本地ip+端口号就显示可以正常使用了。比如我的地址为:192.168.1.9:11434
    在这里插入图片描述
  • 在open webui中配置ollama服务,并进行验证

步骤:点击右上角的图标-设置-管理员设置-外部连接-在ollama api中填写本地ip+端口号,如192.168.1.9:11434
验证:点击后面的刷新按钮,弹出已验证服务器连接
在这里插入图片描述

  • open webui中使用ol lama服务
    此时就可以选择ollama下载的模型进行对话使用了
    在这里插入图片描述

2、在open webui中连接sd,引入图像生成的功能

2.1、sd webui安装

  • 前提:需要安装git/python
git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
./webui.bat
  • 打开本地IP+端口号7860
    在这里插入图片描述
  • web.bat中添加启动参数(13行左右),以便sd提供api服务
set COMMANDLINE_ARGS=--xformers --api --listen --share

2.2、open webui引入sd

管理员面板- 设置-图像里面按照下图进行配置,所有的参数都可以根据自己的进行修改在这里插入图片描述

3、使用

  • 正常对话,进行描述
    在这里插入图片描述
  • 点击图像生成按钮,便可以生成图像
    在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/852856.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【SQLAlChemy】表之间的关系,外键如何使用?

表之间的关系 数据库表之间的关系分为三种: 一对一关系(One-to-One):在这种关系中,表A的每一行都与表B的一行关联,反之亦然。例如,每个人都有一个唯一的社保号,每个社保号也只属于…

南师大GIS专业2024排名NO.1!!!

南师大GIS 666 学科专业实力666,研究方向多多多! 有学术方向有开发应用方向, 有GIS(建模、数字地形、基础理论和三维GIS等)、 有Cartography (叙事地图、动态地图、地图风格迁移等&#…

Visual Studio Code 的安装教程和配置C语言环境插件推荐

目录 1.vscode简介2.下载安装vs code3.VSCode基础配置VSCode界面简介VSCode设置中文界面VSCode个性化设置VSCode常用设置基本编辑快捷键VSCode常用快捷键 4.下载安装MinGW5.设置vscode里的环境6.插件推荐7.vscode官方文档 1.vscode简介 VSCode是微软出的一款轻量级编辑器&…

Javaweb03-Servlet技术1(Servlet,ServletConfig,ServletContext)

Servlet技术(Servlet,ServletConfig,ServletContext) 1.Servlet的概述 Servlet是运行在Web服务器端的Java应用程序,它使用Java语言编写。与Java程序的区别是,Servlet 对象主要封装了对HTTP请求的处理,并且它的运行需要Servlet容器(Tomcat)的…

人工智能历史与现状

1 人工智能历史与现状 1.1 人工智能的概念和起源 1.1.1 人工智能的概念 人工智能 (Artificial Intelligence ,AI)是一门研究如何使计算机 能够模拟人类智能行为的科学和技术,目标在于开发能够感知、理解、 学习、推理、决策和解决问题的智能机器。人工智能的概念主要包含 以…

vivado HW_TARGET

HW_目标 描述 硬件目标hw_target是包含一个或多个JTAG链的系统板 Xilinx FPGA设备,您可以使用比特流文件进行编程,或用于调试您的设计。 系统板上的硬件目标与Vivado Design Suite之间的连接 由硬件服务器对象hw_server管理。 使用open_hw_target命令打开…

StableSwarmUI 安装教程(详细)

文章目录 背景特点安装 背景 StableSwarmUI是StabilityAI官方开源的一个文生图工作流UI,目前处于beta阶段,但主流程是可以跑通的。该UI支持接入ComfyUI、Stable Diffusion-WebUI。其工作原理就是使用ComfyUI、Stable Diffusion-WebUI或者StabilityAI官方…

利用系统或软件缺陷进行攻击

操作系统都有漏洞 这里就是输入的字符串长度太长了 超过8个字节了 没听懂

在下游市场需求带动下 我国聚天门冬氨酸脂防腐涂料市场规模不断扩大

在下游市场需求带动下 我国聚天门冬氨酸脂防腐涂料市场规模不断扩大 聚天门冬氨酸酯防腐涂料又称为天冬聚脲防腐涂料,是以聚天门冬氨酸酯作为主体树脂、脂肪族异氰酸酯为固化剂而形成的一种防腐涂料。与其他类型的防腐涂料相比,聚天门冬氨酸酯防腐涂料具…

【Hive下篇: 一篇文章带你了解表的静态分区,动态分区! 分桶!Hive sql的内置函数!复杂数据类型!hive的简单查询语句!】

前言: 💞💞大家好,我是书生♡,本篇文章主要分享的是大数据开发中hive的相关技术。连接查询!正则表达式! 虚拟列!爆炸函数!行列转换! Hive的数据压缩和数据存储…

利用穿戴甲虚拟试戴技术提高销量和参与度

在不断变化的美容行业,保持领先意味着拥抱创新技术。其中一项改变游戏规则的技术是人工智能驱动的虚拟指甲试戴。在穿戴甲领域,不断兴起的虚拟试戴技术对促进销售和参与度产生了重大影响。 视觉吸引力的力量 要了解虚拟试戴的重要性,必须了解…

简单了解MySql以及一些简单的应用MySql

MySql基础篇 1、数据模型概述 关系型数据库 概念:建立在关系模型基础上,由多张相互连接的二维表组成的数据库。 特点: 使用表存储数据,格式统一,便于维护使用SQL语言操作,标准统一,使用方便 数…

基于hispark_taurus开发板示例学习OpenHarmony编译构建系统(2)

3、hispark_taurus产品解决方案-Vendor 产品解决方案为基于开发板的完整产品,主要包含产品对OS的适配、组件拼装配置、启动配置和文件系统配置等。产品解决方案的源码路径规则为:vendor/{产品解决方案厂商}/{产品名称}_。_产品解决方案也是一个特殊的组…

vue生命周期及组件讲解(如何导入引用外部vue文件,以及注册全局变量,自定义标签效果)

生命周期钩子的理解与应用 函数说明onBeforeMount( )组件挂载前onMounted( )组件挂载后onBeforeUpdate( )组件更新前onUpdated( )组件中任意的DOM元素更新后onBeforeUnmount( )组件实例被销毁前onUnmounted( )组件实例被销毁后 生命周期在 各类应用以及网站中使用非常广泛&…

k8s+springboot+redis部署配置连接

1 springboot 配置k8s中的redis服务名 #tomcat访问端口 # 应用名称 spring.application.namedemo # 应用服务Web访问端口 server.port8089 server.envtest #缓存关闭 spring.thymeleaf.cachefalse #可选配置 management.endpoints.enabled-by-defaulttrue management.endpoint…

springboot与flowable(6):任务分配(监听器)

一、创建流程模型 制作如下流程 给审批用户1一个值表达式。 二、给用户审批2添加监听器 创建一个监听器类 package org.example.flowabledemo2.listener;import org.flowable.engine.delegate.TaskListener; import org.flowable.task.service.delegate.DelegateTask;/*** 自定…

【PLG洞察】|向Figma学习如何打造标杆客户和实施分销策略

Figma是一款功能强大的在线协同设计工具,它主要被用于界面设计、原型设计和用户体验设计。作为国外知名的saas企业,对标国内的saas蓝海,它的增长实在惊人!据称,Figma2020年的收入已达$75M, 2021年6月,美国的…

springSecurity学习笔记(一)

简介 Spring Security是一个Java框架,用于保护应用程序的安全性。它提供了一套全面的安全解决方案,包括身份验证、授权、防止攻击等功能。Spring Security基于过滤器链的概念,可以轻松地集成到任何基于Spring的应用程序中。它支持多种身份验…

海洋CMS /js/player/dmplayer/dmku/ SQL注入漏洞复现(CVE-2024-29275)

0x01 产品简介 海洋CMS是一套专为不同需求的站长而设计的内容管理系统,灵活、方便、人性化设计、简单易用是最大的特色,可快速建立一个海量内容的专业网站。海洋CMS基于PHPMySql技术开发,完全开源免费 、无任何加密代码。 0x02 漏洞概述 海…

Jsch上传本地目录文件到服务器

文章目录 1.Jsch简介1.1 什么是Jsch1.2 Jsch使用步骤和简单示例 2.技术关键点3.Jsch实战3.1 maven依赖3.2 功能实现3.3 效果3.4 封装工具类 4.总结 摘要: 在一些框架开发工作中,需要为项目使用说明文档,来指导用户如何正确使用框架。比如通过markdown编写…