Open WebUI大模型对话平台-适配Ollama

在这里插入图片描述

什么是Open WebUI

Open WebUI是一种可扩展、功能丰富、用户友好的大模型对话平台，旨在完全离线运行。它支持各种LLM运行程序，包括与Ollama和Openai兼容的API。

功能

  • 直观的界面:我们的聊天界面灵感来自ChatGPT，确保了用户友好的体验。
  • 响应式设计:在桌面和移动设备上享受无缝体验。
  • 快速响应:享受快速响应的性能。
  • 轻松安装:使用Docker或Kubernetes (kubectl, kustomize或helm)无缝安装，获得轻松的体验。
  • 代码语法突出显示:使用我们的语法突出显示功能，享受增强的代码可读性。
  • 完全Markdown和LaTeX支持:通过全面的Markdown和LaTeX功能提升您的LLM经验，以丰富交互。
  • 本地RAG集成:通过突破性的检索增强生成(RAG)支持，深入了解聊天交互的未来。此功能将文档交互无缝地集成到您的聊天体验中。您可以直接将文档加载到聊天中或将文件添加到文档库中，在提示符中使用 # 命令轻松访问它们。在alpha阶段，当我们积极改进和增强此功能以确保最佳性能和可靠性时，可能会偶尔出现问题。
  • 网页浏览功能:使用 # 命令后跟URL，无缝地将网站集成到您的聊天体验中。此功能允许您将web内容直接合并到您的对话中，增强交互的丰富性和深度。
  • 提示预设支持:使用聊天输入中的 / 命令立即访问预设提示。轻松加载预定义的会话启动器，加快您的交互。通过Open web社区集成轻松导入提示。
  • RLHF注释:通过对它们进行大拇指和大拇指的评级来授权您的消息，促进从人类反馈(RLHF)中进行强化学习的数据集的创建。利用您的消息来训练或微调模型，同时确保本地保存数据的机密性。
  • 对话标签:毫不费力地分类和定位特定的聊天快速参考和简化的数据收集。
  • 下载/删除模型:直接从web UI轻松下载或删除模型。
  • GGUF文件模型创建:通过直接从web UI上传GGUF文件，轻松创建Ollama模型。简化的过程选项，从您的机器上传或下载GGUF文件从拥抱的脸。
  • 多模型支持:在不同的聊天模型之间无缝切换，实现不同的交互。
  • 多模态支持:无缝地与支持多模态交互的模型交互，包括图像(例如，LLava)。
  • Modelfile Builder:通过web UI轻松创建Ollama模型文件。通过Open web Community集成，轻松创建和添加角色/代理、自定义聊天元素和导入模型文件。
  • 协作聊天:通过无缝编排组对话来利用多个模型的集体智能。使用 @ 命令指定模型，在聊天界面中启用动态和多样化的对话。让自己沉浸在编织在聊天环境中的集体智慧中。
  • OpenAI API集成:轻松集成OpenAI兼容API，用于与Ollama模型一起进行多功能对话。自定义API Base URL以链接LMStudio、Mistral、OpenRouter等。
  • 多用户管理:通过我们直观的管理面板轻松监督和管理用户，简化用户管理流程。

安装

Open WebUI官方推荐采用Docker方式进行部署：

# 拉取镜像
docker pull ghcr.io/open-webui/open-webui:main

如果没有科学上网，很可能会拉不动，可以试试 docker 代理网站：https://dockerproxy.com/，按步骤依次执行以下命令：

# 如果拉不动的话加个代理
docker pull ghcr.dockerproxy.com/open-webui/open-webui:main# 重命名镜像（如果是通过代理下载的）
docker tag ghcr.dockerproxy.com/open-webui/open-webui:main ghcr.io/open-webui/open-webui:main# 删除代理镜像（如果是通过代理下载的）
docker rmi ghcr.dockerproxy.com/open-webui/open-webui:main

下载完成后，可以在映像中找到了。

使用 docker-compose 安装，将下面的内容保存为 docker-compose.yml 文件

version: '3'services:ollama-webui:image: ghcr.io/open-webui/open-webui:maincontainer_name: ollama-webuirestart: unless-stoppedports:- 11345:8080environment:- OLLAMA_API_BASE_URL=http://10.8.10.xxx:11434/api- WEBUI_SECRET_KEY=123456

其中
OLLAMA_API_BASE_URL填写你的ollama的服务地址；
WEBUI_SECRET_KEY填写一个密码

# 将 docker-compose.yml 放入当前目录
# 一键启动
docker-compose up -d

运行使用

容器运行后，在浏览器中输入 http://IP:11345 就能看到登录界面。
在这里插入图片描述

登录成功后，首先点击左下角的Setting，进行设置：
在这里插入图片描述
设置Ollama服务的地址：
在这里插入图片描述

保存后，就可以选择我们ollama部署的模型正常进行问答了：
在这里插入图片描述

另外还有两个比较实用的功能：

1、设置prompt提示词模板
在这里插入图片描述

以上是我之前设置好的提示词模板，然后在问答的时候就可以通过“/”调用出设置好的prompt提示词了：
在这里插入图片描述

2、基于文档/网页的问答
可以在这块上传一下自己的文档：
在这里插入图片描述

在问答的过程中，可以通过“#”调用出上传的文档：
在这里插入图片描述

也可以引入一些网页，对网页内容进行问答：
在这里插入图片描述

其他更多内容可以参龙：
https://docs.openwebui.com/

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/770818.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

线性代数 - 应该学啥 以及哪些可以交给计算机

线性代数 - 应该学啥 以及哪些可以交给计算机

AI很热，所以小伙伴们不免要温故知新旧时噩梦 - 线代。 （十几年前，还有一个逼着大家梦回课堂的风口，图形学。） 这个真的不是什么美好的回忆，且不说老师的口音，也不说教材的云山雾绕，单…
阅读更多...
【考研数学二】线性代数重点笔记

【考研数学二】线性代数重点笔记

目录 第一章 行列式 1.1 行列式的几何意义 1.2 什么是线性相关，线性无关 1.3 行列式几何意义 1.4 行列式求和 1.5 行列式其他性质 1.6 余子式 1.7 对角线行列式 1.8 分块行列式 1.9 范德蒙德行列式 1.10 爪形行列式的计算 第二章 矩阵 2.1 初识矩阵 2…
阅读更多...
设置NPM镜像命令

设置NPM镜像命令

设置NPM镜像命令 NPM 查询当前镜像 npm get registry 设置为淘宝镜像 npm config set registry https://registry.npm.taobao.org/ 设置为官方镜像 npm config set registry https://registry.npmjs.org/ YARN 查询当前镜像 yarn config get registry 设置为淘宝镜像…
阅读更多...
查看VMWare ESXi 6.5/6.7服务器上 GPU直通的状态

查看VMWare ESXi 6.5/6.7服务器上 GPU直通的状态

VMWare ESXi 6.5/6.7服务器状态 查看配置参数
阅读更多...
生物信息学 GO、KEGG

生物信息学 GO、KEGG

文章目录 北大基因本体论分子通路KEGGGO注释分子通路鉴定 关于同源 相似性 b站链接：北大课程 概述了当前生物信息学领域中几个重要的概念和工具，介绍基因本体论（Gene Ontology, GO）、分子通路知识库KEGG（Kyoto Encyclo…
阅读更多...
纯前端调用本机原生Office实现Web在线编辑Word/Excel/PPT，支持私有化部署

纯前端调用本机原生Office实现Web在线编辑Word/Excel/PPT，支持私有化部署

在日常协同办公过程中，一份文件可能需要多次重复修改才能确定，如果你发送给多个人修改后再汇总，这样既效率低又容易出错，这就用到网页版协同办公软件了，不仅方便文件流转还保证不会出错。 但是目前一些在线协同Office…
阅读更多...
go的for循环应该这么用

go的for循环应该这么用

目录 目录 一：介绍 1: for流程控制 2：for-range流程控制 二：实例展示 1：//按照一定次数循环 2：//无限循环 3: //循环遍历整数、各种容器和通道 4：遍历通道 5：//指针数组循环 6&…
阅读更多...
sql2008工作文档2

sql2008工作文档2

sql2008工作文档2 mainCSqlServer.hCSqlServer.cpp main #pragma warning(disable : 4996) #include "CSqlServer.h" #include <string> #include "resource.h" #include <commdlg.h> #pragma comment(lib, "Comdlg32.lib") using …
阅读更多...
Pillow教程05：NumPy数组和PIL图像的相互转化

Pillow教程05：NumPy数组和PIL图像的相互转化

---------------Pillow教程集合--------------- Python项目18&#xff1a;使用Pillow模块&#xff0c;随机生成4位数的图片验证码 Python教程93&#xff1a;初识Pillow模块&#xff08;创建Image对象查看属性图片的保存与缩放&#xff09; Pillow教程02&#xff1a;图片的裁…
阅读更多...
C++ union用法

C++ union用法

在C中&#xff0c;union是一种特殊的数据类型&#xff0c;可以在同一个内存位置存储不同的数据类型。它的用法如下&#xff1a; 1. 声明union类型&#xff1a;使用关键字union加上union名称来声明一个union类型。 c union UnionName { dataType1 member1; dataType2 …
阅读更多...
SpringBoot 文件上传（三）

SpringBoot 文件上传（三）

之前讲解了如何接收文件以及如何保存到服务端的本地磁盘中&#xff1a; SpringBoot 文件上传&#xff08;一)-CSDN博客 SpringBoot 文件上传&#xff08;二&#xff09;-CSDN博客 这节讲解如何利用阿里云提供的OSS&#xff08;Object Storage Service)对象存储服务保存文件。…
阅读更多...
2024华为软件精英挑战赛记录

2024华为软件精英挑战赛记录

前言 本次主要是记录自己第一次参加华为软件挑战赛的经历。第一次参加比赛还是缺少经验&#xff0c;训练赛中拿到赛区的20多名&#xff0c;最后在正式赛中被反超了&#xff0c;只拿了40多名&#xff0c;实在是感到可惜。 题目&#xff1a;本次题目是一个智慧港口的问题。10个机…
阅读更多...
vite5+vue3+ import.meta.glob动态导入vue组件

vite5+vue3+ import.meta.glob动态导入vue组件

import.meta.glob 是 Vite 提供的一个特殊功能&#xff0c;它允许你在模块范围内动态地导入多个模块。这在处理大量的文件&#xff0c;如组件、页面或其他模块时特别有用&#xff0c;特别是当你需要根据某些条件或模式来动态加载它们时。 1.创建需要动态导入的组件目录 假设你…
阅读更多...
设计模式—观察者模式与发布订阅

设计模式—观察者模式与发布订阅

观察者设计模式 观察者设计模式&#xff08;Observer Design Pattern&#xff09;是一种常用的软件设计模式&#xff0c;它是一种行为型模式。该模式用于定义对象之间的一种一对多的依赖关系&#xff0c;当一个对象的状态发生改变时&#xff0c;所有依赖于它的对象都将得到通知…
阅读更多...
FTP 文件传输服务

FTP 文件传输服务

FTP连接 控制连接&#xff1a;TCP 21&#xff0c;用于发送FTP命令信息 数据连接&#xff1a;TCP 20&#xff0c;用于上传、下载数据 数据连接的建立类型&#xff1a; 主动模式&#xff1a;服务端从 20 端口主动向客户端发起连接 被动模式&#xff1a;服务端在指定范围…
阅读更多...
flink-connector-redis支持select查询

flink-connector-redis支持select查询

EN 1 项目介绍 基于bahir-flink二次开发&#xff0c;相对bahir调整的内容有&#xff1a; 1.使用Lettuce替换Jedis,同步读写改为异步读写&#xff0c;大幅度提升了性能 2.增加了Table/SQL API&#xff0c;增加select/维表join查询支持 3.增加关联查询缓存(支持增量与全量) 4…
阅读更多...
flask_restful数据解析

flask_restful数据解析

参数验证也叫参数解析 Flask-Restful 插件提供了类似 WTForms 来验证提交的数据是否合法 的包&#xff0c;叫做 reqparse 。 # Flask_RESTFUl数据解析 from flask import Flask,render_template from flask_restful import Api,Resource from flask_restful.reqparse import …
阅读更多...
项目3-留言板

项目3-留言板

1.创建项目 记得将project type改为maven 将需要的包引入其中 更改版本号 引入MYSQL相关包记得进行配置&#xff01;&#xff01;&#xff01; spring:datasource:url: jdbc:mysql://127.0.0.1:3306/mycnblog?characterEncodingutf8&useSSLfalseusername: rootpassword:…
阅读更多...
深入解析Oracle数据库中的外连接 (OUTER JOIN)

深入解析Oracle数据库中的外连接 (OUTER JOIN)

在Oracle数据库中&#xff0c;外连接用于从两个或更多表的连接操作中检索那些在至少一个表中有匹配记录的所有记录。外连接可以确保即使在另一个表中找不到匹配项&#xff0c;指定表中的记录也会出现在结果集中。外连接主要有三种类型&#xff1a; 左外连接 (LEFT OUTER JOIN)&…
阅读更多...
sql server用nest typeorm实现索引的方式

sql server用nest typeorm实现索引的方式

针对您提到的索引类型&#xff0c;下面是使用TypeORM库在SQL Server中实现不同类型的索引的代码示例&#xff1a; 普通索引&#xff1a; import { Entity, Column, Index } from typeorm;Entity() Index(idx_name, [name]) export class User {Column()name: string;Column()…
阅读更多...
最新文章

Copyright @ 2022~2023