ollama+open-webui本地部署自己的模型到d盘+两种open-webui部署方式(详细步骤+大量贴图)

一、ollama准备

1.官网下载ollama:https://ollama.com/download

2.在 d 盘创建 ollama 文件夹,把软件包放进去

3.管理员身份运行黑窗口

win + r 弹出运行窗口

输入 cmd 后, ctrl + shift + 回车,以管理员身份打开

3.切换到 d 盘,添加系统环境变量(如果直接运行安装文件,模型文件会自动保存在C盘。时间久了,C盘很容易存满)

d: 回车

setx OLLAMA_MODELS d:\ollama\models /M

OLLAMA_MODELS: 环境变量名称,d:\ollama\models: 变量值,/M: 创建的是系统环境变量)

作用展示:

4.切换到 ollama 目录,安装ollama程序到指定目录

cd ollama

ollamaSetup.exe /dir=d:\ollama

在弹出的安装界面中,点 Install 后, 等待完成

5.关闭原来的 CMD,打开一个新的 CMD,让配置生效,并查看ollama是否安装成功

ollama -v

二、拉取并运行模型

1.官网搜索想要的模型:https://ollama.com

点击models 菜单项,进入模型列表页面

2.找到模型后,点击进入详情页面

3.选择想要的模型参数大小,复制右侧的命令

4.回到 CMD 窗口,粘贴命令,修改命令为仅下载,不运行

原命令 ollama run deepseek-r1:7b

新命令 ollama pull deepseek-r1:7b

(下载(拉取模型)速度变慢,可以 ctrl+c 中断,过一会再执行 ollama pull deepseek-r1:7b, 将会接着上一次的进度进行拉取下载)

5.运行大模型

ollama run deepseek-r1:7b

在 >>>提示符后输入信息即可聊天

tips:管理员运行的黑窗口才可以中文输入

输入/bye 或者 ctrl + d 也可以退出. ollama服务还在

三、Open-webui前端部署

1.直接在anaconda创建的虚拟环境中部署

1.创建虚拟环境指令:conda create -n open-webui python=3.11

2.一般创建工作区非常顺利,如果不放心,新打开黑窗口,查看工作区是否创建成功指令:conda info -e

3.进入创建的工作区指令:conda activate open-webui

4.配置pip清华镜像指令:pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

镜像指令来自:https://zhuanlan.zhihu.com/p/628870519

5.安装 open-webui指令:pip install open-webui

6.启动 open-webui指令:open-webui serve

7.服务启动成功页面

8.浏览器打开服务:localhost:8080

9.输入信息,创建管理员账号

10.创建后进入页面,弹出版本信息

11.尝试使用(ctl+c或者叉掉黑窗口,意味着关闭服务,浏览器中将不能使用)

平时使用流程

1.打开黑窗口,进入open-webui工作区指令:conda activate open-webui

2.工作区中启动open-webui指令:open-webui serve

3.退出或关闭 open-webui:ctrl + c或者叉掉黑窗口

查看工作区安装的open-webui项目信息

指令:conda activate open-webui pip show open-webui

查看模型情况

查看ollama中拉取的模型指令:ollama list

查看正在运行的模型情况:ollama ps

删除open-webui工作区内容:

指令:conda remove -n open-webui --all

2.Open-webui使用非pip安装运行

  • node.js已经安装,版本20以上,(我下载的22)
  • node.js环境变量已配置
    在这里插入图片描述

1.在github上下载源码

2.右键放项目的地方,打开Git Bash,克隆指令:git clone https://github.com/open-webui/open-webui.git (换成自己要克隆的项目地址哈)

3.等待克隆完成

4.使用魔法速度还是慢?克隆失败?

使用魔法指令:

git config --global http.proxy http://127.0.0.1:7890

git config --global https.proxy http://127.0.0.1:7890

如果不需要魔法,可以取消设置,指令:

git config --global --unset http.proxy

git config --global --unset https.proxy

目的是设置 Git 通过 HTTPHTTPS 协议访问网络时使用魔法工具地址,确保你的魔法工具(如 小猫)已启动,且 7890 端口是它的监听端口(不同工具端口可能不同),仅对 Git 生效,此配置不会影响其他程序(如浏览器)的网络请求

在这里插入图片描述

效果:速率提高到每秒兆字节

5.进入目录

6.路径输入cmd,启动黑窗口,运行指令npm install

7.路径打开的cmd不是管理员身份打开的,win+R打开运行,输入cmd后,ctrl+shift+回车。切到目录再执行指令:npm install

安装后会在目录中多一个文件夹:node_modules,如果没有显示,返回上一级文件夹,再进入。

8.继续输入指令完成前端构建:npm run build

9.依旧使用anaconda中创建的open-webui虚拟环境

10.运行指令:.\start_windows.bat

平常使用

1.路径打开黑窗口,避免切目录

2.虚拟环境下运行黑窗口


11.浏览器输入localhost:8080,聊天记录是空的,可见是新部署的。

四、我的疑惑

Q1:为什么右键项目,使用pycharm打开,运行后端的main.py文件,报无法打开数据库文件(unable to open database file),管理员运行pycharm也不行。。。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/77242.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

(学习总结33)Linux Ext2 文件系统与软硬链接

Linux Ext2 文件系统与软硬链接 理解硬件磁盘、服务器、机柜、机房磁盘物理结构磁盘的逻辑结构实际过程 CHS 与 LBA 地址转换 引入文件系统引入 " 块 " 概念引入 " 分区 " 概念引入 " inode " 概念 ext2 文件系统宏观认识Block Group 块组与其内…

Go语言sync.Mutex包源码解读

互斥锁sync.Mutex是在并发程序中对共享资源进行访问控制的主要手段,对此Go语言提供了非常简单易用的机制。sync.Mutex为结构体类型,对外暴露Lock()、Unlock()、TryLock()三种方法,分别用于阻塞加锁、解锁、非阻塞加锁操作(加锁失败…

SQL注入流量分析

免责声明:本文仅作分享 ~ 目录 SQL注入流量分析 特征: sqlmap注入类型 漏洞环境搭建 error_sql: bool_sql: time_sql: union_sql: Stacked Queries: Inline Queries: SQL注入流量分析 https://www.freebuf.com/column/161797.html SQLMAP攻击…

Linux 时间同步工具 Chrony 简介与使用

一、Chrony 是什么? chrony 是一个开源的网络时间同步工具,主要由两个组件组成: chronyd:后台服务进程,负责与时间服务器交互,同步系统时钟。chronyc:命令行工具,用于手动查看或修…

Flutter:Flutter SDK版本控制,fvm安装使用

1、首先已经安装了Dart,cmd中执行 dart pub global activate fvm2、windows配置系统环境变量 fvm --version3、查看本地已安装的 Flutter 版本 fvm releases4、验证当前使用的 Flutter 版本: fvm flutter --version5、切换到特定版本的 Flutter fvm use …

Vue 项目中的package.json各部分的作用和用法的详细说明

1. 基本信息 {"name": "my-vue-app","version": "1.0.0","description": "A Vue.js project","author": "Your Name <your.emailexample.com>","license": "MIT"…

Linux网络编程——TCP通信的四次挥手

一、前言 上篇文章讲到了TCP通信建立连接的“三次握手”的一些细节&#xff0c;本文再对TCP通信断开连接的“四次挥手”的过程做一些分析了解。 二、TCP断开连接的“四次挥手” 我们知道TCP在建立连接的时需要“三次握手”&#xff0c;三次握手完后就可以进行通信了。而在通…

某碰瓷国赛美赛,号称第三赛事的数模竞赛

首先我非常不能理解的就是怎么好意思自称第三赛事的呢&#xff1f;下面我们进行一个简单讨论&#xff0c;当然这里不对国赛和美赛进行讨论。首先我们来明确一点&#xff0c;比赛的含金量由什么来定&#xff1f;这个可能大家的评价指标可能不唯一&#xff0c;我通过DeepSeek选取…

Redis 缓存问题:缓存雪崩、缓存击穿、缓存穿透

文章目录 缓存雪崩缓存击穿缓存穿透在实际的业务场景中,Redis 通常作为缓存和其他数据库(例如 MySQL)搭配使用,用来减轻数据库的压力。但是在使用 Redis 作为缓存数据库的过程中,可能会遇到一些常见问题,例如缓存穿透、缓存击穿和缓存雪崩等。 缓存雪崩 缓存雪崩是指缓存…

Qt 入门 4 之标准对话框

Qt 入门 4 之标准对话框 Qt提供了一些常用的对话框类型,它们全部继承自QDialog类,并增加了自己的特色功能,比如获取颜色、显示特定信息等。下面简单讲解这些对话框,可以在帮助索引中查看Standard Dialogs关键字,也可以直接索引相关类的类名。 本文将以一个新的项目为主介绍不…

买不起了,iPhone 或涨价 40% ?

周知的原因&#xff0c;新关税对 iPhone 的打击&#xff0c;可以说非常严重。 根据 Rosenblatt Securities分析师的预测&#xff0c;若苹果完全把成本转移给消费者。 iPhone 16 标配版的价格&#xff0c;可能上涨43%。 iPhone 16 标配的价格是799美元&#xff0c;上涨43%&am…

软件需求分析习题汇编

需求工程练习题 一、选择题 1. 软件需求规格说明书的内容不应包括对&#xff08; &#xff09;的描述。 A. 主要功能B. 算法的详细过程C. 用户界面及运行环境D. 软件的性能 *正确答案:*B:算法的详细过程; 2. 需求分析最终结果是产生&#xff08; &#xff09; A. 项目开发…

clickhouse注入手法总结

clickhouse 遇到一题clickhouse注入相关的&#xff0c;没有见过&#xff0c;于是来学习clickhouse的使用&#xff0c;并总结相关注入手法。 环境搭建 直接在docker运行 docker pull clickhouse/clickhouse-server docker run -d --name some-clickhouse-server --ulimit n…

智能语音识别工具开发手记

智能语音识别工具开发手记 序言&#xff1a;听见数字化的声音 在县级融媒体中心的日常工作中&#xff0c;我们每天需要处理大量音频素材——从田间地头的采访录音到演播室的节目原声&#xff0c;从紧急会议记录到专题报道素材。二十多年前&#xff0c;笔者刚入职时&#xff0…

TDengine 3.3.6.0 版本中非常实用的 Cols 函数

简介 在刚刚发布的 TDengine 3.3.6.0 版本 中&#xff0c;新增了一个非常实用的 函数COLS &#xff0c;此函数用于获取选择函数所在行列信息&#xff0c;主要应用在生成报表数据&#xff0c;每行需要出现多个选择函数结果&#xff0c;如统计每天最大及最小电压&#xff0c;并报…

【AI学习】AI Agent(人工智能体)

1&#xff0c;AI agent 1&#xff09;定义 是一种能够感知环境、基于所感知到的信息进行推理和决策&#xff0c;并通过执行相应动作来影响环境、进而实现特定目标的智能实体。 它整合了多种人工智能技术&#xff0c;具备自主学习、自主行动以及与外界交互的能力&#xff0c;旨…

【MCP】VSCode Cline配置MongoDB连接

VSCode MCP插件配置MongoDB连接教程 前言 本文将介绍如何在VSCode中配置Cline插件连接MongoDB。 环境准备 VSCodeNode.jsMongoDB服务器Cline插件 配置步骤 1. 安装MCP插件 在VSCode扩展商店中搜索"Cline"并安装。 安装完之后需要配置API平台以及设置API-KEY。…

this指针 和 类的继承

一、this指针 Human类的属性fishc与Human&#xff08;&#xff09;构造器的参数fishc同名&#xff0c;但却是两个东西。使用this指针让构造器知道哪个是参数&#xff0c;哪个是属性。 this指针&#xff1a;指向当前的类生成的对象 this -> fishc fishc当前对象&#xff08;…

使用PyTorch训练VGG11模型:Fashion-MNIST图像分类实战

本文将通过代码实战&#xff0c;详细讲解如何使用 PyTorch 和 VGG11 模型在 Fashion-MNIST 数据集上进行图像分类任务。代码包含数据预处理、模型定义、训练与评估全流程&#xff0c;并附上训练结果的可视化图表。所有代码可直接复现&#xff0c;适合深度学习初学者和进阶开发者…

汽车BMS技术分享及其HIL测试方案

一、BMS技术简介 在全球碳中和目标的战略驱动下&#xff0c;新能源汽车产业正以指数级速度重塑交通出行格局。动力电池作为电动汽车的"心脏"&#xff0c;其性能与安全性不仅直接决定了车辆的续航里程、使用寿命等关键指标&#xff0c;更深刻影响着消费者对电动汽车的…