从 0 开始本地部署 DeepSeek：详细步骤 + 避坑指南 + 构建可视化（安装在D盘）

个人主页：chian-ocean

前言：

随着人工智能技术的迅速发展，大语言模型在各个行业中得到了广泛应用。DeepSeek 作为一个新兴的 AI 公司，凭借其高效的 AI 模型和开源的优势，吸引了越来越多的开发者和企业关注。为了更好地满足用户的需求，尤其是在数据隐私和计算资源方面，越来越多的组织开始考虑将 DeepSeek 的 AI 模型进行 本地部署。

在这里插入图片描述

Ollama安装（安装在D盘）

官网下载：Ollama

  • 点进去官网

在这里插入图片描述

  • 系统的选择（这里面以windows为例子）

在这里插入图片描述

更改路径

  • 下载之后如果点击直接安装(install)默认会安装在C盘.

在这里插入图片描述

  • 在这里面打开终端窗口执行（这个是更改路径）
OllamaSetup.exe /DIR=D:\Ollama

解释：

  • OllamaSetup.exe: 这是一个安装程序的执行文件，通常用于安装 Ollama 软件。
  • /DIR=D:\Ollama: 这是命令行参数，告诉安装程序将 Ollama 安装到 D 盘的 Ollama 文件夹中。如果指定的目录不存在，安装程序通常会创建该文件夹。
安装程序的执行文件(OllamaSetup.exe) /DIR=path(path是一个路径)

在这里插入图片描述

  • 这里面在安装的时候我们发现正在安装在D盘
70990f1afbe2e9f49aecf248cc82ad1

在这里插入图片描述

更改模型安装路径

  • 在不更改默认路径下，模型安装默认也是C盘
  • 小默认都在5G，大模型几十G。

在这里插入图片描述

修改Windows系统环境变量

  • 进入Windows系统的环境变量。

在这里插入图片描述

  • 添加环境变量
变量名： OLLAMA_MODELS
变量值： D:\OllamaImagers(安装智能体的路径)

在这里插入图片描述

  • 将第一个文件剪切到自己想要安装的目录下

刷新环境变量

  • 重启（简单粗暴）

  • 手动刷新环境变量（无重启）

    1. 打开 任务管理器 (Ctrl + Shift + Esc)。

    2. 在任务管理器中，找到 Windows 资源管理器（Explorer.exe），右键点击并选择 重新启动。

    3. 这样会刷新 Windows 资源管理器的环境变量，使得新设置的环境变量生效。

模型下载和卸载

  • 按步骤操作

模型比较

模型版本参数数量文件大小适用场景优点缺点
1.5B1.5B1.1GB资源有限的环境文件较小，易于下载和部署性能较低，适用于较简单的任务
7B7B4.7GB需要较高性能的任务平衡了性能和文件大小，适用范围广泛相比小模型，仍需要较强的硬件支持
8B8B4.9GB中等性能需求的任务性能好，适合大部分NLP任务文件大小较大，部署时需要较大存储空间
14B14B9.0GB高性能应用，复杂任务适用于复杂推理和大规模任务需要较强的计算资源和存储支持
32B32B20GB大规模高负载任务高度优化，能够处理复杂任务对硬件要求极高，计算资源消耗大
70B70B43GB超高性能任务，科研应用极高的计算能力和性能，适用于尖端研究对硬件和存储要求非常苛刻，下载和运行困难
671B671B404GB超大规模高复杂度任务性能最强，适用于最复杂的应用和任务极高的硬件需求，几乎只适用于大型数据中心

本地部署 DeepSeek 模型选择简要总结

  1. 小型模型 (1.5B, 7B)
    • 适用场景：硬件资源有限、简单任务（如基础对话、文本分类）。
    • 优点：文件小、资源占用少，易于部署。
    • 缺点：性能较低，无法处理复杂任务。
  2. 中型模型 (8B, 14B)
    • 适用场景：中等性能需求，适用于中型任务（如情感分析、机器翻译）。
    • 优点：较强性能，适应广泛应用。
    • 缺点：需要中等硬件支持，文件和存储要求增加。
  3. 大型模型 (32B, 70B)
    • 适用场景：高性能需求，复杂任务（如大规模推理、科研）。
    • 优点：性能强，适合复杂应用。
    • 缺点：对硬件要求极高，需要高端 GPU 和大存储空间。
  4. 超大型模型 (671B)
    • 适用场景：超大规模、科研级任务。
    • 优点：最强性能，适合最复杂的任务。
    • 缺点：资源消耗巨大，几乎只能在大型数据中心部署。

模型下载

在这里插入图片描述

  • 复制路径
ollama run deepseek-r1:8b
  • 打开 终端（win + r）输入 cmd

复制到终端回车（Enter）

在这里插入图片描述

  • 如果下载速度慢，Ctrl + C，终止进程再次进行安装。

在这里插入图片描述

安装成功

安装成功：success

在这里插入图片描述

模型卸载

终端输入：ollama rm 模型名称

ollama rm deepseek-r1:8b

在这里插入图片描述

模型应用

查看手册

ollama  #就是查看手册

在这里插入图片描述

查看模型

ollama list #查看模型

在这里插入图片描述

运行deepseek

ollama run deepseek-r1:8b #后面是模型名称

在这里插入图片描述

构建可视化工具

下载：Chatbox AI

  • 根据自己的系统选择版本。

在这里插入图片描述

设置API接口

  • 这里面选择自己的API接口或本地模型。

在这里插入图片描述

  • 这里面的API域名是正确的。

在这里插入图片描述

  • 选择模型（deepseek-r1:b8）

在这里插入图片描述

  • 构建可视化工具完成。
    在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/bicheng/70996.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

强化学习中的“奖励塑形“：机器人控制与游戏AI的关键训练技术（深度优化版）

强化学习中的“奖励塑形“：机器人控制与游戏AI的关键训练技术（深度优化版）

技术原理：奖励函数的数学重构 核心公式推导 奖励塑形的数学表达： R(s,a,s) R_{env}(s,a,s) \gamma\Phi(s) - \Phi(s)其中： Φ(s): 势能函数（人工设计的关键）γ: 折扣因子（0.9-0.99典型值）…
阅读更多...
亚冬会绽放“云端”，联通云如何点亮冰城“科技之光”？

亚冬会绽放“云端”，联通云如何点亮冰城“科技之光”？

科技云报到原创。 35年前，中国第一次承办亚运会，宣传曲《亚洲雄风》红遍大江南北，其中有一句“我们亚洲，云也手握手”。如今回看，这句话仿佛有了更深的寓意：一朵朵科技铸就的“云”，把人和人连…
阅读更多...
【C++ 真题】P2920 [USACO08NOV] Time Management S

【C++ 真题】P2920 [USACO08NOV] Time Management S

P2920 [USACO08NOV] Time Management S 题目描述 Ever the maturing businessman, Farmer John realizes that he must manage his time effectively. He has N jobs conveniently numbered 1…N (1 < N < 1,000) to accomplish (like milking the cows, cleaning the …
阅读更多...
#用于跟踪和反映数据源对象的变化--useMagical

#用于跟踪和反映数据源对象的变化--useMagical

import {cloneDeep } from lodash-es import {reactive, ref, watchEffect } from vue /*** 神奇函数* @param source 数据源,* @param initKey 固定需要返回的属性* @description 收集数据源中修改的属性,并返回* @version 1.0 仅支持对象* @author sufei* @return { source, …
阅读更多...
快速排序

快速排序

目录 什么是快速排序&#xff1a; 图解&#xff1a; 递归法&#xff1a; 方法一&#xff08;Hoare法&#xff09;&#xff1a; 代码实现&#xff1a; 思路分析&#xff1a; 方法二&#xff08;挖坑法&#xff09;&#xff1a; 代码实现&#xff1a; 思路分析&#xff1a; 非递…
阅读更多...
数据结构-链式二叉树

数据结构-链式二叉树

文章目录 一、链式二叉树1.1 链式二叉树的创建1.2 根、左子树、右子树1.3 二叉树的前中后序遍历1.3.1前(先)序遍历1.3.2中序遍历1.3.3后序遍历 1.4 二叉树的节点个数1.5 二叉树的叶子结点个数1.6 第K层节点个数1.7 二叉树的高度1.8 查找指定的值(val)1.9 二叉树的销毁 二、层序…
阅读更多...
gitlab无法登录问题

gitlab无法登录问题

在我第一次安装gitlab的时候发现登录页面是 正常的页面应该是 这种情况的主要原因是不是第一次登录&#xff0c;所以我们要找到原先的密码 解决方式&#xff1a; [rootgitlab ~]# vim /etc/gitlab/initial_root_password# WARNING: This value is valid only in the followin…
阅读更多...
Elastic Cloud Serverless 现已在 Microsoft Azure 上提供技术预览版

Elastic Cloud Serverless 现已在 Microsoft Azure 上提供技术预览版

作者&#xff1a;来自 Elastic Yuvi Gupta Elastic Cloud Serverless 提供了启动和扩展安全性、可观察性和搜索解决方案的最快方法 — 无需管理基础设施。 今天&#xff0c;我们很高兴地宣布 Microsoft Azure 上的 Elastic Cloud Serverless 技术预览版现已在美国东部地区推出。…
阅读更多...
AI前端开发：蓬勃发展的机遇与挑战

AI前端开发：蓬勃发展的机遇与挑战

人工智能&#xff08;AI&#xff09;领域的飞速发展&#xff0c;正深刻地改变着我们的生活方式&#xff0c;也为技术人才&#xff0c;特别是AI代码生成领域的专业人士&#xff0c;带来了前所未有的机遇。而作为AI应用与用户之间桥梁的前端开发&#xff0c;其重要性更是日益凸显…
阅读更多...
Spring Boot整合DeepSeek实现AI对话（API调用和本地部署）

Spring Boot整合DeepSeek实现AI对话（API调用和本地部署）

本篇文章会分基于DeepSeek开放平台上的API&#xff0c;以及本地私有化部署DeepSeek R1模型两种方式来整合使用。 本地化私有部署可以参考这篇博文 全面认识了解DeepSeek利用ollama在本地部署、使用和体验deepseek-r1大模型 Spring版本选择 根据Spring官网的描述 Spring AI是一…
阅读更多...
Java 大视界 -- 云计算时代 Java 大数据的云原生架构与应用实践（86）

Java 大视界 -- 云计算时代 Java 大数据的云原生架构与应用实践（86）

&#x1f496;亲爱的朋友们&#xff0c;热烈欢迎来到 青云交的博客&#xff01;能与诸位在此相逢&#xff0c;我倍感荣幸。在这飞速更迭的时代&#xff0c;我们都渴望一方心灵净土&#xff0c;而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识&#xff0c;也…
阅读更多...
【RK3588嵌入式图形编程】-SDL2-鼠标输入处理

【RK3588嵌入式图形编程】-SDL2-鼠标输入处理

鼠标输入处理 文章目录 鼠标输入处理1、概述2、鼠标移动事件3、鼠标点击事件4、鼠标点击位置5、鼠标双击6、鼠标进入和离开事件7、总结在本文中，将介绍如何在 SDL2 中检测和处理鼠标输入事件，包括鼠标移动、按钮点击以及窗口进入/退出。 1、概述 在本文中，我们将详细介绍如…
阅读更多...
Qt - 地图相关 —— 3、Qt调用高德在线地图功能示例（附源码）

Qt - 地图相关 —— 3、Qt调用高德在线地图功能示例（附源码）

效果 作者其他相关文章链接:           Qt - 地图相关 —— 1、加载百度在线地图（附源码）           Qt - 地图相关 —— 2、Qt调用百度在线地图功能示例全集，包含线路规划、地铁线路查询等（附源码）           Qt - 地图相关 —— 3、Qt调用…
阅读更多...
PCB多层板打样：深度解析优缺点与应用场景

PCB多层板打样：深度解析优缺点与应用场景

随着电子产品朝小型化、高性能化方向发展&#xff0c;PCB多层板扮演着越来越重要的角色。无论是智能手机、计算机&#xff0c;还是航空航天、工业控制&#xff0c;多层板都发挥着至关重要的作用。像专业的PCB制造商——嘉立创&#xff0c;凭借超高层工艺&#xff0c;可以生产最…
阅读更多...
CCFCSP第34次认证第一题——矩阵重塑（其一）

CCFCSP第34次认证第一题——矩阵重塑（其一）

第34次认证第一题——矩阵重塑&#xff08;其一&#xff09; 官网链接 时间限制&#xff1a; 1.0 秒 空间限制&#xff1a; 512 MiB 相关文件&#xff1a; 题目目录&#xff08;样例文件&#xff09; 题目背景 矩阵&#xff08;二维&#xff09;的重塑&#xff08;reshap…
阅读更多...
2023-arXiv-CoT Prompt 思维链提示提升大型语言模型的推理能力

2023-arXiv-CoT Prompt 思维链提示提升大型语言模型的推理能力

arXiv | https://arxiv.org/abs/2201.11903 摘要&#xff1a; 我们探讨了如何生成思维链&#xff08;一系列中间推理步骤&#xff09;显著提高大型语言模型执行复杂推理的能力。在三个大型语言模型上的实验表明&#xff0c;思维链提示提高了一系列算术、常识和符号推理任务的性…
阅读更多...
macOS部署DeepSeek-r1

macOS部署DeepSeek-r1

好奇&#xff0c;跟着网友们的操作试了一下 网上方案很多&#xff0c;主要参考的是这篇 DeepSeek 接入 PyCharm&#xff0c;轻松助力编程_pycharm deepseek-CSDN博客 方案是&#xff1a;PyCharm CodeGPT插件 DeepSeek-r1:1.5b 假设已经安装好了PyCharm PyCharm: the Pyth…
阅读更多...
AcWing 190. 字串变换 --BFS-双向搜索

AcWing 190. 字串变换 --BFS-双向搜索

已知有两个字串 A, B 及一组字串变换的规则&#xff08;至多 66 个规则&#xff09;: A1→B1 A2→B2 … 规则的含义为&#xff1a;在 A 中的子串 A1A1 可以变换为 B1、A2 可以变换为 B2…。 例如&#xff1a;A&#xff1d;abcd B&#xff1d;xyz 变换规则为&#xff1a; …
阅读更多...
2023-arXiv-GTE: 基于多阶段对比学习的通用文本嵌入模型

2023-arXiv-GTE: 基于多阶段对比学习的通用文本嵌入模型

arXiv | https://arxiv.org/abs/2308.03281 gte-Qwen2-1.5B-instruct | https://www.modelscope.cn/models/iic/gte_Qwen2-1.5B-instruct gte-Qwen2-7B-instruct | https://www.modelscope.cn/models/iic/gte_Qwen2-7B-instruct 摘要&#xff1a; 我们提出了GTE&#xff0c;一…
阅读更多...
计算机视觉中图像的基础认知

计算机视觉中图像的基础认知

一、图像/视频的基本属性 在计算机视觉中&#xff0c;图像和视频的本质是多维数值矩阵。图像或视频数据的一些基本属性。 宽度&#xff08;W&#xff09; 和 高度&#xff08;H&#xff09; 定义了图像的像素分辨率&#xff0c;单位通常是像素。例如&#xff0c;一张 1920x10…
阅读更多...
最新文章

Copyright @ 2022~2023