DeepSeek Window本地私有化部署

前言

最近大火的国产AI大模型Deepseek大家应该都不陌生。除了在手机上安装APP或通过官网在线体验,其实我们完全可以在Windows电脑上进行本地部署,从而带来更加便捷的使用体验。 之前也提到过,本地部署AI模型有很多好处,比如:隐私安全——所有数据都保存在本地,不用担心泄露敏感信息;响应速度快——官方或第三方服务由于访问量大,常常会导致卡顿,而本地部署能避免这种延迟问题。

要在本地部署DeepSeek R1大模型并不难,只需安装开源工具Ollama,它可以支持各种AI模型的运行。如果觉得在终端里与AI交互不够直观或美观,还可以再安装一个图形化界面,就能像与ChatGPT一样,在网页上与大模型对话了。
在这里插入图片描述

软件介绍:

Ollama

Ollama是一个开源软件,主要用于在本地电脑设备上下载、部署和使用大模型(LLM)。它提供了丰富的LLM库,如llama、qwen、mistral以及DeepSeek R1等,并且支持不同参数规模的模型,以适配不同性能的电脑设备‌。Ollama虽然支持直接使用LLM,但仅能在命令行中进行对话,交互功能有限,因此需要配合其他工具使用‌。通俗理解为用于方便本地部署大模型使用的工具,实现离线使用和数据得到安全保护。

DeepSeek R1

DeepSeek R1是一个大模型,常用于本地部署。通过Ollama和CherryStudio,用户可以在本地电脑上部署和使用DeepSeek R1,从而实现离线使用和隐私保护。DeepSeek R1在本地部署时,不需要依赖高配置的GPU,较低参数规模的模型甚至不需要独立显卡也可以在电脑运行‌。

CherryStudio

CherryStudio是一个可视化界面工具,内置了多个大模型服务商,用户只需进行简单的配置即可使用大模型。它使得交互操作更加方便,用户不需要在命令行中进行对话‌。通过配置Ollama模型,CherryStudio可以提供更友好的用户界面,使得本地部署的大模型更容易使用‌。通俗理解为就是一个与AI交互的界面,界面上可以选择你部署好的不同AI模型(如deepseekR1等)进行使用。

windows本地部署

一、安装Ollama

1、访问Ollama的官网:https://ollama.com/download
在这里插入图片描述
2、下载好后,鼠标右键以管理员身份运行
在这里插入图片描述
3、点击install安装,默认安装在C盘,所以C盘最好预留出空间来,最低4GB的存储空间.
在这里插入图片描述
4、安装好之后,我们按住Win+R键,在运行框中输入cmd打开Windows系统自带的终端界面:
在这里插入图片描述
5、然后输入ollama回车,看到下面信息即为安装成功!但现在还没有AI模型,下一步将会教你利用ollama安装DeepSeek R1模型。
在这里插入图片描述

二、安装DeepSeek-r1模型

1、访问ollama 提供的模型下载地址:https://ollama.com/library/deepseek-r1
在这里插入图片描述
DeepSeek-R1模型配置要求
大家可以根据自己的需求和资源配置选择模型进行下载,下面是不同版本模型版本对性能配置要求。

1.5B版本‌
CPU‌:最低4核,推荐多核处理器
‌内存‌:8GB以上
‌硬盘‌:3GB以上存储空间(模型文件约1.5-2GB)。
‌显卡‌:非必需,若使用GPU加速,推荐4GB以上显存的显卡(如GTX 1650)
‌适用场景‌:低资源设备部署(如树莓派、旧款笔记本)、实时文本生成(聊天机器人、简单问答)、嵌入式系统或物联网设备‌

7B版本‌
CPU‌:8核以上,推荐现代多核CPU
‌内存‌:16GB以上
‌硬盘‌:8GB以上
‌显卡‌:推荐8GB以上显存的显卡(如RTX 3070/4060)
‌适用场景‌:本地开发测试、中等复杂度NLP任务(文本摘要、翻译)、轻量级多轮对话系统‌

8B版本‌
CPU‌:8核以上
‌内存‌:16GB以上
‌硬盘‌:8GB以上
‌显卡‌:推荐8GB以上显存的显卡(如RTX 4090或A5000)
‌适用场景‌:需更高精度的轻量级任务(如代码生成、逻辑推理)‌

14B版本‌
CPU‌:12核以上
‌内存‌:32GB以上
‌硬盘‌:15GB以上
‌显卡‌:16GB以上显存的显卡(如RTX 4090或A5000)
‌适用场景‌:企业级复杂任务(合同分析、报告生成)、长文本理解与生成(书籍/论文辅助写作)‌

32B版本‌
CPU‌:16核以上(如AMD Ryzen 9或Intel i9)
‌内存‌:64GB以上
‌硬盘‌:30GB以上
‌显卡‌:24GB以上显存的显卡(如A100 40GB或双卡RTX 3090)
‌适用场景‌:高精度专业领域任务(医疗/法律咨询)、多模态任务预处理(需结合其他框架)‌

70B版本‌
CPU‌:16核以上
‌内存‌:64GB以上
‌硬盘‌:30GB以上
‌显卡‌:40GB以上显存的显卡(如多张A100/H800等专业卡)
‌适用场景‌:高性能场景、需平衡质量与成本‌

671B版本‌
‌CPU‌:16核以上
‌内存‌:64GB以上
‌硬盘‌:30GB以上
‌显卡‌:40GB以上显存的显卡(如多张A100/H800等专业卡)
‌适用场景‌:尖端领域(药物研发、复杂系统模拟),适合云服务或科研机构‌

2、我这里下载1.5b的轻量级deepseek模型进行演示,如下命令:

ollama run deepseek-r1:1.5b

在这里插入图片描述
3、输入问题,马上就能收到回答,速度挺快的:
在这里插入图片描述

三、安装图形化交互界面

1、首先下载一个叫 Cherry Studio的软件,这个软件主要用于与AI交互的可视化界面。如下图。网址: https://cherry-ai.com/download
在这里插入图片描述
2、右键管理员身份运行安装“Cherry-Studio-0.9.19-setup.exe”软件即可。
在这里插入图片描述
3、安装好后,桌面双击运行该软件,进行设置添加deepseek模型
在这里插入图片描述
4、选择deepseek模型进行对话
在这里插入图片描述
5、现在就可以用界面跟AI交互啦
在这里插入图片描述

四、总结

看到这里,相信你对DeepSeek 本地化部署又一定了解了;其实部署不难,如果你是个人搭建体验的话,也不用再为性能和本地硬件资源发愁;恰好你有充足的算力和技术储备,本地部署也是个非常不错的选择。不过,在整个过程中,我想和你分享的不仅仅是这些技术细节。而是一个中国团队能做出世界级大模型,一个需要 +86 才能注册的大模型。很庆幸,我们能作为中国 AI 技术进步的见证人。当然,暂时的领先不是终点。但 DeepSeek 给我们带来的,是“中国也可以”这份信心。这,才是我们真正要守护的希望。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/69480.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

STM32G474--Whetstone程序移植(单精度)笔记

1 准备基本工程代码 参考这篇笔记从我的仓库中选择合适的基本工程,进行程序移植。这里我用的是stm32g474的基本工程。 使用git clone一个指定文件或者目录 2 移植程序 2.1 修改Whetstone.c 主要修改原本变量定义的类型,以及函数接口全部更换为单精度…

【专题】2024-2025人工智能代理深度剖析:GenAI 前沿、LangChain 现状及演进影响与发展趋势报告汇总PDF洞察(附原数据表)

原文链接:https://tecdat.cn/?p39630 在科技飞速发展的当下,人工智能代理正经历着深刻的变革,其能力演变已然成为重塑各行业格局的关键力量。从早期简单的规则执行,到如今复杂的自主决策与多智能体协作,人工智能代理…

QT修仙之路1-1--遇见QT

文章目录 遇见QT二、QT概述2.1 定义与功能2.2 跨平台特性2.3 优点汇总 三、软件安装四、QT工具介绍(重要)4.1 Assistant4.2 Designer4.3 uic.exe4.4 moc.exe4.5 rcc.exe4.6 qmake4.7 QTcreater 五、QT工程项目解析(作业)5.1 配置文件(.pro)5.2 头文件&am…

Linux——基础命令1

$:普通用户 #:超级用户 cd 切换目录 cd 目录 (进入目录) cd ../ (返回上一级目录) cd ~ (切换到当前用户的家目录) cd - (返回上次目录) pwd 输出当前目录…

Office/WPS接入DeepSeek等多个AI工具,开启办公新模式!

在现代职场中,Office办公套件已成为工作和学习的必备工具,其功能强大但复杂,熟练掌握需要系统的学习。为了简化操作,使每个人都能轻松使用各种功能,市场上涌现出各类办公插件。这些插件不仅提升了用户体验,…

【提示词工程】探索大语言模型的参数设置:优化提示词交互的技巧

在与大语言模型(Large Language Model, LLM)进行交互时,提示词的设计和参数设置直接影响生成内容的质量和效果。无论是通过 API 调用还是直接使用模型,掌握模型的参数配置方法都至关重要。本文将为您详细解析常见的参数设置及其应用场景,帮助您更高效地利用大语言模型。 …

Ollama + AnythingLLM + Deepseek r1 实现本地知识库

1、Ollama:‌是一个开源的大型语言模型 (LLM)服务工具,旨在简化在本地运行大语言模型的过程,降低使用大语言模型的门槛‌。 2、AnythingLLM:是由Mintplex Labs Inc. 开发的一款全栈应用程序,旨在构建一个高效、可定制、…

伪分布式Spark3.4.4安装

参考:Spark2.1.0入门:Spark的安装和使用_厦大数据库实验室博客 我的版本: hadoop 3.1.3 hbase 2.2.2 java openjdk version "1.8.0_432" 问了chatgpt,建议下载Spark3.4.4,不适合下载Spark 2.1.0: step1 Spark下载…

从运输到植保:DeepSeek大模型探索无人机智能作业技术详解

DeepSeek,作为一家专注于深度学习与人工智能技术研究的企业,近年来在AI领域取得了显著成果,尤其在无人机智能作业技术方面展现了其大模型的强大能力。以下是从运输到植保领域,DeepSeek大模型探索无人机智能作业技术的详解&#xf…

免费windows pdf编辑工具Epdf

Epdf(完全免费) 作者:不染心 时间:2025/2/6 Github: https://github.com/dog-tired/Epdf Epdf Epdf 是一款使用 Rust 编写的 PDF 编辑器,目前仍在开发中。它提供了一系列实用的命令行选项,方便用户对 PDF …

基于深度学习的人工智能量化衰老模型构建与全流程应用研究

一、引言 1.1 研究背景与意义 1.1.1 人口老龄化现状与挑战 人口老龄化是当今全球面临的重要社会趋势之一,其发展态势迅猛且影响深远。根据联合国的相关数据,1980 年,全球 65 岁及以上人口数量仅为 2.6 亿,到 2021 年,这一数字已翻番,达到 7.61 亿,而预计到 2050 年,…

UnityShader学习笔记——深度与法线纹理

——内容源自唐老狮的shader课程 目录 1.概述 1.1.分别指什么 1.2.如何获取 1.2.1.对摄像机赋值 1.2.2.在Shader中声明 1.2.3.获取深度值 1.2.4.获取法线纹理 1.3.背后的原理 1.3.1.深度纹理中存储的是什么信息 1.3.2.法线纹理中存储的是什么信息 1.3.3.unity是如何…

基于STM32的智能鱼缸水质净化系统设计

🤞🤞大家好,这里是5132单片机毕设设计项目分享,今天给大家分享的是智能鱼缸水质净化系统。 目录 1、设计要求 2、系统功能 3、演示视频和实物 4、系统设计框图 5、软件设计流程图 6、原理图 7、主程序 8、总结 1、设计要求…

如何打造一个更友好的网站结构?

在SEO优化中,网站的结构往往被忽略,但它其实是决定谷歌爬虫抓取效率的关键因素之一。一个清晰、逻辑合理的网站结构,不仅能让用户更方便地找到他们需要的信息,还能提升搜索引擎的抓取效率 理想的网站结构应该像一棵树,…

尝试在Excel里调用硅基流动上的免费大语言模型

我个人觉得通过api而不是直接浏览器客户端聊天调用大语言模型是使用人工智能大模型的一个相对进阶的阶段。 于是就尝试了一下。我用的是老师木 袁进辉博士新创的硅基流动云上的免费的大模型。——虽然自己获赠了不少免费token,但测试阶段用不上。 具体步骤如下&am…

“公路养护新利器!公路 AI 智慧巡检系统

家人们,咱日常开车出行,最烦的就是遇到路面坑洼、道路破损的情况,不仅颠簸难受,还存在安全隐患。其实,这些问题都得靠公路养护人员及时发现并处理。但以往的公路巡检工作可不容易,现在好了,有了…

【算法】动态规划专题⑧ —— 分组背包问题 python

目录 前置知识进入正题实战演练总结 前置知识 【算法】动态规划专题⑤ —— 0-1背包问题 滚动数组优化 python 进入正题 分组背包问题的详细解析 1. 问题定义 在 分组背包问题 中,物品被划分为若干组,每组内的物品 互斥(只能选择其中一个或…

LLM:DeepSeek 系列(二)

原文链接 3、DeepSeek-V2 DeepSeek-V2 发布于 2024 年 5 月,为多领域专家(MoE)语言模型,包含总共 2360 亿个参数,其中每个词元激活 210 亿个参数,并支持 12.8 万个词元的上下文长度。DeepSeek-V2 采用包括…

AtCoder Beginner Contest 391(A~E题题解)

A - Lucky Direction 思路&#xff1a;纯模拟的一个水题 #include <bits/stdc.h> using namespace std; #define int long long string s; signed main() { cin>>s;for(int i0;i<s.size();i){char cs[i];if(cN){cout<<"S";}else if(c…

redis中的hash结构

hash类型也叫散列&#xff0c;其中value是一个无序字典&#xff0c;不用像string类型中的value用jason结构去存储&#xff0c;他的value可以将对象中的每个字段独立存储&#xff0c;而且有个好处&#xff0c;方便修改value值 类似于这样 hash类型的常见命令&#xff1a;