deepseek部署在本地详细教程

最近,DeepSeek爆火,先进的算法、卓越的能力,表现出众,其凭一己之力推动国内Ai大模型跨越式发展。作为一款现象级的Ai产品,用户量暴增,最近服务器又被攻击,使用DeepSeek,经常出现服务器繁忙,将DeepSeek部署在本地电脑就方便很多。

将DeepSeek部署在本地电脑,只需三步即可完成。

一、环境准备

(一)硬件需求

最低配置:CPU(支持AVX2指令集)+ 16GB内存 + 30GB存储。
推荐配置:NVIDIA GPU(RTX 3090或更高)+ 32GB内存 + 50GB存储。

(二)软件依赖

操作系统:Windows、macOS或Linux。
Docker:如果使用Open Web UI,需要安装Docker。

二、下载安装 Ollama

部署DeepSeek要用到 Ollama,它支持多种大模型。

Ollama官网:Ollama

下载安装Ollama,macOS、Linux 和 Windows都可以下载安装,选用Windows系统。

访问Ollama官网:前往Ollama官网,点击“Download”按钮。
下载安装包:根据你的操作系统选择对应的安装包。下载完成后,直接双击安装文件并按照提示完成安装。默认都是安装到C盘
验证安装:安装完成后,在终端输入以下命令,检查Ollama版本:

如果输出版本号(例如ollama version is 0.5.7),则说明安装成功。

二、下载 DeepSeek-R1

1、进入Ollama官网,找到Models。

2、进入就可以看到deepseek-r1模型,如果没有,在搜索栏搜索即可。

3、选择对应的模型来下载,1.5b、7b、8b、14b、32b、70b或671b,这里有很多版本可选,模型越大,要求电脑内存、显卡等的配置越高。老宅这台机子是4060的显卡,选择8b的模型。

选择模型版本:
  • 入门级:1.5B版本,适合初步测试。
  • 中端:7B或8B版本,适合大多数消费级GPU。
  • 高性能:14B、32B或70B版本,适合高端GPU。

4、找到Windows【开始菜单】,鼠标右键点击【终端管理员】。

5、复制下边8b的代码。

6、粘贴到PowerShell(管理员)运行框,然后回车。(这里会默认安装在C盘,注意C盘空间)

出现下载等待窗口,等待下载完成。

7、下载完成后稍微等待,看到success,即部署完成。

8、部署完成,send a message,输入内容即可开始对话。

启动Ollama服务:

在终端运行以下命令启动Ollama服务:

ollama serve

    服务启动后,可以通过访问 http://localhost:11434 来与模型进行交互。

    三、Chatbox前端搭建

    通过第二步的操作,已经部署好DeepSeek,但每次使用都要在终端管理员里操作,相当繁琐。这里可以借助Chatbox,实现网页或客户端操作。

    1、下载安装Chatbox

    Chatbox官网:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

    进入官网下载安装Chatbox客户端。

    设置中文

    2、点击设置,选择Ollama API

    3、选择安装好的deepseek r1模型,保存即可

    4、部署完成,就可以正常使用了。

    通过以上三步,DeepSeek就部署在本地电脑上了,有些不方便公开的数据,比如实验数据,可以通过部署大模型到本地的方式进行处理,不用担心数据泄露。

    DeepSeek 登顶苹果中国地区和美国地区应用商店下载排行榜,在美区下载榜上超越了 ChatGPT。其推理能力的强大就不多说了,留给大家自行探索。

    四、使用Open Web UI(可选)


    为了更直观地与DeepSeek模型进行交互,可以使用Open Web UI。以下是安装和使用步骤:

    安装Docker:确保你的机器上已安装Docker。
    运行Open Web UI:
    在终端运行以下命令安装并启动Open Web UI:
    docker run -d -p 3000:8080 \
      --add-host=host.docker.internal:host-gateway \
      -v open-webui:/app/backend/data \
      --name open-webui \
      --restart always \
      ghcr.io/open-webui/open-webui:main

    安装完成后,访问 http://localhost:3000,选择deepseek-r1:latest模型即可开始使用。

    你可以在本地成功部署DeepSeek模型,并通过Ollama、Open Web UI、chartBox与模型进行交互。 

    五、性能优化与资源管理


    资源分配:根据硬件配置选择合适的模型版本。较小的模型(如1.5B到14B)在标准硬件上表现良好,而较大的模型(如32B和70B)需要更强大的GPU支持。
    内存管理:确保系统有足够的内存和存储空间,以避免运行时出现资源不足的问题。


    六、常见问题及解决方法


    模型下载超时:如果在下载模型时出现超时问题,可以尝试重新运行下载命令。
    服务启动失败:确保Ollama服务已正确安装并启动。如果服务启动失败,可以尝试重启Ollama服务。

    七、ollama常用命令:

    退出模型:/bye

    列出模型:

    删除模型:

    本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/71084.shtml

    如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

    相关文章

    DeepSeek v3 技术报告阅读笔记

    注 本文参考 DeepSeek-v3 / v2 / v1 Technical Report 及相关参考模型论文本文不包括基础的知识点讲解,为笔记/大纲性质而非教程,建议阅读技术报告原文交流可发送至邮箱 henryhua0721foxmail.com 架构核心 核心: MLA 高效推理DeepSeekMOE 更…

    浏览器安全学习

    浏览器特性 会将一些特殊符号当做字母进行解析,此时一个符号可能会被解析成两个到三个字母,这样子如果有漏洞对输入做了限制,黑客就可以利用这个特性来绕过某些漏洞中长度限制。某些特殊字符或者其他国家的文字和某些字母的形状一模一样&…

    2025年AI免费大战:从DeepSeek到GPT-5的商业逻辑与行业变革

    引言:人工智能行业的2025年重大转折 2025年伊始,人工智能行业的竞争格局发生了深刻变化,尤其是以DeepSeek为代表的新兴力量,通过低成本开源策略迅速崛起,迫使OpenAI、百度文心一言等人工智能巨头纷纷调整策略&#xf…

    Word写论文常用操作的参考文章

    1.插入多个引用文献:word中交叉引用多篇参考文献格式[1-2]操作以及显示错误问题 更改左域名,输入 \#"[0" 更改右域名,输入 \#"0]" 2.插入题注:word 中添加图片题注、目录、内部链接 3.插入公式编号&#x…

    国产化替代大势所趋,ARM工控机的未来之路

    在全球技术竞争加剧和国家政策推动的背景下,中国正在经历一场前所未有的国产化替代浪潮。在这个过程中,基于ARM架构的工业控制计算机(简称ARM工控机)迎来了前所未有的发展机遇,同时也面临着诸多挑战。 机遇 技术创新驱…

    uniapp商城之登录模块

    文章目录 一、小程序快捷登录1.定义接口2.获取登录凭证 code3.获取手机号并登录 二、模拟快捷登录1.封装模拟登录API2.调用模拟登录 三、保存登录信息1.类型声明2.状态管理3.成功提示并跳转页面 一、小程序快捷登录 1.定义接口 2.获取登录凭证 code 3.获取手机号并登录 注意&a…

    C++-----------酒店客房管理系统

    酒店客房管理系统 要求: 1.客房信息管理:包括客房的编号、类型、价格、状态等信息的录入和修改; 2.顾客信息管理:包括顾客的基本信息、预订信息等的管理; 3.客房预订:客户可以根据需要进行客房的预订,系统会自动判断客房的可用情况; 4.入住管理:客户入住…

    电动汽车电池监测平台系统设计(论文+源码+图纸)

    1总体设计 本次基于单片机的电池监测平台系统设计,其整个系统架构如图2.1所示,其采用STC89C52单片机作为控制器,结合ACS712电流传感器、TLC1543模数转换器、LCD液晶、DS18B20温度传感器构成整个系统,在功能上可以实现电压、电流、…

    2025年02月11日Github流行趋势

    项目名称:unsloth 项目地址url:https://github.com/unslothai/unsloth项目语言:Python历史star数:27175今日star数:1024项目维护者:danielhanchen, shimmyshimmer, Erland366, Datta0, xyangk项目简介&…

    [qt5学习笔记]用vs2022(msvc2017)+copilot进行QtWidgetsApplication源码解析

    一直没深入了解qt,又一段时间没写qt,重新捡起来。 开发环境 本地vs2022(msvc2017, v14.30)先升级到最新版本,方便使用copilot。 参考 VS2022QT5环境搭建 下载 qt5.14.2 用vs的qt插件设置qt5.14.2x86路径,x64版本未安装。 创建一…

    家里装修想用投影仪,如何选择?装修中应该注意什么?

    越来越多的业主在装修的时候抛弃了传统的电视,采用投影仪。 和这些业主聊天,选用投影仪有两个目的,第1是把电视机拿掉,这样能让家里的小朋友不看电视,保护小朋友的眼睛。 第2是选用投影仪,幕布都会装的比较…

    javaEE初阶————多线程初阶(4)

    8.1 单例模式 这又是什么新的神奇玩意呢,我们先不谈单例模式,先来谈谈设计模式,什么是设计模式呢,我们只需要用设计模式就好了,而大佬们考虑的就多了,这些设计模式就像棋谱,只要按照棋谱来下&am…

    能源物联网数据采集网关 多协议对接解决方案

    安科瑞刘鸿鹏 摘要 随着配电系统智能化需求的提升,现代配电物联网(IoT)系统对数据采集、传输、处理及远程管理能力提出了更高要求。智能网关作为连接现场设备与上层管理平台的核心枢纽,其性能直接影响系统的实时性、可靠性与扩展…

    Node.js 中的 Event 模块详解

    Node.js 中的 Event 模块是实现事件驱动编程的核心模块。它基于观察者模式,允许对象(称为“事件发射器”)发布事件,而其他对象(称为“事件监听器”)可以订阅并响应这些事件。这种模式非常适合处理异步操作和…

    Unity开发抖音小游戏播放视频

    Unity开发抖音小游戏播放视频 介绍抖音小程序ios端视频无法播放RenderTexture问题总结 介绍 最近在做抖音小游戏播放视频,这里我使用的是Unity原生的VideoPlayer组件来播放视频,这里总结了一下我相关的报错以及能够正常播放视频的代码。如果还不知道怎么…

    网络安全抑制 缓解 根除 恢复 网络安全如何解决

    一、网络安全 网络是指网络系统的硬件、软件及其系统中的数据受到保护,不因偶然的或者恶意的原因而遭受到破坏、更改、泄露,系统连续可靠正常地运行,网络服务不中断。 二、如何防范网络安全问题 1、防范网络病毒。 2、配置防火墙。 3、采…

    自有证书的rancher集群使用rke部署k8s集群异常

    rancher使用自签域名,或者商业证书容易踩到的坑。 最开始的报错: docker logs kubelet‘s id E0214 13:04:14.590268 9614 pod_workers.go:1300] "Error syncing pod, skipping" err"failed to \"StartContainer\" for …

    开源的轻量级分布式文件系统FastDFS

    FastDFS 是一个开源的轻量级分布式文件系统,专为高性能的分布式文件存储设计,主要用于解决海量文件的存储、同步和访问问题。它特别适合以中小文件(如图片、视频等)为载体的在线服务,例如相册网站、视频网站等。 FastD…

    Github 2025-02-12 C开源项目日报 Top7

    根据Github Trendings的统计,今日(2025-02-12统计)共有7个项目上榜。根据开发语言中项目的数量,汇总情况如下: 开发语言项目数量C项目7Python项目2OpenSSL - 强大的开源加密工具包 创建周期:4012 天开发语言:C协议类型:Apache License 2.0Star数量:23449 个Fork数量:10…

    深入浅出:Python 中的异步编程与协程

    引言 大家好,今天我们来聊聊 异步编程 和 协程,这是近年来编程语言领域中的热点话题之一,尤其在 Python 中,它作为一种全新的编程模型,已经成为处理 IO密集型 任务的强力工具。尽管很多人对异步编程望而却步&#xff0…