本地使用Ollama部署DeepSeek

以下是在本地使用Ollama部署DeepSeek的详细教程,涵盖安装、修改安装目录、安装大模型以及删除大模型的操作步骤。

安装Ollama

1. 系统要求

确保你的系统满足以下条件:

  • 操作系统:macOS、Linux或者Windows。
  • 足够的磁盘空间和内存。
2. 安装步骤
  • macOS:可以通过Homebrew来安装Ollama。
brew install ollama
  • Linux:在Linux系统中,可以使用以下命令进行安装。
curl https://ollama.com/install.sh | sh
  • Windows:从Ollama的官方网站(https://ollama.com/)下载Windows版本的安装程序,然后按照安装向导的提示完成安装。
  • 注意
    Ollama默认安装目录是C盘的用户目录,如果不希望安装在C盘的话(其实C盘如果足够大放C盘也没事),就不能直接双击安装了。需要通过命令行安装。
    -命令行安装方式如下
    在OllamaSetup.exe所在目录打开cmd命令行,然后命令如下:
OllamaSetup.exe /DIR=你要安装的目录位置

修改安装目录

在大多数情况下,Ollama默认会将模型和相关数据存储在特定的目录中。若要修改安装目录,可在启动Ollama时通过环境变量来指定。

Linux和macOS

编辑你的shell配置文件(如~/.bashrc~/.zshrc),添加以下内容:

export OLLAMA_MODELS_DIR=/path/to/your/new/models/directory

保存文件后,使配置生效:

source ~/.bashrc  # 如果你使用的是bash
source ~/.zshrc   # 如果你使用的是zsh
Windows

在系统环境变量中添加一个名为OLLAMA_MODELS_DIR的变量,其值为你想要的新安装目录路径。

安装DeepSeek大模型

在安装好Ollama之后,你可以使用以下命令来安装DeepSeek模型。以deepseek-coder:6.7b-base为例:

ollama pull deepseek-coder:6.7b-base

该命令会从Ollama的模型库中下载deepseek-coder:6.7b-base模型,并将其存储在之前指定的模型目录中。

查看大模型

若要查看已安装的大模型,可以使用以下命令:

ollama list

删除大模型

若要删除已安装的大模型,可以使用以下命令:

ollama rm deepseek-coder:6.7b-base

此命令会从本地删除deepseek-coder:6.7b-base模型,释放相应的磁盘空间。

验证安装

安装完成后,你可以使用以下命令来验证模型是否正常工作:

ollama run deepseek-coder:6.7b-base "你的输入内容"

你的输入内容替换为你想要询问模型的具体问题,模型会输出相应的回答。

通过以上步骤,你就可以在本地使用Ollama部署DeepSeek模型,并对模型进行管理。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/78446.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

开源项目实战学习之YOLO11:ultralytics-cfg-datasets-Objects365、open-images-v7.yaml文件(六)

👉 点击关注不迷路 👉 点击关注不迷路 👉 点击关注不迷路 medical - pills.yaml 通常用于配置与医学药丸检测任务相关的参数和信息 Objects365.yaml 用于配置与 Objects365 数据集相关信息的文件。Objects365 数据集包含 365 个不同的物体类别…

23种设计模式-行为型模式之策略模式(Java版本)

Java 策略模式(Strategy Pattern)详解 🧠 什么是策略模式? 策略模式是一种行为型设计模式,它定义了一系列算法,把它们一个个封装起来,并且使它们可以互相替换。策略模式让算法独立于使用它的客…

使用 AI Agent 改善师生互动的设计文档

使用 AI Agent 改善师生互动的设计文档 一、引言 1.1 研究背景 当前教育领域的师生互动存在诸多挑战,如教师负担过重、学生个体差异大导致难以满足所有人的需求,以及信息传递延迟等问题。引入AI-Agent能够有效缓解这些问题,通过自动化手段协…

2、Ubuntu 环境下安装RabbitMQ

⼀. 安装Erlang RabbitMqRabbitMq需要Erlang语⾔的⽀持,在安装rabbitMq之前需要安装erlang需要Erlang语⾔的⽀持,在安装rabitMq之前需要安装erlang。 安装erlang # 更新软件包 sudo apt-get update # 安装 erlang sudo apt-get install erlang 查看er…

Node.js 操作 ElasticSearch 完整指南:从安装到实战

本文将手把手教你如何搭建 ElasticSearch 环境,并通过 Node.js 实现高效数据检索。包含 10 个可直接复用的代码片段,助你快速掌握搜索、聚合等核心功能! 环境搭建篇 1. ElasticSearch 安装要点 下载 es下载连接 下载下来后,进…

硬核科普丨2025年安全、高效网络准入控制系统深度解析

阳途网络准入控制系统(Network Access Control,简称NAC)是当代网络安全领域的重要工具,有效防止未经授权的访问和数据泄露,保障网络资源的安全性和完整性。本文将深入探讨阳途网络准入控制系统的的重要性和作用。 一、…

搜索二叉树-key的搜索模型

二叉搜索树(Binary Search Tree, BST)是一种重要的数据结构,它有两种基本模型:Key模型和Key/Value模型。 一、Key模型 1.基本概念 Key模型是二叉搜索树中最简单的形式,每个节点只存储一个键值(key),没有额外的数据值(value)。这…

安卓四大组件之ContentProvider

目录 实现步骤 代码分析 onCreate insert query ContextHolder Cursor 作用与用法 基本步骤: 可能的面试题:为什么使用Cursor? 为什么使用Cursor 使用Cursor的好处 静态内部类实现单例模式 AnndroidManifest.xml配置信息 注释的…

【HTML】【Web开发】滑动条挑战

最近在思考如何开发一些入门级的迷你游戏,于是抽空写了个HTML的滑动条小游戏。 游戏规则如下: 在[0, 100]区间内随机生成一个目标值,显示为:X% 倒计时 3 秒过后,出现 10 秒的挑战倒计时和【停止】按钮 挑战倒计时结…

面试踩过的坑

1、 “”和equals 的区别 “”是运算符,如果是基本数据类型,则比较存储的值;如果是引用数据类型,则比较所指向对象的地址值。equals是Object的方法,比较的是所指向的对象的地址值,一般情况下,重…

专业软件开发全流程实践指南

作为一家拥有十余年行业积淀的专业软件开发服务提供商,我们见证了太多项目从无到有的全过程。今天,我们就用最朴实的语言,跟大家聊聊一个软件产品从构思到上线的完整历程。这些经验不仅适用于自建技术团队的企业,对正在寻找软件外…

聊透多线程编程-线程互斥与同步-12. C# Monitor类实现线程互斥

目录 一、什么是临界区? 二、Monitor类的用途 三、Monitor的基本用法 四、Monitor的工作原理 五、使用示例1-保护共享变量 解释: 六、使用示例2-线程间信号传递 解释: 七、注意事项 八、总结 在多线程编程中,线程之间的…

第R4周:LSTM-火灾温度预测

文章目录 一、前期准备工作1.导入数据2. 数据集可视化 二、构建数据集1. 数据集预处理2. 设置X, y3. 划分数据集 三、模型训练1. 构建模型2. 定义训练函数3. 定义测试函数4. 正式训练模型 四、模型评估1. Loss图片2. 调用模型进行预测3. R2值评估 总结: &#x1f36…

toCharArray作用

toCharArray() 是 Java 中 String 类的一个方法,其作用是将字符串对象转换为一个字符数组。下面为你详细介绍其用法、原理和示例。 方法定义 toCharArray() 方法在 java.lang.String 类里被定义,方法签名如下 public char[] toCharArray() 此方法没有…

STM32八股【6】-----CortexM3的双堆栈(MSP、PSP)设计

STM32的线程模式(Thread Mode)和内核模式(Handler Mode)以及其对应的权级和堆栈指针 线程模式: 正常代码执行时的模式(如 main 函数、FreeRTOS任务) 可以是特权级(使用MSP&#xff…

驱动支持的最高CUDA版本与实际安装的Runtime版本

查看电脑上安装的CUDA版本的多种方法,适用于不同系统和场景。 方法一:通过命令行工具 1. 查看CUDA Driver API版本(显卡驱动支持的CUDA版本) 命令:nvidia-smi操作: 打开终端(Windows为CMD/Pow…

Python CT图像预处理——基于ITK-SNAP

Python CT图像预处理——nii格式读取、重采样、窗宽窗位设置_python读取nii-CSDN博客 基于原文指出以下几个问题:文件路径设置模糊;nilabel里面使用的get_data() 方法已经过时;需要导入scikit-image,还要导入一个matplotlib。 一…

【MQ篇】RabbitMQ之消息持久化!

目录 一、 交换机持久化 (Exchange Persistence)二、 队列持久化 (Queue Persistence)三、 消息持久化 (Message Persistence)四、 持久化的“黄金三角” 🔱:三者缺一不可!五、 来,完整的代码示例(整合持久化和确认机制…

[AI技术(二)]JSONRPC协议MCPRAGAgent

Agent概述(一) AI技术基础(一) JSON-RPC 2.0 协议详解 JSON-RPC 2.0 是一种基于 JSON 的轻量级远程过程调用(RPC)协议,旨在简化跨语言、跨平台的远程通信。以下从协议特性、核心结构、错误处理、批量请求等角度进行详细解析: 一、协议概述 1. 设计原则 • 简单性:…

LeetCode238_除自身以外数组的乘积

LeetCode238_除自身以外数组的乘积 标签:#数组 #前缀和Ⅰ. 题目Ⅱ. 示例0. 个人方法一:暴力循环嵌套0. 个人方法二:前缀和后缀分别求积 标签:#数组 #前缀和 Ⅰ. 题目 给你一个整数数组 nums,返回 数组 answer &#…