Windows下ollama详细安装指南

文章目录

    • 1、Windows下ollama详细安装指南
      • 1.1、ollama介绍
      • 1.2、系统要求
      • 1.3、下载安装程序
      • 1.4、安装步骤
      • 1.5、验证安装
      • 1.6、环境变量配置
      • 1.7、模型选择与安装【deepseek 示例】
        • 1.7.1、拉取并运行模型
        • 1.7.2、进阶使用技巧

1、Windows下ollama详细安装指南


1.1、ollama介绍

ollama是一个专为在本地环境中运行和定制大型语言模型而设计的工具。它提供了一个简单而高效的接口,用于创建、运行和管理这些模型,同时还提供了一个丰富的预构建模型库,可以轻松集成到各种应用程序中。ollama的目标是使大型语言模型的部署和交互变得简单,无论是对于开发者还是对于终端用户

1.2、系统要求

  • Windows 10/11 64位
  • 8GB RAM(推荐16GB+)
  • 10GB 可用存储空间
  • 已启用虚拟化(BIOS/UEFI设置)
  • 支持CUDA的NVIDIA GPU(可选,用于GPU加速)

1.3、下载安装程序

  1. 访问官方下载页面:

    1. 官方地址:https://ollama.com/download
    2. 百度网盘:https://pan.baidu.com/s/18X96ZrqZGF_kJlKLpuTZVA 提取码: byi8
  2. 选择 Windows 版本下载 在这里插入图片描述

  3. 保存安装文件到本地(默认名称为 OllamaSetup.exe

1.4、安装步骤

  1. 运行安装程序

    • 双击下载的 OllamaSetup.exe
    • 如果出现用户账户控制提示,点击"是"
      在这里插入图片描述
  2. 完成安装

    • 当出现"Installation Complete"提示时点击"Finish"

1.5、验证安装

  1. 打开 PowerShell 或 CMD

  2. 执行版本检查命令:

    ollama --version
    

    ✅ 正常输出示例:

    ollama version 0.1.20
    

1.6、环境变量配置

Ollama 的默认模型存储路径如下:C:\Users%username%.ollama\models,无论 C 盘空间大小,需要安装多少模型,都建议换一个存放路径到其它盘。

  1. 添加安装路径到PATH

    • 设置步骤:

      1. Win+S 搜索 “环境变量” → 编辑系统环境变量

      2. 点击"环境变量" → 系统变量 →新增

        • 变量名为:OLLAMA_MODELS
        • 变量值为:E:\Tools\ollama\models
          在这里插入图片描述
      3. 确定保存

  2. Ollama 退出重新启动

    Windows 右下角图标点击退出后,重新启动

1.7、模型选择与安装【deepseek 示例】

  • 硬件配置推荐表
R1模型版本CPUGPU内存存储
1.5BIntel Core i5/AMD Ryzen 5 及以上无强制要求,有 1GB 及以上显存可提升性能最低 8GB,推荐 16GB+至少 10GB,建议留更多缓存空间
7BIntel Core i7/AMD Ryzen 7 及以上无强制要求,有 4GB 以上显存更好,推荐 8 - 12GB最低 16GB,推荐 32GB+至少 12GB,建议 30GB+
8BIntel Core i7/AMD Ryzen 7 及以上无强制要求,有 4.5GB 以上显存更好,推荐 8GB+最低 16GB,推荐 32GB+至少 12GB,建议 30GB+
14BIntel Core i9/AMD Ryzen 9 及以上8GB 以上,推荐 12GB+,如 RTX 3080 及以上最低 32GB,推荐 64GB至少 15GB,建议 50GB+
32B高端多核,强多线程处理能力18GB 左右,建议 24GB+,如 NVIDIA A10032GB+,推荐 64GB+至少 20GB,建议 80GB+
70B服务器级 CPU,如 Intel Xeon 系列40GB 以上,如 NVIDIA H10064GB+,推荐 128GB+至少 30GB,建议 200GB+
  • 模型选择决策树
通用对话
代码生成
多模态任务
轻量化部署
中文优先
多语言支持
英文优先
Python
Java/C++
Web开发
文本+图像
纯文本
低性能设备
高性能设备
中等性能设备
开始选择模型
主要任务类型
语言支持
编程语言
输入类型
设备性能
DeepSeek-R1
Llama 3.3
Phi-4
DeepSeek-R1
Llama 3.3
Mistral
Gemma 2
Llama 3.3
Phi-4
Gemma 2
Mistral
1.7.1、拉取并运行模型
  1. ollama可拉取模型地址:

    1. ollama library : https://ollama.com/library
    2. 官网首页:https://ollama.com/

    在这里插入图片描述
    以deepseek-r1 为例,点击首页中 DeepSeek-R1

在这里插入图片描述

  1. 拉取并运行模型:

    • 拉取指令
    ollama run deepseek-r1:671b
    # ollama run 目标模型:大小
    

    ✅ 正常输出结果如下:
    在这里插入图片描述

    • 模型交互:

      在交互框中可直接输入问题

    ✅ 正常输出结果如下:
    在这里插入图片描述

  2. 查询已下载模型

    ollama list
    

    ✅ 正常输出结果如下:

    在这里插入图片描述

  3. 其他指令

    # 查询模型信息
    ollama show qwen2:0.5b# 删除模型
    ollama rm qwen2:0.5b
    
1.7.2、进阶使用技巧
  • API 调用

注意:python中有集成的ollama工具包,需Python 3.8及以上版本

  • Install
pip install ollama
  • Custom client 示例:
from ollama import Client
client = Client(host='http://localhost:11434'
)
response = client.chat(model='deepseek-r1:7b', messages=[{'role': 'user','content': 'strawberry 中有几个r',},
])print(response['message']['content'])

更多API详见:https://pypi.org/project/ollama

REST API详见:https://github.com/ollama/ollama/blob/main/docs/api.md

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/895071.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

10vue3实战-----实现登录的基本功能

10vue3实战-----实现登录的基本功能 1.基本页面的搭建2.账号登录的验证规则配置3.点击登录按钮4.表单的校验5.账号的登录逻辑和登录状态保存6.定义IAccount对象类型 1.基本页面的搭建 大概需要搭建成这样子的页面: 具体的搭建界面就不多讲。各个项目都有自己的登录界面&#…

vue3 点击图标从相册选择二维码图片,并使用jsqr解析二维码(含crypto-js加密解密过程)

vue3 点击图标从相册选择二维码图片,并使用jsqr解析二维码(含crypto-js加密解密过程) 1.安装 jsqr 和 crypto-js npm install -d jsqr npm install crypto-js2.在util目录下新建encryptionHelper.js文件,写加密解密方法。 // e…

支持多种网络数据库格式的自动化转换工具——VisualXML

一、VisualXML软件介绍 对于DBC、ARXML……文件的编辑、修改等繁琐操作,WINDHILL风丘科技开发的总线设计工具——VisualXML,可轻松解决这一问题,提升工作效率。 VisualXML是一个强大且基于Excel表格生成多种网络数据库文件的转换工具&#…

【JVM详解四】执行引擎

一、概述 Java程序运行时,JVM会加载.class字节码文件,但是字节码并不能直接运行在操作系统之上,而JVM中的执行引擎就是负责将字节码转化为对应平台的机器码让CPU运行的组件。 执行引擎是JVM核心的组成部分之一。可以把JVM架构分成三部分&am…

mysql安装starting the server报错

win10家庭版无法启动服务的,先不要退出,返回上一栏,然后通过电脑搜索栏输入服务两个字,在里面找到mysql80,右键属性-登录,登录身份切换为本地系统就行了

萬有的函數關係速成2. 連續和導數

1.討論間斷點類型 定义: 若函数在某点不满足连续的条件,则该点为间断点。 第一类间断点是左右极限都存在的间断点,其中左右极限相等的是可去间断点,不相等的是跳跃间断点; 第二类间断点是左右极限至少有一个不存在的间断点,包括无穷间断点(极限为无穷)和振荡间断点…

【专题】2025年我国机器人产业发展形势展望:人形机器人量产及商业化关键挑战报告汇总PDF洞察(附原数据表)

原文链接:https://tecdat.cn/?p39668 机器人已广泛融入我们生活的方方面面。在工业领域,它们宛如不知疲倦的工匠,精准地完成打磨、焊接等精细工作,极大提升了生产效率和产品质量;在日常生活里,它们是贴心…

用docker在本地用open-webui部署网页版deepseek

前置条件 用Ollama在本地CMD窗口运行deepseek大模型-CSDN博客文章浏览阅读109次,点赞5次,收藏2次。首次运行需要下载deepseek的大模型包(大约5GB,根据本地网速的不同在半个小时到几个小时之间下载完成) ,并…

DeepSeek-R1 云环境搭建部署流程

DeepSeek横空出世,在国际AI圈备受关注,作为个人开发者,AI的应用可以有效地提高个人开发效率。除此之外,DeepSeek的思考过程、思考能力是开放的,这对我们对结果调优有很好的帮助效果。 DeepSeek是一个基于人工智能技术…

x小兔鲜vue.js

LayoutFooter.vue <template><footer class"app_footer"><!-- 联系我们 --><div class"contact"><div class"container"><dl><dt>客户服务</dt><dd><i class"iconfont icon-kef…

磁盘分区损坏:深度解析与数据恢复策略

一、磁盘分区损坏现象概述 磁盘分区损坏是计算机数据存储领域的一个常见问题&#xff0c;它通常表现为硬盘上的某个分区无法正常访问&#xff0c;数据读写失败&#xff0c;甚至整个分区消失。这种损坏可能源于多种因素&#xff0c;不仅影响用户的正常使用&#xff0c;更可能导…

Python----Python高级(网络编程:网络基础:发展历程,IP地址,MAC地址,域名,端口,子网掩码,网关,URL,DHCP,交换机)

一、网络 早期的计算机程序都是在本机上运行的&#xff0c;数据存储和处理都在同一台机器上完成。随着技术的发展&#xff0c;人 们开始有了让计算机之间相互通信的需求。例如安装在个人计算机上的计算器或记事本应用&#xff0c;其运行环 境仅限于个人计算机内部。这种设置虽然…

k8sollama部署deepseek-R1模型,内网无坑

这是目录 linux下载ollama模型文件下载到本地,打包迁移到k8s等无网络环境使用下载打包ollama镜像非k8s环境使用k8s部署访问方式非ollama运行deepseek模型linux下载ollama 下载后可存放其他服务器 curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linu…

机器学习基本概念(附代码)

这里的“机器”指的是计算机软硬件组织&#xff0c;而非传统的机械装置&#xff1b;而“学习”&#xff0c;则是指软件通过训练过程&#xff0c;其性能得以提升的过程。 一、算法与模型的关系 在机器学习领域&#xff0c;算法和模型是两个核心概念。算法是一种偏抽象的概念&a…

白嫖RTX 4090?Stable Diffusion:如何给线稿人物快速上色?

大家都知道&#xff0c;在设计的初期&#xff0c;我们通常会先绘制草图&#xff0c;然后再进行上色处理&#xff0c;最终才开始进行最终的设计工作。在这个上色的过程中&#xff0c;配色是至关重要的一环。这不仅方便了内部同事的评审&#xff0c;也让产品方和客户可以直观地了…

Win10环境使用ChatBox集成Deep Seek解锁更多玩法

Win10环境使用ChatBox集成Deep Seek解锁更多玩法 前言 之前部署了14b的Deep Seek小模型&#xff0c;已经验证了命令行及接口方式的可行性。但是纯命令行或者PostMan方式调用接口显然不是那么友好&#xff1a; https://lizhiyong.blog.csdn.net/article/details/145505686 纯…

kafka服务端之日志磁盘存储

文章目录 页缓存顺序写零拷贝 Kafka依赖于文件系统&#xff08;更底层地来说就是磁盘&#xff09;来存储和缓存消息 。 那么kafka是如何让自身在使用磁盘存储的情况下达到高性能的&#xff1f;接下来主要从3各方面详细解说。 页缓存 页缓存是操作系统实现的一种主要的磁盘缓存…

计算机视觉语义分割——Attention U-Net(Learning Where to Look for the Pancreas)

计算机视觉语义分割——Attention U-Net(Learning Where to Look for the Pancreas) 文章目录 计算机视觉语义分割——Attention U-Net(Learning Where to Look for the Pancreas)摘要Abstract一、Attention U-Net1. 基本思想2. Attention Gate模块3. 软注意力与硬注意力4. 实验…

韶音科技:消费电子行业售后服务实现数字化转型,重塑客户服务体系

韶音科技&#xff1a;消费电子行业售后服务实现数字化转型&#xff0c;重塑客户服务体系 在当今这个科技日新月异的时代&#xff0c;企业之间的竞争早已超越了单纯的产品质量比拼&#xff0c;**售后服务成为了衡量消费电子行业各品牌实力与客户满意度的关键一环。**深圳市韶音…

使用 CloudDM 和钉钉流程化管理数据库变更审批

CloudDM 是一个专为团队协同工作打造的数据库数据管控平台。在管控数据库安全变更的过程中&#xff0c;为提高效率&#xff0c;CloudDM 接入了钉钉&#xff0c;支持实时通知与移动办公&#xff0c;满足广大企业用户的实际需求。 本文将介绍如何使用 CloudDM 和钉钉实现高效的数…