本地部署一个DeepSeek大语言模型 研究学习一下。
本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端
1.Ollama安装
ollama是一个开源的大型语言模型(LLM)本地化部署与管理工具,旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型(如Llama、Mistral、DeepSeek、Qwen等),并通过命令行工具、API接口及丰富的社区生态,为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。
下载地址
Download Ollama on Windows
官网地址下载较慢 可以使用以下地址 ollama官方下载最新版-ollama安装包下载v0.5.12.0 windows国内镜像中文版-2265安卓网
github地址
https://github.com/ollama/ollama
ollama可以用来快速安装各种模型
ollama可以安装的模型列表如下
https://github.com/ollama/ollama?tab=readme-ov-file
下载完 本地安装
2.DeepSeek安装
DeepSeek各版本说明
各模型版本硬件说明
B代表“billion”(十亿)
这里先安装模型 ollama run deepseek-r1 7B
安装完成 尝尝鲜
3.ChatBox安装
上述命令行交互太low 可以使用本地AI模型交互客户端 chatBox
官网地址 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载
按照说明配置一下
可以与本地大模型交互一下
至此本地DeepSeek模型就安装完成了