Ubuntu 24.04 LTS系统安装RTX 4090显卡驱动和cuda并部署ollama下载DeepSeek模型【自用详细版】

在这里插入图片描述
自己捣鼓玩玩哈，正好有机子

1. 安装驱动前的系统配置工作

卸载原有驱动并禁用nouveau

sudo apt remove --purge nvidia*sudo cp /etc/modprobe.d/blacklist.conf /etc/modprobe.d/blacklist.conf.backup //备份文件

sudo vim /etc/modprobe.d/blacklist.conf  //修改文件
在文件末尾添加如下内容：blacklist nouveau
blacklist lbm-nouveau
options nouveau modeset=0
alias nouveau off
alias lbm-nouveau off

在这里插入图片描述

按下exc，输入：wq保存后关闭文件

echo options nouveau modeset=0 | sudo tee -a /etc/modprobe.d/nouveau-kms.conf  //关闭nouveau

在这里插入图片描述

sudo update-initramfs -u  //更新reboot  //重启

在这里插入图片描述

重启后查看是否禁用成功
执行以下内容，没有任何输出内容则为成功禁用

lsmod | grep nouveau

在这里插入图片描述
这样就成功了

2. 可以手动安装NVIDIA驱动

https://www.nvidia.cn/drivers/lookup/
在这里插入图片描述
我下载的是

sudo chmod a+x NVIDIA-Linux-x86_64-570.133.07.run
sudo ./NVIDIA-Linux-x86_64-570.133.07.run

2. 也可以系统安装NVIDIA驱动（如果手动安装驱动就跳过这步）

更新系统软件包
```
sudo apt update && sudo apt upgrade -y
```
确保系统最新以避免兼容性问题。
查看显卡型号
```
lspci | grep -i nvidia
```

在这里插入图片描述

添加NVIDIA驱动仓库并安装驱动（下载速度比较慢）
```
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update
sudo ubuntu-drivers autoinstall
```
这样就安装成功了
安装完成后重启系统：
```
sudo reboot
```
验证驱动安装
```
nvidia-smi
```
应显示显卡信息及驱动版本。

3. 安装CUDA和cuDNN

安装CUDA Toolkit
根据驱动版本选择CUDA版本（如CUDA 12.x）：

NVIDIA官网下载.run文件安装。

wget https://developer.download.nvidia.com/compute/cuda/12.8.1/local_installers/cuda_12.8.1_570.124.06_linux.run
sudo sh cuda_12.8.1_570.124.06_linux.run

注意：安装选项把驱动给取消掉，因为前面已经安装过驱动了
在这里插入图片描述
配置环境变量
为了让系统可以找到 CUDA 工具和库，需要配置环境变量。

打开终端，编辑 .bashrc 文件：

vim ~/.bashrc
在文件的末尾添加以下几行：

export PATH=/usr/local/cuda/bin:$PATH export
LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

保存并关闭文件，然后使更改生效：

source ~/.bashrc

在这里插入图片描述
这样就安装成功了

安装cuDNN （可选择安装，其实不用装也可以运行ollama）
需注册NVIDIA开发者账号后下载cuDNN库，解压并复制到CUDA目录。

4. 安装Ollama

下载并安装Ollama
```
curl -fsSL https://ollama.com/install.sh | sh
```
或从官网获取.deb包安装。
建议国内改一下镜像源地址，下载更快：

curl -fsSL https://ollama.com/install.sh -o ollama_install.shsed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.6.4/ollama-linux|g' ollama_install.shchmod +x ollama_install.sh&& sh ollama_install.sh

启动Ollama服务
```
systemctl --user enable --now ollama
```

在这里插入图片描述

5. 下载并运行DeepSeek模型

拉取DeepSeek模型
```
ollama run deepseek-r1:32b
```
支持版本包括deepseek-r1:7b（70亿参数）、deepseek-v3:32b等。
验证模型运行
安装完成后，输入指令即可与模型交互。如需通过Web界面操作，可安装Open WebUI。