问题描述
docker 容器启动时如果需要访问 gpu ，需要安装 nvidia-container-toolkit 才行，否则会提示如下错误
sudo docker run --rm -it --gpus all ubuntu:latest
docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].
安装驱动
首先根据下面博客安装驱动
https://blog.csdn.net/xiaofei125145/article/details/144912196
设置版本
因为 ubuntu24.04 较新 nvidia-container-toolkit 目前官方尚未提供对应的版本支持。
所以只能安装 ubuntu22.04 对应的版本
执行如下命令设置对应的系统版本变量
distribution=ubuntu22.04
执行安装命令
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit
重启docker 服务
sudo systemctl restart docker
验证安装
sudo docker run --rm -it --gpus all ubuntu:latest
如果可以正常启动 ubuntu 容器表示没有问题。
