Nvidia设备做快速推理部署

无需在本地机器安装深度学习环境，直接使用nvidia提供的对应镜像即可快速使用 cuda、cudnn、pytorch、tensorrt。

强调一：本地必须安装nvidia驱动（例如NVIDIA-Linux-x86_64-xxx.xx.run），驱动是与本地硬件设备交互的必要条件，其它cuda、cudnn、tensorrt等都可以独立于容器内

强调二：并且不能直接使用普通的docker容器，需要安装nvidia-docker框架（现称为 NVIDIA Container Toolkit），nvidia-docker才会提供官方容器与底层交互的必要环境

以上两点是保证能正常使用NVIDIA官方镜像的基础条件，做好了这两点后续的安装部署各种容器就相当容易了。

（一）nvidia-docker快速安装（供参考）

以下命令适用于基于 Debian 的系统（如 Ubuntu）：

1. 前置条件
确保已安装最新 NVIDIA 驱动。

2. 设置存储库和密钥

# 获取发行版信息 distribution=$(. /etc/os-release;echo $ID$VERSION_ID) # 添加NVIDIA仓库密钥 curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - # 添加NVIDIA容器工具包软件源 curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/