NVIDIA Container Toolkit

NVIDIA Contaner Toolkit 使用户能够构建和运行 GPU 加速容器；该工具包括一个容器运行时库和实用程序，用于自动配置容器使用 NVIDIA GPU。

[图片上传失败...(image-704c3c-1738994062378)]

先决条件

• 主机上安装容器运行时。
• 为您的 Linux 发行版安装 NVIDIA GPU 驱动程序，使用发行版的软件包管理器安装驱动程序或从NVIDIA 官方程序页面下载.run文件本地安装。

APT

1. 配置仓库

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

2. 更新仓库

apt-get update

3. 安装 NVIDIA Container Toolkit

apt-get install -y nvidia-container-toolkit

Yun or Dnf

1. 配置仓库

curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
  sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo

2. 安装 NVIDIA Container Toolkit

yum install -y nvidia-container-toolkit

配置

• 安装了受支持的容器引擎（Docker、Containerd、CRI-O、Podman）
• 您安装了 NVIDIA Container Toolkit

Docker

1. 使用nvidia-ctk配置容器运行时

nvidia-ctk runtime configure --runtime=docker

2. 重启 Docker 守护进程

systemctl restart docker

containerd（适用于 Kubernetes）

1. 使用nvidia-ctk配置容器运行时

nvidia-ctk runtime configure --runtime=containerd

2. 重启 containerd

systemctl restart containerd

参考：

• https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html