查看系统信息
hostnamectl
uname -m
lsb_release -a
下载工具包
下载地址: https://developer.nvidia.com/cuda-toolkit-archive
安装过程:

开始安装

接受协议

取消驱动-进行安装, 注意!一定要取消驱动!!!

不覆盖:/usr/local/cuda

安装成功
设置环境变量:
注意多版本切换的问题!!
如果安装了多个版本, 需要在设置环境变量的时候,将想要使用的版本,放在最前面,如下:
在 ~/.bashrc 中添加
export LD_LIBRARY_PATH=/usr/local/cuda-12.4/lib64:$LD_LIBRARY_PATH
export PATH=/usr/local/cuda-12.4/bin:$PATH
在命令行执行查看
source ~/.bashrc
nvcc -V
查看是否设置成功:

当前cuda版本