如何在Linux服务器上安装CUDA

安装合适版本的Nvidia Tesla驱动

执行以下命令，查看Tesla驱动是否安装成功

这个表示该驱动版本下能支持的最高CUDA版本是12.8

下载安装CUDA

CUDA Toolkit Archive | NVIDIA Developer

找到想要的版本，这里选择12.8.1

#查看当前运行的内核版本号（kernel release）
uname -r

#lsb_release 是一个 Linux 命令，用于显示当前 Linux 系统的版本信息，包括发行版名称、版本号、代号等
lsb_release -a

点进去选择

• Operating System 操作系统：Linux
• Architecture：x86_64

• 

• Distribution发行版本名称：Debian

这上面发现cuda只有支持12的Debian，所以驱动要重装

但是以这个为例子，执行以下命令安装

配置CUDA环境变量

echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee /etc/profile.d/cuda.sh
source /etc/profile

作用是：将以下内容写入一个新的文件/etc/profile.d/cuda.sh：

export PATH=/usr/local/cuda/bin:$PATH

• export PATH=...:$PATH：把 /usr/local/cuda/bin 加到环境变量 PATH 的最前面，这样你就可以直接使用 CUDA 工具（比如 nvcc）而无需指定路径。
• | sudo tee ...：以 root 权限将上面的内容写入 /etc/profile.d/cuda.sh，这是一个标准的方式来为所有用户添加环境变量。
• /etc/profile.d/*.sh 中的脚本会在 每次登录 shell时自动被系统加载。

查看是否安装成功

nvcc -V

参考

在RDS Custom AI节点中安装Tesla驱动、CUDA和cuDNN-阿里云帮助中心