【内网Tesla T4_16G为例】GPU安装NVIDIA Driver、CUDA、cuDNN、Python

这篇文章主要记录下在内网(无法连接外网)服务器安装NVIDIA Driver、CUDA、cuDNN、Python的过程，机器配置GPU：1*NVIDIA T4 16G，CPU：8C42G，操作系统：GPU-RHEL7.9-x86-64。

想了解如何内网部署ollama，使用大模型，可以参考我的另一篇文章：
【内网Tesla T4_16G为例】超详细部署安装ollama、加载uugf格式大模型qwen2、chatglm3及大模型的使用

前言

因为是内网环境，所以文章中的安装过程，不贴实际安装过程的图片。

因为是内网环境，所以所有的安装包都是先外网下载好，拷贝到内网执行的。下面所有安装包都是如此，不再赘述

该服务器除系统盘60G之外，还有一个扩展盘100G，我们可以理解为windows电脑的D盘，我的所有安装包都会装在该盘，如果你只有一个盘，可以新建一个文件夹安装，不建议安装在系统盘的其他文件夹中

一. 安装Python

1. 下载python离线包
安装包下载地址：https://www.python.org/downloads/source/
我下载的是Python 3.10.14

下面是linux服务器上的部署过程
2. 系统更新

sudo yum update -y

3. 安装必要的依赖项

sudo yum groupinstall “Development Tools” -y
sudo yum install openssl-devel bzip2-devel libffi-devel -y

2，3步骤可以在盘的主目录下直接执行。

**4. 解压Python-3.10.14.tgz并安装 **

#解压
sudo tar xzf Python-3.10.14.tgz
#进入解压后的包
cd Python-3.10.14
#设置安装地址，如果/mnt/data/python3.10之前没有，需要新建
sudo ./configure --enable-optimizations --prefix=/mnt/data/python3.10
#编译并安装（如果你需要在服务器中安装多个版本的python且不影响其他版本，这里要使用altinstall，而不是install）
sudo make altinstall

5. 是否安装成功

python3.10 --version
python3.10 # 该命令直接运行python，可以实现编码

此时安装完之后你可以使用python3.10 --version查看，如果你希望python --version
或者python3 --version等格式的命令，你可以通过符号链接将 python 指向 python3.10。

6. 创建符号链接（可选操作）
1）删除现有的 python 符号链接（如果存在，可通过python --version检查，是否返回其他版本）：

sudo rm /usr/bin/python

2）创建新的符号链接
python --version
pip --version

sudo ln -s /mnt/data/python3.10/bin/python3.10 /usr/bin/python
sudo ln -s /mnt/data/python3.10/bin/pip3.10 /usr/bin/pip

python3 --version
pip3 --version