服务器-服务器里有多个CUDA+安装新的CUDA

---

前言

服务器里有多个版本的CUDA

---

一、方法一：永久设置CUDA 版本（差）

• 步骤 1：查找已安装的 CUDA 版本
  首先，你需要找到系统中所有已安装的 CUDA 版本。通常，CUDA 安装在 /usr/local/ 目录下。可以通过以下命令查找已安装的 CUDA 版本：

ls /usr/local/

输出：

(tang_py_3.12) root@interactive46022:~# ls /usr/local/
bin   cuda-11    etc    include  licensing  man  nvm          sbin   src  versioneer.py
cuda  cuda-11.8  games  lib      magma      mpi  __pycache__  share  ucx

• 步骤 2：检查当前使用的 CUDA 版本
  你可以使用 nvcc 命令来查看当前正在使用的 CUDA 版本：

nvcc --version

输出：

(tang_py_3.12) root@interactive46022:~# nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2019 NVIDIA Corporation
Built on Sun_Jul_28_19:07:16_PDT_2019
Cuda compilation tools, release 10.1, V10.1.243

• 步骤 3：设置环境变量来选择 CUDA 版本
  要切换到不同版本的 CUDA，你需要修改 PATH 和 LD_LIBRARY_PATH 环境变量。
  永久设置 CUDA 版本（对所有终端会话生效）
  如果你希望在每次打开终端时自动使用某个特定版本的 CUDA，可以将这些环境变量的设置添加到 ~/.bashrc 或 ~/.zshrc 文件中（取决于你使用的是 bash 还是 zsh）。
  编辑 ~/.bashrc 文件：

nano ~/.bashrc

然后在文件末尾添加以下内容：

export PATH=/usr/local/cuda-11.8/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH

保存并退出文件后，执行以下命令使更改生效：

source ~/.bashrc

• 步骤 4：验证切换后的 CUDA 版本
  通过以下命令验证所选版本是否生效：

nvcc --version

输出：

(base) root@interactive46022:~# nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Sep_21_10:33:58_PDT_2022
Cuda compilation tools, release 11.8, V11.8.89
Build cuda_11.8.r11.8/compiler.31833905_0

二、方法二：在 Conda 环境中动态设置 PATH 和 LD_LIBRARY_PATH

2.1 查看CUDA版本：

• 步骤 1：查找已安装的 CUDA 版本
  首先，你需要找到系统中所有已安装的 CUDA 版本。通常，CUDA 安装在 /usr/local/ 目录下。可以通过以下命令查找已安装的 CUDA 版本：

ls /usr/local/

输出：

(tang_py_3.12) root@interactive46022:~# ls /usr/local/
bin   cuda-11    etc    include  licensing  man  nvm          sbin   src  versioneer.py
cuda  cuda-11.8  games  lib      magma      mpi  __pycache__  share  ucx

• 步骤 2：检查当前使用的 CUDA 版本
  你可以使用 nvcc 命令来查看当前正在使用的 CUDA 版本：

nvcc --version

输出：

(tang_py_3.12) root@interactive46022:~# nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2019 NVIDIA Corporation
Built on Sun_Jul_28_19:07:16_PDT_2019
Cuda compilation tools, release 10.1, V10.1.243
update-alternatives 是 Linux 系统中用于管理多个可执行文件（如多个版本的同一程序）的工具。你可以使用它来切换 CUDA 版本。

2.2 执行步骤：

设置环境变量
你可以通过在 Conda 环境中动态设置 PATH 和 LD_LIBRARY_PATH 来切换到 cuda-11.8。

• 激活 Conda 环境（如果尚未激活）：conda activate <your_env_name>
• 设置 PATH 和 LD_LIBRARY_PATH 环境变量：\
  • 使用以下命令设置环境变量，以便 Conda 环境能够使用 cuda-11.8：

export PATH=/usr/local/cuda-11.8/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH

---

三、方法三：安装新的CUDA

• 下载安装包
  CUDA官网
  • 需要服务器的Architecture
    • 使用命令：uname -m
  • Linux 发行版 (Distribution) 信息
    • 使用命令：lsb_release -a
      

wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda_12.4.0_550.54.14_linux.run
sudo sh cuda_12.4.0_550.54.14_linux.run

• 步骤 1：下载 CUDA 12.4 安装文件
  使用 wget 下载 CUDA 12.4 的安装文件：

wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda_12.4.0_550.54.14_linux.run

这个命令会从 NVIDIA 官方网站下载 CUDA 12.4 的安装包。

• 步骤 2：运行 CUDA 安装文件
  下载完成后，使用 sudo sh 命令来运行安装文件：

sudo sh cuda_12.4.0_550.54.14_linux.run

---

附录：

运行 CUDA 安装文件遇到的问题：

• 查看安装日志

cat /var/log/cuda-installer.log