【Windows 开发NVIDIA相关组件】CUDA、cuDNN、TensorRT

目录

1. 安装 CUDA Toolkit

2. 安装 cuDNN

3. 安装 Zlib

4. 安装 TensorRT

5. 安装 TensorRT Python 包[c++项目不需要]

6. 安装 ONNX GraphSurgeon 包[c++项目不需要]

---

1. 安装 CUDA Toolkit

从 CUDA ToolkitArchive 下载对应版本的离线安装包，以 11.7 版本为例。

打开安装包 ，选择精简，安装完成后，系统会自动将 CUDA 添加到 PATH 环境变量，无需手动操作。

2. 安装 cuDNN

从 cuDNN Archive 下载对应版本的安装包，以 8.5.0.96 版本为例。

下载完成后，将解压缩包中的文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.5目录下。

接着，将 C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.5\bin 添加到系统的 PATH 环境变量。

3. 安装 Zlib

Zlib 是 cuDNN 所需的数据压缩软件库。安装方法参见如下文章：

在 Windows 上安装 Zlib 的步骤【完整步骤】-CSDN博客https://blog.csdn.net/weixin_45037357/article/details/145469244?spm=1001.2014.3001.5502。

4. 安装 TensorRT

从 NVIDIA TensorRT 8.x Download 下载对应版本的安装包，以 8.4版本为例。

下载完成后，将解压缩包中的文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4目录下。

然后，将 C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4\bin 添加到系统的 PATH 环境变量。

5. 安装 TensorRT Python 包[c++项目不需要]

在终端打开 C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4\python 目录，以 Python 3.10 为例，输入以下命令即可完成安装：

pip install tensorrt-8.4.3.1-cp310-none-win_amd64.whl

6. 安装 ONNX GraphSurgeon 包[c++项目不需要]

在终端打开 C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\onnx_graphsurgeon 目录，输入以下命令即可完成安装：

pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl

以上步骤完成后，CUDA 及相关组件就安装完成了，可以开始使用了。