TensorRT 安装与配置

2025-04-22 19:48:29

下载 TensorRT

打开 TensorRT 下载页面，需要使用 NVIDIA 账号登录
sp20250422_194524_930.png
以 TensorRT 10 为例，点击进入详细页面
sp20250422_194557_903.png 选择需要的版本点击下载，例如 TensorRT 10.9 GA for Windows 10, 11, Server 2022 and CUDA 12.0 to 12.8 ZIP Package
记录对应的 CUDA 版本为 12.0 - 12.8

下载 CUDA

打开 CUDA 下载页面，选择符合的 CUDA 版本下载并安装
sp20250422_194649_553.png

下载 cuDNN

打开 cuDNN 下载页面，选择符合的 cuDNN 版本下载并安装
sp20250422_194719_399.png
也可以前往 cuDNN 存档页面，下载压缩包，手动进行安装
选择符合的版本，例如
sp20250422_194807_716.png

配置环境变量

安装 CUDA 时会自动配置环境变量 CUDA_PATH 需要在 PATH 中添加

  1. TensorRT 路径下的 bin 文件夹
  2. CUDA 路径下的 bin 文件夹
  3. cuDNN 路径下的 bin 文件夹

配置 Visual Studio 项目

新建一个 TensorRT 属性表
在 VC++ 目录 -> 外部包含目录 中添加

  1. TensorRT 路径下的 include 文件夹
  2. CUDA 路径下的 include 文件夹
  3. cuDNN 路径下的 include 文件夹

在 VC++ 目录 -> 库目录 中添加

  1. TensorRT 路径下的 lib 文件夹
  2. CUDA 路径下的 lib/x64 文件夹
  3. cuDNN 路径下的 lib/x64 文件夹

在 链接器 -> 输入 -> 附加依赖项 中添加所用到的 TensorRT、CUDA 和 cuDnn 的 lib 文件
测试程序可以使用 路径\*.lib 的形式