1. 下载安装包。选择“立即下载”
地址:https://developer.nvidia.com/nvidia-tensorrt-download
2. 经过填写简单问卷进入下载界面(网有点慢
3.进入希望下载的版本界面(以tensorrt7为例),找到cuda对应版本
4. 解压zip文件到指定路径
5. 将解压后路径中的xxx/lib加入系统变量
5.1 把xxx/lib文件夹下的DLL文件拷贝到cuda对应版本的安装目录下。此处选择D:\software\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin
6. 安装uff和graphsurgeon
解压后的uff和graphsurgeon文件夹中,分别含有各自的.whl安装文件。激活安装了pytorch的conda虚拟环境,使用pip安装。
7. 测试安装是否成功
打开D:\software\TensorRT_7.0_cuda10\TensorRT-7.0.0.11\samples\sampleMNIST工程文件
7.1 设置工程配置
vc++目录->可执行目录 包含TensorRT安装目录下的lib 即D:\software\TensorRT_7.0_cuda10\TensorRT-7.0.0.11\lib
c/c++->常规->附加包含目录D:\software\TensorRT_7.0_cuda10\TensorRT-7.0.0.11\include
链接器中设置D:\software\TensorRT_7.0_cuda10\TensorRT-7.0.0.11\lib中所有lib文件包含
连接器设置D:\software\NVIDIA GPU
Computing Toolkit\CUDA\v10.0\lib\x64 中cudart.lib包含
8. 准备数据(simpleMNIST)
切换路径cd->”D:\software\TensorRT_7.0_cuda10\TensorRT-7.0.0.11\data\mnist”
控制台运行python download_pgms.py
若下载过程中提示“raise HTTPError(req.full_url, code, msg, hdrs, fp)”
则在下载url加上头。参看解决方法:https://blog.csdn.net/weixin_30514745/article/details/96025364
9. 测试效果展示