Ubuntu20.04安装TersonRT

发布时间 2023-12-13 17:23:46作者: chenjian688

一、基础要求,安装了显卡驱动和CUDA

TensorRT支持的CUDA版本是对应的,这里

https://www.cnblogs.com/chenjian688/p/17201414.html

TensorRT 8.5 GA Update 2这个版本

GA是正式版,EA是早期测试版

 

这里建议下载压缩包解压后,将库路径加入环境变量直接使用

TensorRT 7.0.0 版本是第一个不再需要显式安装 cuDNN 的版本。在 TensorRT 7.0.0 及更高版本中,cuDNN 已经被整合到 TensorRT 中,并且不再需要用户单独安装 cuDNN 库。

TensorRT8.5以下的版本包由于自带了cudnn,所以只需要关注cuda版本,无需关注cudnn版本;而8.5及以上的TensorRT不再捆绑cudnn,所以不仅要明确cuda版本,还需要明确我们系统的cudnn版本,再选择相应cuda和cudnn版本对应的TensorRT8.5及以上的版本进行安装

 

cudnn本地安装,下载解压后,将include和lib复制到cuda的安装目录即可