无论用tensorrt，还是onnxruntime部署。这三个都得下载配置，推荐都放到相应的cuda路径里（含dll的文件夹、含lib的文件夹）。
推荐先下载tensorrt或者onnxruntime，这样可以知道所需的cuda、cudnn版本。
1、cuda（以11.8为例）
下载地址：CUDA Toolkit Archive | NVIDIA 开发者
默认安装在 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8
2、cudnn
下载地址：cuDNN Archive | NVIDIA 开发者
解压后，
dll 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin
lib 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\lib\x64
3、zlib
Zlib是cuDNN所需的数据压缩软件库。
下载地址：Installation Guide :: NVIDIA Deep Learning cuDNN Documentation
解压后，
zlibwapi.dll 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin
zlibwapi.lib 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\lib\x64