無論用tensorrt，還是onnxruntime部署。這三個都得下載配置，推薦都放到相應的cuda路徑裏（含dll的文件夾、含lib的文件夾）。
推薦先下載tensorrt或者onnxruntime，這樣可以知道所需的cuda、cudnn版本。
1、cuda（以11.8爲例）
下載地址：CUDA Toolkit Archive | NVIDIA 開發者
默認安裝在 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8
2、cudnn
下載地址：cuDNN Archive | NVIDIA 開發者
解壓後，
dll 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin
lib 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\lib\x64
3、zlib
Zlib是cuDNN所需的數據壓縮軟件庫。
下載地址：Installation Guide :: NVIDIA Deep Learning cuDNN Documentation
解壓後，
zlibwapi.dll 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin
zlibwapi.lib 放到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\lib\x64