錯誤 Could not load dynamic library libnvinfer.so.6 解決方法

在測試TensorFlow可用性時(tf.test.is_gpu_available())出現錯誤Could not load dynamic library'libnvinfer.so.6'，本文記錄解決方法。

錯誤原因

沒有安裝 TensorRT

• 關於NVIDIA TensorRT:

NVIDIA TensorRT是一種高性能神經網絡推理(Inference)引擎，用於在生產環境中部署深度學習應用程序，應用有圖像分類、分割和目標檢測等，可提供最大的推理吞吐量和效率。TensorRT是第一款可編程推理加速器，能加速現有和未來的網絡架構。TensorRT需要CUDA的支持。TensorRT包含一個爲優化生產環境中部署的深度學習模型而創建的庫，可獲取經過訓練的神經網絡(通常使用32位或16位數據)，並針對降低精度的INT8運算來優化這些網絡。藉助CUDA的可編程性，TensorRT將能夠加速助推深度神經網絡日益多樣化、複雜的增長趨勢。通過TensorRT的大幅度加速，服務提供商能夠以經濟實惠的成本部署這些計算密集型人工智能工作負載。

• 錯誤形式

Could not load dynamic library'libnvinfer.so.6'; dlerror: libnvinfer.so.6: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/nvidia/lib:/usr/local/nvidia/lib64:/usr/local/cuda/lib64/

實際上這只是個警告信息，而不是錯誤。libnvinfer.so.6和libnvinfer_plugin.so.6只在使用NVIDIA TensorRT的時候纔是必須的。沒有這兩個庫也可以運行tensorflow。

——引自 - https://blog.csdn.net/toopoo/article/details/104506143

解決方案

安裝 TensorRT

# Install TensorRT.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1