openvino推理端一直沒有編譯成功,不考慮編譯openvino。
使用官方案例,發現對onnx格式模型支持的不太好(有的能運行,有的報錯)。對paddle格式支持的很好(自家寶貝,必須獨寵啊!)
因此,只編譯paddle和tensorrt推理端。
onnx格式的模型可以使用官方轉換工具,轉爲paddle。GitHub - PaddlePaddle/X2Paddle: Deep learning model converter for PaddlePaddle. (『飛槳』深度學習模型轉換工具)
官方提供的工具 FastDeploy/README.md at develop · PaddlePaddle/FastDeploy · GitHub