FastDeploy 模型轉換,案例測試

其他模型轉paddle,PaddlePaddle/X2Paddle: Deep learning model converter for PaddlePaddle. (『飛槳』深度學習模型轉換工具) (github.com)

paddle轉onnx,PaddlePaddle/Paddle2ONNX: ONNX Model Exporter for PaddlePaddle (github.com)

  • 方式同上

【案例測試-win10】

FastDeploy對paddle格式的模型支持的挺好,onnx轉換的各種失敗。

1、OCR測試

模型下載 PaddleOCR/deploy/fastdeploy/cpu-gpu at dygraph · PaddlePaddle/PaddleOCR (github.com)

案例位置 C:\aa\FastDeploy-release-1.0.5\examples\vision\ocr\PP-OCR\cpu-gpu\cpp\infer.cc

paddle cpu、paddle gpu可以運行,但是gpu預測比cpu耗時(不含初始化時間)。tensorrt不能運行。

2、YOLOv8測試

模型下載 PaddleYOLO/configs/yolov8 at release/2.5 · PaddlePaddle/PaddleYOLO (github.com)

2.1 案例位置 C:\aa\FastDeploy-release-1.0.5\examples\vision\detection\paddledetection\cpp\infer_yolov8.cc

paddle cpu、paddle gpu可以運行。tensorrt不能運行。

2.2 案例位置 C:\aa\FastDeploy-release-1.0.5\examples\vision\detection\yolov8\cpp\infer.cc

都不能運行。無論是ultralytics官方下載的(pt轉onnx)還是上圖下載的onnx,以及 案例2.1的paddle轉onnx的。都運行失敗!

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章