1、TensorRT-Tensorflow深度學習模型優化視頻課程-全套資料分享
https://blog.csdn.net/lqfarmer/article/details/100178743
1.1 TensorRT(1)-介紹-使用-安裝
https://arleyzhang.github.io/articles/7f4b25ce/
2 移動端部署ncnn
https://github.com/Tencent/ncnn
https://github.com/BUG1989/caffe-int8-convert-tools.git
pytorch 得到的模型部署步驟
如果是針對ncnn和tensorRT,那麼一般的方案是將pytorch生成的.pth模型先轉換成.onnx模型,然後利用onnx的萬能屬性往不同的框架上移植。
或者轉成caffe,再進行下一步操作,都對caffe結構支持較好,都變成caffe ,再轉
pytorch2caffe.py,直接轉換需要完成。
mxnet2caffe.py,已經完成一次