最全的TensorFlow Lite指南

TensorFlow Lite指南

TensorFlow Lite是TensorFlow針對移動和嵌入式設備的輕量級解決方案。它支持設備內機器學習推理,具有低延遲和小二進制大小。TensorFlow Lite還支持Android神經​​網絡API的硬件加速 。

TensorFlow Lite使用許多技術來實現低延遲,例如優化移動應用程序的內核,預融合激活以及允許更小和更快(定點數學)模型的量化內核。

1.TensorFlow Lite包含什麼?

  • TensorFlow Lite支持一組核心運算符,包括量化和浮點運算,它們已經針對移動平臺進行了調整
  • TensorFlow Lite基於FlatBuffers定義了一種新的模型文件格式
  • TensorFlow Lite擁有一個新的移動優化解釋器,其主要目標是保持應用程序的精簡和快速
  • TensorFlow Lite提供了一個利用硬件加速的接口(如果在設備上可用)

2.爲什麼我們需要一個新的移動專用庫?

  • 硅層的創新爲硬件加速提供了新的可能性,而Android神經​​網絡API等框架可以輕鬆利用這些功能。
  • 最近在實時計算機視覺和口語理解方面取得的進展使得移動優化的基準模型成爲開源的(例如MobileNets,SqueezeNet)。
  • 廣泛可用的智能設備爲設備智能創造了新的可能性。
  • 對用戶數據不需要離開移動設備的更強大的用戶數據隱私範例感興趣。
  • 能夠提供“離線”用例,其中設備不需要連接到網絡。

3.TensorFlow Lite亮點

  • 一組核心運營商,包括量化和浮動,其中許多已經針對移動平臺進行了調整 一種新的
  • 基於FlatBuffers的模型文件格式
  • 具有內核優化的設備上解釋器,可在移動設備上更快地執行
  • TensorFlow轉換器將TensorFlow訓練的模型轉換爲TensorFlow Lite格式
  • 尺寸較小:當所有支持的運算符鏈接時,TensorFlow Lite小於300KB,當僅使用支持InceptionV3和Mobilenet所需的運算符時,小於200KB

4.TensorFlow Lite架構

在這裏插入圖片描述

以上這些內容呢,在TensorFlow官網都可以看到的,我這裏純粹是進行了“搬運”,那麼接下來,我會就自己的學習進度來進行記錄TensorFlow Lite的內容

TensorFlow Lite學習之前的準備工作

1.安裝最新版本的 Android Studio
下載和安裝Android Studio搭建Android集成開發環境

使用Android Studio開發Android APP
很多時候,Android studio裏邊的虛擬機不可用,那乾脆,我們將做好的App放在我們自己的手機上來看,那就需要閱讀下邊這篇文章了
Android Studio連接手機設備教程(完全步驟)

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章