基於Google Edge TPU的Coral USB加速棒體驗

本博客轉自:愛板網

還記得2018年穀歌發佈的那個震撼全球的Edge TPU嗎?現在基於Edge TPU的兩款設備已經正式發售,愛板網第一時間帶大家來感受下實際體驗效果。

 

Coral USB加速棒

  曾經那個被命名爲AIY Edge TPU加速棒的玩意如今被稱作爲Coral USB Accelerator,不清楚Coral的命名有何用意,可能是目前作爲承接製造發售谷歌USB加速棒的公司,但顯然這玩意的功能我們還是很清楚的,Coral USB Accelerator是一款USB設備,可爲你的計算機或者是像樹莓派那樣的單板計算機提供Edge TPU作爲協處理器用於加速機器學習模型的推理。

一面AIY Logo,一面Coral Logo,Coral USB加速棒(USB Type-C接口)

Coral USB加速棒特徵

  • Google Edge TPU ML加速棒協處理器
  • USB 3.0 Type-C接口
  • 支持Debian Linux系統
  • 支持的框架:TensorFlow Lite

 

Coral USB加速棒大小僅爲65mm*30mm,板載的Edge TPU是由Google設計的小型ASIC,可提供低功耗高性能ML推理

比如:它可以極低的功耗 執行 先進的移動視覺模型,例如100+ fps的MobileNet v2。

 

另外,除了Edge TPU協處理器,Coral USB加速棒還包括一個低功耗MCU(這也是之前沒有曝光出來的),基於Arm Cortex-M0+處理器,主要用於在啓動時執行USB PHY的復、中斷和初始化寄存器等基本程序。

而且從下表也可以看到,Coral USB加速棒是支持USB3.1標準的,最高速率達5Gb/s。

 

上電使用

百聞不如一用,所以實際來感受下Coral USB加速棒的使用。

開發環境要求:

  • 一臺帶有USB端口的Linux計算機
  • 支持Debian 6.0或更高版本,或其衍生系統(如Ubuntu 10.0+)
  • x86_64或具有ARMv8指令集的ARM64系統架構

所以,從上面這幾點要求來看,Coral USB加速棒支持Raspberry Pi。但是,必須是Raspberry Pi 2/3 Model B/B+且運行Raspbian系統(或其它Debian衍生系統)。

另請有一點用戶要清楚,使用支持USB3.0端口的計算機才能獲得最佳的推理速度(很顯然,這對於目前的樹莓派來說有心無力Raspberry Pi 2/3,Raspberry Pi 3B+以上的有USB3.0了)

硬件準備完畢,你只需要Python庫下載到你將連接Coral USB加速棒的電腦上,然後通過幾個簡單的步驟就能開始運行TensorFlow Lite模型了。

 

  • 適用於Linux或Raspberry Pi的安裝程序

安裝Edge TPU Python庫:

wget http://storage.googleapis.com/cloud-iot-edge-pretrained-models/edgetpu_api.tar.gz

tar xzf edgetpu_api.rar.gz

cd python-tflite-source

bash ./install.sh

使用USB Type-C接口線連接Coral USB加速棒。(如果你已將其插入,請重新插入,以便上面步驟安裝的udev規則生效。)

 

  • 在Edge TPU上運行模型

完成上面的步驟說明你已經設置好了Coral USB加速棒,現在可以直接在Edge TPU上運行TensorFlow Lite的模型。

比如下面是使用下圖中的parrot(鸚鵡)圖像執行圖像分類的演示:

 

結果如下:

這個過程就是通過Coral USB加速棒上的Edge TPU進行了推斷。不難發現,使用官方創建的Python API可以輕鬆地在Edge TPU上執行圖像分類或對象檢測推理。

另外一點需要說下的是關於Coral USB加速棒的性能設置,首次使用Coral USB加速棒時,我們可以選擇是使用默認還是大時鐘頻率,最大時鐘頻率爲默認設置的2倍。如果要更改,需要卸載libedgetpu _ * .so文件,然後重新運行安裝腳本,系統將提示你選擇該設置。

 

小結

從2018年Edge TPU的發佈到如今正式發售經歷了漫長的半年時間,期間筆者甚至一度懷疑這個產品是否已經夭折,如今看來自己的擔心是多餘的。對於電工程師時來說,好消息是目前這個產品在貿澤電子國外的官網有售(搜索這個貿澤編號:212-842776110077);對於國內做邊緣計算的AI芯片公司來說也有個好消息,目前Google沒有對外發售這款Google Edge TPU coprocessor,不過,顯然,給你們的時間已經不多了。

 

希望對你有幫助。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章