本博客轉自:愛板網
還記得2018年穀歌發佈的那個震撼全球的Edge TPU嗎?現在基於Edge TPU的兩款設備已經正式發售,愛板網第一時間帶大家來感受下實際體驗效果。
Coral USB加速棒
曾經那個被命名爲AIY Edge TPU加速棒的玩意如今被稱作爲Coral USB Accelerator,不清楚Coral的命名有何用意,可能是目前作爲承接製造發售谷歌USB加速棒的公司,但顯然這玩意的功能我們還是很清楚的,Coral USB Accelerator是一款USB設備,可爲你的計算機或者是像樹莓派那樣的單板計算機提供Edge TPU作爲協處理器,用於加速機器學習模型的推理。
一面AIY Logo,一面Coral Logo,Coral USB加速棒(USB Type-C接口)
Coral USB加速棒特徵
- Google Edge TPU ML加速棒協處理器
- USB 3.0 Type-C接口
- 支持Debian Linux系統
- 支持的框架:TensorFlow Lite
Coral USB加速棒大小僅爲65mm*30mm,板載的Edge TPU是由Google設計的小型ASIC,可提供低功耗的高性能ML推理。
比如:它可以極低的功耗 執行 先進的移動視覺模型,例如100+ fps的MobileNet v2。
另外,除了Edge TPU協處理器,Coral USB加速棒還包括一個低功耗MCU(這也是之前沒有曝光出來的),基於Arm Cortex-M0+處理器,主要用於在啓動時執行USB PHY的復、中斷和初始化寄存器等基本程序。
而且從下表也可以看到,Coral USB加速棒是支持USB3.1標準的,最高速率達5Gb/s。
上電使用
百聞不如一用,所以實際來感受下Coral USB加速棒的使用。
開發環境要求:
- 一臺帶有USB端口的Linux計算機
- 支持Debian 6.0或更高版本,或其衍生系統(如Ubuntu 10.0+)
- x86_64或具有ARMv8指令集的ARM64系統架構
所以,從上面這幾點要求來看,Coral USB加速棒支持Raspberry Pi。但是,必須是Raspberry Pi 2/3 Model B/B+且運行Raspbian系統(或其它Debian衍生系統)。
另請有一點用戶要清楚,使用支持USB3.0端口的計算機才能獲得最佳的推理速度(很顯然,這對於目前的樹莓派來說有心無力Raspberry Pi 2/3,Raspberry Pi 3B+以上的有USB3.0了)。
硬件準備完畢,你只需要Python庫下載到你將連接Coral USB加速棒的電腦上,然後通過幾個簡單的步驟就能開始運行TensorFlow Lite模型了。
- 適用於Linux或Raspberry Pi的安裝程序
安裝Edge TPU Python庫:
wget http://storage.googleapis.com/cloud-iot-edge-pretrained-models/edgetpu_api.tar.gz
tar xzf edgetpu_api.rar.gz
cd python-tflite-source
bash ./install.sh
使用USB Type-C接口線連接Coral USB加速棒。(如果你已將其插入,請重新插入,以便上面步驟安裝的udev規則生效。)
- 在Edge TPU上運行模型
完成上面的步驟說明你已經設置好了Coral USB加速棒,現在可以直接在Edge TPU上運行TensorFlow Lite的模型。
比如下面是使用下圖中的parrot(鸚鵡)圖像執行圖像分類的演示:
結果如下:
這個過程就是通過Coral USB加速棒上的Edge TPU進行了推斷。不難發現,使用官方創建的Python API可以輕鬆地在Edge TPU上執行圖像分類或對象檢測推理。
另外一點需要說下的是關於Coral USB加速棒的性能設置,首次使用Coral USB加速棒時,我們可以選擇是使用默認還是最大時鐘頻率,最大時鐘頻率爲默認設置的2倍。如果要更改,需要卸載libedgetpu _ * .so文件,然後重新運行安裝腳本,系統將提示你選擇該設置。
小結
從2018年Edge TPU的發佈到如今正式發售經歷了漫長的半年時間,期間筆者甚至一度懷疑這個產品是否已經夭折,如今看來自己的擔心是多餘的。對於電工程師時來說,好消息是目前這個產品在貿澤電子國外的官網有售(搜索這個貿澤編號:212-842776110077);對於國內做邊緣計算的AI芯片公司來說也有個好消息,目前Google沒有對外發售這款Google Edge TPU coprocessor,不過,顯然,給你們的時間已經不多了。
希望對你有幫助。