物聯網“新篇章”:如何將機器學習引入邊緣計算?

自 2006 年雲計算正式在科技世界中展露頭角,近 13 年的迅猛發展,2019 年雲計算市場早已不同以往。回顧昨日,2018 年風口浪尖上的雲計算,“人人說雲,事事上雲”,各大中型企業到初創企業紛紛把不同類型的應用服務遷移到雲上,尋找上雲最佳途徑。再看今朝,AI、物聯網、5G 等新興技術的發展落地,不斷拓寬着雲計算的實踐邊界與應用空間。

與雲計算互補:AI 推動邊緣計算應運而生

從雲計算對傳統 IT 架構的顛覆性變革,到 AI 構建模型與算法的智能世界,再到萬物互聯的 IoT 悄然崛起,雲計算以排山倒海之勢拉動着 IT 產業鏈的發展,而人工智能和物聯網也一直都是社會普遍關注的焦點話題。

值得注意的是,近兩年,與我們生活息息相關的智能服務隨處可見,但其底層的 AI 技術或者說機器學習技術卻已擁有着超過 50 年的悠久歷史。要說“人工智能”爲何在近幾年才逐步走近人們的生活,這與雲計算有着密切聯繫。2006 年雲計算的誕生,預示着人工智能拐點的到來,數據量越來越大,計算能力越來越強,過去不實用的 AI 技術到了 2006 年也都逐步進入實用階段,可以說,是雲計算讓 AI 技術更加接近企業與消費者,並不斷利用 AI 技術驅動着產業變革。

技術發展總是相互貫通的,隨着數十億的智能設備在住房、工廠、醫院、汽車等地普及開來,物聯網技術的興起必然是這個時代的又一場革命。隨着物聯網在各行各業的推廣應用,我們急需一個解決方案來收集、處理、存儲這些物聯網設備所產生的龐雜數據,而云計算平臺正是分析加工這些海量數據與連接的技術基石。同時,IoT 通常會在邊緣端對設備進行管理和控制,很多的數據需在邊緣進行實時決策,這就對邊緣設備的智能化提出了更高的要求。

將機器學習智能引入邊緣計算

邊緣計算意味着把雲計算的資源、計算、存儲等能力帶到更接近用戶的本地邊緣設備中,大量計算可以在本地直接處理,而無需把所有數據都發送到雲端,實現本地事件的更快響應。

事實上,要想確保 IoT 應用程序能夠快速響應本地事件,則必須以非常低的延遲獲得推理結果,但這時如果把數據發送至雲端,再等待雲端的推理決策,這個過程就很難滿足一些業務場景的需求。

例如,在很多智慧城市的智慧攝像頭場景中,智能攝像頭需要在邊緣側快速識別汽車牌照或者人臉等場景,如若把海量的視頻數據實時上傳到雲端去做推理,這勢必會帶來大量不必要的帶寬佔用,並無法滿足其對於實時決策的需求,這時就需要一個更加智能的解決方案來做推理。

但是,僅使用雲計算來部署人工智能的方式,與將雲計算與邊緣計算有效結合起來應用人工智能的方式截然不同。數據科學家依靠雲計算來攝取和存儲大量數據集,並識別數據中的模式和關係,在建立模型的整個過程中,訓練和優化機器學習模型需要大量計算資源,因此與雲計算是天然良配。

而實際上,最終的、經過優化的機器學習模型在推理的過程中並不需要太多的資源。所以爲了確保 IoT 應用程序以非常低的延遲獲得推理結果,我們就可以把訓練放在雲端,推理放在邊緣側,以達到利用雲端去訓練機器學習模型,利用邊緣設備實時進行推理,甚至在沒有互聯網的環境中產生數據時,也能實現高速響應業務變化並作出決策。

例如,在智慧農業的場景中,裝在農田裏的傳感器會對收集的環境數據進行實時決策。但在這些場景中,設備通常無法保證連接到互聯網,這時就更加需要邊緣端實時作出決策,待設備具備互聯網連接時,再同步數據到雲端。

廣闊的市場前景,潛在的應用範圍,毋庸置疑,人工智能讓邊緣計算更有價值。據美國市場調研公司 CB Insights 估算,到 2023 年全球邊緣計算行業,整體市場容量有望達到 340 億美元。其中包括亞馬遜、微軟、谷歌在內的幾大公有云巨頭的爭相佈局也說明了邊緣計算未來發展的無限潛力,尤其在智能家居領域,邊緣計算如何發揮更大價值已成爲行業的主要研究方向。

智能家居中的邊緣智能

目前,智能家居中的大部分智能設備主要還是通過雲計算來實現設備交互,但設備對雲計算的強依賴同樣會產生響應速度慢、延遲感強、網絡故障等諸多問題。這時,填補目前雲計算特性不足並提升計算效率的邊緣計算,在智能家居領域中強勢崛起。

據麥肯錫預測,到 2025 年,全球聯網設備總量將達 750 億。從智能的家庭監控攝像頭,到智能門鎖,智能空調等,對於每天要處理大量 IoT 數據的智能家居行業來說,邊緣計算將成爲必然選擇。

以格蘭仕的智慧家居數字化轉型爲例,自 1978 年 9 月 28 日創立以來,格蘭仕歷經多次轉型,從輕紡明星企業,到微波爐“黃金品牌”,再到綜合性白色家電集團,成爲中國家電產業的龍頭企業之一。然而隨着科技的發展和消費需求的變化,爲了應對智能化製造、精益化管理等一系列挑戰,格蘭仕決定開啓第四次轉型 —— 數字化轉型。

但格蘭仕過去傳統架構設計的信息系統已不再適用,在數字化轉型過程中,格蘭仕在對比了衆多解決方案後,最終選擇利用 AWS IoT 、AWS ECS 等 AWS 解決方案完成了電商平臺與物聯網平臺的開發部署。

格蘭仕基於 AWS 的架構示意圖

在 AWS 智慧家庭設備的解決方案中,用戶可在 Amazon SageMaker 中構建預測模型以用於場景檢測分析,並對其進行優化以便在任何攝像機上的穩定運行,然後部署該模型以便預測可疑活動併發送警報,實現在雲中構建、訓練和優化機器學習模型,並在本地設備進行推理的高效響應。

AWS Greengrass ML Inference

用戶首先可將訓練數據上傳至存儲桶中,並選擇 SageMaker 提供的現有算法生成訓練模型,該模型以壓縮 zip 文件的形式被複制到另一 Amazon S3 存儲桶內。接下來,該 zip 文件會被複制到設備中,該設備則在運行時由 AWS Lambda 函數進行調用。其中,在 IoT Greengrass 上運行推理過程所收集到的數據可發送回 SageMaker,進行就地標記,並用於不斷提高機器學習模型的質量。

AWS 智慧家庭設備架構圖

在上圖具體的智慧家庭場景中,機器學習模型需要在家中的智能攝像頭和網關的邊緣設備上直接運行,並檢測是否發生了一些需要實時處理的數據。在邊緣端,這些機器學習模型作爲一個 Serverless 函數部署,該函數則由應用程序直接調用(圖中 2 和 6)。在每個邊緣位置,由於 FaaS 中的部署單元爲一個函數,因此它比推送到虛擬機或容器要更高效得多,而且一旦有新的機器學習模型在雲端產生時,都會爲其分配一個新版本,並將其同步到邊緣端去運行(圖中 2,3 之間的交互)。總之,機器學習的繁重工作在雲中完成,邊緣計算簡化了推理與部署體驗,Serverless 也將簡化開發人員的工作負擔。

小結

邊緣計算作爲算力架構優化最重要的技術,不僅是物聯網發展的重要方向,同時也是未來 AI 技術的重要延伸。萬物互聯,將機器學習智能引入邊緣計算,使智能計算更接近於應用程序,人工智能與邊緣計算的融合與突破,勢必將重新定義未來科技的發展新方向。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章