AWS面向AIOT的思考

AIOT, 概括爲雲端訓練,邊緣推理,在雲平臺上運用各種AI/ML工具,訓練出模型,然後將模型推送到邊緣設備,然後當傳感器感知後,將信息輸入到邊緣設備,然後邊緣設備通過模型直接進行運算並得出結論作出響應。而這些輸入輸出信息又可以提交到雲平臺作爲基礎數據,進行訓練,整體上形成一個閉環的自循環的AIOT。

所以可以看出雲端訓練,面向歷史數據,重在訓練模型,而邊緣推理,面向實時數據,重在部署模型,並根據模型得出結果。

IOT物聯網收集數據,DT大數據技術ETL數據,甚至有初步BI可視化展示,然後通過AI訓練模型,再回饋給IOT。

以上流程,AWS提供全套解決方案。在IOT端,提供Greengrass軟件,安裝在邊緣設備中,它支持docker與lamda,可安裝Tensorflow/MXNet等框架,用於模型部署、推理與推送數據至雲端,而在雲端,通過各種大數據技術,比如使用ElasticSearch做數據的清洗與可視化展示,然後通過各種AI服務(面向軟件工程師,通過上傳數據與調用API即可實現智能化)和ML服務(面向數據工程師,通過對各流行機器學習與深度學習框架集成,滿足各種訓練需要)。

AI服務

視覺CV:Amazon Rekongnition

語音:Amazon Polly

聊天機器人:Amazon Lex

預測:Amazon Forcast

ML服務

Amazon SageMaker

它支持的框架包括:TensorFlow、PyTorch、Apache MXNet、Chainer、Keras、Gluon、Horovod、Scikit-learn 和 Deep Graph Library。

 

案例1:

Amazon 包裹打包,解決客戶開箱體驗,節省企業成本。

案例2:

睿視智覺工業AI自訓練系統,幫忙用戶封裝算法至設備,取代人工質檢,甚至可用於生物細胞檢驗,其實只要有關視覺方面檢驗,這套解決方案都適用。

他們從最早的,把算法放到客戶機器,進行訓練,到目前遠程把算法訓練好,遠程傳到設備。

設備拍照>機器學習分析>出報告

客戶本地將數據標註好,放到AWS,雲端自動訓練與測試,生成模型報告,比如對缺陷1敏感,對缺陷2不敏感,那麼客戶就可以再上傳更多的缺陷2的數據。可以等報告針對所有缺陷都訓練好再使用,或者對部分訓練好的也可以直接使用。

案例3:

鬧騰科技非標機加工件覈價,解決非標機加工件覈定價格問題,把原來依賴老師傅定價,訓練模型,取代老師傅。

根據老師傅的經驗去構建模型,然後通過歷史數據訓練得出模型。最後部署上雲,提供API給甲方集成到現有系統,然後甲方客戶通過線上上傳他們的加工件3D模型,直接生成報價給用戶。

其中對於初創者幾點啓示:

AWS提供Deep learning AMI,已包含TensorFlow,PyTorch,所以馬上就可以用,不用花時間在部署軟件上。

訓練用GPU,而部署/預測用CPU,然後通過API,供企業調用。

GPU非常昂貴,AWS做到按需收費,對於初創公司節約成本非常重要。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章