AIOT, 概括爲雲端訓練,邊緣推理,在雲平臺上運用各種AI/ML工具,訓練出模型,然後將模型推送到邊緣設備,然後當傳感器感知後,將信息輸入到邊緣設備,然後邊緣設備通過模型直接進行運算並得出結論作出響應。而這些輸入輸出信息又可以提交到雲平臺作爲基礎數據,進行訓練,整體上形成一個閉環的自循環的AIOT。
所以可以看出雲端訓練,面向歷史數據,重在訓練模型,而邊緣推理,面向實時數據,重在部署模型,並根據模型得出結果。
IOT物聯網收集數據,DT大數據技術ETL數據,甚至有初步BI可視化展示,然後通過AI訓練模型,再回饋給IOT。
以上流程,AWS提供全套解決方案。在IOT端,提供Greengrass軟件,安裝在邊緣設備中,它支持docker與lamda,可安裝Tensorflow/MXNet等框架,用於模型部署、推理與推送數據至雲端,而在雲端,通過各種大數據技術,比如使用ElasticSearch做數據的清洗與可視化展示,然後通過各種AI服務(面向軟件工程師,通過上傳數據與調用API即可實現智能化)和ML服務(面向數據工程師,通過對各流行機器學習與深度學習框架集成,滿足各種訓練需要)。
AI服務
視覺CV:Amazon Rekongnition
語音:Amazon Polly
聊天機器人:Amazon Lex
預測:Amazon Forcast
ML服務
Amazon SageMaker
它支持的框架包括:TensorFlow、PyTorch、Apache MXNet、Chainer、Keras、Gluon、Horovod、Scikit-learn 和 Deep Graph Library。
案例1:
Amazon 包裹打包,解決客戶開箱體驗,節省企業成本。
案例2:
睿視智覺工業AI自訓練系統,幫忙用戶封裝算法至設備,取代人工質檢,甚至可用於生物細胞檢驗,其實只要有關視覺方面檢驗,這套解決方案都適用。
他們從最早的,把算法放到客戶機器,進行訓練,到目前遠程把算法訓練好,遠程傳到設備。
設備拍照>機器學習分析>出報告
客戶本地將數據標註好,放到AWS,雲端自動訓練與測試,生成模型報告,比如對缺陷1敏感,對缺陷2不敏感,那麼客戶就可以再上傳更多的缺陷2的數據。可以等報告針對所有缺陷都訓練好再使用,或者對部分訓練好的也可以直接使用。
案例3:
鬧騰科技非標機加工件覈價,解決非標機加工件覈定價格問題,把原來依賴老師傅定價,訓練模型,取代老師傅。
根據老師傅的經驗去構建模型,然後通過歷史數據訓練得出模型。最後部署上雲,提供API給甲方集成到現有系統,然後甲方客戶通過線上上傳他們的加工件3D模型,直接生成報價給用戶。
其中對於初創者幾點啓示:
AWS提供Deep learning AMI,已包含TensorFlow,PyTorch,所以馬上就可以用,不用花時間在部署軟件上。
訓練用GPU,而部署/預測用CPU,然後通過API,供企業調用。
GPU非常昂貴,AWS做到按需收費,對於初創公司節約成本非常重要。