無線仍然是AI和邊緣計算髮展的瓶頸

數據中心正在向網絡邊緣擴展,以滿足人工智能和其他應用程序的快速響應需求,而這是傳統數據中心架構所無法提供的。

本文最初發佈於EETimes,由InfoQ中文站翻譯並分享。

數據中心正在向網絡邊緣擴展,以滿足人工智能和其他應用程序的快速響應需求,而這是傳統數據中心架構所無法提供的。

傳統架構的問題在於它們的集中式框架。通常,數據會從邊緣傳到數百英里外的電腦上,然後再傳回來。當你在使用電子郵件、谷歌、Facebook和其他通過雲提供的應用程序時,這沒問題。人腦是臺運行緩慢的電腦,無法記錄從在瀏覽器中點擊電子郵件到郵件打開之間的時間延遲。

但人工智能和其他新興應用,如物聯網(IoT)、基於雲的遊戲、虛擬現實等,需要更快的網絡響應速度,也就是所謂的“低延遲”。這意味着數據中心的處理過程必須轉移到網絡邊緣。邊緣計算可以在小型數據中心中進行,其大小大致相當於海運集裝箱,而不是目前支持雲計算的倉庫大小的大型建築。

像EdgeMicro和Vapor.io這樣的初創公司正在部署這樣的“微型數據中心”。

數據中心運營商仍然可以使用它們的傳統結構,並藉助快速網絡和其他硬件及軟件來確保邊緣應用程序所需的快速響應時間。

邊緣數據中心可以位於企業辦公場所,也可以位於礦山、船舶和油田等外部地點。

Moor Insights&Strategy總裁兼首席分析師Patrick Moorhead表示:“(推動邊緣計算的)首要因素是數據中心之外產生的數據量。”到2024年,聯網傳感器的數量將達到1萬億,主要由智能城市和視頻驅動。

延遲並不是需要邊緣計算來解決的唯一問題。Moorhead說:“成本纔是真正推動邊緣計算的因素。每次你把數據送入數據中心,都是要付錢的。互聯網不是免費的。”互聯網提供商對帶寬收費,而云提供商,比如亞馬遜網絡服務(AWS),對在雲中進出的數據收取“出口費(egress charges)”

對於無法訪問網絡的應用程序,組織就需要在邊緣進行計算,如在船上、在礦井下或在油田上。與此同時,越來越多的隱私法規要求某些應用程序現場處理數據,尤其是醫療保健。

Moorhead說:“如果你是一家醫院,那麼你完全無權向雲上發送任何數據。”即使允許這樣做,帶寬成本也會使移動大部分數據變得非常昂貴,尤其是診斷圖像。

運營商對邊緣計算的看法

Digital Realty是世界上最大的數據中心運營商之一,其特別之處在於它有一個全球化的平臺和基礎設施,從大型多兆瓦的設施到單個的機籠和機架。該公司在全球20個國家擁有267個數據中心。

邊緣地區需要一種新的基礎設施。Digital Realty首席技術官Chris Sharp說:“它一點也不像傳統的數據中心。其規模要小得多,其工作負載需要很大的功率密度和互連密度。”這些微型數據中心是無人值守的,現場沒有操作人員,不提供多租戶支持。返回到核心雲基礎設施的密集光纖連接也是必須的。

Digital Realty正處於部署微型數據中心的早期階段,在芝加哥、亞特蘭大和達拉斯,他們與初創公司Vapor IO合作開發了原型。

微型數據中心並不是唯一的選擇。Digital Realty的全球服務創新總監Russell Shriver說,在許多地方,邊緣應用程序可以在傳統的數據中心內運行,並且仍然可以達到應用程序快速響應所需的5毫秒延遲。他表示:“對於許多在市區尋找邊緣解決方案的企業而言,這足以滿足它們的需求。”

微型數據中心仍然是一個新興市場。Equinix(Digital Realty公司的競爭對手)全球業務發展副總裁Jim Poole表示,事實上,他們現有的設施可以滿足其服務提供商和企業客戶的邊緣計算需求。“Equinix,從其存在,就在邊緣”。

Equinix在全球44個主要城市地區擁有超過190個數據中心。對於位於Equinix數據中心集羣上的應用程序,美國大部分地區已經實現了10毫秒的光纖往返訪問時間。這一延遲覆蓋了80%的美國人口。在建立新的微型數據中心之前,企業和服務供應商都希望在現有的基礎設施中最大限度地部署邊緣應用程序。

無線是瓶頸

雖然Equinix可以通過光纖實現低延遲,但邊緣應用程序也需要無線,而無線仍然是AI和其他新興邊緣應用程序的瓶頸。Poole說,目前,4G無線網絡的延遲最好爲40毫秒,平均延遲在60毫秒到120毫秒之間。

5G有望大幅降低延遲。因此,服務提供商正在與超大規模的雲服務提供商合作,從而利用改進後的性能。例如,AWS和Verizon正在合作,將位於洛杉磯市中心的AWS數據中心與該市的Verizon無線接入網絡(RAN)塔連接起來。Poole說,該項目證明,他們可以在市區周圍創建一個低於10毫秒的延遲區。反過來,這也可能會產生對微型數據中心的需求。“但是,在我們解決這個特殊的問題之前,沒有人會願意爲增加的成本買單,”他表示。

此外,Poole補充說,5G的“網絡切片”功能將使部署私有無線網絡成爲可能,從而加強控制和安全。

目前,微型數據中心是一種很有前途的技術,但規模還不大。Poole說:“你沒有看到人們爭相宣佈要部署成百上千個這樣的微型數據中心,原因是人們還沒有看到商機。”

儘管如此,Equinix確實看到了模塊化數據中心的使用案例——不一定是在邊緣,而是作爲一種進入新興市場的手段,目前看來,在這個市場中,建造一個1億美元的數據中心沒什麼意義。

AI驅動

Equinix高級研究員Kaladhar Voruganti表示,人工智能正在帶來巨大的邊緣計算需求。

人工智能應用程序主要包括兩類工作負載:訓練和推斷。顧名思義,訓練就是教一個人工智能模型如何解決問題。這個過程通常涉及組織PB級的數據。

Voruganti說,“通常,你需要大量的計算”。訓練運行在非常耗電的GPU上,每個滿載的機架要消耗高達30到40千瓦。訓練通常需要在大型數據中心裏運行,這樣才能滿足其電力需求,以及某些應用程序中的隱私和監管要求。

Digital Realty與Nvidia合作,在託管服務器中提供硬件供應商的GPU。

模型訓練完成後,下一步是推理,在此過程中,模型應用它在訓練中學到的知識,並將其應用到生產應用程序中。推理所需的數據處理要少得多,並且可以運行在網絡邊緣(智能手機、特斯拉或微型或地鐵數據中心)快速部署的Docker或其他軟件容器中。

分析師Patrick Moorhead說:“你可以在大型的雲上訓練它,然後在工廠、沃爾瑪或加油站運行應用程序進行推理。”

這些類型的人工智能應用程序可以在各種情況下使用。例如,航空公司可能使用“數字雙胞胎”進行預測性維護。或者,隨着經濟從Covid-19大流行中恢復,企業可以使用人工智能來運行熱點圖和麪部識別程序,識別進入設施的可能受感染的人。

其他需要邊緣計算(經常使用人工智能)的應用包括遊戲、物聯網、智能工廠、運輸和物流。此外,零售技術需要邊緣計算來提供所需的響應能力。

Moorhead認爲,零售行業對邊緣數據中心的需求特別大。像Amazon Go這樣的“未來商店”有數百個攝像頭,沃爾瑪也用視頻跟蹤顧客。他說:“他們非常需要。”

智慧城市的規劃者們希望利用人工智能和其他前沿應用來促進健康和安全,追蹤基礎設施維護需求以及管理交通。

其他需求來自交通(包括當前大肆宣傳的自動駕駛汽車)以及先進製造和產品視覺檢驗。能源行業也在推動需求,尤其是在遠程檢測方面。

特殊的硬件需求

Equinix的Voruganti表示,邊緣AI應用通常使用閃存來實現高性能。這些應用程序還需要高度的網絡連通性,從設備到邊緣,再到數據中心。Poole說,在網絡上不同位置運行的應用程序組件之間可能也需要鏈接。“它們需要組件和域之間能夠保證低延遲,”他補充說。

Moorhead說,邊緣計算還需要堅固耐用,以便可以部署在電梯、公共交通閘和採礦設備上,而船載計算機必須具備耐鹽水性。

邊緣計算也帶來了物理安全方面的挑戰。傳統的超大規模數據中心具有接近軍事級別的安全性,但位於農村地區的邊緣數據中心則無人看守,很容易闖入,攻擊者甚至可以用卡車將整個遠程數據中心運走。

贏家……

超雲、企業供應商、電信供應商和數據中心運營商看起來都像是邊緣計算的贏家。Moorhead說,“AWS是一艘大船。雖然很緩慢,但肯定會推出一項可信賴的邊緣計算服務”。

這家公有云巨頭髮布了運行其基礎設施軟件的AWS Outposts,這是一個運行AWS數據中心的硬件機架,和運行在AWS數據中心的基礎設施相同。Outposts可以在本地、邊緣或數據中心中運行。AWS Snowball是一種邊緣計算設備,爲船舶一類的遠程環境提供計算、內存和存儲。亞馬遜提供的另一款名爲Wavelength的產品是一款面向運營商的邊緣設備,它讓計算機更接近5G部署的邊緣。

在軟件方面,AWS IoT Greengrass是一個將IoT設備連接到雲的操作系統。與此同時,其公有云競爭對手微軟也提供了Azure Cloud IoT-for-edge服務,而VMware也提供邊緣計算服務。Moorhead說,VMware“在這個領域的競爭力令人驚訝”。

另一家主要的公有云供應商谷歌一直有點落後,但它正藉助面向分佈式雲應用程序的Anthos服務增強自身的競爭力。

Moorhead說,與此同時,像戴爾、惠普(邊緣服務器)和思科(IoT網絡)這樣的IT基礎設施巨頭也有優勢,因爲邊緣計算需要一個大的生態系統,將企業內部的基礎設施和雲連接起來。

Moorhead認爲,新興的邊緣數據中心供應商,如Vapor IO,也有機會重新定義舊有的技術。“50年來,一直有數據中心處於邊緣。任何沃爾瑪都有高架地板和一個數據中心。如果你去加油站或麥當勞,他們在牆上會有一個服務器,”他說,“Vapor IO真正想要的是添加近網計算能力,尤其是5G網絡。”

電信公司的中央辦公室也可以被改造成微型數據中心,爲運營商創造機會。Moorhead說,“一個典型的社區會有一棟水泥建築,裏面有模擬線路和一堆機架。現在,它們幾乎空了。它們功能強大。它們有工業級的強度——確切地說,是一個很難攻破的水泥掩體——而且還有供電和冷卻系統。”

Equinix和Digital Reality聲稱,鑑於他們作爲全球數據中心和網絡運營商的優勢,他們處於邊緣計算的有利地位。“你不能違背事實,”Poole說,“電信公司會做得很好——他們可以在地方一級創造接入。這是無法迴避的。”

他補充道:“像Equinix這樣分佈範圍很廣的數據中心公司將會做得很好,因爲如今的應用程序就在我們身邊。”

Digital Realty的Sharp補充道:“你需要一個全球性平臺,否則你將很難成功。客戶在與單一市場的點供應商進行交易時會非常謹慎。如果你沒有真正的投入,沒有必要的資金來支持全球性環境,那麼你就無法取得成功。”

Sharp補充道,“客戶不想管理10或15個供應商才能推出自己的基礎設施”。

查看英文原文:

https://www.eetimes.com/ai-drives-data-centers-to-the-edge/

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章