618將至,電商企業如何構建“新基建”應對流量洪峯?

這個場景,很多電商人並不陌生:

在大促活動中,若訂單系統出現故障,從顧客抱怨,到層層上報,再到故障排查和處理,2 個小時過去了。但在這 2 個小時裏,成百上千的顧客在競爭對手那裏購買了產品,損失嚴重,還有被媒體曝光的風險。

不得不承認,即使是災備能力最強的 IT 環境,也必然會在某個時刻遇到問題。當這些問題發生的時候,解決問題的速度就是決定企業綜合實力的關鍵。

下一個“618”大促就要來了,這對於電商平臺來說,是個讓人激動卻也提心吊膽的日子。電商業務的特點比較明顯:短期指數級業務波峯,從前端展示、業務處理、庫存變動等方面都需要全天應對海量用戶訪問的衝擊。而支持電商業務的關鍵,就在於後臺系統是否具備穩定性、可擴展性和安全性。

同時,隨着 5G、VR、AR、AI 等新技術愈發廣泛的應用,更高品質的內容、更強烈的社交屬性、觀衆使用場景都出現突破性擴展,這也將促進用戶數量和使用時長的進一步增加,對基礎技術能力的要求進一步提高。

電商上雲,不得不做

多數平臺創業之初的重點是業務的快速上線,會選擇簡單粗暴的低成本管理方式,一個網站、一臺服務器就夠了。但隨着業務體量的大幅上升,企業開始堆硬件、做結構化拆分。然而,資源層容量和性能的瓶頸終會到來,這該怎麼調整?

平臺調整組織和技術架構的原則是:

1、應用層採用服務框架

2、系統層採用異步消息

3、數據層可以無限擴容

在應用層,一個簡單的電商系統,包含用戶模塊、庫存模塊、訂單模塊、支付模塊。創業之初的單體應用複雜性高、交付效率低、擴展性和可靠性差,並且技術棧的限制也在阻礙着技術創新。而在微服務架構中可以劃分出不同的業務板塊,每個業務板塊都可以獨立開發、部署和上線,對應獨立數據庫,由獨立團隊維護,各司其職。

在系統層,異步消息系統可以使主要業務異步化,增加系統的容錯性,避免因業務調用接口不成功導致的交易失敗。當用戶下單時,倉儲和配送對實時性要求並不高,訂單消息可以發到異步消息隊列系統,若投遞不成功可以等待下次投遞。

在數據層,爲了應對瞬間的海量訪問,系統需要極強的可伸縮性。隨着數據量增大,需要對數據庫進行彈性擴容,靈活配置資源、匹配業務需求。

基於電商行業的業務特點和技術訴求,電商上雲是需要先解決問題再開源節流的。而理想的雲計算是隨取隨用的 IT 基礎設施,雲計算服務的性能決定了電商企業能提升的效率幅度和降本程度。那麼,企業該如何選擇?

  • 一看雲廠商的底層能力:是否在存儲、服務器領域有優勢,是否具備自主研發能力,整體的機制、運營模式、服務質量是否優質,穩定性如何等;

  • 二看性價比:電商業務場景需要滿足的彈性伸縮、存儲於計算分離等需求,是否能通過更低的價格實現;

  • 三看服務的持續性:包括網絡性能、穩定性、安全性等方面。

“彈性擴容 + 存算分離”,解決電商的技術資源瓶頸

從資源到應用,端到端彈性擴容怎麼做?

雖然雲的確在成本、擴展、靈活性、快捷等方面有很大優勢。但是,對雲產品、雲架構的靈活運用,是有一定技術門檻的。這時,如果可以根據實際業務需求按需進行存儲和計算資源的彈性伸縮,就能使資源利用率大幅提升,也就是我們說的容器化改造。

從技術角度,容器化改造是對應用整體微服務架構改造,再容器化,這樣做可以帶來如下好處。

  • 單獨擴展:拆分爲微服務後,可單獨增加或縮減每個微服務的實例數量。

  • 提升開發速度:各微服務之間解耦,某個微服務的代碼開發不影響其他微服務。

  • 通過隔離確保安全:整體應用中,若存在安全漏洞,會獲得所有功能的權限。微服務架構中,若攻擊了某個服務,只可獲得該服務的訪問權限,無法入侵其他服務。

  • 隔離崩潰:如果其中一個微服務崩潰,其它微服務還可以持續正常運行。

整體應用容器化改造的流程包括 6 個步驟:應用分析、準備應用運行環境、編寫開機運行腳本、編寫 Dockerfile 文件、製作並上傳鏡像、創建容器工作負載。具體流程圖如下:

在應用分析階段,企業需要了解自身應用的運行環境和部署形態。運行環境包括操作系統、運行環境、依賴包,部署形態包括周邊配置和自身配置。

在應用分析後,就需要準備好這些環境:

  • 安裝 Docker:應用容器化時,需要將應用構建爲 Docker 鏡像。您需要準備一臺機器,並安裝 Docker。

  • 獲取基礎鏡像版本名稱:根據應用運行的操作系統,確定基礎鏡像。本例應用運行在 centos:7.1 操作系統中,可以在 dockerhub 中獲取到基礎鏡像。

  • 獲取運行環境:獲取運行應用的運行環境,以及對接的 MongoDB 數據庫。

應用容器化時,一般需要準備開機運行的腳本,寫作腳本的方式和寫一般 shell 腳本相同。該腳本的主要目的是啓動應用所依賴的軟件,並且將需要修改的配置設置爲環境變量。開機運行腳本與應用實際需求直接相關,每個應用所寫的開機腳本會有所區別。請根據實際業務需求來寫該腳本。

鏡像是容器的基礎,定製鏡像時,一般使用 Dockerfile 來完成。Dockerfile 是一個文本文件,其內包含了一條條的指令,每一條指令構建鏡像的其中一層,因此每一條指令的內容,就是描述該層應該如何構建。製作完鏡像後,每次應用的部署和升級即可通過鏡像操作,減少了人工配置,提升效率。

最後,創建容器工作負載,在工作負載列表中可查看到運行中的工作負載。

以上容器化改造流程是基於華爲雲容器引擎 CCE 編寫的,CCE 是基於開源 Docker 和 Kubernetes 的企業級容器服務,提供企業級容器應用管理服務,支持 Kubernetes 社區原生應用和工具,可以簡化雲上自動化容器運行環境搭建。企業在使用 CCE 後,可以實現多雲和混合雲管理,也可靈活使用和管理本地和雲端資源。

通過存算分離,讓每個 Bit 成本最優

隨着一次又一次的大促活動,電商企業積累了越來越多的數據,需要激發更多的數據價值變現。此外,實時推薦等智能化運營的興起、購物體驗持續優化的探索,也促使企業的數據處理架構,不僅僅限制於解決分析性能的問題,還要向着滿足海量數據高效存儲的轉變。

企業通常採用的模式,是按階段購買服務器,服務器數量不斷累加但也在不斷淘汰。在這個過程中,會出現一些問題,比如計算性能跟不上數據增長速度,分批購買的服務器因型號、容量的不同導致維護困難,面對流量波峯波谷卻無法實現彈性,這些都嚴重影響業務的增長。

在大促期間,傳統大數據存算一體的方案的侷限性具體表現爲:

  • 計算存儲資源需求不均衡時,導致大量資源浪費;

  • 本地 HDFS 一般採用三副本冗餘機制,磁盤利用率僅爲 33%;

  • 計算存儲耦合的的封閉架構難以向數據湖和大數據雲化的方向演進。

如果讓存儲和計算分離,以上問題都可以得到解決,在運算固定的情況下,存儲還可以實現增長。此外,存算分離還可以實現不同業務間的授權,也可以避免因重複利用而消耗的成本。

存儲和計算分離是近幾年值得關注的新技術。它不但能節約成本,還可以讓資源根據業務需求彈性伸縮。爲此,華爲雲推出了基於雲服務的存算分離架構,據說可以大幅提升集羣資源利用率,使綜合分析成本可降低 50% 以上。

存算分離 + 鯤鵬 = 結構化提升性價比

大數據計算都是分佈式計算,華爲的經驗是先降低單位計算成本,再結合現在的鯤鵬或是 ARM 處理器。ARM 具有多核的優勢,一般在手機裏面可能是 8 核,在服務器芯片變成 128 核。在大數據運算過程中,處理器核數越多,大數據運算越有效。

此外,大運算可以分裂成很多的小運算,在覈數足夠多的情況下可以很大程度上提升大數據的運算能力。加之 ARM 是國產化,在成本和耗電方面比 X86 更有優勢。

那麼,在整體性能提升方面,華爲雲的“存算分離 + 鯤鵬”是怎麼實現的?

首先,要降低數據準備時間。華爲的智能數據湖方案中,是採用 Schema-on-read 模式,讓數據實時入湖,直接基於原始數據分析;同時,採用增量式分析,小批分次持續分析。更重要的是,通過存儲和計算解耦、計算按需彈性伸縮,有效支撐業務波峯波谷,更快完成計算。

華爲雲“存算分離 + 鯤鵬”大數據雲服務採用計算存儲分離架構,存儲基於華爲雲對象存儲實現 11 個 9 的高可靠,無容量限制,可以支撐企業數據量持續增長;同時,計算資源可以支持 0~N 彈性擴縮。

計算存儲分離後,通過華爲自研 Carbondata 對數據進一步優化組織,實現基於數據湖的事務管理(據說是業內首創),支持流數據自動去重、避免遺漏,支持數據增刪改,並實現最高隔離級別的 ACID,結合智能多維索引,基於業務感知的軟件緩存技術,實現數據訪問進一步加速。

其次,通過軟硬件結合提升性能。性能提升的另一個方向是軟硬件結合、垂直優化,華爲鯤鵬處理器具有多核高併發能力,再結合自研 EulerOS,可以提供多類型優化,如 JDK,軟件多實例綁核,RoCE 網絡加速,加解密、壓縮等熱點函數硬件加速,充分釋放硬件算力。如此一來,在性能相當情況下,成本下降 30%,爲大數據用戶提供更高性價比的智能數據湖。

不僅如此,華爲雲走的是開放生態路線。華爲雲智能數據湖完全兼容開源原生接口,可以兼容全部的主流大數據生態,這樣一來,企業在平滑遷移上雲的過程中就不需要做任何改造。

在華爲雲看來,基於鯤鵬算力和架構,爲企業提供了適用於當前大數據應用的性價比較好的解決方案,同時,基於高併發性能的鯤鵬算力,華爲雲也已形成自己獨特的競爭優勢。

據瞭解,目前,華爲雲已經將這樣的方案落地到遊戲電商、直播、遊戲等行業,並且能夠滿足擁有互聯網基因的企業大數據應用場景。實則,以爲各位提供了一個更佳的雲上新“武器”,等你來嘗試。

創新,從這裏開始

我國擁有全世界最大規模的電商市場,在新基建風口下,電商平臺、移動支付、直播帶貨、快速物流等新業態,正在順勢生長。電商企業的發展思考也可以反推到互聯網行業的每一家企業。

華爲公司副總裁、華爲雲業務總裁鄭葉來,不久前曾表示:

在“新基建”時代下,算力成爲新的生產力,數據成爲新的生產要素,雲、AI(人工智能)、5G 則是新的生產工具,而華爲基於豐富的行業實踐經驗和資深數字化實踐,可以爲合作伙伴提供更優質的服務。

華爲近幾年持續加大在雲、5G、計算等相關領域的投入,2019 年,華爲在泛計算行業進行了大量的投入和佈局,華爲首次發佈了“鯤鵬 + 昇騰”的計算戰略,重磅發佈“有所爲、有所不爲”的商業策略,並且構建開放的計算產業生態。

同時,華爲還整合了存儲、計算及雲服務相關組織,成立了 Cloud&AI BG,即雲與計算業務部,成爲繼運營商業務、企業業務和消費者業務之外的第四大業務,通過對資源和組織的整合從芯片到數據中心、從硬件到軟件、從 IT 基礎設施到雲服務、從邊緣計算到雲計算,將資源全部集結,將華爲雲打造成業界率先擁有全棧能力的雲,爲新基建時代的底層創新提供組織和人才保證。

活動推薦

不久前,華爲雲發起 5G+X 聯創營計劃,圍繞雲、AI、5G,聯合各行各業的合作伙伴,共同在新的機遇中找到各自的定位,在聯創生態下發揮各自的價值,激發企業的 5G 創新活力,幫助企業降本增效。目前,5G+X 聯創營計劃已經揚帆起航,正在面向全國各行業技術管理者徵集力量,未來將會持續舉辦 5G+X 創新活動,如果您想加入進來,請添加小助手具體諮詢,微信號 MHW19931114。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章