vivo AI計算平臺 Kubernetes集羣Ingress網關實踐

{"type":"doc","content":[{"type":"heading","attrs":{"align":null,"level":1},"content":[{"type":"text","text":"1.背景"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"vivo 人工智能計算平臺小組從2018年底開始建設 AI 計算平臺至今，已經在kubernetes集羣、以及離線的深度學習模型訓練等方面，積累了衆多寶貴的開發、運維經驗，並逐步打造出穩定的基礎容器平臺 - AI容器平臺（VContainer）。爲了支撐公司AI在線業務的發展，滿足公司對算力資源的高效調度管控需求，需要將在線業務，主要包括C端、推理等業務，由原來的虛擬機或物理機遷移至AI容器平臺。於是小組從2020年初開始，基於在線業務的需求對AI容器平臺進行進一步建設，並將平臺與公司的CMDB、CICD等基礎模塊進行打通，使在線業務能夠順利從虛擬機、物理機遷移至AI 容器平臺。"}]},{"type":"heading","attrs":{"align":null,"level":1},"content":[{"type":"text","text":"2.ingress簡介"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"kubernetes將業務運行環境的容器組抽象爲Pod資源對象，並提供各種各樣的workload（deployment、statefulset、daemonset等）來部署Pod，同時也提供多種資源對象來解決Pod之間網絡通信問題，其中"}]}]}