vivo AI计算平台 Kubernetes集群Ingress网关实践

{"type":"doc","content":[{"type":"heading","attrs":{"align":null,"level":1},"content":[{"type":"text","text":"1.背景"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"vivo 人工智能计算平台小组从2018年底开始建设 AI 计算平台至今，已经在kubernetes集群、以及离线的深度学习模型训练等方面，积累了众多宝贵的开发、运维经验，并逐步打造出稳定的基础容器平台 - AI容器平台（VContainer）。为了支撑公司AI在线业务的发展，满足公司对算力资源的高效调度管控需求，需要将在线业务，主要包括C端、推理等业务，由原来的虚拟机或物理机迁移至AI容器平台。于是小组从2020年初开始，基于在线业务的需求对AI容器平台进行进一步建设，并将平台与公司的CMDB、CICD等基础模块进行打通，使在线业务能够顺利从虚拟机、物理机迁移至AI 容器平台。"}]},{"type":"heading","attrs":{"align":null,"level":1},"content":[{"type":"text","text":"2.ingress简介"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"kubernetes将业务运行环境的容器组抽象为Pod资源对象，并提供各种各样的workload（deployment、statefulset、daemonset等）来部署Pod，同时也提供多种资源对象来解决Pod之间网络通信问题，其中"}]}]}