Kubernetes 1.20.6已经正式发布，高可用集群也可以直接升级(hub.docker.com已经停更，使用registry.cn-hangzhou.aliyuncs.com/google_containers)。快速升级（含国内镜像快速下载链接）包括升级kubeadm/kubectl/kubelet版本、拉取镜像、升级Kubernetes集群三个主要步骤。参考《Ubuntu上软件锁定版本不更新》安装特定DockerCE版本。
遇到问题可以参考：
提前将镜像传送到相应节点上，然后在任何一个master节点运行下面的命令即可完成升级。
kubeadm upgrade apply v1.20.6在当前的集群中新增节点：
- 第一步，重新创建certificate key和token：
sudo kubeadm init phase upload-certs --upload-certs
### Got:
# [upload-certs] Using certificate key:
# 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78
# Add certificate-key for Multi Master Node.
kubeadm token create --print-join-command --certificate-key 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78
- 第二步，增加Worker节点：
kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt
--discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383- 第三步，增加master节点：
kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt
--discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383
--control-plane --certificate-key 440a880086e7e9cbbcebbd7924e6a9562d77ee8de7e0ec63511436f2467f7dde在arm上部署kubernetes参考：
升级时出现一些小错误，后来解决了：
1、升级kubeadm/kubectl/kubelet版本
sudo apt install kubeadm=1.20.6-00 kubectl=1.20.6-00 kubelet=1.20.6-00- 设置中国区的软件源，参考： kubernetes for china
查看该版本的容器镜像版本：
kubeadm config images list输出如下：
~# kubeadm config images list
k8s.gcr.io/kube-apiserver:v1.20.6
k8s.gcr.io/kube-controller-manager:v1.20.6
k8s.gcr.io/kube-scheduler:v1.20.6
k8s.gcr.io/kube-proxy:v1.20.6
k8s.gcr.io/pause:3.2
k8s.gcr.io/etcd:3.4.13-0
k8s.gcr.io/coredns:1.7.0
2、拉取容器镜像
原始的kubernetes镜像文件在gcr上，不能直接下载。我原来是把镜像到了阿里云的杭州机房的容器仓库里，拉取还是比较快的。现在hub.docker.com的访问没有问题了，有同学把镜像放到料里面，而且更新还挺及时，可以直接用。
#mirrorgcrio已经没有更新了... #MY_REGISTRY=mirrorgcrio MY_REGISTRY=registry.cn-hangzhou.aliyuncs.com/google_containersK8S_VERSION="1.20.6" echo "" echo "==========================================================" echo "Pull Kubernetes for x64 v$K8S_VERSION Images from docker.io ......" echo "==========================================================" echo "" ## 拉取镜像 docker pull ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION docker pull ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION docker pull ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION docker pull ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION docker pull ${MY_REGISTRY}/etcd:3.4.13-0 docker pull ${MY_REGISTRY}/pause:3.2 #docker pull ${MY_REGISTRY}/coredns-arm64:1.7.0 docker pull coredns/coredns:1.7.0 ## 添加Tag docker tag ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION k8s.gcr.io/kube-apiserver:v$K8S_VERSION docker tag ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION k8s.gcr.io/kube-scheduler:v$K8S_VERSION docker tag ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION k8s.gcr.io/kube-controller-manager:v$K8S_VERSION docker tag ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION k8s.gcr.io/kube-proxy:v$K8S_VERSION docker tag ${MY_REGISTRY}/etcd:3.4.13-0 k8s.gcr.io/etcd:3.4.13-0 docker tag ${MY_REGISTRY}/pause:3.2 k8s.gcr.io/pause:3.2 #docker tag ${MY_REGISTRY}/coredns-arm64:1.7.0 k8s.gcr.io/coredns:1.7.0 docker tag coredns/coredns:1.7.0 k8s.gcr.io/coredns:1.7.0 echo "" echo "==========================================================" echo "Pull Kubernetes for x64 v$K8S_VERSION Images FINISHED." echo "into docker.io/mirrorgcrio, " echo " by openthings@https://my.oschina.net/u/2306127." echo "==========================================================" echo ""
保存为shell脚本，然后执行。
3、升级Kubernetes集群
全新安装：
#指定IP地址，1.20.6版本：
sudo kubeadm init --kubernetes-version=v1.20.6 --apiserver-advertise-address=10.1.1.199 --pod-network-cidr=10.244.0.0/16高可用安装（多master节点）：
sudo kubeadm init --kubernetes-version=v1.20.6 \
--apiserver-advertise-address=192.168.199.173 \
--control-plane-endpoint=192.168.199.173:6443 \
--pod-network-cidr=10.244.0.0/16 \
--upload-certs先查看一下需要升级的各个组件的版本。
使用kubeadm upgrade plan ，输出的版本升级信息如下：
Components that must be upgraded manually after you have upgraded the control plane with 'kubeadm upgrade apply':
COMPONENT CURRENT AVAILABLE
Kubelet 1 x v1.20.4 v1.20.6
8 x v1.20.4 v1.20.6
Upgrade to the latest version in the v1.20 series:
COMPONENT CURRENT AVAILABLE
API Server v1.20.4 v1.20.6
Controller Manager v1.20.4 v1.20.6
Scheduler v1.20.4 v1.20.6
Kube Proxy v1.20.4 v1.20.6
CoreDNS 1.7.0 1.7.0
Etcd 3.4.13-0 3.4.13-0
You can now apply the upgrade by executing the following command:
kubeadm upgrade apply v1.20.6确保上面的容器镜像已经下载（如果没有提前下载，可能被网络阻隔导致挂起），然后执行升级：
kubeadm upgrade apply v1.20.6看到下面信息，就OK了。
[upgrade/successful] SUCCESS! Your cluster was upgraded to "v1.20.6". Enjoy!然后，配置当前用户环境：
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config
就可以使用 kubectl version 来查看状态和 kubectl cluster-info 查看服务地址。
- 如果服务没有起来，测试一下：
- 查看服务版本，kubectl version
- 查看集群信息，kubectl cluster-info
- 查看服务状态，sudo systemctl status kubelet
- 查看服务日志，journalctl -xefu kubelet
4、工作节点的升级
每个工作节点需要拉取上面对应版本的镜像，以及安装kubelet的对应版本。
检查版本：
~$ kubectl version
查看Pod信息：
kubectl get pod --all-namespaces完成。
⚠️注意：1.17后版本，如果使用kubeadm安装为高可用模式，所有master节点都可以被升为最新版本（需要提前把k8s的容器镜像放到节点上去）。
更多参考：
- Kubernetes 1.17.4快速升级
- Kubernetes 1.17.2快速升级
- Kubernetes 1.17.1快速升级
- Kubernetes 1.17.0 已发布
- 使用kubeadm部署高可用Kubernetes 1.17.0
- Kubernetes 1.17.0管理界面Dashboard 2
- 设置Kubernetes的Master节点运行应用pod
- Kubernetes pod中systemctl状态探针失败问题
- 运用Jupyter Notebook进行系统管理
- 将Jupyter/JupyterHub/JupyterLab运行为系统服务
- 快速设置JupyterHub for K8s
- 在JupyterHub for K8s使用GlusterFS存储