Kubernetes集羣二進制部署（二）——單master集羣

文章目錄

一、環境及軟件包

接博客：Kubernetes集羣二進制部署（一）——Etcd數據庫羣集功能部署、flannel網絡組建

節點規劃

服務器	IP	安裝軟件
Master01	192.168.11.11	kube-apiserver、kube-controller-manager、kube-scheduler、etcd
Master02	192.168.11.12	kube-apiserver、kube-controller-manager、kube-scheduler
負載均衡LB01	192.168.11.13	nginx、keepalived
負載均衡LB02	192.168.11.14	nginx、keepalived
Node01	192.168.11.16	kubelet、kube-proxy、docker 、flannel 、etcd
Node02	192.168.11.17	kubelet、kube-proxy、docker 、flannel 、etcd

二、部署master組件

master節點負責爲用戶和客戶端暴露API、追蹤集羣節點的健康狀態、調度工作負載、以及編排其他組件之間的通信等。

master主要組件：

① Kube-apiserver

② Kube-controller-manager

③ kube-scheduler

配置文件——>systemctl管理組件——>啓動

以下mastr組件部署均在在master節點上操作

1、api-server

1） api-server生成證書

#將腳本拷貝至k8s目錄中，解壓（腳本先前已編寫好）

[root@master k8s]# unzip master.zip

解壓後有三個腳本，後面會用到，注意：三個腳本都要有執行權限

① 創建/opt/k8s/工作目錄（cfg配置文件目錄，bin命令文件目錄，ssl證書文件目錄）

[root@master k8s]# mkdir -p /opt/kubernetes/{cfg,ssl,bin}

② 製作api-server證書

#創建k8s證書目錄

[root@master k8s]# mkdir k8s-cert
[root@master k8s]# cd k8s-cert/

#編寫生成證書腳本

[root@master k8s-cert]# vim k8s-cert.sh 
#生成ca證書的配置文件
cat > ca-config.json <<EOF
{
  "signing": {
    "default": {
      "expiry": "87600h"
    },
    "profiles": {
      "kubernetes": {
         "expiry": "87600h",
         "usages": [
            "signing",
            "key encipherment",
            "server auth",
            "client auth"
        ]
      }
    }
  }
}
EOF

#生成ca簽名文件
cat > ca-csr.json <<EOF
{
    "CN": "kubernetes",
    "key": {
        "algo": "rsa",
        "size": 2048
    },
    "names": [
        {
            "C": "CN",
            "L": "Beijing",
            "ST": "Beijing",
      	    "O": "k8s",
            "OU": "System"
        }
    ]
}
EOF

cfssl gencert -initca ca-csr.json | cfssljson -bare ca -

#生成apiserver服務端的簽名證書
#注意：master02節點和LB節點的IP地址是爲了部署之後的多master集羣
cat > server-csr.json <<EOF
{
    "CN": "kubernetes",
    "hosts": [
      "10.0.0.1",
      "127.0.0.1",
      "192.168.11.11",    #master01節點
      "192.168.11.12",    #master02節點
      "192.168.11.100",   #VIP地址
      "192.168.11.13",    #負載調度器（master節點）
      "192.168.11.14",    #負載調度器（backup節點）
      "kubernetes",
      "kubernetes.default",
      "kubernetes.default.svc",
      "kubernetes.default.svc.cluster",
      "kubernetes.default.svc.cluster.local"
    ],
    "key": {
        "algo": "rsa",
        "size": 2048
    },
    "names": [
        {
            "C": "CN",
            "L": "BeiJing",
            "ST": "BeiJing",
            "O": "k8s",
            "OU": "System"
        }
    ]
}
EOF

cfssl gencert -ca=ca.pem -ca-key=ca-key.pem -config=ca-config.json -profile=kubernetes server-csr.json | cfssljson -bare server

#生成服務器管理員證書
cat > admin-csr.json <<EOF
{
  "CN": "admin",
  "hosts": [],
  "key": {
    "algo": "rsa",
    "size": 2048
  },
  "names": [
    {
      "C": "CN",
      "L": "BeiJing",
      "ST": "BeiJing",
      "O": "system:masters",
      "OU": "System"
    }
  ]
}
EOF

cfssl gencert -ca=ca.pem -ca-key=ca-key.pem -config=ca-config.json -profile=kubernetes admin-csr.json | cfssljson -bare admin

# 生成kube-proxy 代理端證書
cat > kube-proxy-csr.json <<EOF
{
  "CN": "system:kube-proxy",
  "hosts": [],
  "key": {
    "algo": "rsa",
    "size": 2048
  },
  "names": [
    {
      "C": "CN",
      "L": "BeiJing",
      "ST": "BeiJing",
      "O": "k8s",
      "OU": "System"
    }
  ]
}
EOF

cfssl gencert -ca=ca.pem -ca-key=ca-key.pem -config=ca-config.json -profile=kubernetes kube-proxy-csr.json | cfssljson -bare kube-proxy

#執行腳本

[root@master k8s-cert]# bash k8s-cert.sh

一共生成8個證書。ca、server服務端、管理員、proxy 代理端各2個證書

#將ca證書及server證書複製到ssl證書文件目錄中

[root@master k8s-cert]# cp ca*pem server*pem /opt/kubernetes/ssl/

2）解壓k8s服務器端壓縮包

#解壓服務器端kubernetes軟件包，會生成很多組件

[root@master k8s]# tar zxvf kubernetes-server-linux-amd64.tar.gz

#解壓後包含服務端及客戶端所需要的命令及組件

#複製關鍵命令文件至/opt/bin命令文件目錄中

[root@master bin]# cp kube-controller-manager kube-scheduler kubectl kube-apiserver /opt/kubernetes/bin/

3）創建token令牌

#生成序列號

[root@master bin]# head -c 16 /dev/urandom | od -An -t x | tr -d ' '
6dfb1e91be76b68a01258330c875859

#編輯令牌，綁定用戶，id及角色kubelet-bootstrap

root@master k8s]# vim /opt/kubernetes/cfg/token.csv
#序列號，用戶名，id，角色
6dfb1e91be76b68a01258330c875859,kubelet-bootstrap,10001,"system:kubelet-bootstrap"

4）開啓apiserver

#二進制文件，token，證書都準備好，開啓apiserver，將信息寫入etcd中

[root@master bin]# cd ~/k8s/
[root@master k8s]# bash apiserver.sh 192.168.11.11 https://192.168.11.11:2379,https://192.168.11.16:2379,https://192.168.11.17:2379

apiserver.sh腳本如下

#!/bin/bash

MASTER_ADDRESS=$1
ETCD_SERVERS=$2

#在k8s工作目錄裏生成kube-apiserver 配置文件
cat </opt/kubernetes/cfg/kube-apiserver

KUBE_APISERVER_OPTS="–logtostderr=true \
–v=4 \
–etcd-servers= ${ETCD_SERVERS} \\ --bind-address=$ {MASTER_ADDRESS} \
–secure-port=6443 \
–advertise-address=${MASTER_ADDRESS} \
–allow-privileged=true \
–service-cluster-ip-range=10.0.0.0/24 \
–enable-admission-plugins=NamespaceLifecycle,LimitRanger,ServiceAccount,ResourceQuota,NodeRestriction \
–authorization-mode=RBAC,Node \
–kubelet-https=true \
–enable-bootstrap-token-auth \
–token-auth-file=/opt/kubernetes/cfg/token.csv \
–service-node-port-range=30000-50000 \
–tls-cert-file=/opt/kubernetes/ssl/server.pem \
–tls-private-key-file=/opt/kubernetes/ssl/server-key.pem \
–client-ca-file=/opt/kubernetes/ssl/ca.pem \
–service-account-key-file=/opt/kubernetes/ssl/ca-key.pem \
–etcd-cafile=/opt/etcd/ssl/ca.pem \
–etcd-certfile=/opt/etcd/ssl/server.pem \
–etcd-keyfile=/opt/etcd/ssl/server-key.pem"

EOF

#生成啓動腳本
cat </usr/lib/systemd/system/kube-apiserver.service
[Unit]
Description=Kubernetes API Server
Documentation=https://github.com/kubernetes/kubernetes

[Service]
EnvironmentFile=-/opt/kubernetes/cfg/kube-apiserver
ExecStart=/opt/kubernetes/bin/kube-apiserver $KUBE_APISERVER_OPTS
Restart=on-failure

[Install]
WantedBy=multi-user.target
EOF

#啓動apiserver組件
systemctl daemon-reload
systemctl enable kube-apiserver
systemctl restart kube-apiserver

#檢查進程是否啓動成功

[root@master k8s]# ps aux | grep kube

#查看監聽的https端口

[root@master k8s]#  netstat -ntap | grep 6443
[root@master k8s]#  netstat -ntap | grep 8080

2、啓動scheduler服務

scheduler.sh腳本如下

cat scheduler.sh
#!/bin/bash
MASTER_ADDRESS=$1
cat <<EOF >/opt/kubernetes/cfg/kube-scheduler
KUBE_SCHEDULER_OPTS="--logtostderr=true \\
--v=4 \\
--master=${MASTER_ADDRESS}:8080 \\
--leader-elect"
EOF

cat <<EOF >/usr/lib/systemd/system/kube-scheduler.service
[Unit]
Description=Kubernetes Scheduler
Documentation=https://github.com/kubernetes/kubernetes

[Service]
EnvironmentFile=-/opt/kubernetes/cfg/kube-scheduler
ExecStart=/opt/kubernetes/bin/kube-scheduler \$KUBE_SCHEDULER_OPTS
Restart=on-failure

[Install]
WantedBy=multi-user.target
EOF

systemctl daemon-reload
systemctl enable kube-scheduler
systemctl restart kube-scheduler

#啓動scheduler服務

[root@master k8s]# ./scheduler.sh 127.0.0.1

#檢查進程是否啓動成功

[root@master k8s]# ps aux | grep scheduler
[root@master k8s]# systemctl status kube-scheduler.service

3、啓動controller-manager

controller-manager.sh 腳本如下：

cat controller-manager.sh 
#!/bin/bash
MASTER_ADDRESS=$1
cat <<EOF >/opt/kubernetes/cfg/kube-controller-manager
KUBE_CONTROLLER_MANAGER_OPTS="--logtostderr=true \\
--v=4 \\
--master=${MASTER_ADDRESS}:8080 \\
--leader-elect=true \\
--address=127.0.0.1 \\
--service-cluster-ip-range=10.0.0.0/24 \\
--cluster-name=kubernetes \\
--cluster-signing-cert-file=/opt/kubernetes/ssl/ca.pem \\
--cluster-signing-key-file=/opt/kubernetes/ssl/ca-key.pem  \\
--root-ca-file=/opt/kubernetes/ssl/ca.pem \\
--service-account-private-key-file=/opt/kubernetes/ssl/ca-key.pem \\
--experimental-cluster-signing-duration=87600h0m0s"
EOF

cat <<EOF >/usr/lib/systemd/system/kube-controller-manager.service
[Unit]
Description=Kubernetes Controller Manager
Documentation=https://github.com/kubernetes/kubernetes

[Service]
EnvironmentFile=-/opt/kubernetes/cfg/kube-controller-manager
ExecStart=/opt/kubernetes/bin/kube-controller-manager \$KUBE_CONTROLLER_MANAGER_OPTS
Restart=on-failure

[Install]
WantedBy=multi-user.target
EOF

systemctl daemon-reload
systemctl enable kube-controller-manager
systemctl restart kube-controller-manager

#啓動controller-manager

[root@master k8s]# ./controller-manager.sh 127.0.0.1

#檢查進程是否啓動成功

[root@master k8s]# systemctl status kube-controller-manager.service

4、查看master節點狀態

#顯示當前健康值

[root@master k8s]# /opt/kubernetes/bin/kubectl get cs

注意：如有問題，檢查集羣各節點etcd是否有開啓，建議所有節點的服務均設爲開機自啓

三、node節點部署

node 是 k8s 集羣中的工作節點，以 pod 的形式運行容器，Node 負責接收來自 master 節點的工作指令並根據指令來創建或銷燬 pod（容器）對象，以及調整網絡規劃以便合理的路由和轉發流量。

node主要組件：

① kubelet

② kube-proxy

③ docker

#在master上，將kubelet、kube-proxy組件拷貝到兩個node節點上

[root@master k8s]# /root/k8s/kubernetes/server/bin
[root@master bin]# scp kubelet kube-proxy [email protected]:/opt/kubernetes/bin/
[root@master bin]# scp kubelet kube-proxy [email protected]:/opt/kubernetes/bin/

#兩個node節點操作，將腳本拷貝至root目錄中，解壓（腳本先前已編寫好）

[root@node01 ~]# unzip node.zip

解壓後有兩個腳本，啓動服務的時候會用到

1、創建kubeconfig

在master節點操作

① 創建kuconfig目錄，添加kuconfig.sh文件

[root@master k8s]# mkdir kubeconfig
[root@master k8s]# cd kubeconfig/
[root@master kubeconfig]# vim kubeconfig.sh 

APISERVER=$1
SSL_DIR=$2

# 創建kubelet bootstrapping kubeconfig 
export KUBE_APISERVER="https://$APISERVER:6443"

# 設置集羣參數
kubectl config set-cluster kubernetes \
  --certificate-authority=$SSL_DIR/ca.pem \
  --embed-certs=true \
  --server=${KUBE_APISERVER} \
  --kubeconfig=bootstrap.kubeconfig

# 設置客戶端認證參數
kubectl config set-credentials kubelet-bootstrap \
  --token=6dfb1e91be76b68a01258330c875859 \	#修改token序列號，使用cat /opt/kubernetes/cfg/token.csv獲取token信息
  --kubeconfig=bootstrap.kubeconfig

# 設置上下文參數
kubectl config set-context default \
  --cluster=kubernetes \
  --user=kubelet-bootstrap \
  --kubeconfig=bootstrap.kubeconfig

# 設置默認上下文
kubectl config use-context default --kubeconfig=bootstrap.kubeconfig

# 創建kube-proxy kubeconfig文件
kubectl config set-cluster kubernetes \
  --certificate-authority=$SSL_DIR/ca.pem \
  --embed-certs=true \
  --server=${KUBE_APISERVER} \
  --kubeconfig=kube-proxy.kubeconfig

kubectl config set-credentials kube-proxy \
  --client-certificate=$SSL_DIR/kube-proxy.pem \
  --client-key=$SSL_DIR/kube-proxy-key.pem \
  --embed-certs=true \
  --kubeconfig=kube-proxy.kubeconfig

kubectl config set-context default \
  --cluster=kubernetes \
  --user=kube-proxy \
  --kubeconfig=kube-proxy.kubeconfig

kubectl config use-context default --kubeconfig=kube-proxy.kubeconfig

② 設置環境變量，使系統能夠識別kubectl指令（也可以寫入到/etc/profile中，注意，使用此方法需要source /etc/profile，使其生效）

[root@master kubeconfig]# export PATH=$PATH:/opt/kubernetes/bin/

③ 生成配置文件

[root@master kubeconfig]# bash kubeconfig.sh 192.168.11.11 /root/k8s/k8s-cert/

④ 將生成的配置文件拷貝至兩個node節點

[root@master kubeconfig]# scp bootstrap.kubeconfig kube-proxy.kubeconfig [email protected]:/opt/kubernetes/cfg/
[root@master kubeconfig]# scp bootstrap.kubeconfig kube-proxy.kubeconfig [email protected]:/opt/kubernetes/cfg/

⑤ 創建bootstrap角色賦予權限用於連接apiserver請求籤名（關鍵）

[root@master kubeconfig]# kubectl create clusterrolebinding kubelet-bootstrap --clusterrole=system:node-bootstrapper --user=kubelet-bootstrap

2、node01部署kubelet

kubelet.sh腳本如下：

vim kubelet.sh
#!/bin/bash

NODE_ADDRESS=$1
DNS_SERVER_IP=${2:-"10.0.0.2"}

cat <<EOF >/opt/kubernetes/cfg/kubelet

KUBELET_OPTS="--logtostderr=true \\
--v=4 \\
--hostname-override=${NODE_ADDRESS} \\
--kubeconfig=/opt/kubernetes/cfg/kubelet.kubeconfig \\
--bootstrap-kubeconfig=/opt/kubernetes/cfg/bootstrap.kubeconfig \\
--config=/opt/kubernetes/cfg/kubelet.config \\
--cert-dir=/opt/kubernetes/ssl \\
--pod-infra-container-image=registry.cn-hangzhou.aliyuncs.com/google-containers/pause-amd64:3.0"

EOF

cat <<EOF >/opt/kubernetes/cfg/kubelet.config

kind: KubeletConfiguration
apiVersion: kubelet.config.k8s.io/v1beta1
address: ${NODE_ADDRESS}
port: 10250
readOnlyPort: 10255
cgroupDriver: cgroupfs
clusterDNS:
- ${DNS_SERVER_IP} 
clusterDomain: cluster.local.
failSwapOn: false
authentication:
  anonymous:
    enabled: true
EOF

cat <<EOF >/usr/lib/systemd/system/kubelet.service
[Unit]
Description=Kubernetes Kubelet
After=docker.service
Requires=docker.service

[Service]
EnvironmentFile=/opt/kubernetes/cfg/kubelet
ExecStart=/opt/kubernetes/bin/kubelet \$KUBELET_OPTS
Restart=on-failure
KillMode=process

[Install]
WantedBy=multi-user.target
EOF

systemctl daemon-reload
systemctl enable kubelet
systemctl restart kubelet

① 執行腳本，啓動kubelet，向master集羣發送請求（node01上操作）

[root@node01 ~]# bash kubelet.sh 192.168.11.16
[root@node01 ~]# ls /opt/kubernetes/cfg/
bootstrap.kubeconfig  flanneld  kubelet  kubelet.config  kube-proxy.kubeconfig
[root@node01 ~]# systemctl status kubelet.service

② 檢查到node01節點的請求（在master上檢查）

[root@master ~]# kubectl get csr

#pending狀態等待master給該node節點頒發證書

如果檢查不到後端的節點，先檢查kubelet，再檢查api-server

如果多節點，可能就是VIP 地址消失（keepalive的問題）

③ master給node頒發證書（在master上操作）

approve 同意一個自簽證書請求

[root@master ~]# kubectl certificate approve node-csr-t4_Qii1MlT-ArVjpOGdyFP4_npyo6JWLIj7mv3Vh-mM

④ 再次檢查證書狀態

#Approved，Issued 已經被允許加入集羣

⑤ 查看集羣節點

[root@master ~]# kubectl get node

#成功加入node01節點

3、node01啓動proxy服務

proxy.sh腳本如下

vim proxy.sh
#!/bin/bash
NODE_ADDRESS=$1
cat <<EOF >/opt/kubernetes/cfg/kube-proxy
KUBE_PROXY_OPTS="--logtostderr=true \\
--v=4 \\
--hostname-override=${NODE_ADDRESS} \\
--cluster-cidr=10.0.0.0/24 \\
--proxy-mode=ipvs \\
--kubeconfig=/opt/kubernetes/cfg/kube-proxy.kubeconfig"
EOF

cat <<EOF >/usr/lib/systemd/system/kube-proxy.service
[Unit]
Description=Kubernetes Proxy
After=network.target

[Service]
EnvironmentFile=-/opt/kubernetes/cfg/kube-proxy
ExecStart=/opt/kubernetes/bin/kube-proxy \$KUBE_PROXY_OPTS
Restart=on-failure

[Install]
WantedBy=multi-user.target
EOF

systemctl daemon-reload
systemctl enable kube-proxy
systemctl restart kube-prox

#啓動proxy服務

[root@node01 ~]# bash proxy.sh 192.168.11.16
[root@node01 ~]# systemctl status kube-proxy.service

至此，master在node01節點上的代理功能就完成了

4、部署node02節點

① 將node01上的kubernetes目錄及啓動腳本拷貝

#把node01節點上/opt/kubernetes目錄複製到其他節點進行修改即可

[root@node01 ~]# scp -r /opt/kubernetes/ [email protected]:/opt

#把kubelet，kube-proxy的service文件拷貝到node2中

[root@node01 ~]# scp /usr/lib/systemd/system/{kubelet,kube-proxy}.service [email protected]:/usr/lib/systemd/system/

② 將拷貝過來的文件進行修改使用（在node02上操作）

#首先，先刪除複製過來的證書，待會 node02 會自行證書

[root@node02 ~]# cd /opt/kubernetes/ssl/
[root@node02 ssl]# rm -rf *

#修改配置文件kubelet kubelet.config kube-proxy（三個配置文件）

ip均修改爲本節點IP

[root@node02 ssl]# cd ../cfg/
[root@node02 cfg]# vim kubelet

[root@node02 cfg]# vim kubelet.config

[root@node02 cfg]# vim kube-proxy

③ 啓動服務

[root@node02 cfg]# systemctl start kubelet.service
[root@node02 cfg]# systemctl enable kubelet.service
[root@node02 cfg]# systemctl status kubelet.service

[root@node02 cfg]# systemctl start kube-proxy.service
[root@node02 cfg]#  systemctl enable kube-proxy.service
[root@node02 cfg]# systemctl status kube-proxy.service

④ 檢查到node01節點的請求（在master上操作）

[root@master ~]#  kubectl get csr
NAME                                                   AGE     REQUESTOR           CONDITION
node-csr-i4PL7yF5GLHJV3XmK3S144BQmW_edVfpkRk0CFCJV9M   4m16s   kubelet-bootstrap   Pending
node-csr-t4_Qii1MlT-ArVjpOGdyFP4_npyo6JWLIj7mv3Vh-mM   36m     kubelet-bootstrap   Approved,Issued

#pending狀態等待master給該node節點頒發證書

#授權許可加入羣集

[root@master ~]# kubectl certificate approve node-csr-i4PL7yF5GLHJV3XmK3S144BQmW_edVfpkRk0CFCJV9M 
certificatesigningrequest.certificates.k8s.io/node-csr-i4PL7yF5GLHJV3XmK3S144BQmW_edVfpkRk0CFCJV9M approved
[root@master ~]#  kubectl get csr

四、查看羣集中的節點

[root@master ~]# kubectl get node

至此，二進制部署單master集羣已經完成了。後續會繼續部署多master集羣，請多關注

Kubernetes集羣二進制部署（二）——單master集羣

文章目錄

一、環境及軟件包

二、部署master組件

1、api-server

1） api-server生成證書

2）解壓k8s服務器端壓縮包

3）創建token令牌

4）開啓apiserver

2、啓動scheduler服務

3、啓動controller-manager

4、查看master節點狀態

三、node節點部署

1、創建kubeconfig

2、node01部署kubelet

3、node01啓動proxy服務

4、部署node02節點

四、查看羣集中的節點

Redis集羣節點擴容

Redis——redis配置與優化

Ceph集羣搭建部署及常規操作

ELK日誌分析系統——配置+理論！

squid代理——ACL訪問控制+sarg日誌分析+反向代理

Mac下配置sublime實現LaTeX

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結