本示例基於開源的 KubeSphere 容器平臺 演示如何通過 GitHub 倉庫中的 Jenkinsfile 來創建流水線，流水線共包括 8 個階段，最終將一個 Hello World 頁面部署到 Kubernetes 集羣中的不同 namespace。
流水線概覽
下面的流程圖簡單說明了流水線完整的工作過程：
流程說明：
- 階段一. Checkout SCM: 拉取 GitHub 倉庫代碼
- 階段二. Unit test: 單元測試，如果測試通過了才繼續下面的任務
- 階段三. sonarQube analysis：sonarQube 代碼質量檢測
- 階段四. Build & push snapshot image: 根據行爲策略中所選擇分支來構建鏡像，並將 tag 爲
SNAPSHOT-$BRANCH_NAME-$BUILD_NUMBER推送至 Harbor (其中$BUILD_NUMBER爲 pipeline 活動列表的運行序號)。- 階段五. Push latest image: 將 master 分支打上 tag 爲 latest，並推送至 DockerHub。
- 階段六. Deploy to dev: 將 master 分支部署到 Dev 環境，此階段需要審覈。
- 階段七. Push with tag: 生成 tag 並 release 到 GitHub，並推送到 DockerHub。
- 階段八. Deploy to production: 將發佈的 tag 部署到 Production 環境。
創建憑證
使用 project-regular 登錄 KubeSphere，進入已創建的 devops-demo 工程，開始創建憑證。
1、本示例代碼倉庫中的 Jenkinsfile 需要用到 DockerHub、GitHub 和 kubeconfig (kubeconfig 用於訪問接入正在運行的 Kubernetes 集羣) 等一共 3 個憑證 (credentials) 。
2、然後創建一個 Java 的 Token 並複製。
3、最後在 KubeSphere 中進入 devops-demo 的 DevOps 工程中，與上面步驟類似，在 憑證 下點擊 創建，創建一個類型爲 祕密文本 的憑證，憑證 ID 命名爲 sonar-token，密鑰爲上一步複製的 token 信息，完成後點擊 確定。
至此，4 個憑證已經創建完成，下一步需要在示例倉庫中的 jenkinsfile 修改對應的四個憑證 ID 爲用戶自己創建的憑證 ID。
修改 Jenkinsfile
第一步：Fork項目
登錄 GitHub，將本示例用到的 GitHub 倉庫 devops-java-sample Fork 至您個人的 GitHub。
第二步：修改 Jenkinsfile
1、Fork 至您個人的 GitHub 後，在 根目錄 進入 Jenkinsfile-online。
2、在 GitHub UI 點擊編輯圖標，需要修改如下環境變量 (environment) 的值。
| 修改項 | 值 | 含義 |
|---|---|---|
| DOCKER_CREDENTIAL_ID | dockerhub-id | 填寫創建憑證步驟中的 DockerHub 憑證 ID，用於登錄您的 DockerHub |
| GITHUB_CREDENTIAL_ID | github-id | 填寫創建憑證步驟中的 GitHub 憑證 ID，用於推送 tag 到 GitHub 倉庫 |
| KUBECONFIG_CREDENTIAL_ID | demo-kubeconfig | kubeconfig 憑證 ID，用於訪問接入正在運行的 Kubernetes 集羣 |
| REGISTRY | docker.io | 默認爲 docker.io 域名，用於鏡像的推送 |
| DOCKERHUB_NAMESPACE | your-dockerhub-account | 替換爲您的 DockerHub 賬號名 (它也可以是賬戶下的 Organization 名稱) |
| GITHUB_ACCOUNT | your-github-account | 替換爲您的 GitHub 賬號名，例如 https://github.com/kubesphere/ 則填寫 kubesphere (它也可以是賬戶下的 Organization 名稱) |
| APP_NAME | devops-java-sample | 應用名稱 |
| SONAR_CREDENTIAL_ID | sonar-token | 填寫創建憑證步驟中的 SonarQube token憑證 ID，用於代碼質量檢測 |
注： Jenkinsfile 中 mvn 命令的參數 -o，表示開啓離線模式。本示例爲適應某些環境下網絡的干擾，以及避免在下載依賴時耗時太長，已事先完成相關依賴的下載，默認開啓離線模式。
3、修改以上的環境變量後，點擊 Commit changes，將更新提交到當前的 master 分支。
創建項目
CI/CD 流水線會根據示例項目的 yaml 模板文件，最終將示例分別部署到 Dev 和 Production 這兩個項目 (Namespace) 環境中，即 kubesphere-sample-dev 和 kubesphere-sample-prod，這兩個項目需要預先在控制檯依次創建，參考如下步驟創建該項目。
第一步：創建第一個項目
1、使用項目管理員 project-admin 賬號登錄 KubeSphere，在之前創建的企業空間 (demo-workspace) 下，點擊 項目 → 創建，創建一個 資源型項目，作爲本示例的開發環境，填寫該項目的基本信息，完成後點擊 下一步。
- 名稱：固定爲
kubesphere-sample-dev，若需要修改項目名稱則需在 yaml 模板文件 中修改 namespace - 別名：可自定義，比如 開發環境
- 描述信息：可簡單介紹該項目，方便用戶進一步瞭解
2、本示例暫無資源請求和限制，因此高級設置中無需修改默認值，點擊 創建，項目可創建成功。
第二步：邀請成員
第一個項目創建完後，還需要項目管理員 project-admin 邀請當前的項目普通用戶 project-regular 進入 kubesphere-sample-dev 項目，進入「項目設置」→「項目成員」，點擊「邀請成員」選擇邀請 project-regular 並授予 operator 角色。
第三步：創建第二個項目
同上，參考以上兩步創建一個名稱爲 kubesphere-sample-prod 的項目作爲生產環境，並邀請普通用戶 project-regular 進入 kubesphere-sample-prod 項目並授予 operator 角色。
說明：當 CI/CD 流水線後續執行成功後，在kubesphere-sample-dev和kubesphere-sample-prod項目中將看到流水線創建的部署 (Deployment) 和服務 (Service)。
創建流水線
第一步：填寫基本信息
1、進入已創建的 DevOps 工程，選擇左側菜單欄的 流水線，然後點擊 創建。
2、在彈出的窗口中，輸入流水線的基本信息。
- 名稱：爲創建的流水線起一個簡潔明瞭的名稱，便於理解和搜索
- 描述信息：簡單介紹流水線的主要特性，幫助進一步瞭解流水線的作用
- 代碼倉庫：點擊選擇代碼倉庫，代碼倉庫需已存在 Jenkinsfile
第二步：添加倉庫
1、點擊代碼倉庫，以添加 Github 倉庫爲例。
2、點擊彈窗中的 獲取 Token。
3、在 GitHub 的 access token 頁面填寫 Token description，簡單描述該 token，如 DevOps demo，在 Select scopes 中無需任何修改，點擊 Generate token，GitHub 將生成一串字母和數字組成的 token 用於訪問當前賬戶下的 GitHub repo。
4、複製生成的 token，在 KubeSphere Token 框中輸入該 token 然後點擊保存。
5、驗證通過後，右側會列出此 Token 關聯用戶的所有代碼庫，選擇其中一個帶有 Jenkinsfile 的倉庫。比如此處選擇準備好的示例倉庫 devops-java-sample，點擊 選擇此倉庫，完成後點擊 下一步。
第三步：高級設置
完成代碼倉庫相關設置後，進入高級設置頁面，高級設置支持對流水線的構建記錄、行爲策略、定期掃描等設置的定製化，以下對用到的相關配置作簡單釋義。
1、構建設置中，勾選 丟棄舊的構建，此處的 保留分支的天數 和 保留分支的最大個數 默認爲 -1。
說明：
分支設置的保留分支的天數和保持分支的最大個數兩個選項可以同時對分支進行作用，只要某個分支的保留天數和個數不滿足任何一個設置的條件，則將丟棄該分支。假設設置的保留天數和個數爲 2 和 3，則分支的保留天數一旦超過 2 或者保留個數超過 3，則將丟棄該分支。默認兩個值爲 -1，表示不自動刪除分支。
丟棄舊的分支將確定何時應丟棄項目的分支記錄。分支記錄包括控制檯輸出，存檔工件以及與特定分支相關的其他元數據。保持較少的分支可以節省 Jenkins 所使用的磁盤空間，我們提供了兩個選項來確定應何時丟棄舊的分支：
- 保留分支的天數：如果分支達到一定的天數，則丟棄分支。
- 保留分支的個數：如果已經存在一定數量的分支，則丟棄最舊的分支。
2、行爲策略中，KubeSphere 默認添加了三種策略。由於本示例還未用到 從 Fork 倉庫中發現 PR 這條策略，此處可以刪除該策略，點擊右側刪除按鈕。
說明：
支持添加三種類型的發現策略。需要說明的是，在 Jenkins 流水線被觸發時，開發者提交的 PR (Pull Request) 也被視爲一個單獨的分支。
發現分支：
- 排除也作爲 PR 提交的分支：選擇此項表示 CI 將不會掃描源分支 (比如 Origin 的 master branch)，也就是需要被 merge 的分支
- 只有被提交爲 PR 的分支：僅掃描 PR 分支
- 所有分支：拉取的倉庫 (origin) 中所有的分支
從原倉庫中發現 PR：
- PR 與目標分支合併後的源代碼版本：一次發現操作，基於 PR 與目標分支合併後的源代碼版本創建並運行流水線
- PR 本身的源代碼版本：一次發現操作，基於 PR 本身的源代碼版本創建並運行流水線
- 當 PR 被發現時會創建兩個流水線，一個流水線使用 PR 本身的源代碼版本，一個流水線使用 PR 與目標分支合併後的源代碼版本：兩次發現操作，將分別創建兩條流水線，第一條流水線使用 PR 本身的源代碼版本，第二條流水線使用 PR 與目標分支合併後的源代碼版本
3、默認的 腳本路徑 爲 Jenkinsfile，請將其修改爲 Jenkinsfile-online。
注：路徑是 Jenkinsfile 在代碼倉庫的路徑，表示它在示例倉庫的根目錄，若文件位置變動則需修改其腳本路徑。
4、在 掃描 Repo Trigger 勾選 如果沒有掃描觸發，則定期掃描，掃描時間間隔可根據團隊習慣設定，本示例設置爲 5 minutes。
說明：定期掃描是設定一個週期讓流水線週期性地掃描遠程倉庫，根據 行爲策略 查看倉庫有沒有代碼更新或新的 PR。Webhook 推送：
Webhook 是一種高效的方式可以讓流水線發現遠程倉庫的變化並自動觸發新的運行，GitHub 和 Git (如 Gitlab) 觸發 Jenkins 自動掃描應該以 Webhook 爲主，以上一步在 KubeSphere 設置定期掃描爲輔。在本示例中，可以通過手動運行流水線，如需設置自動掃描遠端分支並觸發運行，詳見 設置自動觸發掃描 - GitHub SCM。
完成高級設置後點擊 創建。
第四步：運行流水線
流水線創建後，點擊瀏覽器的 刷新 按鈕，可見一條自動觸發遠程分支後的運行記錄。
1、點擊右側 運行，將根據上一步的 行爲策略 自動掃描代碼倉庫中的分支，在彈窗選擇需要構建流水線的 master分支，系統將根據輸入的分支加載 Jenkinsfile-online (默認是根目錄下的 Jenkinsfile)。
2、由於倉庫的 Jenkinsfile-online 中 TAG_NAME: defaultValue 沒有設置默認值，因此在這裏的 TAG_NAME 可以輸入一個 tag 編號，比如輸入 v0.0.1。
3、點擊 確定，將新生成一條流水線活動開始運行。
說明: tag 用於在 Github 和DockerHub 中分別生成帶有 tag 的 release 和鏡像。 注意: 在主動運行流水線以發佈 release 時，TAG_NAME不應與之前代碼倉庫中所存在的tag名稱重複，如果重複會導致流水線的運行失敗。
至此，流水線 已完成創建並開始運行。
注：點擊 分支 切換到分支列表，查看流水線具體是基於哪些分支運行，這裏的分支則取決於上一步 行爲策略 的發現分支策略。
第五步：審覈流水線
爲方便演示，此處默認用當前賬戶來審覈，當流水線執行至 input 步驟時狀態將暫停，需要手動點擊 繼續，流水線才能繼續運行。注意，在 Jenkinsfile-online 中分別定義了三個階段 (stage) 用來部署至 Dev 環境和 Production 環境以及推送 tag，因此在流水線中依次需要對 deploy to dev, push with tag, deploy to production 這三個階段審覈 3 次，若不審覈或點擊 終止 則流水線將不會繼續運行。
說明：在實際的開發生產場景下，可能需要更高權限的管理員或運維人員來審覈流水線和鏡像，並決定是否允許將其推送至代碼或鏡像倉庫，以及部署至開發或生產環境。Jenkinsfile 中的 input步驟支持指定用戶審覈流水線，比如要指定用戶名爲 project-admin 的用戶來審覈，可以在 Jenkinsfile 的 input 函數中追加一個字段，如果是多個用戶則通過逗號分隔，如下所示：
···
input(id: 'release-image-with-tag', message: 'release image with tag?', submitter: 'project-admin,project-admin1')
···查看流水線
1、點擊流水線中 活動 列表下當前正在運行的流水線序列號，頁面展現了流水線中每一步驟的運行狀態，注意，流水線剛創建時處於初始化階段，可能僅顯示日誌窗口，待初始化 (約一分鐘) 完成後即可看到流水線。黑色框標註了流水線的步驟名稱，示例中流水線共 8 個 stage，分別在 Jenkinsfile-online 中被定義。
2、當前頁面中點擊右上方的 查看日誌，查看流水線運行日誌。頁面展示了每一步的具體日誌、運行狀態及時間等信息，點擊左側某個具體的階段可展開查看其具體的日誌。日誌可下載至本地，如出現錯誤，下載至本地更便於分析定位問題。
驗證運行結果
1、若流水線執行成功，點擊該流水線下的 代碼質量，即可看到通過 SonarQube 的代碼質量檢測結果，如下圖(僅供參考)。
2、流水線最終 build 的 Docker 鏡像也將被成功地 push 到 DockerHub 中，我們在 Jenkinsfile-online 中已經配置過 DockerHub，登錄 DockerHub 查看鏡像的 push 結果，可以看到 tag 爲 snapshot、TAG_NAME(master-1)、latest 的鏡像已經被 push 到 DockerHub，並且在 GitHub 中也生成了一個新的 tag 和 release。Hello World 示例頁面最終將以 deployment 和 service 分別部署到 KubeSphere 的 kubesphere-sample-dev 和 kubesphere-sample-prod 項目環境中。
| 環境 | 訪問地址 | 所在項目 (Namespace) | 部署 (Deployment) | 服務 (Service) |
|---|---|---|---|---|
| Dev |
http://{$Virtual IP}:{$8080} 或者 http://{$內網/公網 IP}:{$30861}
|
kubesphere-sample-dev | ks-sample-dev | ks-sample-dev |
| Production |
http://{$Virtual IP}:{$8080} 或者 http://{$內網/公網 IP}:{$30961}
|
kubesphere-sample-prod | ks-sample | ks-sample |
3、可通過 KubeSphere 回到項目列表，依次查看之前創建的兩個項目中的部署和服務的狀態。例如，以下查看 kubesphere-sample-prod項目下的部署。
進入該項目，在左側的菜單欄點擊 工作負載 → 部署，可以看到 ks-sample 已創建成功。正常情況下，部署的狀態應該顯示 運行中。
4、在菜單欄中選擇 網絡與服務 → 服務 也可以查看對應創建的服務，可以看到該服務的 Virtual IP 爲 10.233.42.3，對外暴露的節點端口 (NodePort) 是 30961。
查看服務
5、查看推送到您個人的 DockerHub 中的鏡像，可以看到 devops-java-sample就是 APP_NAME 的值，而 tag 也是在 jenkinsfile-online 中定義的 tag。
6、點擊 release，查看 Fork 到您個人 GitHub repo 中的 v0.0.1 tag 和 release，它是由 jenkinsfile 中的 push with tag 生成的。
訪問示例服務
若在內網環境訪問部署的 HelloWorld 示例服務，可通過 SSH 登陸集羣節點，或使用集羣管理員登陸 KubeSphere 在 web kubectl 中輸入以下命令驗證訪問，其中 Cluster IP 和節點端口 (NodePort) 可通過對應項目下的服務中查看：
驗證 Dev 環境的示例服務
# curl {$Virtual IP}:{$Port} 或者 curl {$內網 IP}:{$NodePort}
curl 10.233.40.5:8080
Hello,World!驗證 Prodcution 環境的示例服務
# curl {$Virtual IP}:{$Port} 或者 curl {$內網 IP}:{$NodePort}
curl 10.233.42.3:8080
Hello,World!KubeSphere (https://github.com/kubesphere... 是一個開源的以應用爲中心的容器管理平臺，支持部署在任何基礎設施之上，並提供簡單易用的 UI，極大減輕日常開發、測試、運維的複雜度，旨在解決 Kubernetes 本身存在的存儲、網絡、安全和易用性等痛點，幫助企業輕鬆應對敏捷開發與自動化監控運維、端到端應用交付、微服務治理、多租戶管理、多集羣管理、服務與網絡管理、鏡像倉庫、AI 平臺、邊緣計算等業務場景。