原创 Hadoop高可用集羣原理

1. Hadoop是什麼 Hadoop 是一個開源軟件框架,用於在商用硬件集羣上存儲數據和運行應用程序。它爲任何類型的數據提供海量存儲,巨大的處理能力以及處理幾乎無限的併發任務或作業的能力。 像IT圈的其他服務一樣 Hadoop也

原创 kafka理論和集羣實現

1. kafka基礎概念 Producer :消息生產者,就是向kafka broker發消息的客戶端 Consumer :消息消費者,向kafka broker取消息的客戶端 Topic :可以理解爲一個隊列 Consumer

原创 大數據zookeeper理論和集羣實現

1. zookeeper簡介 1.1 zookeeper是什麼 ZooKeeper是一個分佈式的,開放源碼的分佈式應用程序協調服務。它是Google的Chubby(閉源)一個開源的實現,目前。在分佈式協調技術方面做得比較好的就是

原创 harbor的鏡像複製

1. 理論部分 在較大的容器集羣中,往往需要多個Registry服務器做負載均衡,可以採用主從發佈模式,鏡像只需要發佈一次,就可以推送到多個Registry實例中。同時還支持雙主複製和層次型的多級鏡像發佈,如下圖所示: 在不同的

原创 Tomcat多實例、目錄瀏覽、JVM內存監控、JMX遠程調用、後臺管理

概述 Tomcat是由Apache軟件基金會下屬的Jakarta項目開發的一個servelet容器,按照Sun microsystems提供的技術規範開發出來,Tomcat 8實現了對servlet 3.1和Javaserver

原创 ELK日誌系統理論和幾種方案

日誌系統 場景 一般常見我們需要進行日誌分析場景是:直接在日誌文件中grep、awk就可以獲得自己想要的信息。但在規模較大的場景中,此方法效率低下,面臨問題包括日誌量太大如何歸檔、文本搜索太慢怎麼辦、如何多維度查詢。需要集中化的

原创 Linux網卡bond操作

1. 什麼是bond網卡 網卡bond是通過多張網卡綁定爲一個邏輯網卡,實現本地網卡的冗餘,帶寬擴容和負載均衡,在生產場景中是一種常用的技術。 可以通過以下命令確定內核是否支持 bonding: [root@es1 data]#

原创 Jenkins基於角色的權限管理

1) 安裝插件Role-based Authorization Strategy 2)進行用戶角色管理 在公司裏,用戶的權限設置比較嚴格,一般都是管理員來創建用戶,而不是誰都可以註冊用戶,這個地方一般不勾,這個表示允許用戶註

原创 pipeline的簡單使用

1)建立一個pipeline任務 2)配置任務 配置構建的觸發器 配置pipeline pipeline { agent {label 'master'} stages { stage('Che

原创 jenkins、安裝、插件管理、日常運維

服務概述 Jenkins簡介 Jenkins是一個開源軟件項目,是基於Java開發的一種持續集成工具,用於監控持續重複的工作,旨在提供一個開放易用的軟件平臺 功能介紹 一個自動化的週期性集成測試過程,從檢出代碼、編譯構建、運行測

原创 spring cloud從運維角度理解各組件和調用關係

概述 spring cloud未開發人員提供了快速構建分佈式系統中的一些常見模式的工具(例如配置管理、服務發現、斷路由、智能路由、微服務、控制總線)。分佈式系統的協調導致了樣板模式,使用spring cloud開發人員可以快速地支

原创 Tomcat運行模式和模式切換

tomcat的運行模式有3種 1)bio(blocking I/O) 即阻塞式I/O操作,表示Tomcat使用的是傳統的Java I/O操作(即java.io包及其子包)。是基於JAVA的HTTP/1.1連接器,Tomcat7以下

原创 LJC-pam

1. pam理論部分 1.1 簡介 PAM(Pluggable Authentication Modules)即可插拔式認證模塊,它是一種高效而且靈活便利的用戶級別的認證方式,它也是當前Linux服務器普遍使用的認證方式。當然,在

原创 es-head插件的安裝與使用

head插件 elasticsearch-head是一個界面化的集羣操作和管理工具,可以對集羣進行傻瓜式操作。你可以通過插件把它集成到elasticsearch(5.0版本後不支持此方式),也可以安裝成一個獨立webapp。ela

原创 zabbix4.0準備、安裝、配置

1. 理論 1.1 開源監控系統 nagios cacti zabbix 1.2 各個監控的特點 nagios 1)重在監控告警 2)添加監控需修改配置文件 3)無監控歷史數據,圖形支持差 4) 不支持分佈式監控 cact