pinPoint 部署

序章

pinpoint是開源在github上的一款APM監控工具,它是用Java編寫的,用於大規模分佈式系統監控。它對性能的影響最小(只增加約3%資源利用率),安裝agent是無侵入式的,只需要在被測試的Tomcat中加上3句話,打下探針,就可以監控整套程序了。這篇Blog主要是想記錄一下它安裝的過程,方便日後查閱。

 

我安裝它用到的2臺 CentOS6.8 虛擬機,一臺主要部署pinpoint的主程序,一臺模擬測試環境。配置如下:

IP 操作系統 安裝項 描述
192.168.245.136 CentOS 6.8 pinpoint pinpoint的web展示端,邏輯控制機,以及Hbase存儲
192.168.245.135 CentOS 6.8 pinpoint-agent 主要用來採集數據,發送給pinpoint處理

 

java 1.7 http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html

pinpoint https://github.com/naver/pinpoint

我將需要的資源都整合起來了,上傳至百度網盤

百度網盤: <鏈接: http://pan.baidu.com/s/1eRU5RW2 密碼: u89p>

 

下面是官方的一些截圖,很帥,很直觀

demo0

 

demo1

demo2

demo3

 

 

1. 環境配置

 

1.1 獲取需要的依賴包

進入home目錄,創建一個"pp_res"的資源目錄,用來存放需要安裝的包


 

mkdir /home/pp_res

cd /home/pp_res/

使用xshell等類似的工具,將需要的文件上傳到Linux虛擬機中,主要要傳的文件都在百度網盤

  1. jdk7 --- Java運行環境
  2. hbase-1.0 --- 數據庫,用來存儲監控信息
  3. tomcat8.0 --- Web服務器
  4. pinpoint-collector.war --- pp的控制器
  5. pinpoint-web.war --- pp展示頁面
  6. pp-collector.init --- 用來快速啓動pp-col,不要也可以
  7. pp-web.init --- 用來快速啓動pp-web,不要也可以

xshell

 

使用ll命令,查看一下是否上傳成功


 

[root@localhost pp_res]# ll

total 367992

-rw-r--r--. 1 root root   9277365 Nov 15 00:07 apache-tomcat-8.0.36.tar.gz

-rw-r--r--. 1 root root 103847513 Nov 15 00:07 hbase-1.0.3-bin.tar.gz

-rw-r--r--. 1 root root 153512879 Nov 15 00:07 jdk-7u79-linux-x64.tar.gz

-rw-r--r--. 1 root root   6621915 Nov 15 00:07 pinpoint-agent-1.5.2.tar.gz

-rw-r--r--. 1 root root  31339914 Nov 15 00:07 pinpoint-collector-1.5.2.war

-rw-r--r--. 1 root root  54505168 Nov 15 00:07 pinpoint-web-1.5.2.war

-rw-r--r--. 1 root root      3084 Nov 15 00:07 pp-collector.init

-rw-r--r--. 1 root root      3072 Nov 15 00:07 pp-web.init

-rw-r--r--. 1 root root  17699306 Nov 15 00:07 zookeeper-3.4.6.tar.gz

 

1.2 配置jdk1.7

這套APM系統主要是用jdk1.7來進行部署的,首先要配置jdk的環境變量


 

cd /home/pp_res/

tar -zxvf jdk-7u79-linux-x64.tar.gz

mkdir /usr/java

mv jdk1.7.0_79/ /usr/java/jdk17

配置java環境變量


 

vi /etc/profile

將下列複製到profile的最後一行中


 

export JAVA_HOME=/usr/java/jdk17

export PATH=$PATH:$JAVA_HOME/bin

讓環境變量生效


 

source /etc/profile

測試java的環境變量是否配置好了


 

[root@localhost pp_res]# java -version

java version "1.7.0_79"

Java(TM) SE Runtime Environment (build 1.7.0_79-b15)

Java HotSpot(TM) 64-Bit Server VM (build 24.79-b02, mixed mode)

 

2. 安裝Hbase

pinpoint收集來的測試數據,主要是存在Hbase數據庫的。所以它可以收集大量的數據,可以進行更加詳細的分析。

 

2.1 將Hbase解壓,並且放入指定目錄


 

cd /home/pp_res/

tar -zxvf hbase-1.0.3-bin.tar.gz

mkdir -p /data/service

mv hbase-1.0.3/ /data/service/hbase

 

2.2 修改hbase-env.sh的JAVA_HOME環境變量位置


 

cd /data/service/hbase/conf/

vi hbase-env.sh

在27行左右的位置,修改如下


 

export JAVA_HOME=/usr/java/jdk17/

 

2.3 修改Hbase的配置信息


 

vi hbase-site.xml

在結尾修改成如下,這裏我們指定Hbase本地來存儲數據,生產環境將數據建議存入HDFS中。


 

<configuration>

  <property>

    <name>hbase.rootdir</name>

    <value>file:///data/hbase</value>

 </property>

</configuration>

 

2.4 啓動hbase


 

cd /data/service/hbase/bin

./start-hbase.sh

查看Hbase是否啓動成功,如果啓動成功的會看到"HMaster"的進程


 

[root@localhost bin]# jps

12075 Jps

11784 HMaster

 

2.5 初始化Hbase的pinpoint庫

執行pinpoint提供的Hbase初始化語句,這時會初始化一會。


 

./hbase shell /home/pp_res/hbase-create.hbase

執行完了以後,進入Hbase


 

./hbase shell

進入後可以看到Hbase的版本,還有一些相關的信息


 

2016-11-15 01:55:44,861 WARN  [main] util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using built

in-java classes where applicableHBase Shell; enter 'help<RETURN>' for list of supported commands.

Type "exit<RETURN>" to leave the HBase Shell

Version 1.0.3, rf1e1312f9790a7c40f6a4b5a1bab2ea1dd559890, Tue Jan 19 19:26:53 PST 2016

 

hbase(main):001:0>

輸入"status 'detailed'"可以查看剛纔初始化的表,是否存在


 

hbase(main):001:0> status 'detailed'

version 1.0.3

0 regionsInTransition

master coprocessors: []

1 live servers

    localhost:50887 1478538574709

        requestsPerSecond=0.0, numberOfOnlineRegions=498, usedHeapMB=24, maxHeapMB=237, numberOfStores=626, numberOfStorefiles=0, storefileUncom

pressedSizeMB=0, storefileSizeMB=0, memstoreSizeMB=0, storefileIndexSizeMB=0, readRequestsCount=7714, writeRequestsCount=996, rootIndexSizeKB=0, totalStaticIndexSizeKB=0, totalStaticBloomSizeKB=0, totalCompactingKVs=0, currentCompactedKVs=0, compactionProgressPct=NaN, coprocessors=[MultiRowMutationEndpoint]        "AgentEvent,,1478539104778.aa1b3b14d0b48d83cbf4705b75cb35b7."

            numberOfStores=1, numberOfStorefiles=0, storefileUncompressedSizeMB=0, storefileSizeMB=0, memstoreSizeMB=0, storefileIndexSizeMB=0,

readRequestsCount=0, writeRequestsCount=0, rootIndexSizeKB=0, totalStaticIndexSizeKB=0, totalStaticBloomSizeKB=0, totalCompactingKVs=0, currentCompactedKVs=0, compactionProgressPct=NaN, completeSequenceId=-1, dataLocality=0.0

...

也可以登錄web,來查看HBase的數據是否初始化成功

HbaseWeb : http://192.168.245.134:16010/master-status

HbaseWeb

 

3. 安裝pinpoint-collector

 

3.1 部署war包

解壓Tomcat,將Tomcat重命名移動到指定位置


 

cd /home/pp_res/

tar -zxvf apache-tomcat-8.0.36.tar.gz

mv apache-tomcat-8.0.36/ /data/service/pp-col

 

修改pp-col的Tomcat的配置,主要修改端口,避免與pp-web的Tomcat的端口衝突。我在原本默認的端口前都加了1,下面是替換的shell命令。

【注意】最後一條是將tomcat的私有ip開放,需要將localhost替換成本機的ip,我本機的網卡是默認的,如果你本機的網卡不是eth0,需要進行相關的修改。或者直接用"vi"進去,修改localhost


 

cd /data/service/pp-col/conf/

sed -i 's/port="8005"/port="18005"/g' server.xml

sed -i 's/port="8080"/port="18080"/g' server.xml

sed -i 's/port="8443"/port="18443"/g' server.xml

sed -i 's/port="8009"/port="18009"/g' server.xml

sed -i 's/redirectPort="8443"/redirectPort="18443"/g' server.xml

sed -i "s/localhost/`ifconfig eth0 | grep 'inet addr' | awk '{print $2}' | awk -F: '{print $2}'`/g" server.xml

 

部署pinpoint-collector.war包

【注意:如果沒有unzip命令,可以 "yum install unzip" 】


 

cd /home/pp_res/

rm -rf /data/service/pp-col/webapps/*

unzip pinpoint-collector-1.5.2.war -d /data/service/pp-col/webapps/ROOT

 

啓動Tomcat


 

cd /data/service/pp-col/bin/

./startup.sh

 

查看日誌,是否成功啓動


 

tail -f ../logs/catalina.out

 

3.2 配置快速啓動

配置快速啓動需要修改pp-collector.init的路徑( pp-collector在網盤裏面有 ),可以"vi"進去,大概在18,24,27行處,修改相關的路徑。我這邊爲了方便,直接就用替換的shell做了,如果路徑與我的不一致,需要將路徑修改成自己的路徑。


 

cd /home/pp_res

sed -i "s/JAVA_HOME=\/usr\/java\/default\//JAVA_HOME=\/usr\/java\/jdk17\//g" pp-collector.init

sed -i "s/CATALINA_HOME=\/data\/service\/pinpoint-collector\//CATALINA_HOME=\/data\/service\/pp-col\//g" pp-collector.init

sed -i "s/CATALINA_BASE=\/data\/service\/pinpoint-collector\//CATALINA_BASE=\/data\/service\/pp-col\//g" pp-collector.init

 

將文件賦予"執行"的權限,把它放到"init.d"中去。以後就可以restart快速重啓了。


 

chmod 711 pp-collector.init

mv pp-collector.init /etc/init.d/pp-col

 

 

# 測試一下restart

[root@localhost pp_res]# /etc/init.d/pp-col restart

Stoping Tomcat

Using CATALINA_BASE:   /data/service/pp-col/

Using CATALINA_HOME:   /data/service/pp-col/

Using CATALINA_TMPDIR: /data/service/pp-col//temp

Using JRE_HOME:        /usr/java/jdk17/

Using CLASSPATH:       /data/service/pp-col//bin/bootstrap.jar:/data/service/pp-col//bin/tomcat-juli.jar

 

waiting for processes to exitStarting tomcat

Using CATALINA_BASE:   /data/service/pp-col/

Using CATALINA_HOME:   /data/service/pp-col/

Using CATALINA_TMPDIR: /data/service/pp-col//temp

Using JRE_HOME:        /usr/java/jdk17/

Using CLASSPATH:       /data/service/pp-col//bin/bootstrap.jar:/data/service/pp-col//bin/tomcat-juli.jar

Tomcat started.

Tomcat is running with pid: 22824

 

4. 安裝pinpoint-web

 

4.1 部署war包

解壓Tomcat,將Tomcat重命名移動到指定位置


 

cd /home/pp_res/

tar -zxvf apache-tomcat-8.0.36.tar.gz

mv apache-tomcat-8.0.36/ /data/service/pp-web

 

修改pp-web的Tomcat的配置,主要修改端口,避免與pp-col的Tomcat的端口衝突。我在原本默認的端口前都加了2,下面是替換的shell命令

【注意】最後一條是將tomcat的私有ip開放,需要將localhost替換成本機的ip,我本機的網卡是默認的,如果你本機的網卡不是eth0,需要進行相關的修改。或者直接用"vi"進去,修改localhost


 

cd /data/service/pp-web/conf/

sed -i 's/port="8005"/port="28005"/g' server.xml

sed -i 's/port="8080"/port="28080"/g' server.xml

sed -i 's/port="8443"/port="28443"/g' server.xml

sed -i 's/port="8009"/port="28009"/g' server.xml

sed -i 's/redirectPort="8443"/redirectPort="28443"/g' server.xml

sed -i "s/localhost/`ifconfig eth0 | grep 'inet addr' | awk '{print $2}' | awk -F: '{print $2}'`/g" server.xml

 

部署pinpoint-collector.war包

【注意:如果沒有unzip命令,可以 "yum install unzip" 】


 

cd /home/pp_res/

rm -rf /data/service/pp-web/webapps/*

unzip pinpoint-web-1.5.2.war -d /data/service/pp-web/webapps/ROOT

 

查看war包是否解壓成功


 

[root@localhost conf]# ll /data/service/pp-web/webapps/ROOT/WEB-INF/classes/

total 88

-rw-rw-r--. 1 root root 2164 Apr  7  2016 applicationContext-cache.xml

-rw-rw-r--. 1 root root 3649 Apr  7  2016 applicationContext-dao-config.xml

-rw-rw-r--. 1 root root 1490 Apr  7  2016 applicationContext-datasource.xml

-rw-rw-r--. 1 root root 6680 Apr  7  2016 applicationContext-hbase.xml

-rw-rw-r--. 1 root root 1610 Apr  7  2016 applicationContext-websocket.xml

-rw-rw-r--. 1 root root 6576 Apr  7  2016 applicationContext-web.xml

drwxrwxr-x. 2 root root 4096 Apr  7  2016 batch

-rw-rw-r--. 1 root root  106 Apr  7  2016 batch.properties

drwxrwxr-x. 3 root root 4096 Apr  7  2016 com

-rw-rw-r--. 1 root root  682 Apr  7  2016 ehcache.xml

-rw-rw-r--. 1 root root 1001 Apr  7  2016 hbase.properties

-rw-rw-r--. 1 root root  153 Apr  7  2016 jdbc.properties

-rw-rw-r--. 1 root root 3338 Apr  7  2016 log4j.xml

drwxrwxr-x. 2 root root 4096 Apr  7  2016 mapper

-rw-rw-r--. 1 root root 1420 Apr  7  2016 mybatis-config.xml

drwxrwxr-x. 3 root root 4096 Apr  7  2016 org

-rw-rw-r--. 1 root root  630 Apr  7  2016 pinpoint-web.properties

-rw-rw-r--. 1 root root  141 Apr  7  2016 project.properties

-rw-rw-r--. 1 root root 3872 Apr  7  2016 servlet-context.xml

drwxrwxr-x. 2 root root 4096 Apr  7  2016 sql

這裏說明一下:

  • hbase.properties 配置我們pp-web從哪個數據源獲取採集數據,這裏我們只指定Hbase的zookeeper地址。
  • jdbc.properties pp-web連接自身Mysql數據庫的連接認證配置。
  • sql目錄 pp-web本身有些數據需要存放在MySQL數據庫中,這裏需要初始化一下表結構。
  • pinpoint-web.properties 這裏pp-web集羣的配置文件,如果你需要pp-web集羣的話。
  • applicationContext-* .xml 這些文件在後續的調優工作中會用到。
  • log4j.xml 日誌相關配置。

 

啓動Tomcat


 

cd /data/service/pp-web/bin/

./startup.sh

 

查看日誌,Tocmat是否啓動成功


 

tail -f ../logs/catalina.out

 

日誌中出現下面這句話,說明已經啓動成功了


 

org.apache.catalina.startup.Catalina.start Server startup in 79531 ms

這時候我們可以訪問一下這個地址,在瀏覽器中輸入"http://192.168.245.136:28080",就會出現主頁面了

如果訪問不了的話,關閉防火牆


 

[root@localhost conf]# /etc/init.d/iptables stop

iptables: Setting chains to policy ACCEPT: filter          [  OK  ]

iptables: Flushing firewall rules:                         [  OK  ]

iptables: Unloading modules:                               [  OK  ]

pp-web

 

4.2 配置快速啓動

需要修改"pp-web.init",與上面的步驟一致


 

cd /home/pp_res

sed -i "s/JAVA_HOME=\/usr\/java\/default\//JAVA_HOME=\/usr\/java\/jdk17\//g" pp-web.init

sed -i "s/CATALINA_HOME=\/data\/service\/pinpoint-web\//CATALINA_HOME=\/data\/service\/pp-web\//g" pp-web.init

sed -i "s/CATALINA_BASE=\/data\/service\/pinpoint-web\//CATALINA_BASE=\/data\/service\/pp-web\//g" pp-web.init

 

將文件賦予"執行"的權限,把讓放到"init.d"中去。以後就可以restart快速重啓了。


 

chmod 711 pp-web.init

mv pp-web.init /etc/init.d/pp-web

 

 

# 測試一下restart

[root@localhost pp_res]# /etc/init.d/pp-web restart

Stoping Tomcat

Using CATALINA_BASE:   /data/service/pp-web/

Using CATALINA_HOME:   /data/service/pp-web/

Using CATALINA_TMPDIR: /data/service/pp-web//temp

Using JRE_HOME:        /usr/java/jdk17/

Using CLASSPATH:       /data/service/pp-web//bin/bootstrap.jar:/data/service/pp-web//bin/tomcat-juli.jar

 

waiting for processes to exitStarting tomcat

Using CATALINA_BASE:   /data/service/pp-web/

Using CATALINA_HOME:   /data/service/pp-web/

Using CATALINA_TMPDIR: /data/service/pp-web//temp

Using JRE_HOME:        /usr/java/jdk17/

Using CLASSPATH:       /data/service/pp-web//bin/bootstrap.jar:/data/service/pp-web//bin/tomcat-juli.jar

Tomcat started.

Tomcat is running with pid: 22703

 

5. 部署pp-agent採集監控數據

 

5.1 在測試系統中,部署pp-agent採集監控數據

 

部署採集器就很簡單了,只需要加3句話就好了。我這邊做一個測試的Tomcat,來模擬部署。

首先,先建立一個文件夾,放測試需要的包


 

mkdir /home/pp_test

cd /home/test

 

將測試需要的pp-agent拉到服務器上

pp-test

查看包是否上傳成功


 

[root@localhost pp_test]# ll

total 16820

-rw-r--r--. 1 root root 9277365 Nov  9 02:25 apache-tomcat-8.0.36.tar.gz

-rw-r--r--. 1 root root 6621915 Nov  9 02:25 pinpoint-agent-1.5.2.tar.gz

-rw-r--r--. 1 root root 1320206 Nov  9 02:25 test.war

 

5.2 配置模擬的Tomcat測試環境

爲了方便觀察,配置一個假的系統,解壓Tomcat到指定目錄


 

cd /home/pp_test

mkdir /data

tar -zxvf apache-tomcat-8.0.36.tar.gz

 

配置localhost讓外部可以訪問


 

cd /data/pp-test/conf/

sed -i "s/localhost/`ifconfig eth0 | grep 'inet addr' | awk '{print $2}' | awk -F: '{print $2}'`/g" server.xml

 

解壓測試用的war包


 

cd /home/pp_test/

rm -rf /data/pp-test/webapps/*

unzip test.war -d /data/pp-test/webapps/ROOT

 

5.3 配置pp-agent採集器

解壓pp-agent


 

cd /home/pp_test

tar -zxvf pinpoint-agent-1.5.2.tar.gz

mv pinpoint-agent-1.5.2 /data/pp-agent

 

編輯配置文件


 

cd /data/pp-agent/

vi pinpoint.config

 

主要修改IP,只需要指定到安裝pp-col的IP就行了,安裝pp-col啓動後,自動就開啓了9994,9995,9996的端口了。這裏就不需要操心了,如果有端口需求,要去pp-col的配置文件("pp-col/webapps/ROOT/WEB-INF/classes/pinpoint-collector.properties")中,修改這些端口


 

profiler.collector.ip=192.168.245.136

 

修改測試項目下的tomcat啓動文件"catalina.sh",修改這個只要是爲了監控測試環境的Tomcat,增加探針


 

cd /data/pp-test/bin

vi catalina.sh

 

在20行增加如下字段

  1. 第一行是pp-agent的jar包位置
  2. 第二行是agent的ID,這個ID是唯一的,我是用pp + 今天的日期命名的,只要與其他的項目的ID不重複就好了
  3. 第三行是採集項目的名字,這個名字可以隨便取,只要各個項目不重複就好了

 

CATALINA_OPTS="$CATALINA_OPTS -javaagent:/data/pp-agent/pinpoint-bootstrap-1.5.2.jar"

CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.agentId=pp20161122"

CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.applicationName=MyTestPP

 

5.4 監控Tomcat

 

配置好了。就可以開始監控了,我們啓動測試用的Tomcat的服務器


 

cd /data/pp-test/bin/

./startup.sh

 

查看啓動日誌,確實Tomcat啓動


 

tail -f ../logs/catalina.out

 

啓動了,我們就可以訪問測試環境了

test

test1

這時候我們在訪問pp-web,可以發現它的下拉框中,多了一個app

pp-testApp

pp-testView

 

因爲我訪問了兩次,所以他顯示有兩條請求記錄,可以在右上角的框查看詳情。

【注意】鼠標點擊右上角箭頭位置,鼠標左鍵按住不動,拉框查看。我被這個坑,坑懵逼了,特此寫清楚。

pp-detail

 

這時候就彈出了新頁面,可以看到,我訪問了一次主頁,訪問了一次test的servlet。而且詳細信息都記錄在下表中。

pp-code

 

總結

到這裏,整個部署過程就完了。值得要注意的地方:

  1. 如果Hbase不是與pp-web, pp-col裝在一臺機器上,需要安裝zookeeper,只要安裝就好,確實2181端口啓動就好。
  2. 如果zookeeper安裝在獨立機器上,這裏需要修改一下pp-colletor 和 pp-web的配置文件pinpoint-collector.properties,pinpoint-web.properties,不然會導致倆個模塊啓動失敗。
  3. 發現pinpoint還是有些缺陷,異步的操作監控不到,比如我寫了個多線程來發送HttpClient4的請求,但是pinpoint監控不到。但是它介紹又說可以監控到Httpclient4的請求。現在都是分佈式系統,異步拿數據再常見不過來,如果監控不到異步的操作,就很雞肋了。看pp1.6會不會修復這個問題
  4. 在pp1.6部署,Hbase中的默認字段有增加,如果沒有加上默認字段,取得的數據就會變得相當少了。

 

 

 

轉載地址:https://www.cnblogs.com/yyhh/p/6106472.html#yy0501

 

 

 

 

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章