APM入門與實戰

篇幅一：APM基礎篇

1、什麼是APM?

APM，全稱：Application Performance Management ，目前市面的系統基本都是參考Google的Dapper（大規模分佈式系統的跟蹤系統）來做的，翻譯傳送門《google的Dapper 中文翻譯》

思考下：不遵守該理論的是僞APM，耍流氓嗎？

APM的核心思想是什麼？ 在應用服務各節點相互調用的時候，從中記錄並傳遞一個應用級別的標記，這個標記可以用來關聯各個服務節點之間的關係。比如兩個應用服務節點之間使用 HTTP 作爲傳輸協議的話，那麼這些標記就會被加入到 HTTP 頭中。可見如何傳遞這些標記是與應用服務節點之間使用的通訊協議有關的，常用的協議就相對容易加入這些內容，一些按需定製的可能就相對困難些，這一點也直接決定了實現分佈式追蹤系統的難度。

2、爲什麼要用APM?

有業務痛點，纔要尋求解決方案，個人認爲，APM需要優先解決測試環境下兩個場景問題，基於測試先行的原則考慮：

優先關注宏觀數據，並不是說測試人員無須關注微觀層面的問題，在測試角度來看，先解決性能測試環境的數據採樣、收集問題，再去評估生產環境，而線上的鏈路監控需要研發跟運維去配合，【研發角度場景】相對於測試人員來說是弱關注了。</br>

3、市面上有哪些APM工具？

• Pinpoint

Pinpoint is an open source APM (Application Performance Management) tool for large-scale distributed systems written in Java.
https://github.com/naver/pinpoint

• SkyWalking

A distributed tracing system, and APM ( Application Performance Monitoring ) .
http://skywalking.org

• Zipkin

Zipkin is a distributed tracing system. It helps gather timing data needed to troubleshoot latency problems in microservice architectures. It manages both the collection and lookup of this data. Zipkin’s design is based on the Google Dapper paper.
http://zipkin.io/

• CAT （大衆點評）

CAT基於Java開發的實時應用監控平臺，包括實時應用監控，業務監控。
https://github.com/dianping/cat

4、先說結論

目前比較貼合 Google Dapper 原理設計的，Pinpoint 優於 Zipkin。
Pinpoint對代碼的零侵入，運用JavaAgent字節碼增強技術，添加啓動參數即可。
並且符合【測試角度場景】性能測試調優監控的宏觀；
當然，結論太早了，會有疑惑：

" Spring Cloud Slueth和zipkin之間的關係是什麼？ "

需要看詳細對比的，詳見下圖：

5、再說對比

本質上 Spring Cloud Slueth 與 Pinpoint 沒有可比性，真正對比的是Zipkin，Spring Cloud Slueth 聚焦在鏈路追蹤和分析，將信息發送到Zipkin，利用 Zipkin的存儲來存儲信息，當然，Zipkin也可以使用ELK來記錄日誌和展示，再通過收集服務器性能的腳本把數據存儲到ELK，則可以展示服務器狀況信息了。Zipkin的總體展示，也是基於鏈路分析爲主。

篇幅二：Pinpoint實戰篇

1、Pinpoint架構圖

Pinpoint is an open source APM (Application Performance Management) tool for large-scale distributed systems written in Java. </br>

架構圖對應說明：

• Pinpoint-Collector：收集各種性能數據
• Pinpoint-Agent：探針與應用服務器（例如tomcat)關聯，部署到同一臺服務器上
• Pinpoint-Web：將收集到的數據層現在web展示
• HBase Storage：收集到數據存到HBase中

2、Pinpoint的數據結構

Pinpoint 消息的數據結構主要包含三種類型 Span，Trace 和 TraceId。

• Span 是最基本的調用追蹤單元

  當遠程調用到達的時候，Span 指代處理該調用的作業，並且攜帶追蹤數據。爲了實現代碼級別的可見性，Span 下面還包含一層 SpanEvent 的數據結構。每個 Span 都包含一個 SpanId。

• Trace 是一組相互關聯的 Span 集合

  同一個 Trace 下的 Span 共享一個 TransactionId，而且會按照 SpanId 和 ParentSpanId 排列成一棵有層級關係的樹形結構。

• TraceId 是 TransactionId、SpanId 和 ParentSpanId 的組合

  TransactionId（TxId）是一個交易下的橫跨整個分佈式系統收發消息的 ID，其必須在整個服務器組中是全局唯一的。也就是說 TransactionId 識別了整個調用鏈；SpanId（SpanId）是處理遠程調用作業的 ID，當一個調用到達一個節點的時候隨即產生；ParentSpanId（pSpanId）顧名思義，就是產生當前 Span 的調用方 Span 的 ID。如果一個節點是交易的最初發起方，其 ParentSpanId 是 -1，以標誌其是整個交易的根 Span。下圖能夠比較直觀的說明這些 ID 結構之間的關係。</br>
  

3、Pinpoint部署

網上太多部署文檔，這裏不詳細說明，簡要說明下：</br>

注意版本要求：

• Java version required to run Pinpoint:</br>
  
• HBase compatibility table:</br>
  
• Agent compatibility table:</br>
  
  有兩種方式啓動：
  方式一：修改tomat目錄下bin/catalina.sh，在Control Script for the CATALINA Server加入以下三行代碼：

CATALINA_OPTS="$CATALINA_OPTS -javaagent:/home/webapps/service/pp-agent/pinpoint-bootstrap-1.6.2.jar"

CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.agentId=pp32tomcattest"

CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.applicationName=32tomcat"

第一行：pinpoint-bootstrap-1.6.2.jar的位置
第二行：agentId必須唯一,標誌一個jvm
第三行：applicationName表示同一種應用：同一個應用的不同實例應該使用不同的agentId,相同的applicationName

方式二：SpringBoot啓動

java  -javaagent:/home/webapps/pp-agent/pinpoint-bootstrap-1.6.2.jar  -Dpinpoint.agentId=pp32tomcattest -Dpinpoint.applicationName=32tomcat -jar 32tomcat-0.0.1-SNAPSHOT.jar 

4、代碼注入是如何工作的

Pinpoint 對代碼注入的封裝非常類似 AOP，當一個類被加載的時候會通過 Interceptor 向指定的方法前後注入 before 和 after 邏輯，在這些邏輯中可以獲取系統運行的狀態，並通過 TraceContext 創建 Trace 消息，併發送給 Pinpoint 服務器。但與 AOP 不同的是，Pinpoint 在封裝的時候考慮到了更多與目標代碼的交互能力，因此用 Pinpoint 提供的 API 來編寫代碼會比 AOP 更加容易和專業。

5、Pinpoint實戰效果演示

搭建一個java開源項目jforum，跑在tomcat下，使用jmeter進行壓測，用戶100個：

• 服務器圖（ServerMap）

  通過可視化其組件的互連方式來了解任何分佈式系統的拓撲。單擊節點將顯示有關組件的詳細信息，例如其當前狀態和事務計數。
  

• 實時活動線程圖（Realtime Active Thread Chart）

  實時監視應用程序內的活動線程。（用了官方圖，當時沒截圖）
  

• 請求/響應散佈圖（Request/Response Scatter Chart）

  可視化請求計數和響應模式，以確定潛在問題。可以通過在圖表上拖動來選擇事務以獲取更多詳細信息。
  

• 調用棧信息（CallStack）

  增強分佈式環境中每個事務的代碼級可見性，識別單個視圖中的瓶頸和故障點。
  

• 檢查器（Inspector）

查看應用程序的其他詳細信息，如CPU使用率，內存/垃圾收集，TPS和JVM參數。

6、總結

第一：PinPoint從宏觀上看：總體鏈路、服務總體狀態（cpu、內存等等信息），符合【測試角度場景】性能測試調優監控的宏觀；
第二：Spring Cloud Slueth需要結合Zipkin從微觀來看：自身無法單獨提供展示，要結合Zipkin展示鏈路問題（並沒有服務器總體狀態的展示），更多服務器性能狀況等信息展示需要定製腳本通過ELK收集展示，符合【研發角度場景】性能測試調優監控的微觀；

總的來說兩者是結合體，要單獨使用的話，從測試業務上來看：PinPoint滿足，性能測試調優監控的宏觀【測試角度場景】

7、項目場景

訪問某個API，後端應用服務產生的一系列鏈路，爲何請求一次有23次數據庫訪問呢？這裏就是需要排查的的地方，詳細看看CallTree，找出可優化的SQL查詢語句。


另外，在做性能測試的時候，服務器併發的IO，PP不斷寫入也會產生瓶頸，需要後續解決。

8、標籤庫項目簡單壓測

通過jmeter對標籤庫進行簡單壓測，腳本如下：

通過APM發現問題如下：

pquery.do的res高達6782ms，需要安排開發進一步排查定位代碼問題

另外一種場景，測試人員無法在頁面獲取到的信息（有些情況下，測試人員是沒有服務器權限），這些是服務底層的異常信息，可以通過CallTree來查看。

9、應用服務接入APM後的鏈路全景蜘蛛網圖

參考文獻：

Pinpoint github
Pinpoint源碼解析（三）
Dapper，大規模分佈式系統的跟蹤系統
Pinpoint學習筆記
Pinpoint v1.5.0 APM 視頻介紹