標籤:log instr 打包 OLE gis heap dump 調試 ted ams
前段時間在給公司項目做效能分析,從簡單的分析Log(GC log, postgrep log, hibernate statitistic),到通過AOP搜集軟體運行資料,再到PET測試,感覺時間花了不少,效能也有一定的提升,但總感覺像是工作在原始時代,無法簡單順暢,又無比清晰的獲得想要的結果。遂花費了一定的時間,從新梳理學習了一下之前用過的關於jvm調優和記憶體分析的各種工具,包括JDK內建的jps, jstack, jmap, jconsole,以及IBM的HeapAnalyzer等,這些工具雖然提供了不少功能,但其可用度,便捷度,遠沒達到IntelliJ之於Java開發那種地步。在偶然情況下,在雲棲社區上發現有人推薦Jprofiler,裝上使用版一用,發現果然是神器,特此推薦給大家。先聲明,這個軟體是商用的,網上有很多關於lisence的文章,我這裡轉寄,但是絕不推薦大家用破解版!
[email protected]#36573-fdkscp15axjj6#25257
[email protected]#5481-ucjn4a16rvd98#6038
[email protected]#99016-hli5ay1ylizjj#27215
[email protected]#40775-3wle0g1uin5c1#0674
[email protected]#7009-14frku31ynzpfr#20176
[email protected]#49604-1jfe58we9gyb6#5814
[email protected]#25531-1qcev4yintqkj#23927
[email protected]#96496-1qsu1lb1jz7g8w#23479
[email protected]#20948-11amlvg181cw0p#171159
然後,先轉一篇雲棲上的文章,然後再慢慢開始我們的Jprofiler之旅。
一.JProfiler是什麼
JProfiler是由ej-technologies GmbH公司開發的一款效能瓶頸分析工具(該公司還開發部署工具)。
其特點:
- 使用方便
- 介面操作友好
- 對被分析的應用影響小
- CPU,Thread,Memory分析功能尤其強大
- 支援對jdbc,noSql, jsp, servlet, socket等進行分析
- 支援多種模式(離線,線上)的分析
- 跨平台 (圖1)
二.資料擷取
Q1. JProfiler既然是一款效能瓶頸分析工具,這些分析的相關資料來自於哪裡?
Q2. JProfiler是怎麼將這些資料收集並展現的?
(圖2)
A1. 分析的資料主要來自於下面倆部分
1. 一部分來自於jvm的分析介面**JVMTI**(JVM Tool Interface) , JDK必須>=1.6
JVMTI is an event-based system. The profiling agent library can register handler functions for different events. It can then enable or disable selected events
例如: 對象的生命週期,thread的生命週期等資訊
2. 一部分來自於instruments classes(可理解為class的重寫,增加JProfiler相關統計功能)
例如:方法執行時間,次數,方法棧等資訊
A2. 資料收集的原理2
1. 使用者在JProfiler GUI中下達監控的指令(一般就是點擊某個按鈕)
2. JProfiler GUI JVM 通過socket(預設連接埠8849),發送指令給被分析的jvm中的JProfile Agent。
3. JProfiler Agent(如果不清楚Agent請看文章第三部分"啟動模式") 收到指令後,將該指令轉換成相關需要監聽的事件或者指令,來註冊到JVMTI上或者直接讓JVMTI去執行某功能(例如dump jvm記憶體)
4. JVMTI 根據註冊的事件,來收集當前jvm的相關資訊。 例如: 線程的生命週期; jvm的生命週期;classes的生命週期;對象執行個體的生命週期;堆記憶體的即時資訊等等
5. JProfiler Agent將採集好的資訊儲存到**記憶體**中,按照一定規則統計好(如果發送所有資料JProfiler GUI,會對被分析的應用網路產生比較大的影響)
6. 返回給JProfiler GUI Socket.
7. JProfiler GUI Socket 將收到的資訊返回 JProfiler GUI Render
8. JProfiler GUI Render 渲染成最終的展示效果
三. 資料擷取方式和啟動模式
A1. JProfier採集方式分為兩種:Sampling(樣本採集)和Instrumentation
Sampling: 類似於樣本統計, 每隔一定時間(5ms)將每個線程棧中方法棧中的資訊統計出來。優點是對應用影響小(即使你不配置任何Filter, Filter可參考文章第四部分),缺點是一些資料/特性不能提供(例如:方法的調用次數)
Instrumentation: 在class載入之前,JProfier把相關功能代碼寫入到需要分析的class中,對正在啟動並執行jvm有一定影響。優點: 功能強大,但如果需要分析的class多,那麼對應用影響較大,一般配合Filter一起使用。所以一般JRE class和framework的class是在Filter中通常會過濾掉。
注: JProfiler本身沒有指出資料的採集類型,這裡的採集類型是針對方法調用的採集類型 。因為JProfiler的絕大多數核心功能都依賴方法調用採集的資料, 所以可以直接認為是JProfiler的資料擷取類型。
A2: 啟動模式:
Attach mode
可直接將本機正在啟動並執行jvm載入JProfiler Agent. 優點是很方便,缺點是一些特性不能支援。如果選擇Instrumentation資料擷取方式,那麼需要花一些額外時間來重寫需要分析的class。
Profile at startup
在被分析的jvm啟動時,將指定的JProfiler Agent手動載入到該jvm。JProfiler GUI 將收集資訊類型和策略等配置資訊通過socket發送給JProfiler Agent,收到這些資訊後該jvm才會啟動。
在被分析的jvm 的啟動參數增加下面內容:
文法: -agentpath:[path to jprofilerti library]
【注】: 文法不清楚沒關係,JProfiler提供了協助嚮導.
(圖3)
Prepare for profiling:
和Profile at startup的主要區別:被分析的jvm不需要收到JProfiler GUI 的相關配置資訊就可以啟動。
Offline profiling
一般用於適用於不能直接調試線上的情境。Offline profiling需要將資訊採集內容和策略(一些Trigger, Trigger請參考文章第五部分)打包成一個設定檔(config.xml),線上上啟動該jvm 載入 JProfiler Agent時,載入該xml。那麼JProfiler Agent會根據Trigger的類型會產生不同的資訊。例如: heap dump; thread dump; method call record等
文法:
-agentpath:/home/2080/jprofiler8/bin/Linux-x64/libjprofilerti.so=offline,id=151,config=/home/2080/config.xml
【注】: config.xml中的每一個被分析的jvm的採集資訊都有一個id來標識。
下面是使用了離線模式,並使用了每隔一秒dump heap 的Trigger:
四. JProfiler核心概念
Filter: 什麼class需要被分析。分為包含和不包含兩種類型的Filter。
(圖4)
Profiling Settings: 收據收集的策略:Sampling和 Instrumentation,一些資料擷取細節可以自訂.
(圖5)
Triggers: 一般用於**offline**模式,告知JProfiler Agent 什麼時候觸發什麼行為來收集指定資訊.
(圖6)
Live memory: class/class instance的相關資訊。 例如對象的個數,大小,對象建立的方法執行棧,對象建立的熱點。
(圖7)
Heap walker: 對一定時間內收集的記憶體對像資訊進行靜態分析,功能強大且使用。包含對象的outgoing reference, incoming reference, biggest object等
(圖8)
CPU views: CPU消耗的分布及時間(cpu時間或者已耗用時間); 方法的執行圖; 方法的執行統計(最大,最小,平均已耗用時間等)
(圖9)
Thread: 當前jvm所有線程的運行狀態,線程持有鎖的狀態,可dump線程。
(圖10)
Monitors & locks: 所有線程持有鎖的情況以及鎖的資訊
(圖11)
Telemetries: 包含heap, thread, gc, class等的趨勢圖(遙測視圖)
五. 實踐
為了方便實踐,直接以JProfiler8內建的一個例子來協助理解上面的相關概念。
JProfiler 內建的例子如下:類比了記憶體泄露和線程阻塞的情境:
具體源碼參考: /jprofiler install path/demo/bezier
(圖12 )
(圖13 Leak Memory 類比記憶體泄露, Simulate blocking 類比線程間鎖的阻塞)
A1. 首先來分析下記憶體泄露的情境:(勾選圖13中 Leak Memory 類比記憶體泄露)
1. 在**Telemetries-> Memory**視圖中你會看到大致如的情境(在看的過程中可以間隔一段時間去執行Run GC這個功能):看到藍色地區,老生代在gc後(**波穀**)記憶體的大小在慢慢的增加(理想情況下,這個值應該是穩定的)
(圖14)
在 Live memory->Recorded Objects 中點擊**record allocation data**按鈕,開始統計一段時間內建立的對象資訊。執行一次**Run GC**後看看當前對象資訊的大小,並點擊工具列中**Mark Current**按鈕(其實就是給當前對象數量打個標記。執行一次Run GC,然後再繼續觀察;執行一次Run GC,然後再繼續觀察...。最後看看哪些對象在不斷GC後,數量還一直上漲的。最後你看到的資訊可能和類似
(圖15 綠色是標記前的數量,紅色是標記後的增量)
在Heap walker中分析剛才記錄的對象資訊
(圖16)
(圖17)
點擊中執行個體最多的class,右鍵**Use Selected Instances->Reference->Incoming Reference**.
發現該Long資料最終是存放在**bezier.BeaierAnim.leakMap**中。
(圖18)
在Allocations tab項中,右鍵點擊其中的某個方法,可查看到具體的源碼資訊.
(圖19)
【注】:到這裡問題已經非常清楚了,明白了在圖17中為什麼哪些執行個體的數量是一樣多,並且為什麼記憶體在fullgc後還是回收不了(一個old 區的對象leakMap,put的資訊也會進入old區, leakMap如回收不掉,那麼該map中包含的對象也回收不掉)。
A2. 類比線程阻塞的情境(勾選圖13中Simulate blocking 類比線程間鎖的阻塞)
為了方便區分線程,我將Demo中的BezierAnim.java的L236的線程命名為test
public void start() { thread = new Thread(this, "test"); thread.setPriority(Thread.MIN_PRIORITY); thread.start(); }
正常情況下,如
(圖20)
勾選了Demo中"Simulate blocking"選項後,如(注意看下中的狀態表徵圖), test線程block狀態明顯增加了。
(圖21)
在**Monitors & locks->Monitor History**觀察了一段時間後,會發現有4種發生鎖的情況。
第一種:
AWT-EventQueue-0 線程持有一個Object的鎖,並且處於Waiting狀態。
圖下方的代碼提示出Demo.block方法調用了object.wait方法。這個還是比較容易理解的。
(圖22)
第二種:
AWT-EventQueue-0佔有了bezier.BezierAnim$Demo執行個體上的鎖,而test線程等待該線程釋放。
注意中下方的原始碼, 這種鎖的出現原因是Demo的blcok方法在AWT和test線程
都會被執行,並且該方法是synchronized.
(圖23)
第三種和第四種:
test線程中會不斷向事件Event Dispatching Thread提交任務,導致競爭java.awt.EventQueue對象鎖。
提交任務的方式是下面的代碼:repaint()
和EventQueue.invokeLater
public void run() { Thread me = Thread.currentThread(); while (thread == me) { repaint(); if (block) { block(false); } try { Thread.sleep(10); } catch (Exception e) { break; } EventQueue.invokeLater(new Runnable() { @Override public void run() { onEDTMethod(); } }); } thread = null; }
(圖24)
六. 最佳實務
- JProfiler都會對一些特殊操作給予提示,這時候最好仔細閱讀下說明.
- "Mark Current"功能在某些情境很有效
- Heap walker一般是靜態分析在Live memory->Recorder objects的對象資訊,這些資訊可能會被GC回收掉,導致Heap walker中什麼也沒有顯示出來。這種現象是正常的。
- 可以才工具列中Start Recordings配置一次性收集的資訊
- Filter中include和exclude是有順序的,注意使用**左下方**的**“Show Filter Tree”**來驗證一下順序 (圖25)
七. 參考文獻
- JProfiler helper: http://resources.ej-technologies.com/jprofiler/help/doc/index.html
JVMTI: http://docs.oracle.com/javase/7/docs/platform/jvmti/jvmti.html
Java效能分析神器-JProfiler詳解(一)(轉)