對于Tomcat的處理耗時(shí)較長的問題主要有當(dāng)時(shí)的并發(fā)量、session數(shù)、內(nèi)存及內(nèi)存的回收等幾個(gè)方面造成的。出現(xiàn)問題之后就要進(jìn)行分析了。
1.關(guān)于Tomcat的session數(shù)目
這個(gè)可以直接從Tomcat的web管理界面去查看即可
或者借助于第三方工具Lambda Probe來查看,它相對于Tomcat自帶的管理稍微多了點(diǎn)功能,但也不多
2.監(jiān)視Tomcat的內(nèi)存使用情況
使用JDK自帶的jconsole可以比較明了的看到內(nèi)存的使用情況,線程的狀態(tài),當(dāng)前加載的類的總量等
JDK自帶的jvisualvm可以下載插件(如GC等),可以查看更豐富的信息。如果是分析本地的Tomcat的話,還可以進(jìn)行內(nèi)存抽樣等,檢查每個(gè)類的使用情況
3.打印類的加載情況及對象的回收情況
這個(gè)可以通過配置JVM的啟動(dòng)參數(shù),打印這些信息(到屏幕(默認(rèn)也會(huì)到catalina.log中)或者文件),具體參數(shù)如下:
-XX:+PrintGC:輸出形式:[GC 118250K->113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs]
-XX:+PrintGCDetails:輸出形式:[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]
-XX:+PrintGCTimeStamps -XX:+PrintGC:PrintGCTimeStamps可與上面兩個(gè)混合使用,輸出形式:11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]
-XX:+PrintGCApplicationConcurrentTime:打印每次垃圾回收前,程序未中斷的執(zhí)行時(shí)間??膳c上面混合使用。輸出形式:Application time: 0.5291524 seconds
-XX:+PrintGCApplicationStoppedTime:打印垃圾回收期間程序暫停的時(shí)間。可與上面混合使用。輸出形式:Total time for which application threads were stopped: 0.0468229 seconds
-XX:PrintHeapAtGC: 打印GC前后的詳細(xì)堆棧信息
-Xloggc:filename:與上面幾個(gè)配合使用,把相關(guān)日志信息記錄到文件以便分析
-verbose:class 監(jiān)視加載的類的情況
-verbose:gc 在虛擬機(jī)發(fā)生內(nèi)存回收時(shí)在輸出設(shè)備顯示信息
-verbose:jni 輸出native方法調(diào)用的相關(guān)情況,一般用于診斷jni調(diào)用錯(cuò)誤信息
4.添加JMS遠(yuǎn)程監(jiān)控
對于部署在局域網(wǎng)內(nèi)其它機(jī)器上的Tomcat,可以打開JMX監(jiān)控端口,局域網(wǎng)其它機(jī)器就可以通過這個(gè)端口查看一些常用的參數(shù)(但一些比較復(fù)雜的功能不支持),同樣是在JVM啟動(dòng)參數(shù)中配置即可,配置如下:
-Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false
-Djava.rmi.server.hostname=192.168.71.38 設(shè)置JVM的JMS監(jiān)控監(jiān)聽的IP地址,主要是為了防止錯(cuò)誤的監(jiān)聽成127.0.0.1這個(gè)內(nèi)網(wǎng)地址
-Dcom.sun.management.jmxremote.port=1090 設(shè)置JVM的JMS監(jiān)控的端口
-Dcom.sun.management.jmxremote.ssl=false 設(shè)置JVM的JMS監(jiān)控不實(shí)用SSL
-Dcom.sun.management.jmxremote.authenticate=false 設(shè)置JVM的JMS監(jiān)控不需要認(rèn)證
5.專業(yè)點(diǎn)的分析工具有
IBM ISA,JProfiler等,具體監(jiān)控及分析方式去網(wǎng)上搜索即可。
單個(gè)Tomcat的處理性能是有限的,當(dāng)并發(fā)量較大的時(shí)候,就需要有部署多套來進(jìn)行負(fù)載均衡了。
集群的關(guān)鍵點(diǎn)有以下幾點(diǎn):
1.引入負(fù)載端
軟負(fù)載可以使用nginx或者apache來進(jìn)行,主要是使用一個(gè)分發(fā)的功能
參考:
http://ajita.iteye.com/blog/1715312(nginx負(fù)載)
http://ajita.iteye.com/blog/1717121(apache負(fù)載)
2.共享session處理
目前的處理方式有如下幾種:
1).使用Tomcat本身的Session復(fù)制功能
參考http://ajita.iteye.com/blog/1715312(Session復(fù)制的配置)
方案的有點(diǎn)是配置簡單,缺點(diǎn)是當(dāng)集群數(shù)量較多時(shí),Session復(fù)制的時(shí)間會(huì)比較長,影響響應(yīng)的效率
2).使用第三方來存放共享Session
目前用的較多的是使用memcached來管理共享Session,借助于memcached-sesson-manager來進(jìn)行Tomcat的Session管理
參考http://ajita.iteye.com/blog/1716320(使用MSM管理Tomcat集群session)
3).使用黏性session的策略
對于會(huì)話要求不太強(qiáng)(不涉及到計(jì)費(fèi),失敗了允許重新請求下等)的場合,同一個(gè)用戶的session可以由nginx或者apache交給同一個(gè)Tomcat來處理,這就是所謂的session sticky策略,目前應(yīng)用也比較多
參考:http://ajita.iteye.com/blog/1848665(tomcat session sticky)
nginx默認(rèn)不包含session sticky模塊,需要重新編譯才行(windows下我也不知道怎么重新編譯)
優(yōu)點(diǎn)是處理效率高多了,缺點(diǎn)是強(qiáng)會(huì)話要求的場合不合適
3.小結(jié)
以上是實(shí)現(xiàn)集群的要點(diǎn),其中1和2可以組合使用,具體場景具體分析吧~
Tomcat本身還是運(yùn)行在JVM上的,通過對JVM參數(shù)的調(diào)整我們可以使Tomcat擁有更好的性能。針對JVM的優(yōu)化目前主要在兩個(gè)方面:
1.內(nèi)存調(diào)優(yōu)
內(nèi)存方式的設(shè)置是在catalina.sh中,調(diào)整一下JAVA_OPTS變量即可,因?yàn)楹竺娴膯?dòng)參數(shù)會(huì)把JAVA_OPTS作為JVM的啟動(dòng)參數(shù)來處理。
具體設(shè)置如下:
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4"
其各項(xiàng)參數(shù)如下:
-Xmx3550m:設(shè)置JVM最大可用內(nèi)存為3550M。
-Xms3550m:設(shè)置JVM促使內(nèi)存為3550m。此值可以設(shè)置與-Xmx相同,以避免每次垃圾回收完成后JVM重新分配內(nèi)存。
-Xmn2g:設(shè)置年輕代大小為2G。整個(gè)堆大小=年輕代大小 + 年老代大小 + 持久代大小。持久代一般固定大小為64m,所以增大年輕代后,將會(huì)減小年老代大小。此值對系統(tǒng)性能影響較大,Sun官方推薦配置為整個(gè)堆的3/8。
-Xss128k:設(shè)置每個(gè)線程的堆棧大小。JDK5.0以后每個(gè)線程堆棧大小為1M,以前每個(gè)線程堆棧大小為256K。更具應(yīng)用的線程所需內(nèi)存大小進(jìn)行調(diào)整。在相同物理內(nèi)存下,減小這個(gè)值能生成更多的線程。但是操作系統(tǒng)對一個(gè)進(jìn)程內(nèi)的線程數(shù)還是有限制的,不能無限生成,經(jīng)驗(yàn)值在3000~5000左右。
-XX:NewRatio=4:設(shè)置年輕代(包括Eden和兩個(gè)Survivor區(qū))與年老代的比值(除去持久代)。設(shè)置為4,則年輕代與年老代所占比值為1:4,年輕代占整個(gè)堆棧的1/5
-XX:SurvivorRatio=4:設(shè)置年輕代中Eden區(qū)與Survivor區(qū)的大小比值。設(shè)置為4,則兩個(gè)Survivor區(qū)與一個(gè)Eden區(qū)的比值為2:4,一個(gè)Survivor區(qū)占整個(gè)年輕代的1/6
-XX:MaxPermSize=16m:設(shè)置持久代大小為16m。
-XX:MaxTenuringThreshold=0:設(shè)置垃圾最大年齡。如果設(shè)置為0的話,則年輕代對象不經(jīng)過Survivor區(qū),直接進(jìn)入年老代。對于年老代比較多的應(yīng)用,可以提高效率。如果將此值設(shè)置為一個(gè)較大值,則年輕代對象會(huì)在Survivor區(qū)進(jìn)行多次復(fù)制,這樣可以增加對象再年輕代的存活時(shí)間,增加在年輕代即被回收的概論。
2.垃圾回收策略調(diào)優(yōu)
垃圾回收的設(shè)置也是在catalina.sh中,調(diào)整JAVA_OPTS變量。
具體設(shè)置如下:
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100"
具體的垃圾回收策略及相應(yīng)策略的各項(xiàng)參數(shù)如下:
串行收集器(JDK1.5以前主要的回收方式)
-XX:+UseSerialGC:設(shè)置串行收集器
并行收集器(吞吐量優(yōu)先)
示例:
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100
-XX:+UseParallelGC:選擇垃圾收集器為并行收集器。此配置僅對年輕代有效。即上述配置下,年輕代使用并發(fā)收集,而年老代仍舊使用串行收集。
-XX:ParallelGCThreads=20:配置并行收集器的線程數(shù),即:同時(shí)多少個(gè)線程一起進(jìn)行垃圾回收。此值最好配置與處理器數(shù)目相等。
-XX:+UseParallelOldGC:配置年老代垃圾收集方式為并行收集。JDK6.0支持對年老代并行收集
-XX:MaxGCPauseMillis=100:設(shè)置每次年輕代垃圾回收的最長時(shí)間,如果無法滿足此時(shí)間,JVM會(huì)自動(dòng)調(diào)整年輕代大小,以滿足此值。
-XX:+UseAdaptiveSizePolicy:設(shè)置此選項(xiàng)后,并行收集器會(huì)自動(dòng)選擇年輕代區(qū)大小和相應(yīng)的Survivor區(qū)比例,以達(dá)到目標(biāo)系統(tǒng)規(guī)定的最低相應(yīng)時(shí)間或者收集頻率等,此值建議使用并行收集器時(shí),一直打開。
并發(fā)收集器(響應(yīng)時(shí)間優(yōu)先)
示例:java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC
-XX:+UseConcMarkSweepGC:設(shè)置年老代為并發(fā)收集。測試中配置這個(gè)以后,-XX:NewRatio=4的配置失效了,原因不明。所以,此時(shí)年輕代大小最好用-Xmn設(shè)置。
-XX:+UseParNewGC: 設(shè)置年輕代為并行收集。可與CMS收集同時(shí)使用。JDK5.0以上,JVM會(huì)根據(jù)系統(tǒng)配置自行設(shè)置,所以無需再設(shè)置此值。
-XX:CMSFullGCsBeforeCompaction:由于并發(fā)收集器不對內(nèi)存空間進(jìn)行壓縮、整理,所以運(yùn)行一段時(shí)間以后會(huì)產(chǎn)生“碎片”,使得運(yùn)行效率降低。此值設(shè)置運(yùn)行多少次GC以后對內(nèi)存空間進(jìn)行壓縮、整理。
-XX:+UseCMSCompactAtFullCollection:打開對年老代的壓縮??赡軙?huì)影響性能,但是可以消除碎片
3.小結(jié)
在內(nèi)存設(shè)置中需要做一下權(quán)衡
1)內(nèi)存越大,一般情況下處理的效率也越高,但同時(shí)在做垃圾回收的時(shí)候所需要的時(shí)間也就越長,在這段時(shí)間內(nèi)的處理效率是必然要受影響的。
2)在大多數(shù)的網(wǎng)絡(luò)文章中都推薦 Xmx和Xms設(shè)置為一致,說是避免頻繁的回收,這個(gè)在測試的時(shí)候沒有看到明顯的效果,內(nèi)存的占用情況基本都是鋸齒狀的效果,所以這個(gè)還要根據(jù)實(shí)際情況來定。