問題定位

對于Tomcat的處理耗時(shí)較長的問題主要有當(dāng)時(shí)的并發(fā)量、session數(shù)、內(nèi)存及內(nèi)存的回收等幾個(gè)方面造成的。出現(xiàn)問題之后就要進(jìn)行分析了。?

1.關(guān)于Tomcat的session數(shù)目 ?
這個(gè)可以直接從Tomcat的web管理界面去查看即可?
或者借助于第三方工具Lambda Probe來查看，它相對于Tomcat自帶的管理稍微多了點(diǎn)功能，但也不多?

2.監(jiān)視Tomcat的內(nèi)存使用情況 ?
使用JDK自帶的jconsole可以比較明了的看到內(nèi)存的使用情況，線程的狀態(tài)，當(dāng)前加載的類的總量等?
JDK自帶的jvisualvm可以下載插件（如GC等），可以查看更豐富的信息。如果是分析本地的Tomcat的話，還可以進(jìn)行內(nèi)存抽樣等，檢查每個(gè)類的使用情況?

3.打印類的加載情況及對象的回收情況 ?
這個(gè)可以通過配置JVM的啟動(dòng)參數(shù)，打印這些信息（到屏幕（默認(rèn)也會(huì)到catalina.log中）或者文件），具體參數(shù)如下：?
-XX:+PrintGC：輸出形式：[GC 118250K->113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs]?
-XX:+PrintGCDetails：輸出形式：[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]?
-XX:+PrintGCTimeStamps -XX:+PrintGC：PrintGCTimeStamps可與上面兩個(gè)混合使用，輸出形式：11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]?
-XX:+PrintGCApplicationConcurrentTime：打印每次垃圾回收前，程序未中斷的執(zhí)行時(shí)間。可與上面混合使用。輸出形式：Application time: 0.5291524 seconds?
-XX:+PrintGCApplicationStoppedTime：打印垃圾回收期間程序暫停的時(shí)間。可與上面混合使用。輸出形式：Total time for which application threads were stopped: 0.0468229 seconds?
-XX:PrintHeapAtGC: 打印GC前后的詳細(xì)堆棧信息?
-Xloggc:filename:與上面幾個(gè)配合使用，把相關(guān)日志信息記錄到文件以便分析?

-verbose:class 監(jiān)視加載的類的情況?
-verbose:gc 在虛擬機(jī)發(fā)生內(nèi)存回收時(shí)在輸出設(shè)備顯示信息?
-verbose:jni 輸出native方法調(diào)用的相關(guān)情況，一般用于診斷jni調(diào)用錯(cuò)誤信息?

4.添加JMS遠(yuǎn)程監(jiān)控 ?
對于部署在局域網(wǎng)內(nèi)其它機(jī)器上的Tomcat，可以打開JMX監(jiān)控端口，局域網(wǎng)其它機(jī)器就可以通過這個(gè)端口查看一些常用的參數(shù)（但一些比較復(fù)雜的功能不支持），同樣是在JVM啟動(dòng)參數(shù)中配置即可，配置如下：?
-Dcom.sun.management.jmxremote.ssl=false? -Dcom.sun.management.jmxremote.authenticate=false?
-Djava.rmi.server.hostname=192.168.71.38 設(shè)置JVM的JMS監(jiān)控監(jiān)聽的IP地址，主要是為了防止錯(cuò)誤的監(jiān)聽成127.0.0.1這個(gè)內(nèi)網(wǎng)地址?
-Dcom.sun.management.jmxremote.port=1090 設(shè)置JVM的JMS監(jiān)控的端口?
-Dcom.sun.management.jmxremote.ssl=false 設(shè)置JVM的JMS監(jiān)控不實(shí)用SSL?
-Dcom.sun.management.jmxremote.authenticate=false 設(shè)置JVM的JMS監(jiān)控不需要認(rèn)證?


5.專業(yè)點(diǎn)的分析工具有 ?
IBM ISA，JProfiler等，具體監(jiān)控及分析方式去網(wǎng)上搜索即可。?

?

?

集群方案

單個(gè)Tomcat的處理性能是有限的，當(dāng)并發(fā)量較大的時(shí)候，就需要有部署多套來進(jìn)行負(fù)載均衡了。?

集群的關(guān)鍵點(diǎn)有以下幾點(diǎn)：?
1.引入負(fù)載端 ?
軟負(fù)載可以使用nginx或者apache來進(jìn)行，主要是使用一個(gè)分發(fā)的功能?
參考：?
http://ajita.iteye.com/blog/1715312（nginx負(fù)載）?
http://ajita.iteye.com/blog/1717121（apache負(fù)載）?

2.共享session處理 ?
目前的處理方式有如下幾種：?
1).使用Tomcat本身的Session復(fù)制功能?
參考http://ajita.iteye.com/blog/1715312（Session復(fù)制的配置）?
方案的有點(diǎn)是配置簡單，缺點(diǎn)是當(dāng)集群數(shù)量較多時(shí)，Session復(fù)制的時(shí)間會(huì)比較長，影響響應(yīng)的效率?
2).使用第三方來存放共享Session?
目前用的較多的是使用memcached來管理共享Session，借助于memcached-sesson-manager來進(jìn)行Tomcat的Session管理?
參考http://ajita.iteye.com/blog/1716320（使用MSM管理Tomcat集群session）?
3).使用黏性session的策略?
對于會(huì)話要求不太強(qiáng)（不涉及到計(jì)費(fèi)，失敗了允許重新請求下等）的場合，同一個(gè)用戶的session可以由nginx或者apache交給同一個(gè)Tomcat來處理，這就是所謂的session sticky策略，目前應(yīng)用也比較多?
參考：http://ajita.iteye.com/blog/1848665（tomcat session sticky）?
nginx默認(rèn)不包含session sticky模塊，需要重新編譯才行（windows下我也不知道怎么重新編譯）?
優(yōu)點(diǎn)是處理效率高多了，缺點(diǎn)是強(qiáng)會(huì)話要求的場合不合適?

3.小結(jié) ?
以上是實(shí)現(xiàn)集群的要點(diǎn)，其中1和2可以組合使用，具體場景具體分析吧~

?

JVM優(yōu)化

Tomcat本身還是運(yùn)行在JVM上的，通過對JVM參數(shù)的調(diào)整我們可以使Tomcat擁有更好的性能。針對JVM的優(yōu)化目前主要在兩個(gè)方面：?

1.內(nèi)存調(diào)優(yōu) ?
內(nèi)存方式的設(shè)置是在catalina.sh中，調(diào)整一下JAVA_OPTS變量即可，因?yàn)楹竺娴膯?dòng)參數(shù)會(huì)把JAVA_OPTS作為JVM的啟動(dòng)參數(shù)來處理。?

具體設(shè)置如下：?
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4"?

其各項(xiàng)參數(shù)如下：?
-Xmx3550m：設(shè)置JVM最大可用內(nèi)存為3550M。?
-Xms3550m：設(shè)置JVM促使內(nèi)存為3550m。此值可以設(shè)置與-Xmx相同，以避免每次垃圾回收完成后JVM重新分配內(nèi)存。?
-Xmn2g：設(shè)置年輕代大小為2G。整個(gè)堆大小=年輕代大小 + 年老代大小 + 持久代大小。持久代一般固定大小為64m，所以增大年輕代后，將會(huì)減小年老代大小。此值對系統(tǒng)性能影響較大，Sun官方推薦配置為整個(gè)堆的3/8。?
-Xss128k：設(shè)置每個(gè)線程的堆棧大小。JDK5.0以后每個(gè)線程堆棧大小為1M，以前每個(gè)線程堆棧大小為256K。更具應(yīng)用的線程所需內(nèi)存大小進(jìn)行調(diào)整。在相同物理內(nèi)存下，減小這個(gè)值能生成更多的線程。但是操作系統(tǒng)對一個(gè)進(jìn)程內(nèi)的線程數(shù)還是有限制的，不能無限生成，經(jīng)驗(yàn)值在3000~5000左右。?

-XX:NewRatio=4:設(shè)置年輕代（包括Eden和兩個(gè)Survivor區(qū)）與年老代的比值（除去持久代）。設(shè)置為4，則年輕代與年老代所占比值為1：4，年輕代占整個(gè)堆棧的1/5?
-XX:SurvivorRatio=4：設(shè)置年輕代中Eden區(qū)與Survivor區(qū)的大小比值。設(shè)置為4，則兩個(gè)Survivor區(qū)與一個(gè)Eden區(qū)的比值為2:4，一個(gè)Survivor區(qū)占整個(gè)年輕代的1/6?
-XX:MaxPermSize=16m:設(shè)置持久代大小為16m。?
-XX:MaxTenuringThreshold=0：設(shè)置垃圾最大年齡。如果設(shè)置為0的話，則年輕代對象不經(jīng)過Survivor區(qū)，直接進(jìn)入年老代。對于年老代比較多的應(yīng)用，可以提高效率。如果將此值設(shè)置為一個(gè)較大值，則年輕代對象會(huì)在Survivor區(qū)進(jìn)行多次復(fù)制，這樣可以增加對象再年輕代的存活時(shí)間，增加在年輕代即被回收的概論。?


2.垃圾回收策略調(diào)優(yōu) ?
垃圾回收的設(shè)置也是在catalina.sh中，調(diào)整JAVA_OPTS變量。?
具體設(shè)置如下：?
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:+UseParallelGC? -XX:MaxGCPauseMillis=100"?
具體的垃圾回收策略及相應(yīng)策略的各項(xiàng)參數(shù)如下：?

串行收集器（JDK1.5以前主要的回收方式）?
-XX:+UseSerialGC:設(shè)置串行收集器?

并行收集器（吞吐量優(yōu)先）?
示例：?
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC? -XX:MaxGCPauseMillis=100?

-XX:+UseParallelGC：選擇垃圾收集器為并行收集器。此配置僅對年輕代有效。即上述配置下，年輕代使用并發(fā)收集，而年老代仍舊使用串行收集。?
-XX:ParallelGCThreads=20：配置并行收集器的線程數(shù)，即：同時(shí)多少個(gè)線程一起進(jìn)行垃圾回收。此值最好配置與處理器數(shù)目相等。?
-XX:+UseParallelOldGC：配置年老代垃圾收集方式為并行收集。JDK6.0支持對年老代并行收集?
-XX:MaxGCPauseMillis=100:設(shè)置每次年輕代垃圾回收的最長時(shí)間，如果無法滿足此時(shí)間，JVM會(huì)自動(dòng)調(diào)整年輕代大小，以滿足此值。?
-XX:+UseAdaptiveSizePolicy：設(shè)置此選項(xiàng)后，并行收集器會(huì)自動(dòng)選擇年輕代區(qū)大小和相應(yīng)的Survivor區(qū)比例，以達(dá)到目標(biāo)系統(tǒng)規(guī)定的最低相應(yīng)時(shí)間或者收集頻率等，此值建議使用并行收集器時(shí)，一直打開。?

并發(fā)收集器（響應(yīng)時(shí)間優(yōu)先）?
示例：java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC?
-XX:+UseConcMarkSweepGC：設(shè)置年老代為并發(fā)收集。測試中配置這個(gè)以后，-XX:NewRatio=4的配置失效了，原因不明。所以，此時(shí)年輕代大小最好用-Xmn設(shè)置。?
-XX:+UseParNewGC: 設(shè)置年輕代為并行收集。可與CMS收集同時(shí)使用。JDK5.0以上，JVM會(huì)根據(jù)系統(tǒng)配置自行設(shè)置，所以無需再設(shè)置此值。?
-XX:CMSFullGCsBeforeCompaction：由于并發(fā)收集器不對內(nèi)存空間進(jìn)行壓縮、整理，所以運(yùn)行一段時(shí)間以后會(huì)產(chǎn)生“碎片”，使得運(yùn)行效率降低。此值設(shè)置運(yùn)行多少次GC以后對內(nèi)存空間進(jìn)行壓縮、整理。?
-XX:+UseCMSCompactAtFullCollection：打開對年老代的壓縮。可能會(huì)影響性能，但是可以消除碎片?

3.小結(jié) ?
在內(nèi)存設(shè)置中需要做一下權(quán)衡?
1)內(nèi)存越大，一般情況下處理的效率也越高，但同時(shí)在做垃圾回收的時(shí)候所需要的時(shí)間也就越長，在這段時(shí)間內(nèi)的處理效率是必然要受影響的。?
2)在大多數(shù)的網(wǎng)絡(luò)文章中都推薦 Xmx和Xms設(shè)置為一致，說是避免頻繁的回收，這個(gè)在測試的時(shí)候沒有看到明顯的效果，內(nèi)存的占用情況基本都是鋸齒狀的效果，所以這個(gè)還要根據(jù)實(shí)際情況來定。

?

Server.xml的Connection優(yōu)化

?

Tomcat調(diào)優(yōu)