Tomcat性能調優方案
?
一、操作系統調優?
對于操作系統優化來說,是盡可能的增大可使用的內存容量、提高CPU的頻率,保證文件系統的讀寫速率等。經過壓力測試驗證,在并發連接很多的情況下,CPU的處理能力越強,系統運行速度越快。。?
【適用場景】 任何項目。?
二、Java虛擬機調優?
應該選擇SUN的JVM,在滿足項目需要的前提下,盡量選用版本較高的JVM,一般來說高版本產品在速度和效率上比低版本會有改進。?
JDK1.4比JDK1.3性能提高了近10%-20%,JDK1.5比JDK1.4性能提高25%-75%。?
因此對性能要求較高的情況推薦使用 JDK1.6。?
【適用場景】 任何項目。?
三、Apache集成Tomcat?
Web服務器專門處理HTTP請求,應用服務器是通過很多協議為應用提供商業邏輯。雖然Tomcat也可以作web服務器,但其處理靜態html的速度比不上Apache,且其作為web服務器的功能遠不如Apache,因此把Apache和Tomcat集成起來,將html和Jsp的功能部分進行明確分工,讓Tomcat只處理Jsp部分,其他的由Apache,IIS等web服務器去處理,由此大大提高Tomcat的運行效率。?
如果一個項目中大量使用了靜態頁面、大量的圖片等,并有有較大的訪問量,推薦使用Apache集成Tomcat的方式來提高系統的整體性能。?
Apache和Tomcat的整合有三種方式,分別是JK、http_proxy和ajp_proxy.其中JK方式是最常見的方式,JK本身有兩個版本分別是1和2,目前1最新版本是1.2.8,而版本2早已經廢棄了。http_proxy是利用Apache自帶的mod_proxy模塊使用代理技術來連接Tomcat。Ajp_proxy連接方式其實跟http_proxy方式一樣,都是由mod_proxy所提供的功能。只需要把配置中的http://換成ajp://,同時連接的是Tomcat的AJP Connector所在的端口。?
相對于JK的連接方式,后兩種在配置上比較簡單的,靈活性方面也一點都不遜色。但就穩定性而言不像JK這樣久經考驗,所以建議采用JK的連接方式。?
Apache+JK+Tomcat配置:?
使用到的兩個配置文件分別是:httpd.conf和mod_jk.conf。其中httpd.conf是Apache服務器的配置文件,用來加載JK模塊以及指定JK配置文件信息。mod_jk.conf是到Tomcat服務器的連接定義文件。?
【部署步驟】?
1.安裝Apache服務器?
2.部署Tomcat?
3.將mod_jk.so拷貝到modules目錄下面?
4.修改httpd.conf和mod_jk.conf?
【適用場景】? 大量使用靜態頁面的應用系統。?
四、Apache和Tomcat集群?
對于并發要求很高的系統,我們需要采取負載均衡的方式來分擔Tomcat服務器的壓力。負載均衡實現大概有四種:
第一是通過DNS
,但只能簡單的實現輪流分配,不能處理故障;
第二是基于MS IIS,windows 2003 server本身就帶了負載均衡服務
;
第三是硬件方式
,通過交換機功能或專門的負載均衡設備來實現;
第四種是軟件的方式
,通過一臺負載均衡服務器進行,上面安裝軟件。使用Apache Httpd Server做負載均衡器,Tomcat集群節點使用Tomcat就可以做到上述第四種方式,這種方式比較靈活,成本相對比較低,另外一個很大的優點就是可以根據應用情況和服務器的情況做一些靈活的配置。所以推薦使用Apache+Tomcat集群來實現負載均衡。?
采用Tomcat集群可以最大程度的發揮服務器的性能,可以在配置較高的服務器上部署多個Tomcat,也可以在多臺服務器上分別部署Tomcat,Apache和Tomcat整合的方式還是JK方式。經過驗證,系統對大用戶量使用的響應方面,Apache+3Tomccat集群> Apache+2Tomcat集群 > Apache集成Tomcat > 單個Tomcat。并且采用Apache+多Tomcat集群的部署方式時,如果一個Tomcat出現宕機,系統可以繼續使用,所以在硬件系統性能足夠優越的情況下,需要盡量發揮軟件的性能,可以采用增加Tomcat集群的方式。?
Apache+Tomcat集群的方式使用到得配置文件有httpd.conf、mod_jk.conf、workers.properties。其中mod_jk.conf是對JK信息的配置,包括JK的路徑等,workers.properties配置文件是對Tomcat服務器的連接定義文件。?
Apache需要調整運行參數,這樣才能構建一個適合相應網絡環境的web服務。其中可進行的優化配置如下:?
1. 設置MPM(Multi Processing Modules多道處理模塊)。ThreadPerChild,這個參數用于設置每個進程的線程數,在Windows環境下默認值是64,最大值是1920,建議設置為100-500之間,服務器性能高的話值大一些,反之小一些。MaxRequestPerChild表示每個子進程能夠處理的最大請求數。這個參數的值更大程度上取決于服務器的內存,如果內存比較大的話可以設置為很大的參數,否則設置一個較小的值,建議值是3000.?
2. 關閉DNS和名字解析?? HostnameLookups off?
3. 打開UseCanonicalName模塊? UseCanonicalName on?
4. 關閉多余模塊? 一般來說,不需要加載的模塊有,mod_include.so、mod_autoindex.so、mod_access.so、mod_auth.so.?
5. 打開KeepAlive支持??
KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000?
???? 根據實際經驗,通過Apache和Tomcat集群的方式提高系統性能的效果十分明顯,這種方式可以最大化的利用硬件資源,通過多個Tomcat的處理來分擔單Tomcat時的壓力。?
【部署步驟】?
1.安裝Apache服務器?
2.部署Tomcat集群,即多個相同的Tomcat。?
3.將mod_jk.so拷貝到modules目錄下面?
4.修改httpd.conf、mod_jk.conf和workers.properties?
【適用場景】? 并發用戶量及在線使用用戶數量比較高的系統。?
五、Tomcat自身優化?
1. JVM參數調優:-Xms<size> 表示JVM初始化堆的大小,-Xmx<size>表示JVM堆的最大值。這兩個值的大小一般根據需要進行設置。當應用程序需要的內存超出堆的最大值時虛擬機就會提示內存溢出,并且導致應用服務崩潰。因此一般建議堆的最大值設置為可用內存的最大值的80%。在catalina.bat中,設置JAVA_OPTS='-Xms256m -Xmx512m',表示初始化內存為256MB,可以使用的最大內存為512MB。?
2. 禁用DNS查詢?
當web應用程序向要記錄客戶端的信息時,它也會記錄客戶端的IP地址或者通過域名服務器查找機器名轉換為IP地址。DNS查詢需要占用網絡,并且包括可能從很多很遠的服務器或者不起作用的服務器上去獲取對應的IP的過程,這樣會消耗一定的時間。為了消除DNS查詢對性能的影響我們可以關閉DNS查詢,方式是修改server.xml文件中的enableLookups參數值:?
Tomcat4?
<Connector className="org.apache.coyote.tomcat4.CoyoteConnector" port="80" minProcessors="5" maxProcessors="75" enableLookups="false" redirectPort="8443" acceptCount="100" debug="0" connectionTimeout="20000" useURIValidationHack="false" disableUploadTimeout="true" />?
Tomcat5?
<Connector port="80" maxThreads="150" minSpareThreads="25" maxSpareThreads="75" enableLookups="false" redirectPort="8443" acceptCount="100" debug="0" connectionTimeout="20000" disableUploadTimeout="true"/>?
3. 調整線程數?
通過應用程序的連接器(Connector)進行性能控制的的參數是創建的處理請求的線程數。Tomcat使用線程池加速響應速度來處理請求。在Java中線程是程序運行時的路徑,是在一個程序中與其它控制線程無關的、能夠獨立運行的代碼段。它們共享相同的地址空間。多線程幫助程序員寫出CPU最大利用率的高效程序,使空閑時間保持最低,從而接受更多的請求。?
??? Tomcat4中可以通過修改minProcessors和maxProcessors的值來控制線程數。這些值在安裝后就已經設定為默認值并且是足夠使用的,但是隨著站點的擴容而改大這些值。minProcessors服務器啟動時創建的處理請求的線程數應該足夠處理一個小量的負載。也就是說,如果一天內每秒僅發生5次單擊事件,并且每個請求任務處理需要1秒鐘,那么預先設置線程數為5就足夠了。但在你的站點訪問量較大時就需要設置更大的線程數,指定為參數maxProcessors的值。maxProcessors的值也是有上限的,應防止流量不可控制(或者惡意的服務攻擊),從而導致超出了虛擬機使用內存的大小。如果要加大并發連接數,應同時加大這兩個參數。web server允許的最大連接數還受制于操作系統的內核參數設置,通常Windows是2000個左右,Linux是1000個左右。?
????? 在Tomcat5對這些參數進行了調整,請看下面屬性:?
maxThreads??? Tomcat使用線程來處理接收的每個請求。這個值表示Tomcat可創建的最大的線程數。?
acceptCount??? 指定當所有可以使用的處理請求的線程數都被使用時,可以放到處理隊列中的請求數,超過這個數的請求將不予處理。?
connnectionTimeout??? 網絡連接超時,單位:毫秒。設置為0表示永不超時,這樣設置有隱患的。通??稍O置為30000毫秒。?
minSpareThreads??? Tomcat初始化時創建的線程數。?
maxSpareThreads???? 一旦創建的線程超過這個值,Tomcat就會關閉不再需要的socket線程。?
???? 最好的方式是多設置幾次并且進行測試,觀察響應時間和內存使用情況。在不同的機器、操作系統或虛擬機組合的情況下可能會不同,而且并不是所有人的web站點的流量都是一樣的,因此沒有一刀切的方案來確定線程數的值。?
六、APR庫使用?
Tomcat中使用APR庫,其實就是在Tomcat中使用JNI的方式來讀取文件以及進行網絡傳輸??梢源蟠筇嵘齌omcat對靜態文件的處理性能,同時如果你使用了HTTPS方式傳輸的話,也可以提升SSL的處理性能。?
一般在Windows下,可以直接下載編譯好的二進制版本的dll庫文件來使Tomcat啟用APR,一般建議拷貝庫文件tcnative-1.dll到Tomcat的bin目錄下。而在Linux下,可以直接解壓和安裝bin目錄下的tomcat_native.tar.gz文件,編譯之前要確保apr庫已經安裝。?
怎么才能判斷Tomcat是否已經啟用了APR庫呢?方法是通過看Tomcat的啟動日志:?
如果沒有啟用APR,則啟動日志一般有這么一條:?
org.apache.coyote.http11.Http11Protocol start?
如果啟用了APR,則這條日志就會變成:?
org.apache.coyote.http11.Http11AprProtocol start?
tcnative-1.dll 下載地址:http://tomcat.heanet.ie/native/?
?? 調優綜述?
????? 根據以上分析,如果想要Tomcat達到最優的效果,首先要爭取使得操作系統以及網絡資源達到最優,并且最好使用高版本的JDK。對于有大量靜態頁面的系統,采用Apache集成Tomcat的方式,把靜態頁面交由Apache處理,動態部分交由Tomcat處理,能極大解放Tomcat的處理能力。使用ARP庫也能極大的提高Tomcat對靜態文件的處理能力。對于并發要求較高的系統,采用Apache加Tomcat集群的方式,將負載分別分擔到多個Tomcat上,能很大的提高系統的性能,充分利用硬件資源。同時需要對Tomcat自身進行優化,包括增大內存、調節并發線程數等。?
?
?
?
---------------------------------------------------------------------------------------------------------
公司的一個服務器使用Tomcat6默認配置,在后臺一陣全點擊服務器就報廢了,查了一下就要是PERMSIZE默認值過小造成(16-64)
TOMCAT_HOME/bin/catalina.sh
添加一行:JAVA_OPTS=" -XX:PermSize=64M -XX:MaxPermSize=128m"
問題解決(可能為調用JAR包過多原因)下面是網上看到一些設置
JAVA_OPTS="-server -Xms800m -Xmx800m -XX:PermSize=64M -XX:MaxNewSize=256m -XX:MaxPermSize=128m -Djava.awt.headless=true "
?
當在對其進行并發測試時,基本上30個USER上去就當機了,還要修改默認連接數設置:以下紅色四行TOMCAT6中好相沒有,手工加上就可以了,基本上可以解決連接數過大引起的死機。具體數值可跟據實際情況設置
??? <Connector port="80" protocol="HTTP/1.1"?
?????????????? maxThreads="600"??????
minSpareThreads="100"
maxSpareThreads="500"
acceptCount="700"
connectionTimeout="20000"?
redirectPort="8443" />
?
這樣設置以后,基本上沒有再當機過。。。。。
????????????? maxThreads="600"?????? ///最大線程數
minSpareThreads="100"http:///初始化時創建的線程數
maxSpareThreads="500"http:///一旦創建的線程超過這個值,Tomcat就會關閉不再需要
的socket線程。
acceptCount="700"http://指定當所有可以使用的處理請求的線程數都被使用時,可以放到處理隊列中的請求數,超過這個數的請求將不予處理
?
----------------------------------------------------------------------------------------------------------------------------------
?
一、Tomcat的JVM提示內存溢出
查看%TOMCAT_HOME%\logs文件夾下,日志文件是否有內存溢出錯誤
二、修改Tomcat的JVM
1、錯誤提示:java.lang.OutOfMemoryError: Java heap space
Tomcat默認可以使用的內存為128MB,在較大型的應用項目中,這點內存是不夠的,有可能導致系統無法運行。常見的問題是報Tomcat內存溢出錯誤,Out of Memory(系統內存不足)的異常,從而導致客戶端顯示500錯誤,一般調整Tomcat的使用內存即可解決此問題。?
Windows環境下修改“%TOMCAT_HOME%\bin\catalina.bat”文件,在文件開頭增加如下設置:
set JAVA_OPTS=-Xms256m -Xmx512m
?
Linux環境下修改“%TOMCAT_HOME%\bin\catalina.sh”文件,在文件開頭增加如下設置:
JAVA_OPTS=’-Xms256m -Xmx512m’?
其中,-Xms設置初始化內存大小,-Xmx設置可以使用的最大內存。
2、錯誤提示:java.lang.OutOfMemoryError: PermGen space
原因:
PermGen space的全稱是Permanent Generation space,是指內存的永久保存區域,這塊內存主要是被JVM存
放Class和Meta信息的,Class在被Loader時就會被放到PermGen space中,它和存放類實例(Instance)的
Heap區域不同,GC(Garbage Collection)不會在主程序運行期對PermGen space進行清理,所以如果你的應用
中有很CLASS的話,就很可能出現PermGen space錯誤,這種錯誤常見在web服務器對JSP進行pre compile的
時候。如果你的WEB APP下都用了大量的第三方jar, 其大小超過了jvm默認的大小(4M)那么就會產生此錯誤信
息了。
解決方法:
在catalina.bat的第一行增加:
set JAVA_OPTS=-Xms64m -Xmx256m -XX:PermSize=128M -XX:MaxNewSize=256m -
XX:MaxPermSize=256m
在catalina.sh的第一行增加:
JAVA_OPTS=-Xms64m -Xmx256m -XX:PermSize=128M -XX:MaxNewSize=256m -
XX:MaxPermSize=256m
3、JVM設置
堆的尺寸?
-Xmssize in bytes?
??? 設定Java堆的初始尺寸,缺省尺寸是2097152 (2MB)。這個值必須是1024個字節(1KB)的倍數,且比它大。(-server選項把缺省尺寸增加到32M。)?
-Xmnsize in bytes?
??? 為Eden對象設定初始Java堆的大小,缺省值為640K。(-server選項把缺省尺寸增加到2M。)?
-Xmxsize in bytes?
??? 設定Java堆的最大尺寸,缺省值為64M,(-server選項把缺省尺寸增加到128M。) 最大的堆尺寸達到將近2GB(2048MB)。?
請注意:很多垃圾收集器的選項依賴于堆大小的設定。請在微調垃圾收集器使用內存空間的方式之前,確認是否已經正確設定了堆的尺寸。?
垃圾收集:內存的使用?
-XX:MinHeapFreeRatio=percentage as a whole number?
??? 修改垃圾回收之后堆中可用內存的最小百分比,缺省值是40。如果垃圾回收后至少還有40%的堆內存沒有被釋放,則系統將增加堆的尺寸。?
-XX:MaxHeapFreeRatio=percentage as a whole number?
??? 改變垃圾回收之后和堆內存縮小之前可用堆內存的最大百分比,缺省值為70。這意味著如果在垃圾回收之后還有大于70%的堆內存,則系統就會減少堆的尺寸。?
-XX:NewSize=size in bytes?
??? 為已分配內存的對象中的Eden代設置缺省的內存尺寸。它的缺省值是640K。(-server選項把缺省尺寸增加到2M。)?
-XX:MaxNewSize=size in bytes?
??? 允許您改變初期對象空間的上限,新建對象所需的內存就是從這個空間中分配來的,這個選項的缺省值是640K。(-server選項把缺省尺寸增加到2M。)?
-XX:NewRatio=value?
??? 改變新舊空間的尺寸比例,這個比例的缺省值是8,意思是新空間的尺寸是舊空間的1/8。?
-XX:SurvivorRatio=number?
??? 改變Eden對象空間和殘存空間的尺寸比例,這個比例的缺省值是10,意思是Eden對象空間的尺寸比殘存空間大survivorRatio+2倍。?
-XX:TargetSurvivorRatio=percentage?
??? 設定您所期望的空間提取后被使用的殘存空間的百分比,缺省值是50。?
-XX:MaxPermSize=size in MB?
??? 長久代(permanent generation)的尺寸,缺省值為32(32MB)。
三、查看Tomcat的JVM內存
1. Tomcat6中沒有設置任何默認用戶,因而需要手動往Tomcat6的conf文件夾下的tomcat-users.xml文件中添加用戶。
?
??? 如:<role rolename="manager"/>
????????? <user username="tomcat" password="tomcat" roles="manager"/>
??? 注:添加完需要重啟Tomcat6。
?
2.?訪問http://localhost:8080/manager/status,輸入上面添加的用戶名和密碼。
?
3. 然后在如下面的JVM下可以看到內存的使用情況。
JVM
??? Free memory: 2.50 MB Total memory: 15.53 MB Max memory: 63.56 MB
四、Tomcat連接數設置
在tomcat配置文件server.xml中的<Connector ... />配置中,和連接數相關的參數有:
minProcessors:最小空閑連接線程數,用于提高系統處理性能,默認值為10
maxProcessors:最大連接線程數,即:并發處理的最大請求數,默認值為75
acceptCount:允許的最大連接數,應大于等于maxProcessors,默認值為100
enableLookups:是否反查域名,取值為:true或false。為了提高處理能力,應設置為false
connectionTimeout:網絡連接超時,單位:毫秒。設置為0表示永不超時,這樣設置有隱患的。通??稍O置為30000毫秒。
其中和最大連接數相關的參數為maxProcessors和acceptCount。如果要加大并發連接數,應同時加大這兩個參數。
web server允許的最大連接數還受制于操作系統的內核參數設置,通常Windows是2000個左右,Linux是1000個左右。Unix中如何設置這些參數,請參閱Unix常用監控和管理命令
更多文章、技術交流、商務合作、聯系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號聯系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元
