Java Web之Tomcat調(diào)優(yōu)

Tomcat調(diào)優(yōu)是一個(gè)老話題,目的都是為了提高站點(diǎn)的吞吐和并發(fā)。這里面涉及到Tomcat本身參數(shù)的優(yōu)化和JVM優(yōu)化。近期在研究JVM的參數(shù)設(shè)置和Tomcat集群,所以進(jìn)行了一下調(diào)優(yōu)實(shí)踐。需要說明的是:本文的配置肯定不是最好的,僅僅是一次實(shí)踐和一次記錄。步驟可以參考,但參數(shù)設(shè)置需要針對(duì)不同需求的項(xiàng)目來進(jìn)行調(diào)整。

1、安裝APR(Apache Portable Runtime)

Tomcat 7 以后 Connector 默認(rèn)啟用 APR 協(xié)議,但是只有配置了 APR庫才可以生效,否則還是會(huì)使用 BIO 或者NIO方式。如何配置?可以直接去http://tomcat.apache.org/download-native.cgi下載,里面有32bit和64bit兩種庫,本人是64位機(jī)器,所以將x64文件夾下的兩個(gè)文件tcnative-1.dlltcnative-1-src.pdb拷貝到Tomcat的bin目錄下,然后啟動(dòng) Tomcat,如果有如圖所示的輸出,說明配置成功。

安裝Apr后啟動(dòng)狀態(tài)變化.PNG

為什么使用Apr?

官方如是說(翻譯了一下):Tomcat 可以使用 APR 來提供出色的可伸縮性,性能以及與原生服務(wù)器技術(shù)的更好集成。APR 有許多用途,提供了包括對(duì)高級(jí)IO功能操作系統(tǒng)級(jí)功能和本地進(jìn)程處理的訪問。這些功能使得Tomcat成為一個(gè)通用的網(wǎng)絡(luò)服務(wù)器,能夠更好地與其他本地網(wǎng)絡(luò)技術(shù)進(jìn)行整合,并且使整個(gè)Java作為一個(gè)完整的web服務(wù)器平臺(tái)更加可行。

網(wǎng)上有人測(cè)試過,APR相比較BIO、NIO,在處理高并發(fā)時(shí)效率更高。

2、配置Executor,增加線程數(shù),提高并發(fā)能力

打開server.xml,找到被注釋的一段

    <Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
            maxThreads="150" minSpareThreads="4"/>

修改成

    <Executor   name="tomcatThreadPool" 
                namePrefix="catalina-exec-"
                maxThreads="500"                 //Tomcat 使用線程來處理請(qǐng)求,該值表示 Tomcat 能創(chuàng)建的最大的線程數(shù)
                minSpareThreads="20"             //最小空閑線程數(shù),Tomcat 啟動(dòng)時(shí)的初始化的線程數(shù),表示即使沒有人使用也開這么多空線程等待,默認(rèn)值是 10。
                maxIdleTime="60000"/>            //當(dāng)服務(wù)的線程數(shù)超過最大線程數(shù)時(shí),超過maxIdleTime的線程會(huì)被殺死回收直到線程數(shù)降低到最大數(shù)以內(nèi)

3、配置Connector,設(shè)置超時(shí)、上傳和緩存信息

同樣在server.xml中,修改端口號(hào)為 8080 的Connector如下

    <Connector  executor="tomcatThreadPool"     //指明上面的executor
                port="8080" 
                protocol="HTTP/1.1"
                URIEncoding="UTF-8"
                connectionTimeout="30000"       //網(wǎng)絡(luò)連接超時(shí),設(shè)置為 0 表示永不超時(shí)。單位:毫秒
                enableLookups="false"           //是否反查域名,以返回遠(yuǎn)程主機(jī)的主機(jī)名,取值為:true 或 false,如果設(shè)置為false,則直接返回IP地址,為了提高處理能力,應(yīng)設(shè)置為 false
                disableUploadTimeout="false"    //上傳時(shí)是否使用超時(shí)機(jī)制
                connectionUploadTimeout="150000"http://上傳超時(shí)時(shí)間
                acceptCount="300"               //指定當(dāng)所有可以使用的處理請(qǐng)求的線程數(shù)都被使用時(shí),可傳入連接請(qǐng)求的最大隊(duì)列長度,超過這個(gè)數(shù)的請(qǐng)求將不予處理
                keepAliveTimeout="120000"       //長連接最大保持時(shí)間,表示在下次請(qǐng)求過來之前,Tomcat 保持該連接多久,-1 為不限制超時(shí)。單位:毫秒
                maxKeepAliveRequests="1"        //表示在服務(wù)器關(guān)閉之前,該連接最大支持的請(qǐng)求數(shù)。超過該請(qǐng)求數(shù)的連接也將被關(guān)閉,1表示禁用,-1表示不限制個(gè)數(shù)
                compression="on"                //是否對(duì)響應(yīng)的數(shù)據(jù)進(jìn)行 GZIP 壓縮,off:表示禁止壓縮;on:表示允許壓縮(文本將被壓縮)、force:表示所有情況下都進(jìn)行壓縮,默認(rèn)值為off
                compressionMinSize="2048"       //表示壓縮響應(yīng)的最小值,只有當(dāng)響應(yīng)報(bào)文大小大于這個(gè)值的時(shí)候才會(huì)對(duì)報(bào)文進(jìn)行壓縮,如果開啟了壓縮功能
                compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain,image/gif,image/jpg,image/png" //壓縮類型,指定對(duì)哪些類型的文件進(jìn)行數(shù)據(jù)壓縮。
                redirectPort="8443" />

4、打開catalina.bat,打開JAVA_OPTS 進(jìn)行JVM設(shè)置

如何設(shè)置JVM?
1、集成開發(fā)環(huán)境下啟動(dòng)并使用JVM,如eclipse需要修改根目錄文件eclipse.ini;
2、Windows服務(wù)器下安裝版Tomcat,可使用Tomcatw.exe工具(Tomcat目錄下)和直接修改注冊(cè)表兩種方式修改JVM參數(shù);
3、Windows服務(wù)器解壓版Tomcat注冊(cè)Windows服務(wù),方法同上;
4、解壓版本的Tomcat, 通過startup.bat啟動(dòng)Tomcat加載配置的,在Tomcat的bin 下catalina.bat 文件內(nèi)添加;
5、Linux服務(wù)器Tomcat設(shè)置JVM,修改TOMCAT_HOME/bin/catalina.sh;

本人屬于第4種,所以打開catalina.bat,在第二行添加如下信息

set JAVA_OPTS=-server -Xms4G -Xmx4G -Xss512k

5、檢測(cè)設(shè)置是否生效

在設(shè)置之前,訪問Tomcat首頁,點(diǎn)擊Server Status查看相關(guān)信息

未優(yōu)化之前的信息.png

優(yōu)化以后,再次訪問查看,很明顯發(fā)生了很大變化


優(yōu)化之后的信息.png

參考文獻(xiàn)

1、http://blog.csdn.net/centre10/article/details/50639693
2、http://blog.csdn.net/ldx891113/article/details/51735171

附錄:JVM常用參數(shù)詳解(網(wǎng)絡(luò)摘錄)

-server:一定要作為第一個(gè)參數(shù),在多個(gè) CPU 時(shí)性能佳,還有一種叫 -client 的模式,特點(diǎn)是啟動(dòng)速度比較快,但運(yùn)行時(shí)性能和內(nèi)存管理效率不高,通常用于客戶端應(yīng)用程序或開發(fā)調(diào)試,在 32 位環(huán)境下直接運(yùn)行 Java 程序默認(rèn)啟用該模式。Server 模式的特點(diǎn)是啟動(dòng)速度比較慢,但運(yùn)行時(shí)性能和內(nèi)存管理效率很高,適用于生產(chǎn)環(huán)境,在具有 64 位能力的 JDK 環(huán)境下默認(rèn)啟用該模式,可以不配置該參數(shù)。

-Xms:表示 Java 初始化堆的大小,-Xms 與-Xmx 設(shè)成一樣的值,避免 JVM 反復(fù)重新申請(qǐng)內(nèi)存,導(dǎo)致性能大起大落,默認(rèn)值為物理內(nèi)存的 1/64,默認(rèn)(MinHeapFreeRatio參數(shù)可以調(diào)整)空余堆內(nèi)存小于 40% 時(shí),JVM 就會(huì)增大堆直到 -Xmx 的最大限制。

-Xmx:表示最大 Java 堆大小,當(dāng)應(yīng)用程序需要的內(nèi)存超出堆的最大值時(shí)虛擬機(jī)就會(huì)提示內(nèi)存溢出,并且導(dǎo)致應(yīng)用服務(wù)崩潰,因此一般建議堆的最大值設(shè)置為可用內(nèi)存的最大值的80%。如何知道我的 JVM 能夠使用最大值,使用 java -Xmx512M -version 命令來進(jìn)行測(cè)試,然后逐漸的增大 512 的值,如果執(zhí)行正常就表示指定的內(nèi)存大小可用,否則會(huì)打印錯(cuò)誤信息,默認(rèn)值為物理內(nèi)存的 1/4,默認(rèn)(MinHeapFreeRatio參數(shù)可以調(diào)整)空余堆內(nèi)存大于 70% 時(shí),JVM 會(huì)減少堆直到-Xms 的最小限制。

-Xss:表示每個(gè) Java 線程堆棧大小,JDK 5.0 以后每個(gè)線程堆棧大小為 1M,以前每個(gè)線程堆棧大小為 256K。根據(jù)應(yīng)用的線程所需內(nèi)存大小進(jìn)行調(diào)整,在相同物理內(nèi)存下,減小這個(gè)值能生成更多的線程,但是操作系統(tǒng)對(duì)一個(gè)進(jìn)程內(nèi)的線程數(shù)還是有限制的,不能無限生成,經(jīng)驗(yàn)值在 3000~5000 左右。一般小的應(yīng)用, 如果棧不是很深, 應(yīng)該是128k 夠用的,大的應(yīng)用建議使用 256k 或 512K,一般不易設(shè)置超過 1M,要不然容易出現(xiàn)out ofmemory。這個(gè)選項(xiàng)對(duì)性能影響比較大,需要嚴(yán)格的測(cè)試。

-XX:NewSize:設(shè)置新生代內(nèi)存大小。

-XX:MaxNewSize:設(shè)置最大新生代新生代內(nèi)存大小
-XX:PermSize:設(shè)置持久代內(nèi)存大小

-XX:MaxPermSize:設(shè)置最大值持久代內(nèi)存大小,永久代不屬于堆內(nèi)存,堆內(nèi)存只包含新生代和老年代。

-XX:+AggressiveOpts:作用如其名(aggressive),啟用這個(gè)參數(shù),則每當(dāng) JDK 版本升級(jí)時(shí),你的 JVM 都會(huì)使用最新加入的優(yōu)化技術(shù)(如果有的話)。

-XX:+UseBiasedLocking:啟用一個(gè)優(yōu)化了的線程鎖,我們知道在我們的appserver,每個(gè)http請(qǐng)求就是一個(gè)線程,有的請(qǐng)求短有的請(qǐng)求長,就會(huì)有請(qǐng)求排隊(duì)的現(xiàn)象,甚至還會(huì)出現(xiàn)線程阻塞,這個(gè)優(yōu)化了的線程鎖使得你的appserver內(nèi)對(duì)線程處理自動(dòng)進(jìn)行最優(yōu)調(diào)配。

-XX:+DisableExplicitGC:在 程序代碼中不允許有顯示的調(diào)用“System.gc()”。每次在到操作結(jié)束時(shí)手動(dòng)調(diào)用 System.gc() 一下,付出的代價(jià)就是系統(tǒng)響應(yīng)時(shí)間嚴(yán)重降低,就和關(guān)于 Xms,Xmx 里的解釋的原理一樣,這樣去調(diào)用 GC 導(dǎo)致系統(tǒng)的 JVM 大起大落。

-XX:+UseConcMarkSweepGC:設(shè)置年老代為并發(fā)收集,即 CMS gc,這一特性只有 jdk1.5
后續(xù)版本才具有的功能,它使用的是 gc 估算觸發(fā)和 heap 占用觸發(fā)。我們知道頻頻繁的 GC 會(huì)造面 JVM
的大起大落從而影響到系統(tǒng)的效率,因此使用了 CMS GC 后可以在 GC 次數(shù)增多的情況下,每次 GC 的響應(yīng)時(shí)間卻很短,比如說使用了 CMS
GC 后經(jīng)過 jprofiler 的觀察,GC 被觸發(fā)次數(shù)非常多,而每次 GC 耗時(shí)僅為幾毫秒。

-XX:+UseParNewGC:對(duì)新生代采用多線程并行回收,這樣收得快,注意最新的 JVM 版本,當(dāng)使用 -XX:+UseConcMarkSweepGC 時(shí),-XX:UseParNewGC 會(huì)自動(dòng)開啟。因此,如果年輕代的并行 GC 不想開啟,可以通過設(shè)置 >-XX:-UseParNewGC 來關(guān)掉。

-XX:MaxTenuringThreshold:設(shè)置垃圾最大年齡。如果設(shè)置為0的話,則新生代對(duì)象不經(jīng)過 Survivor 區(qū),直接進(jìn)入老年代。對(duì)于老年代比較多的應(yīng)用(需要大量常駐內(nèi)存的應(yīng)用),可以提高效率。如果將此值設(shè)置為一 個(gè)較大值,則新生代對(duì)象會(huì)在 Survivor 區(qū)進(jìn)行多次復(fù)制,這樣可以增加對(duì)象在新生代的存活時(shí)間,增加在新生代即被回收的概率,減少Full GC的頻率,這樣做可以在某種程度上提高服務(wù)穩(wěn)定性。該參數(shù)只有在串行 GC 時(shí)才有效,這個(gè)值的設(shè)置是根據(jù)本地的 jprofiler 監(jiān)控后得到的一個(gè)理想的值,不能一概而論原搬照抄。

-XX:+CMSParallelRemarkEnabled:在使用 UseParNewGC 的情況下,盡量減少 mark 的時(shí)間。

-XX:+UseCMSCompactAtFullCollection:在使用 concurrent gc 的情況下,防止 memoryfragmention,對(duì) live object 進(jìn)行整理,使 memory 碎片減少。

-XX:LargePageSizeInBytes:指定 Java heap 的分頁頁面大小,內(nèi)存頁的大小不可設(shè)置過大, 會(huì)影響 Perm 的大小。

-XX:+UseFastAccessorMethods:使用 get,set 方法轉(zhuǎn)成本地代碼,原始類型的快速優(yōu)化。
-XX:+UseCMSInitiatingOccupancyOnly:只有在 oldgeneration 在使用了初始化的比例后 concurrent collector 啟動(dòng)收集。

-Duser.timezone=Asia/Shanghai:設(shè)置用戶所在時(shí)區(qū)。
-Djava.awt.headless=true:這個(gè)參數(shù)一般我們都是放在最后使用的,這全參數(shù)的作用是這樣的,有時(shí)我們會(huì)在我們的 J2EE 工程中使用一些圖表工具如:jfreechart,用于在 web 網(wǎng)頁輸出 GIF/JPG 等流,在 winodws 環(huán)境下,一般我們的 app server 在輸出圖形時(shí)不會(huì)碰到什么問題,但是在linux/unix 環(huán)境下經(jīng)常會(huì)碰到一個(gè) exception 導(dǎo)致你在 winodws 開發(fā)環(huán)境下圖片顯示的好好可是在 linux/unix 下卻顯示不出來,因此加上這個(gè)參數(shù)以免避這樣的情況出現(xiàn)。

-Xmn:新生代的內(nèi)存空間大小,注意:此處的大小是(eden+ 2 survivor space)。與 jmap -heap 中顯示的 New gen 是不同的。整個(gè)堆大小 = 新生代大小 + 老生代大小 + 永久代大小。在保證堆大小不變的情況下,增大新生代后,將會(huì)減小老生代大小。此值對(duì)系統(tǒng)性能影響較大,Sun官方推薦配置為整個(gè)堆的 3/8。

-XX:CMSInitiatingOccupancyFraction:當(dāng)堆滿之后,并行收集器便開始進(jìn)行垃圾收集,例如,當(dāng)沒有足夠的空間來容納新分配或提升的對(duì)象。對(duì)于 CMS 收集器,長時(shí)間等待是不可取的,因?yàn)樵诓l(fā)垃圾收集期間應(yīng)用持續(xù)在運(yùn)行(并且分配對(duì)象)。因此,為了在應(yīng)用程序使用完內(nèi)存之前完成垃圾收集周期,CMS 收集器要比并行收集器更先啟動(dòng)。因?yàn)椴煌膽?yīng)用會(huì)有不同對(duì)象分配模式,JVM 會(huì)收集實(shí)際的對(duì)象分配(和釋放)的運(yùn)行時(shí)數(shù)據(jù),并且分析這些數(shù)據(jù),來決定什么時(shí)候啟動(dòng)一次 CMS 垃圾收集周期。這個(gè)參數(shù)設(shè)置有很大技巧,基本上滿足(Xmx-Xmn)(100-CMSInitiatingOccupancyFraction)/100 >= Xmn 就不會(huì)出現(xiàn) promotion failed。例如在應(yīng)用中 Xmx 是6000,Xmn 是 512,那么 Xmx-Xmn 是 5488M,也就是老年代有 5488M,CMSInitiatingOccupancyFraction=90 說明老年代到 90% 滿的時(shí)候開始執(zhí)行對(duì)老年代的并發(fā)垃圾回收(CMS),這時(shí)還 剩 10% 的空間是 548810% = 548M,所以即使 Xmn(也就是新生代共512M)里所有對(duì)象都搬到老年代里,548M 的空間也足夠了,所以只要滿足上面的公式,就不會(huì)出現(xiàn)垃圾回收時(shí)的 promotion failed,因此這個(gè)參數(shù)的設(shè)置必須與 Xmn 關(guān)聯(lián)在一起。

-XX:+CMSIncrementalMode:該標(biāo)志將開啟 CMS 收集器的增量模式。增量模式經(jīng)常暫停 CMS 過程,以便對(duì)應(yīng)用程序線程作出完全的讓步。因此,收集器將花更長的時(shí)間完成整個(gè)收集周期。因此,只有通過測(cè)試后發(fā)現(xiàn)正常 CMS 周期對(duì)應(yīng)用程序線程干擾太大時(shí),才應(yīng)該使用增量模式。由于現(xiàn)代服務(wù)器有足夠的處理器來適應(yīng)并發(fā)的垃圾收集,所以這種情況發(fā)生得很少,用于但 CPU情況。

-XX:NewRatio:年輕代(包括 Eden 和兩個(gè) Survivor 區(qū))與年老代的比值(除去持久代),-XX:NewRatio=4 表示年輕代與年老代所占比值為 1:4,年輕代占整個(gè)堆棧的 1/5,Xms=Xmx 并且設(shè)置了 Xmn 的情況下,該參數(shù)不需要進(jìn)行設(shè)置。

-XX:SurvivorRatio:Eden 區(qū)與 Survivor 區(qū)的大小比值,設(shè)置為 8,表示 2 個(gè) Survivor 區(qū)(JVM 堆內(nèi)存年輕代中默認(rèn)有 2 個(gè)大小相等的 Survivor 區(qū))與 1 個(gè) Eden 區(qū)的比值為 2:8,即 1 個(gè) Survivor 區(qū)占整個(gè)年輕代大小的 1/10。

-XX:+UseSerialGC:設(shè)置串行收集器。

-XX:+UseParallelGC:設(shè)置為并行收集器。此配置僅對(duì)年輕代有效。即年輕代使用并行收集,而年老代仍使用串行收集。

-XX:+UseParallelOldGC:配置年老代垃圾收集方式為并行收集,JDK6.0 開始支持對(duì)年老代并行收集。

-XX:ConcGCThreads:早期 JVM 版本也叫-XX:ParallelCMSThreads,定義并發(fā) CMS 過程運(yùn)行時(shí)的線程數(shù)。比如 value=4 意味著 CMS 周期的所有階段都以 4 個(gè)線程來執(zhí)行。盡管更多的線程會(huì)加快并發(fā) CMS 過程,但其也會(huì)帶來額外的同步開銷。因此,對(duì)于特定的應(yīng)用程序,應(yīng)該通過測(cè)試來判斷增加 CMS 線程數(shù)是否真的能夠帶來性能的提升。如果還標(biāo)志未設(shè)置,JVM 會(huì)根據(jù)并行收集器中的 -XX:ParallelGCThreads 參數(shù)的值來計(jì)算出默認(rèn)的并行 CMS 線程數(shù)。

-XX:ParallelGCThreads:配置并行收集器的線程數(shù),即:同時(shí)有多少個(gè)線程一起進(jìn)行垃圾回收,此值建議配置與 CPU 數(shù)目相等。

-XX:OldSize:設(shè)置 JVM 啟動(dòng)分配的老年代內(nèi)存大小,類似于新生代內(nèi)存的初始大小 -XX:NewSize。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容