性能調(diào)優(yōu)系列前序文章索引：

• 程序員必須掌握的性能調(diào)優(yōu)：老兵哥結(jié)合個人經(jīng)歷解釋了程序員往架構(gòu)師方向發(fā)展時為什么要跨越性能調(diào)優(yōu)這一關(guān)，以及介紹了從 X、Y、Z 三個維度優(yōu)化性能的思路。

• 從  X  維度優(yōu)化系統(tǒng)的性能：老兵哥分享了從 X 維度優(yōu)化系統(tǒng)性能的思路，包括讓客戶端分計算存儲任務(wù)、優(yōu)化交互設(shè)計等，主要是作為引子拓寬我們性能調(diào)優(yōu)的思路。

程序員在轉(zhuǎn)型架構(gòu)師的過程中需要建立流程化、結(jié)構(gòu)化、系統(tǒng)化的思維方式，而性能調(diào)優(yōu)是非常難得的契機(jī)，它既給了我們壓力，也給了我們動力，跨越它就是突破自己的過程。

• X 維度，即業(yè)務(wù)維度，技術(shù)始終是服務(wù)業(yè)務(wù)的，任何技術(shù)問題的原點就是業(yè)務(wù)需求。在啟動技術(shù)層面的性能優(yōu)化之前，我們有必要先審視一下業(yè)務(wù)流程是否合理，交互設(shè)計上有沒有可以優(yōu)化的空間等。

• Y 維度，待業(yè)務(wù)維度優(yōu)化完畢，接下來就是審視技術(shù)在實現(xiàn)當(dāng)前業(yè)務(wù)流程或交互設(shè)計的全鏈路上有沒有可優(yōu)化的地方，即 HTTP 請求處理全流程，從瀏覽器到應(yīng)用容器，再到 Spring、Hibernate、數(shù)據(jù)庫等。

• Z 維度，除了沿著 HTTP 請求的橫向鏈路，我們還要審視支持應(yīng)用系統(tǒng)的縱向技術(shù)棧，從上到下包括 JVM、操作系統(tǒng)和硬件等，這是整套應(yīng)用系統(tǒng)運行的環(huán)境，許多性能問題都跟運行環(huán)境存在關(guān)系。

Y 維度，就是從業(yè)務(wù) HTTP 請求的橫向處理流程來看，HTTP 請求會穿越網(wǎng)絡(luò)、計算機(jī)、應(yīng)用容器（Tomcat）、Spring、ORM（Hibernate）、數(shù)據(jù)庫等節(jié)點，在這個流程中每個節(jié)點都有許多可以可優(yōu)化的地方，今天老兵哥先談?wù)勅绾瓮ㄟ^優(yōu)化應(yīng)用容器（Tomcat）來優(yōu)化系統(tǒng)性能。

建議在閱讀本文內(nèi)容前，先參考下面這個系列的文章了解 Web 應(yīng)用是怎樣處理 HTTP 請求的：

• 圖解 Spring：HTTP 請求的處理流程與機(jī)制【1】

• 圖解 Spring：HTTP 請求的處理流程與機(jī)制【2】

• 圖解 Spring：HTTP 請求的處理流程與機(jī)制【3】

• 圖解 Spring：HTTP 請求的處理流程與機(jī)制【4】

• 圖解 Spring：HTTP 請求的處理流程與機(jī)制【5】

2. 應(yīng)用容器 Tomcat

2.1 啟動參數(shù)

操作系統(tǒng)選型，盡可能選擇 64 位操作系統(tǒng)，在 64 位系統(tǒng)上 JVM 內(nèi)存最高可以設(shè)置為 3800MB 左右，在 32 位系統(tǒng)上 JVM 內(nèi)存最高可以設(shè)置為 1500MB 左右。另外，我們可以根據(jù)系統(tǒng)物理內(nèi)存大小合理設(shè)置下列五個啟動參數(shù)（在文件 catalina.sh、catalina.bat 中）：

-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m

通常，參數(shù)取值符合規(guī)則：-Xms=-Xmx，-XX:PermSize=-XX:MaxPermSize。上述參數(shù)經(jīng)過驗證，可以穩(wěn)定運行在各種操作系統(tǒng)平臺和 JDK 版本上，通過調(diào)參盡可能地壓榨服務(wù)器性能。具體場景下的參數(shù)取值需要具體分析，基本原則就是不要超過空閑物理內(nèi)存的 80% 即可。如果沒有特殊理由，不要設(shè)置上述五個參數(shù)之外的 JVM 參數(shù)，一者無法保證操作系統(tǒng)平臺的可移植性，二者過度干涉內(nèi)存管理會導(dǎo)致無法預(yù)料的后果。

非服務(wù)方式啟動的 TOMCAT 調(diào)參方式如下：

• 在 Linux/Unix 系統(tǒng)上，修改 tomcat_home/bin/catalina.sh，添加以下內(nèi)容：

JAVA_HOME=/export/home/jdk1.6.0_16
JAVA_OPTS="-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote"

• 在 Windows 系統(tǒng)上，修改 tomcat_home/bin/catalina.bat，添加以下內(nèi)容：

set JAVA_HOME=C:\Program Files\Java\jdk1.6.0_16
set JAVA_OPTS=-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote

　　兩者區(qū)別：Linux/Unix 不需要 set，但有”“；Windows 需要set，但不能有”“。服務(wù)方式啟動的 TOMCAT 調(diào)參方式如下，僅限于 Windows 系統(tǒng)：

• 在 JAVA 選項卡中，設(shè)置 JAVA OPTIONS，添加以下三個參數(shù)，每行一個，不能并列：

-XX:PermSize=256m
-XX:MaxPermSize=256m
-Dcom.sun.management.jmxremote　　

• 設(shè)置 Initial memory pool 為 1000MB。

• 設(shè)置 Maximum menory pool 為 1000MB。

• 不要設(shè)置 thread stack size。

2.2 使用 NIO 的 http1.1 超文本傳輸協(xié)議

Java 的 IO 操作集中在 java.io 這個包當(dāng)中，基于阻塞 API（即 BIO，Block IO）。對許多應(yīng)用來說，這樣的 API 使用很方便，但某些對性能要求較高的應(yīng)用，尤其是服務(wù)器端應(yīng)用，往往需要一個更高效的方式來處理 IO。從 JDK1.4 起，NIO API 作為一個基于緩沖區(qū)，并能提供非阻塞 IO 操作的 API（即 NIO，non-blocking IO）被引入。BIO 與 NIO 之間最為重要的不同，就是采用 BIO 往往要引入多線程，每個連接分配一個單獨的線程；NIO 是使用單線程或者只使用少量線程，所有連接共用一個線程。具體更改方法如下：

• 打開 Tomcat 的配置文件：$TOMCAT_HOME/conf/server.xml

• 找到：<Connector port="8080" protocol="http1.1" ...

• 改為：<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"...

2.3 調(diào)整線程數(shù)

Tomcat 可以采用線程池來提升響應(yīng)速度，默認(rèn)創(chuàng)建 5 個線程，最大線程數(shù)是 200。如果業(yè)務(wù)并發(fā)量較大，則可以對下列幾個參數(shù)做些調(diào)整，最大線程數(shù)可以用“同時在線人數(shù) * 用戶每秒操作次數(shù) * 平均操作時間”公式計算：

• maxThreads：Tomcat 可創(chuàng)建的最大線程數(shù)。

• acceptCount：如果當(dāng)前可用線程數(shù)為 0，則將請求放入處理隊列中。這個值限定了請求隊列的大小，超過這個數(shù)值的請求將不予處理。

• connectionTimeout：網(wǎng)絡(luò)連接超時時間，單位毫秒。

• minSpareThreads：如果當(dāng)前沒有空閑線程，且沒有超過 maxThreads，一次性創(chuàng)建的空閑線程數(shù)量。Tomcat 初始化時創(chuàng)建的線程數(shù)量也由此值設(shè)置。

• maxSpareThreads：一旦創(chuàng)建的線程超過此數(shù)值，Tomcat會關(guān)閉不再需要的線程。

2.4 使用 APR 來增強(qiáng)性能

Tomcat 可以采用 APR（Apache Portable Runtime）提供超強(qiáng)的可伸縮性和性能，更好地集成本地服務(wù)器技術(shù)。APR 是一個高可移植庫，它是 Apache HTTP Server 2.x 的核心。APR 有很多用途，包括訪問高級 IO 功能（例如：sendfile、epoll、open SSL 等）、OS 級別的功能（隨機(jī)數(shù)生成、系統(tǒng)狀態(tài)等）、本地進(jìn)程管理（共享內(nèi)存、NT 管道、UNIX socket 等），這些功能使 Tomcat 作為 WEB 應(yīng)用服務(wù)器，能更好地與其它本地 Web 技術(shù)集成，讓 Tomcat 也可以擔(dān)當(dāng)更高性能的前端 Web 應(yīng)用服務(wù)器，而不是僅僅是后端 Java EE 應(yīng)用服務(wù)器。APR 的具體安裝步驟如下（下載地址：http://apr.）：

• 安裝 apr 及 apr-util：

> tar zxvf apr-1.3.8.tar.gz
> cd apr-1.3.8
> ./configure —prefix=/usr/lib/apr
> make
> make install
> tar zxvf apr-util-1.3.9.tar.gz
> cd apr-util-1.3.9
> ./configure —with-apr=/usr/lib/apr
> make
> make install

• 安裝 tomcat-native.tar.gz，此文件在目錄 $TOMCAT_HOME/bin 下：

> tar zxvf tomcat-native.tar.gz
> cd tomcat-native-1.1.16-src/jni/native
> ./configure —with-apr=/usr/lib/apr
> make
> make install

• 在 Tomcat 的啟動文件（$TOMCAt_HOME/bin/catalina.sh）中加入環(huán)境變量：

CATALINA_OPTS=-Djava.library.path=/usr/local/apr/lib

• 或在操作系統(tǒng)的環(huán)境變量（/etc/profile）中添加：

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib

重新啟動計算機(jī)或使用命令 source /etc/profile 使其即時生效。
查看啟動日志（$TOMCAT_HOME/logs/catalina…….log），如出現(xiàn)如下信息表示APR啟動成功：

啟動時發(fā)現(xiàn)日志中有：

Sep 30, 2019 4:32:55 PM org.apache.coyote.http11.Http11AprProtocol start 
INFO: Starting Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:32:55 PM org.apache.coyote.ajp.AjpAprProtocol start 
INFO: Starting Coyote AJP/1.3 on ajp-8009

停止時發(fā)現(xiàn)日志中有：

Sep 30, 2019 4:27:06 PM org.apache.coyote.http11.Http11AprProtocol destroy 
INFO: Stopping Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:27:06 PM org.apache.coyote.ajp.AjpAprProtocol destroy 
INFO: Stopping Coyote AJP/1.3 on ajp-8009

2.5 集成Web服務(wù)器處理靜態(tài)內(nèi)容

作為一個 Jsp/Servlet 容器，Tomcat 本身對靜態(tài) HTML 文件的處理速度要遠(yuǎn)遜于 Apache 等 Web 服務(wù)器。通過與此類 Web 服務(wù)器集成，Tomcat 僅僅處理動態(tài)資源請求，靜態(tài)資源請求則交給 Web 服務(wù)器處理，這樣可以顯著地降低系統(tǒng)負(fù)載，從而提高整體響應(yīng)的速度。