tomcat通常是作为开发环境的容器,其配置也默认是开发环境的,在性能提升方面还有很大空间。
本文主要从三个方面介绍一下tomcat性能调优:内存,线程数,IO。
一、内存优化(JVM内存优化)
主要是设定虚拟机的server启动方式,以及堆内存的初始分配大小,垃圾收集机制,线程最大堆栈配置数,新生代内存大小等等
a.JVM Server模式与client模式启动,最主要的差别在于:-Server模式启动时,速度较慢,但是一旦运行起来后,性能将会有很大的提升。JVM如果不显式指定是-Server模式还是-client模式,JVM能够根据下列原则进行自动判断(适用于Java5版本或者Java以上版本):根据是至少2个CPU和最低2GB内存。
用java -version命令也可以查看JVM的运行模式
b.线程堆栈 -Xss 1024K 可以根据业务服务器的每次请求的大小来进行分配
c.-xms -xmx 是 jvm占用最小和最大物理内存配置参数,一般讲两者配置一样大,这样就免去了内存不够用时申请内存的耗时;
d.-XX:PermSize=128M -XX:MaxPermSize=128m
jvm的内存分为2大类型,一个是perm型,另一个是generation型。perm区域存放的是class这些静态信息,一般默认64m,如果你的项目很大,有可能一启动就报错,out of memory permsize什么的,另外如果用spring框架的话很多类是动态反射加载的,运行一段时间有可能出现此异常,这种情况,设置下permsize就可以了。
另外一个类型才是重点,应用的代码基本上在这个区域活动,new的类都会在这个区域,而且jvm决大部分工作都在这里搞了,这个区包含新生代和老生代区域,所有new出来的会放置在新区域,而多次回收失败的一些一直被使用的实例则被转移到老生代区域,所以新生代区域活动是最频繁的。新生代内存不足时会促发一次 这个区的gc ----然后再到老生代的gc---最后才轮到full gc。full gc代价很高,应该尽量避免,尽量在newsize参数的这个区gc,一般配置newsize分配到总内存1/4左右,最终,如果full gc 还是内存不足,那就会引发out of memory
二、线程优化
tomcat线程优化是在server.xml中,如:
<Connector port="80" protocol="HTTP/1.1" maxThreads="600" minSpareThreads="100" maxSpareThreads="500" acceptCount="700" connectionTimeout="20000">
maxThreads:服务器能处理并发请求的最大线程数,默认为200
acceptCount:当maxThreads达到指定值时,接受排队请求的个数,默认为100,超过设置的值,不予处理。
maxSpareThreads:最多有多少线程,超过这个数值,则关闭不在使用的线程
minSpareThreads:tomcat启动时初始化创建的线程数
这些参数的设置,是需要具体业务具体硬件资源进行配置的,像maxThreads这个参数,也不是越大越好。在CPU核数较少的机器上,设置线程数较大的话,资源会消耗在线程之间切换上,单个请求的响应会变得很慢。
三、IO优化
需要先了解JAVA BIO/JAVA NIO/JAVA AIO这三个概念
JAVA BIO:同步并阻塞IO,一个连接为一个线程,资源浪费严重,可通过线程池优化。java1.4之前只有这一种方式。
JAVA NIO:同步非阻塞IO.与BIO最大的区别one request one thread.可以复用同一个线程处理多个connection(多路复用)。java1.4之后引入。
JAVA AIO,异步非阻塞IO(Java NIO2又叫AIO),多用于连接数目多且连接比较长(重操作)的架构,比如相册服务器,充分调用OS参与并发操作,编程比较复杂,JDK7开始支持
在tomcat7或以下,默认使用BIO方式,并发数多的情况下,线程数也较多,资源浪费严重。如果需要切换到NIO,则需要修改Connector配置:
<Connector port="80" protocol="org.apache.coyote.http11.Http11NioProtocol"
connectionTimeout="20000" redirectPort="8443">
tomcat8则默认使用NIO方式,不需要修改。
还有要提一下APR(Apache Portable Runtime),简单理解,就是从操作系统级别解决异步IO问题,大幅度的提高服务器的处理和响应性能, 也是Tomcat运行高并发应用的首选模式。此种方式需要安装一些依赖库。