1.上下文切换
CPU通过时间片分配算法来循环执行任务,当前任务执行一个时间片后会切换到下一个任务。但是,在切换前会保存上一个任务的状态,以便下次切换回这个任务时,可以再加载这个任务的状态。所以任务从保存到再加载的过程就是一次上下文切换。
①如何减少上下文切换
减少上下文切换的方法有无锁并发编程、CAS算法、使用最少线程和使用协程。
无锁并发编程:多线程竞争锁时,会引起上下文切换,所以多线程处理数据时,可以用一些办法来避免使用锁,如将数据的ID按照hash算法取模分段,不同的线程处理不同段的数据。
CAS算法:Java的Atomic包使用CAS算法来更新数据,而不需要加锁。
使用最少线程:避免创建不需要的线程,比如任务很少,但是创建了很多线程来处理,这样会造成大量线程都处于等待状态。
协程:在单线程里实现多任务的调度,并在单线程里维持多个任务间的切换。
②减少上下文切换案例
a.用jstack命令dump线程信息,看看pid为3117的进程里的线程都在做什么。
sudo -u admin /opt/ifeve/java/bin/jstack 3117 > /home/tengfi.fangtf/dump17
b.统计所有线程分别处于什么状态,发现300多个线程处于WAITING(on object monitor)状态。
grep java.lang.Thread.State dump17 | awk '{print $2$3$4$5} | sort | uniq -c'
c.打开dump文件查看处于WAITING(on object monitor)的线程都在做什么。发现这些线程基本全是Jboss的工作线程,在await。说明Jboss线程池里线程接收到的任务太少,大量线程都闲着。
d.减少Jboss的工作线程数,找到Jboss的线程池配置信息,将maxThreads降到100(原250)。
e.重启Jboss,再dump线程信息,然后统计WAITING(on object monitor)的线程,发现减少了175个。WAITING的线程少了,系统上下文切换的次数就会少,因为每一次从WAITING到RUNNABLE都会进行一次上下文的切换。
2.死锁
在一些复杂的场景中,可能会遇到这样的问题,比如t1拿到锁之后,因为一些异常情况没有释放锁(死循环)。又或者是t1拿到了一个数据库锁,释放锁的时候抛出了异常,没有释放掉。
Thread t1 = new Thread(() -> {
synchronized(A){
...
synchronized(B){
...
}
}
});
Thread t2 = new Thread(() -> {
synchronized(B){
...
synchronized(A){
...
}
}
});
一旦出现死锁,业务是可感知的,因为不能继续提供服务了,那么只能通过dump线程查看到底是哪个线程出现了问题,一下线程信息告诉我们是DeadLockDemo类的第42行和第31行引起的死锁。
避免死锁的几个常见方法
a.避免一个线程同时获取多个锁
b.避免一个线程在锁内同时占用多个资源,尽量保证每个锁只占用一个资源。
c.尝试使用定时锁,使用lock.tryLock(timeout)来替代使用内部锁机制。
d.对于数据库锁,加锁和解锁必须在一个数据库连接里,否则会出现解锁失败的情况。
3.资源限制的挑战
①什么是资源限制
资源限制是指在进行并发编程时,程序的执行速度受限于计算机硬件资源或软件资源。
例如带宽只有2Mb/s,某个资源的下载速度是1Mb/s,系统启动10个线程并不会变成10Mb/s。
硬件资源限制有:带宽的上传/下载速度、硬盘读写速度和CPU的处理速度。
软件资源限制有:数据库的连接数和socket连接数等。
②资源限制引发的问题
将某段串行的代码并发执行,但因为受限于资源,仍然在串行执行,这时候程序不仅不会加快执行,反而会更慢,因为增加了上下文切换和资源调度的时间。
③如何解决资源限制的问题
对于硬件资源限制,可以考虑使用集群并行执行程序。
对于软件资源限制,可以考虑使用资源池资源复用。比如使用连接池将数据库和socket连接复用,或者在调用对方WebService接口获取数据时,只建立一个连接。
④在资源限制情况下进行并编程
如何在资源限制的情况下,让程序执行的更快呢?方法就是,根据不同的资源限制调整程序的并发度。比如下载文件程序依赖于带宽和硬盘读写速度。有数据库操作时,涉及数据库连接数,如果SQL语句执行非常快,而线程的数量比数据库连接数大很多,则某些线程会被阻塞,等待数据库连接。
4.小结
强烈建议多使用jdk并发包提供的并发容器和工具类来解决并发问题,因为这些类都已经通过了充分的测试和优化,均可解决了上面提到的几个挑战。