1.并发编程模型的两个关键问题
在并发编程中需要处理两个关键问题:
- 线程之间如何通信
- 线程之间如何同步
下面我们就以上面两个问题展开探索
通信是指线程之间以何种机制来交换信息。在命令式编程中,线程之间的通信机制有两种:共享内存和消息传递。
在共享内存的并发模型里,线程之间共享程序的公共状态,通过 写-读 内存中的公共状态进行隐式通信。
在消息传递的并发模型里,线程之间没有公共状态,线程之间必须通过发送消息来显示进行通信。
同步是指程序中用于控制不同线程间操作发生相对顺序的机制。
在共享内存的并发模型里,同步是显示进行的。程序员必须显示的指定某个方法或代码块需要在线程之间互斥执行。
在消息传递的并发模型里,由于消息的发送必须在消息的接收之前,因此同步是隐式进行的。
Java的并发是采用的共享内存模型,Java线程之间的通信总是隐式进行,整个通信过程对程序员完全透明。如果我们在编程程序时不理解隐式进行的线程之间通信的工作机制,很可能会遇到各种奇怪的内存可见性问题。
2.Java内存模型的抽象结构
在Java中,所有实例域、静态域和数组元素都存储在堆内存中,堆内存在线程之间共享。局部变量、方法定义参数和异常处理器参数不会在线程之间共享,他们不会有内存可见性问题,也不收内存模型的影响。
Java线程之间的通信由Java内存模型(即JMM)控制,JMM决定一个线程对共享变量的写入何时对另一个线程可见。从抽象角度来看,JMM定义了线程和主内存之间的抽象关系:线程之间的共享变量存储在主内存中,每个线程都有一个私有的本地内存,本地内存中存储了该线程以读/写共享变量的副本。本地内存是JMM的一个抽象概念,并不真实存在。他涵盖了缓存、写缓冲区、寄存器以及其他的硬件和编译器优化。
我们可以通过下面一张图来直观的理解Java内存模型中本地内存的抽象概念
!Jva内存模型抽象结构示意图.jpg](https://img-blog.csdnimg.cn/img_convert/af31593b9bc7324ee8b60c538b104265.png)
从上图可以看出,如果线程A和线程B之间要通信的话们必须经历以下两个步骤。
线程A把本地内存A中更新过的共享变量刷新到主内存中去。
-
线程B到主内存中去读取线程A之前已更新过的共享变量。
我们可以通过下图看出线程之间如何进行通信
根据上图所示,本地内存A和本地内存B由主内存中共享变量X的副本。假设初始时,这3个内存中X都是0。线程A在执行时,把更新后的X值临时存放在自己的本地内存A中。当线程A和线程B需要通信时,线程A首先会把自己本地内存中修改后的X值刷新到主内存中,此时主内存中的X值变为1。随后,线程B到主内存中去读取线程A更新后的X值,此时线程B的本地内存的X值也变为1。
从整体来看,这两个步骤实质上是线程A在向线程B发送消息,而且这个通信过程必须要经过主内存。JMM通过控制主内存与每个线程的本地内存之间的交互,来为Java陈顾远提供内存可见性保证。
3.从源代码到指令序列的重排序
在执行程序时,为了提高性能,编译器和处理器常常会对指令做重排序。重排序分三种类型。
1)编译器优化的重排序。编译器在不改变单线程程序语义的前提下,可以重新安排语句的执行顺序。
2)指令级并行的重排序。现代处理器采用了指令级并行技术来将多条指令重叠执行。如果不存在数据依赖性,处理器可以改变语句对应机器指令的执行顺序。
3)内存系统的重排序。由于处理器使用缓存和读/写缓存区,这使得加载和存储操作看上去可能是在乱序执行。
从Java源代码到实际执行的指令序列,会分别经历下面3种重排序
上述的1属于编译器重排序,2和3属于处理器重排序。这些重排序可能会导致多线程程序出现内存可见性问题。对于编译器,JMM的编译器重排序规则会禁止特定类型的编译器重排序。对于处理器重排序,JMM的处理器重排序规则要求Java编译器在生成指令序列时,插入特定类型的内存屏障指令,通过内存屏障指令来禁止特定类型的处理器重排序。
JMM属于语言级的内存模型,他确保在不同的编译器和不同的处理器平台上,通过禁止特定类型的编译器重排序和处理器重排序,为程序员提供一致的内存可见性保证。
4.并发编程模型的分类
现代的处理器使用写缓冲区临时保存向内存写入的数据。写缓冲区可以保证指令流水线持续运行,他可以避免由于处理器停顿下来等待向内存写入数据而产生的延迟。同时,通过以批处理的方式刷新写缓冲区,以及合并写缓冲区中对同一内存地址的多次写,减少对内存总线的占用。虽然写缓冲区有这么多好处,但每个处理器上的写缓冲区,仅仅对他所在的处理器可见。这个特性会对内存操作的执行顺序产生重要的影响:处理器对内存的读/写操作的执行顺序,不一定与内存实际发生的读/写顺序一致!
5.happens-before简介
从JDK1.5开始,Java使用新的JSR-133内存模型。JSR-133使用happens-beofre的概念来阐述操作之间的内存可见性。在JMM中,如果一个操作执行的结果需要对另一个操作可见,那么这两个操作之间必须要存在happens-before关系。这里提到的两个操作即可以是一个线程内的,也可以是不同线程之间。
目前happens-before有一下几种规则:
1.程序顺序规则:一个线程中的每个操作,happens-before于改线程中的任意后续操作。
2.监视器锁规则:对一个锁的解锁,happens-before于随后对这个锁的加锁。
3.volatile变量规则:对一个volatile域的写,happens-before于任意后续对这个volaile域的读。
4.传递性:如果A happens-before B,且B happens-before C,那么A happens-before C。
注意:两个操作之间具有happens-before关系,并不意味着前一个操作必须要在后一个操作之前执行!happens-before仅仅要求前一个操作对后一个操作可见,且前一个操作按顺序排在第二个操作之前。
6.重排序
前面我们提到了编译器重排序和处理器重排序,那么到底什么是重排序呢?
重排序是指编译器和处理器为了优化程序性能而对指令序列进行重新排序的一种手段。
6.1数据依赖性
如果两个操作访问同一个变量,且这两个操作中有一个为写操作,此时这两个操作之间就存在数据依赖性。数据依赖性分以下三种类型:
名称 | 代码示例 | 说明 |
---|---|---|
写后读 | a = 1;b = a; | 写一个变量之后,再读这个位置 |
写后写 | a = 1;a = 2; | 写一个变量之后,再写这个变量 |
读后写 | a = b;b = 1; | 读一个变量之后,再写这个变量 |
上面三种情况,只要重排序两个操作的执行顺序,程序的执行结果就会被改变。
前面提到编译器和处理器可能会对操作做重排序。编译器和处理器在重排序时,会遵守数据依赖性,编译器和处理器不会改变存在数据依赖关系的两个操作的执行顺序。
6.2as-if-serial语义
as-if-serial语义的意思是:不管怎么重排序,程序的执行结果不能被改变。编译器、runTime和处理器都必须遵守as-if-serial语义。
为了遵守as-if-serial语义,编译器和处理器不会对存在数据依赖关系的操作做重排序,因为这种重排序会改变程序执行结果。但是如果操作之间不存在数据依赖关系,这些操作就可能被编译器和处理器重排序。
下面我们通过一个示例来说明
double pi = 3.14; //A
double r = 1.0; //B
double area = pi * r * r //C
/**
* 上述代码中A和C之间存在数据依赖关系,同时B和C之间存在数据依赖关系,因此最终执行的指令序列中,C不能被重排序在A和B前面。
* 但是A和B之间没有数据依赖关系,编译器和处理器可以重排序A和B之间的执行顺序
* A -> B -> C
* B -> A -> C
* /
as-if-serial语义把单线程程序保护了起来,遵守as-if-serial语义的编译器、runTime和处理器共同为我们在编写单线程程序时创建了一个幻觉:单线程程序是按程序的顺序来执行的。遵守as-if-serial语义使得我们在编写程序时无需担心重排序和内存可见性问题。
6.3程序顺序规则
从上面的示例中,我们可以看出存在3个happens-before关系
1.A happens-before B
2.B happens-before C
3.A happens-before C
这里的3个happens-before关系,是根据happens-before的传递性推导出来的。
这里A happens-before B,但是实际执行时B却可以排在A之前执行。如果A happens-before B,JMM并不要求A一定要在B之前执行。JMM仅仅要求前一个操作的结果对后一个操作可见,且前一个操作按顺序排在后一个操作之前。这里操作A的结果不需要对B可见;而且A happens-before B的执行结果和B happens-before A的执行结果一致。在这种情况下JMM会认为这种重排序并不非法,JMM允许这种重排序。
7.顺序一致性
7.1数据竞争与顺序一致性
当程序未正确同步时,就可能会存在数据竞争。Java内存模型规范对数据竞争的定义是:
在一个线程中写一个变量,
在另一个线程读同一个变量,
而且写和读没有通过同步来排序。
当代码中包含数据竞争时,程序的执行往往产生违反直觉的结果。如果一个多线程程序能正确同步,这个程序将是一个没有数据竞争的程序。
JMM对正确同步的多线程程序的内存一致性做了如下保证。
如果程序是正确同步的,程序的执行将具有顺序一致性--即程序的执行结果与该程序在顺序一致性内存模型中的执行结果相同。
7.2顺序一致性内存模型
顺序一致性内存模型有两大特性:
1)一个线程中的所有操作必须按照程序的顺序来执行
2)(不管线程是否同步)所有线程都只能看到一个单一的操作执行顺序。在顺序一致性内存模型中,每个操作都必须原子执行且立刻对所有线程可见。