Java虚拟机规范中试图定义一种Java内存模型(Java Memony Model,JMM)来屏蔽掉各种硬件和操作系统的内存访问差异,以实现让Java程序在各种平台下都能达到一致的内存访问效果。经过长时间的验证和修补,在JDK1.5(实现了JSR-133)发布后,Java内存模型已经成熟和完善起来。
主内存和工作内存
Java内存模型规定了所有的变量都存储在主内存(Main Memony)中。每条线程还有自己的工作内存(Working Memony),线程的工作内存中保存了该线程使用到的变量的主内存副本拷贝,线程对变量的所有操作都必须在(读取、赋值等)工作内存中进行,而不能直接读写主内存的变量(volatile变量也一样)。不同线程之间也无法访问对方工作内存中的变量,线程间变量值的传递主要是通过主内存来完成。线程、主内存、工作内存交互图如下。
这里所说的主内存、工作内存与之前JVM 内存区域所说的Java堆、栈、方法区等并不是同一个层次的内存划分,这两者基本上是没有关系的。如果要勉强对应起来,那从变量、主内存、工作内存的定义来看,主内存主要对应Java堆中的对象实例数据部分,而工作内存则对应于虚拟机栈的部分区域。从更低层次来说,主内存就直接对应于物理硬件的内存,而为了获取更好的运行速度,虚拟机可能会让工作内存优先存储于寄存器和高速缓存中,因为程序运行时主要访问读写的是工作内存。
内存间交互操作
关于主内存和工作内存之间具体的交互协议,即一个变量如何从主内存拷贝到工作内存、如何从工作内存同步回主内存之类的实现细节,Java内存模型中定义了8中操作来完成,虚拟机实现时必须保证下面提及的每一种操作都是原子的、不可再分的(对于double和long类型的变量来说,load、store、read和write操作在某些平台上允许有例外)。
lock(锁定):
作用于主内存的变量,把一个变量标志为一条线程独占的状态。
unlock(解锁):
作用于主内存的变量,把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定。
read(读取):
作用于主内存的变量,把一个变量的值从主内存中传输到线程的工作内存中,以便随后的load动作使用。
load(载入):
作用于工作内存的变量,把read操作从主内存中得到的变量值放入工作内存的变量副本中。
use(使用):
作用于工作内存的变量,把工作内存中的一个变量的值传递给执行引擎,每当虚拟机遇到一个需要使用到变量的值的字节码时将会执行这个操作。
assign(赋值):
作用于工作内存的变量,把一个从执行引擎接受到的值赋值给工作内存中变量,每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作。
store(存储):
作用于工作内存的变量,把工作内存中的一个变量传送到主内存中,以便随后的write操作使用。
write(写入):
作用于主内存的变量,把store操作从工作内存中的得到的变量的值放入主内存的变量中。
如果要把一个变量从主内存拷贝到工作内存中,那就要顺序地执行read和load操作,如果要把工作内存中的变量同步回主内存,就要顺序的执行store和write操作。注意,Java内存模型只要求上述2个操作必须顺序执行,而没有保证是连续执行。也就是说,read和load之间、store和write之间是可以插入其他指令的。除此之外,Java内存模型还规定了在执行上述8中基本操作时必须满足如下规则:
- 不允许read和load、store和write操作之一单独出现。即不允许一个变量从主内存读取了但工作内存不接受,或者从工作内存发起了回写但主内存不接受的情况出现。
- 不允许一个线程丢弃它最近的assign操作。即变量在工作内存中改变了之后必须把该变化同步回主内存。
- 不允许一个线程无原因地(没有发生过任何assign操作)把数据从线程的工作内存回写到主内存中。
- 一个新的变量只能在主内存中“诞生”,不允许在工作内存中直接使用一个未被初始化(load或assign)的变量。换句话说,就是对一个变量执行use、store操作之前,必须执行过了assign和load操作。
- 一个变量在同一个时刻只允许一条线程对其进行lock操作,但lock操作可以被同一条线程重复执行多次,多次执行后,只有执行相同次数的unlock操作,变量才会被解锁。
- 如果对一个变量lock操作,那么会清空工作内存中此变量的值,在执行引擎使用这个变量的时候,必须重新load或assign来初始化该变量。
- 如果一个变量事先没有被lock操作锁定,那就不允许对它进行unlock,也不允许unlock一个被其他线程锁定的变量。
- 对一个变量执行unlock之前,必须先把变量同步回主内存(执行store、write)。
对于volatile型变量的特殊规则
关键字volatile可以说是Java虚拟机提供的最轻量级的同步机制,但是并不容易理解。
当一个变量定义为volatile时,它将具备2种特性:第一是保证此变量对所有线程的可见性,这里的可见性是指一条线程修改了这个变量的值,新值对于其他线程来说是立即得知的。而普通变量做不到这点,普通变量的值在线程间传递需要通过主内存来完成。“volatile变量对所有线程是立即可见的,对volatile变量的所有写操作都能立刻反应到其他线程中,换句话说,volatile变量在各个线程中是一致的,但是基于volatile变量的运算在并发下却不一定安全”。
由于volatile变量只保证可见性,在不符合一下2条规则的运算场景中,我们仍然要通过加锁(synchronized或JUC中的原子类)来保证原子性。
- 运算结果并不依赖变量的当前值,或者能确保只有单一的线程改变变量的值;
- 变量不需要与其他状态变量共同参与不变约束;
- 在访问变量时不需要加锁;
第二是禁止指令重排序。普通的变量仅仅会保证在该方法的执行过程中所有依赖赋值结果的地方都能获取到正确的结果,而不能保证变量赋值操作的顺序与程序代码中的执行顺序一致。因为在一个线程的方法执行过程中无法感知到指点,这就是Java内存模型描述的所谓的“线程内表现为串行的语义”(Within-Thread As-If-Serial Semantics)
对于long和double型变量的特殊规则
JMM要求lock、unlock等8个操作都具有原子性,但是对于64位的数据类型(long和double),在模型中特别定义了一条相对宽松的规定:允许虚拟机讲没有被volatile修饰的64位数据的读写规则划分为2次32位的操作来进行,即允许虚拟机实现选择不保证64位数据类型的laod、store、read、write这4个操作的原子性,这点就是所谓的long和double的非原子协定。
如果有多个线程共享一个并未声明为volatile的long或double类型的变量,并且同时对他们进行读取和修改操作,那么某些线程可能会读取到一个既非原值,也不是其他线程修改值的代表了“半个变量”的数值。
不过这种读取到“半个变量”的情况非常罕见(在目前商用Java虚拟机中不会楚翔),因为JMM虽然允许虚拟机不把long和double变量的读写实现成原子操作,但允许虚拟机选择把这些操作实现为具有原子性的操作,而且还“强烈建议”虚拟机这样做。在实际开发中,目前各平台下商用虚拟机几乎都选择把64位数据类型的读写操作作为原子操作来对待,因此我们在编写代码时一般不需要把用到的long和double声明为volatile。
原子性、可见性、有序性
JMM是围绕在并发过程中如何处理原子性、可见性和有序性这3个特征来建立的。我们逐一看下这3个特性。
原子性(Atomicity):
有JMM来直接保证的原子性变量操作包括read、load、assign、use、store和write,我们大致可以认为基本数据的访问读写是具有原子性的。
如果应用场景需要一个更大范围的原子性保证(经常遇到),JMM还提供了lock和unlock操作来满足这种需求,尽管虚拟机还没有把lock和unlock操作直接开发给开发者使用,但是却提供了更高层次的字节码指令monitorenter和monitorexit来隐式使用者2个操作,这2个字节码指令反应到Java代码中就是同步块-synchronized关键字,因此在synchronized块之间的操作也具备原子性。
可见性(Visibility):
可见性是指当一个线程修改了共享变量的值,其他线程能够立即得知这个修改。volatile变量能够保证新值能立即同步到主内存中,以及每次使用前立即从主内存刷新。因此可以说volatile保证了多线程操作时变量的可见性。
除了volatile之外,Java还有2个关键字能够实现可见性,即synchronized和final。同步块的可见性是由“对一个变量执行unlock之前,必须先把此变量同步回主内存中”这条规则获得的。而final关键字可见性是指:被final修饰的字段在构造器中一旦初始化完成,并且构造器没有把“this”的引用传递出去(this引用逃逸是一件很危险的事情,其他线程有可能通过这个引用访问到“初始化了一半”的对象),那在其他线程中就能看见final字段的值。
有序性(Ordering):
Java程序中天然的有序性可以归结为一句话:如果在本线程内观察,所有的操作都是有序的;如果在一个线程中观察另一个线程,所有的操作都是无序的。前半句是指“线程内表现为串行化的语义”,后半句是指“指令重排序”现象和“工作内存和主内存同步延迟”现象。
Java语言提供了volatile和synchronized来保证线程之间操作的有序性,volatile本身就包含了禁止指令重排序的语义,而synchronized则是由“一个变量在同一个时刻只允许一条线程对其进行lock操作”这条规则获得的,这条规则决定了持有同一个锁的2个同步块只能串行的进入。
呵呵,synchronized真是万能啊,所有3个特性都能由它来保证。的确,大部分并发控制操作都能使用synchronized来完成,也就间接造成了滥用,越“万能”的并发控制,也伴随了越大的性能影响。
先行发生原则
如果JMM中所有的有序性都仅仅靠volatile和synchronized来完成,那么有一些操作将会变得很繁琐,但是我们在编写Java并发代码的时候并没有感觉到这一点,这是因为Java语言中有一个“先行发生”(happens-before)原则。这个原则非常重要,他是判断数据是否存在竞争、线程是否安全的主要依据,依靠这个规则,我们可以通过几条规则一揽子解决并发环境下2个操作之间是否可能存在冲突的素有问题。
下面是JMM下一些“天然的”先行发生关系,这些先行发生关系无需任何同步器协助就已经存在,可以在编码中直接使用。如果2个操作之间的关系不在此列,并且无法从下列规则推到出来,他们的顺序就没有顺序性的保障,虚拟机可以对他们随意地进行重排序。
程序次序规则(Program Order Rule):
在一个线程内,按照程序代码顺序,书写在前面的操作先行发生于书写在后面的操作。准确地说,应该是控制流顺序而不是程序代码顺序,因为要考虑分支、循环等结构。
管程锁定规则(Monitor Lock Rule):
一个unlock操作先行发生于后面对同一个锁的lock操作。这里必须强调的是同一个锁,而“后面”同样指的是时间上的先后顺序。
volatile变量规则(Volatile Variable Rule):
对一个volatile变量的写操作先行发生于后面对这个变量的读操作,这里的后面同时指的是时间上得先后顺序。
线程启动规则(Thread Start Rule):
Thread对象的start()方法先行发生于此线程的每一个动作。
线程终止规则(Thread Termination Rule):
线程中所有操作都先行发生于对此线程的终止检测,我们可以通过Thread.join()方法结束、Thread.isAlive()的返回值等手段检测到线程已经终止执行了。
线程中断规则(Thread Interruption Rule):
对线程interrupt()方法的调用先行发生于被中断线程的代码检测到中断时间的发生,可以通过Thread.interrupted()方法检测到是否有中断发生。
对象终结规则(Finallizer Rule):
一个对象的初始化完成(构造函数执行结束)先行发生于它的finalize()方法的开始。
传递性(Transitivity):
如果操作A先行发生于操作B,操作B先行发生于操作C,那么可以推断出操作A先行发生于操作C的结论。
以上。
参考文档
- 《深入理解Java虚拟机-JVM高级特性与最佳实践》第二版 周志明著