文章目录

• 执行引擎
• • 执行引擎概述
  • • 作用
    • 工作过程
    • • 为什么说Java是半编译型半解释型语言？
  • 机器码、指令、汇编语言
  • • • 机器码
      • 指令
      • 指令集
      • 汇编语言
      • 高级语言
  • 解释器
  • • • 字节码
    • 解释器
    • • 分类
      • 现状
  • JIT （Just In Time）编译器
  • • 概念解释
    • 热点代码和探测方式
    • • 方法调用计数器
      • 热度衰减
      • 回边计数器
      • Hotspot设置程序执行方式
      • JIT分类
      • • C1和C2不同的优化策略：
        • 分层编译策略（Tiered Compilation）
      • Graal编译器
      • AOT编译器
  • 机器码、指令、汇编语言
  • • • 机器码
      • 指令
      • 指令集
      • 汇编语言
      • 高级语言
  • 解释器
  • • • 字节码
    • 解释器
    • • 分类
      • 现状
  • JIT （Just In Time）编译器
  • • 概念解释
    • 热点代码和探测方式
    • • 方法调用计数器
      • 热度衰减
      • 回边计数器
      • Hotspot设置程序执行方式
      • JIT分类
      • • C1和C2不同的优化策略：
        • 分层编译策略（Tiered Compilation）
      • Graal编译器
      • AOT编译器

执行引擎

执行引擎概述

作用

• 执行引擎是Java虚拟机核心的组成部分之一

• 虚拟机的执行引擎是由软件自行实现的，能够执行不被硬件直接支持的指令集格式

• JVM的主要任务就是负责装载字节码到其内部，但是字节码并不能直接运行在操作系统之上。所以需要执行引擎。执行引擎的任务就是 将字节码指令解释/编译为对应平台的本地机器指令才可以

工作过程

• 执行引擎在执行的过程中究竟需要执行什么样的字节码指令，完全依赖于PC寄存器
• 每当执行完一项指令操作后，PC寄存器就会更新下一条需要被执行的指令地址
• 当然方法在执行过程中，执行引擎有可能会通过存储在局部变量表中的对象引用准确定位到存储在Java堆区中的对象实例信息，以及通过对象头中的元数据指针定位到目标对象的类型信息。

解释器：Java虚拟机启动时会根据预定义的规范对 字节码采用逐行解释的方式执行，将每条字节码文件的内容“翻译“为对应平台的本地机器指令执行

JIT（Just In Time Complier）编译器：虚拟机将源代码直接编译成本地机器平台相关的机器语言

为什么说Java是半编译型半解释型语言？

JDK1.0时代将Java定位为“解释执行”还是比较准确的，后来Java也发展出可以直接生成本地代码的编译器。

现在JVM在执行Java代码的时候，通常都会将解释器执行与编译执行二者结合起来进行。

机器码、指令、汇编语言

机器码

• 各种二进制编码的方式表示的指令，叫做机器指令码，最初用它进行编程，这就是机器语言
• 机器原因虽然能够被计算机理解和接受，但和人类语言差别太大，不易被记忆，并且编程极容易出错
• 它编写的程序一输入到计算机，CPU直接读取运行，因此和其它语言编写的程序相比，运行速度最快
• 不同类型的CPU对应的机器指令不同

指令

• 由于机器码是由0和1组成的二进制蓄力，可读性太差，所以人民发明了指令
• 指令就是把机器码中的01序列简化成对应的操作（mov、inc等）
• 由于不同的硬件平台，执行同一个操作对应的机器码可能不同，所以不同硬件平台的同一个指令对应机器码也可能不同

指令集

• 不同的硬件平台支持的指令是有差别的，因此每个平台所支持的指令称之为对应平台的指令集
• 常见指令集有：
  • X86指令集，x86平台
  • ARM指令集

汇编语言

• 机器语言的可读性依然很差，于是人们发明了汇编语言
• 用助记符代替机器指令的操作码，用地址符号或者标号代替指令或操作数的地址
• 不同的硬件平台，汇编语言对应着不同的机器语言指令集，通过汇编过程转换成机器指令
• 汇编语言编写的程序必须翻译成机器指令码才能执行

高级语言

• 为了是计算机用户编程更加容易，后来就出现了各种高级语言，高级语言比机器语言、汇编语言更接近人的语言
• 当计算机执行高级语言编写程序时，仍然需要把程序解释和编译成机的指令码。

解释器

字节码

• 字节码是一种 中间状态（中间码）的二进制代码（文件），它比机器码更加抽象，需要直译器转译后才能成为机器码
• 字节码主要为了实现特定软件运行与软件环境，与硬件无关
• 字节码的实现方式是通过编译器和虚拟机，编译器将源码编译成字节码
• 特定平台上的虚拟机将字节码转译为可直接执行的指令
  • 典型应用：Java Bytecode

解释器

初衷是为了满足Java程序实现跨平台特性，从而使用字节码作为执行程序

• 承担的角色就是一个运行时的翻译者，将字节码文件的内容翻译为对应平台的本期机器执行指令
• 当一条字节码指令被解释器执行完成后，再根据PC寄存器中记录的下一条需要被执行的字节码指令执行解释操作。

分类

Java的历史中，有两套解释器，即最初的字节码解释器，和普遍使用的模板解释器

• 字节码解释器在执行时通过 纯软件代码模拟字节码的执行，效率很低
• 模板解释器将每一条字节码和一个模板函数关联，模板函数中直接产生这条字节码执行时的机器码，从而很大程度的提高了解释器的性能
  • Hotspot中，解释器主要由Interpreter和Code两大模块组成
    • Interpreter模块实现了解释器的核心功能
    • Code模块用于管理HotSpot在运行时生成的本地机器指令

现状

• 由于解释器在设计和实现上非常简单，因此除了Java之外，许多高级语言同样也是基于解释器执行的，比如Python Perl Ruby等，但是在今天，基于解释器执行已经变为低效的代名词。
• 为了解决这个问题，JVM平台支持即时编译技术，即时编译的木器是避免函数被解释执行。将整个函数体编译成为机器码，每次函数执行时，只执行编译后的机器码即可，这种方式可以使执行效率大幅度提升

JIT （Just In Time）编译器

概念解释

• Java语言的编译期其实是一段不确定的操作过程，因为它可能是指一个前端编译器（编译器的前端），把.java转变为.class文件的过程
• 也可能是指虚拟机的后端运行编译器（JIT编译器），把字节码转变成机器指令的过程。
• 还可能是指使用静态提前编译器（AOT编译器，Ahead Of Time Compiler）直接把.java文件编译成本地机器代码的过程。

Hotspot采用解释器与JIT编译器并存的架构，解释器和JIT可以互补，提高效率。

• 当程序启动后，解释器可以马上发挥作用，省去编译时间，立即执行

• 编译器想发挥作用，把代码编译成本地代码，需要一定的执行时间，但编译为本地代码后，执行效率更高。

• 当JVM启动时，解释器可以首先发挥作用，而不必等待即时编译器全部编译完成后再执行，这样可以省去许多不必要的编译时间，随着时间的推移，编译器发挥作用，根据热点探测，将有价值的字节码编译成本地机器指令。获得更高的执行效率。

前端编译器：Sun的javac、Eclipse JDT中的增量式编译器（ECJ）

JIT编译器：Hotspot中的C1 、C2编译器

AOT编译器：GNU Complier for the Java（GCJ）、Excelsior JET

热点代码和探测方式

• 一个被多次调用的方法、或者是方法体内部循环次数较多的循环体，都可以被称之为“热点代码”。这种编译方式发生在方法的执行过程中，因此也被称之为 栈上替换。或简称OSR（On Stack Replacement）编译
• 一个方法要被调用多少次，或者循环体执行多少次循环才可以达到这个标准？主要依靠热点探测功能来判断
• 目前Hotspot采用的热点探测方式是基于计数器的热点探测
• Hotspot会为每一个方法建立2个不同类型的计数器，分别为方法调用计数器(Invocation Counter)和回边计数器（Back Edge Counter）
  • 方法调用计数器统计方法的调用次数
  • 回边计数器用于统计循环体执行的循环次数

方法调用计数器

统计方法被调用的次数，默认阈值在Client模式下是1500次，Server模式下是10000次。超过这个阈值会触发JIT编译

• 可以通过-XX:CompileThreshold设定阈值
• 当一个方法被调用时，会先检查该方法是否存在JIT编译后的版本，若存在，优先使用编译后的本地代码执行。不存在则将此方法的调用计数器+1，然后判断方法调用计数器和回边计数器之和是否超过方法调用计数器的阈值，若超过阈值，则向JIT提交一个该方法代码编译请求。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-RhOVo9O5-1636511719717)(F:\博客笔记\Java 笔记.000 JVM笔记\img\方法调用计数器.png)]

热度衰减

• 如果不做任何设置，方法调用计数器统计的并不是方法被调用的绝对次数，而是一个相对的执行频率。即一段时间内方法被调用的次数、当超过一定时间限度，方法的调用的次数仍然不足以让它提交给JIT编译，那这个方法的调用计数器就会被减少一半，这个过程称为方法调用计数器热度的 衰减（Counter Decay），而这段时间就会称为此方法统计的半衰周期（Counter Half Life Time）

• 进行热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的，可以使用-XX：-UseCounterDecay来关闭热度衰减。

• 另外可以使用-XX:CounterHalfLifeTime参数设置半衰周期的时间，单位周期是秒。

回边计数器

作用是统计一个方法中循环体代码执行的次数，在字节码中遇到控制流想后跳转的指令称为回边（Back Edge）。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-T749KBrW-1636511719720)(F:\博客笔记\Java 笔记.000 JVM笔记\img\回边计数器.png)]

Hotspot设置程序执行方式

缺省情况下，Hotspot是采用解释器和即时编译器并存的架构，当然可以通过命令显示指定完全采用解释器执行还是完全采用即时编译器执行

• -Xint完全采用解释器模式执行
• -Xcomp完全采用即时编译器模式执行程序，如果即时编译器出现问题，解释器会介入执行
• -Xmixed：采用混合方式共同执行程序

JIT分类

• -client指定Java虚拟机运行在client模式下，使用C1编译器
  • C1编译器会对字节码进行简单和可靠的优化，耗时短
• -server指定Java虚拟机运行在Server模式下，并使用C2编译器
  • C2进行耗时较长的优化，以及激进优化。优化的代码执行效率更高

C1和C2不同的优化策略：

• C1编译器上主要有方法内联、去虚拟化、冗余消除
  • 方法内联：将引用的函数代码编译到引用点处，这样可以减少栈帧的生成。减少参数传递以及跳转过程
  • 去虚拟化：对唯一的实现类进行内联
  • 冗余消除：在运行期间把一些不会执行的代码折叠掉
• C2的优化主要在全局层面，逃逸分析是优化的基础。基于逃逸分析，有如下几种优化：
  • 标量替换：用标量值代替聚合对象的属性值
  • 栈上分配：对于未逃逸的对象，分配对象在栈而不是堆中
  • 同步消除：清除同步操作，通常指Synchronized

分层编译策略（Tiered Compilation）

程序解释执行（不开启性能监控）可以触发C1编译，将字节码编译成机器码，可以进行简单优化，也可以加上性能监控，C2编译会根据性能监控信息进行激进优化。

JDK7之后，一旦开发人员显示指定命令-server，就会默认开启分层编译策略，由C1编译器和C2编译器相互协作共同执行编译任务

Graal编译器

JDK10以后，引入了全新的JIT编译器：Graal编译器

• 编译效果短短几年就追平了C2编译器
• 目前带着“试验状态”的标签，需要使用开关参数：-XX:+UnlockExperimentalVMOptions、-XX:+UseJVMCICompiler去激活

AOT编译器

JDK9引入了AOT编译器（静态提前编译器，Ahead Of Time Compiler，AOT）

• 引入了实验性AOT编译工具jaotc。它借助了Graal编译器，将所输入的Java类文件转换为机器码，并存放到生成的动态共享库之中
• AOT编译是与JIT相对应的一个概念，指的是程序运行之前就将字节码转化为机器码

机器码、指令、汇编语言

机器码

• 各种二进制编码的方式表示的指令，叫做机器指令码，最初用它进行编程，这就是机器语言
• 机器原因虽然能够被计算机理解和接受，但和人类语言差别太大，不易被记忆，并且编程极容易出错
• 它编写的程序一输入到计算机，CPU直接读取运行，因此和其它语言编写的程序相比，运行速度最快
• 不同类型的CPU对应的机器指令不同

指令

• 由于机器码是由0和1组成的二进制蓄力，可读性太差，所以人民发明了指令
• 指令就是把机器码中的01序列简化成对应的操作（mov、inc等）
• 由于不同的硬件平台，执行同一个操作对应的机器码可能不同，所以不同硬件平台的同一个指令对应机器码也可能不同

指令集

• 不同的硬件平台支持的指令是有差别的，因此每个平台所支持的指令称之为对应平台的指令集
• 常见指令集有：
  • X86指令集，x86平台
  • ARM指令集

汇编语言

• 机器语言的可读性依然很差，于是人们发明了汇编语言
• 用助记符代替机器指令的操作码，用地址符号或者标号代替指令或操作数的地址
• 不同的硬件平台，汇编语言对应着不同的机器语言指令集，通过汇编过程转换成机器指令
• 汇编语言编写的程序必须翻译成机器指令码才能执行

高级语言

• 为了是计算机用户编程更加容易，后来就出现了各种高级语言，高级语言比机器语言、汇编语言更接近人的语言
• 当计算机执行高级语言编写程序时，仍然需要把程序解释和编译成机的指令码。

解释器

字节码

• 字节码是一种 中间状态（中间码）的二进制代码（文件），它比机器码更加抽象，需要直译器转译后才能成为机器码
• 字节码主要为了实现特定软件运行与软件环境，与硬件无关
• 字节码的实现方式是通过编译器和虚拟机，编译器将源码编译成字节码
• 特定平台上的虚拟机将字节码转译为可直接执行的指令
  • 典型应用：Java Bytecode

解释器

初衷是为了满足Java程序实现跨平台特性，从而使用字节码作为执行程序

• 承担的角色就是一个运行时的翻译者，将字节码文件的内容翻译为对应平台的本期机器执行指令
• 当一条字节码指令被解释器执行完成后，再根据PC寄存器中记录的下一条需要被执行的字节码指令执行解释操作。

分类

Java的历史中，有两套解释器，即最初的字节码解释器，和普遍使用的模板解释器

• 字节码解释器在执行时通过 纯软件代码模拟字节码的执行，效率很低
• 模板解释器将每一条字节码和一个模板函数关联，模板函数中直接产生这条字节码执行时的机器码，从而很大程度的提高了解释器的性能
  • Hotspot中，解释器主要由Interpreter和Code两大模块组成
    • Interpreter模块实现了解释器的核心功能
    • Code模块用于管理HotSpot在运行时生成的本地机器指令

现状

• 由于解释器在设计和实现上非常简单，因此除了Java之外，许多高级语言同样也是基于解释器执行的，比如Python Perl Ruby等，但是在今天，基于解释器执行已经变为低效的代名词。
• 为了解决这个问题，JVM平台支持即时编译技术，即时编译的木器是避免函数被解释执行。将整个函数体编译成为机器码，每次函数执行时，只执行编译后的机器码即可，这种方式可以使执行效率大幅度提升

JIT （Just In Time）编译器

概念解释

• Java语言的编译期其实是一段不确定的操作过程，因为它可能是指一个前端编译器（编译器的前端），把.java转变为.class文件的过程
• 也可能是指虚拟机的后端运行编译器（JIT编译器），把字节码转变成机器指令的过程。
• 还可能是指使用静态提前编译器（AOT编译器，Ahead Of Time Compiler）直接把.java文件编译成本地机器代码的过程。

Hotspot采用解释器与JIT编译器并存的架构，解释器和JIT可以互补，提高效率。

• 当程序启动后，解释器可以马上发挥作用，省去编译时间，立即执行

• 编译器想发挥作用，把代码编译成本地代码，需要一定的执行时间，但编译为本地代码后，执行效率更高。

• 当JVM启动时，解释器可以首先发挥作用，而不必等待即时编译器全部编译完成后再执行，这样可以省去许多不必要的编译时间，随着时间的推移，编译器发挥作用，根据热点探测，将有价值的字节码编译成本地机器指令。获得更高的执行效率。

前端编译器：Sun的javac、Eclipse JDT中的增量式编译器（ECJ）

JIT编译器：Hotspot中的C1 、C2编译器

AOT编译器：GNU Complier for the Java（GCJ）、Excelsior JET

热点代码和探测方式

• 一个被多次调用的方法、或者是方法体内部循环次数较多的循环体，都可以被称之为“热点代码”。这种编译方式发生在方法的执行过程中，因此也被称之为 栈上替换。或简称OSR（On Stack Replacement）编译
• 一个方法要被调用多少次，或者循环体执行多少次循环才可以达到这个标准？主要依靠热点探测功能来判断
• 目前Hotspot采用的热点探测方式是基于计数器的热点探测
• Hotspot会为每一个方法建立2个不同类型的计数器，分别为方法调用计数器(Invocation Counter)和回边计数器（Back Edge Counter）
  • 方法调用计数器统计方法的调用次数
  • 回边计数器用于统计循环体执行的循环次数

方法调用计数器

统计方法被调用的次数，默认阈值在Client模式下是1500次，Server模式下是10000次。超过这个阈值会触发JIT编译

• 可以通过-XX:CompileThreshold设定阈值
• 当一个方法被调用时，会先检查该方法是否存在JIT编译后的版本，若存在，优先使用编译后的本地代码执行。不存在则将此方法的调用计数器+1，然后判断方法调用计数器和回边计数器之和是否超过方法调用计数器的阈值，若超过阈值，则向JIT提交一个该方法代码编译请求。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-TE4242Af-1636511777466)(F:\博客笔记\Java 笔记.000 JVM笔记\img\方法调用计数器.png)]

热度衰减

• 如果不做任何设置，方法调用计数器统计的并不是方法被调用的绝对次数，而是一个相对的执行频率。即一段时间内方法被调用的次数、当超过一定时间限度，方法的调用的次数仍然不足以让它提交给JIT编译，那这个方法的调用计数器就会被减少一半，这个过程称为方法调用计数器热度的 衰减（Counter Decay），而这段时间就会称为此方法统计的半衰周期（Counter Half Life Time）

• 进行热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的，可以使用-XX：-UseCounterDecay来关闭热度衰减。

• 另外可以使用-XX:CounterHalfLifeTime参数设置半衰周期的时间，单位周期是秒。

回边计数器

作用是统计一个方法中循环体代码执行的次数，在字节码中遇到控制流想后跳转的指令称为回边（Back Edge）。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hwn9MeBa-1636511777470)(F:\博客笔记\Java 笔记.000 JVM笔记\img\回边计数器.png)]

Hotspot设置程序执行方式

缺省情况下，Hotspot是采用解释器和即时编译器并存的架构，当然可以通过命令显示指定完全采用解释器执行还是完全采用即时编译器执行

• -Xint完全采用解释器模式执行
• -Xcomp完全采用即时编译器模式执行程序，如果即时编译器出现问题，解释器会介入执行
• -Xmixed：采用混合方式共同执行程序

JIT分类

• -client指定Java虚拟机运行在client模式下，使用C1编译器
  • C1编译器会对字节码进行简单和可靠的优化，耗时短
• -server指定Java虚拟机运行在Server模式下，并使用C2编译器
  • C2进行耗时较长的优化，以及激进优化。优化的代码执行效率更高

C1和C2不同的优化策略：

• C1编译器上主要有方法内联、去虚拟化、冗余消除
  • 方法内联：将引用的函数代码编译到引用点处，这样可以减少栈帧的生成。减少参数传递以及跳转过程
  • 去虚拟化：对唯一的实现类进行内联
  • 冗余消除：在运行期间把一些不会执行的代码折叠掉
• C2的优化主要在全局层面，逃逸分析是优化的基础。基于逃逸分析，有如下几种优化：
  • 标量替换：用标量值代替聚合对象的属性值
  • 栈上分配：对于未逃逸的对象，分配对象在栈而不是堆中
  • 同步消除：清除同步操作，通常指Synchronized

分层编译策略（Tiered Compilation）

程序解释执行（不开启性能监控）可以触发C1编译，将字节码编译成机器码，可以进行简单优化，也可以加上性能监控，C2编译会根据性能监控信息进行激进优化。

JDK7之后，一旦开发人员显示指定命令-server，就会默认开启分层编译策略，由C1编译器和C2编译器相互协作共同执行编译任务

Graal编译器

JDK10以后，引入了全新的JIT编译器：Graal编译器

• 编译效果短短几年就追平了C2编译器
• 目前带着“试验状态”的标签，需要使用开关参数：-XX:+UnlockExperimentalVMOptions、-XX:+UseJVMCICompiler去激活

AOT编译器

JDK9引入了AOT编译器（静态提前编译器，Ahead Of Time Compiler，AOT）

• 引入了实验性AOT编译工具jaotc。它借助了Graal编译器，将所输入的Java类文件转换为机器码，并存放到生成的动态共享库之中
• AOT编译是与JIT相对应的一个概念，指的是程序运行之前就将字节码转化为机器码

标签：解释器,Java,字节,虚拟机,机器码,编译,编译器,引擎,执行
来源： https://blog.csdn.net/eclipse9527/article/details/119861841