小研究 - Java虚拟机即时编译器的一种实现原理

深入分析了 Ｋａｆｆｅ虚拟机的 ＪＩＴ（Ｊｕｓｔ－Ｉｎ－Ｔｉｍｅ）实现原理，以及在 ＪＩ中如何利用Ｔｒａｍｐｏｌｉｎｅ技术来作为跳板达到提高 Ｋａｆｆｅ虚拟机的执行性能，并通在 ｉ３８６上结合实例来具体了解 Ｔｒａｍｐｏｌｉｎｅ的实现。最后深入分析了作为 ＪＩＴ核的翻译器在 ＪＩＴ中如何将字节码映射成为中间码，并翻译成为本地代码的实现原理。

目录

１　引言

２  Ｋａｆｆｅ中 ＪＩＴ的实现原理

２.１　引入 Ｔｒａｍｐｏｌｉｎｅ

２.２  Ｔｒａｍｐｏｌｉｎｅ的实现思路

２.３  Ｔｒａｍｐｏｌｉｎｅ的源码实现

２.４  翻译器的实现原理

３  结 束 语

---

１　引言

任何 Ｊａｖａ虚拟机实现的核心都是它的执行引擎（如图 １）。Ｊａｖａ虚拟机中的执行引擎就好比中央处理器，使得 Ｊａｖａ虚拟机重复不断地读取字节码然后解释并执行，直到虚拟机进程退出。

Ｊａｖａ虚拟机规范中规定，执行引擎的行为由指令集来规定动作。对于每条指令，规范都详细规定了执行该指令时应该“做什么”，但是没有说明“如何做”，因此 Ｊａｖａ虚拟机的实现者可以采取解释执行技术、即时编译（ＪＩＴ）技术或者直接在专用芯片上执行指令的技术，甚至可以是它们的混合技术。

Ｋａｆｆｅ是按照 Ｊａｖａ虚拟机规范实现的一种虚拟机。它是基于源代码开放的自由软件，在大部分平台上都能够成功的移植，且性能稳定。其执行引擎的实现（即“如何做”）也具有自身的特点。

Ｋａｆｆｅ的执行引擎实现方式有解释执行与即时编译两种方式（可以在安装的时候选择）。解释执行是一种简单的实现方式：执行引擎读取每条字节码指令，然后将每条字节码解释成为本地代码，如此反复。这样的执行引擎实现方式比较简单，但是执行效率非常低下，因为解释工作是逐条地反复进行，导致程序中会有大量代码重复执行而浪费了许多时间。不过，Ｋａｆｆｅ的即时编译器的执行效率得到了很大的提高：它是在第一次调用某个方法的时候，才将方法的字节码翻译成为本地代码，并在以后再次调用这个方法的时候，直接调用本地代码。由于是对整段代码的翻译，而且可以缓存本地代码，从而极大提高了虚拟机的运行速度。另外它还可以对整段代码进行本地优化，使解释字节码的效率得到大大提高，节约了大量的调用时间和空间。

２  Ｋａｆｆｅ中 ＪＩＴ的实现原理

２.１　引入 Ｔｒａｍｐｏｌｉｎｅ

Ｋａｆｆｅ采用ＪＩＴ模式运行的时候，ＪＩＴ会认为它正在执行的总是本地代码，因此需要在运行 Ｊａｖａ方法之前将方法翻译成为本地代码。一种可能是在虚拟机装载 ｃｌａｓｓ文件的时候，将该类的所有方法都提前预编译为本地代码，这样在需要调用某个方法时，直接调用本地方法即可。但是这样的代价是装载一个类会耗费大量时间，而且经过提前翻译的方法不一定会得到运行，这样造成了时间和空间上的极大浪费，降低了性能。

２.２  Ｔｒａｍｐｏｌｉｎｅ的实现思路

Ｋａｆｆｅ的即时编译器（ＪＩＴ）采用 Ｔｒａｍｐｏｌｉｎｅ技术，其基本原理是：

１）创建 Ｔｒａｍｐｏｌｉｎｅ阶段：每当虚拟机在装载类的时候，会为这个类的所有方法创建一个派遣表，该表中的每一项指向一个被称为 Ｔｒａｍｐｏｌｉｎｅ的函数（见图 ２）。该 Ｔｒａｍｐｏｌｉｎｅ函数包含有足够的信息来通知一个叫做翻译器的函数来将该调用方法的字节码翻译成为本地代码。

２）调用方法阶段：每当虚拟机第一次调用某个方法的时候，调用者首先在一个派遣表中查找到该
方法，如果该方法还没有被翻译为本地代码，则该方法所指向的Ｔｒａｍｐｏｌｉｎｅ函数会跳转到第一阶段存储的翻译器函数来负责将该方法的字节码翻译成本地代码。翻译结束之后，派遣表中的该方法被修改成指向翻译后的本地代码内存地址，并且将本地代码的地址返回给调用者。这样，以后再次调用该方法的时候，可以直接从派遣表中跳转到本地代码执行。

如图 ２所示，调用路线直接从 ａ走向 ｂ。Ｔｒａｍｐｏｌｉｎｅ在其中起到了跳板的作用。

２.３  Ｔｒａｍｐｏｌｉｎｅ的源码实现

Ｋａｆｆｅ虚拟机由于是将字节码翻译成为本地代码，所以根据不同的平台，其实现原理虽然一致，但具体实现细节稍有不同。下面以 Ｋａｆｆｅ在 ｉ３８平台下为例来分析一下 Ｔｒａｍｐｏｌｉｎｅ的源代码。

在 Ｋａｆｆｅ源代码目录的 ｃｏｎｆｉｇ／ｉ３８６／ｊｉｔ．ｈ中，有一个 ｍｅｔｈｏｄＴｒａｍｐｏｌｉｎｅ结构体和 ＦＩＬＬ＿ＩＮ＿ＴＲＡＭＰＯ－ＬＩＮＥ的宏定义（见图 ３）。ｍｅｔｈｏｄＴｒａｍｐｏｌｉｎｅ就是图２中 Ｔｒａｍｐｏｌｉｎｅ的数据结构，它有 ４个数据项，Ｃ语言中定义为 ＰＡＣＫＥＤ，表示 ｆｉｘｕｐ项和 ｃａｌｌ项是紧挨着的，而不是 ４字节对齐。ＦＩＬＬ＿ＩＮ＿ＴＲＡＭＰＯＬＩＮＥ宏的作用就是前面 ２．２中描述的第一阶段。ｃａｌｌ＝０ｘｅ８是 ｉ３８６体系结构的汇编代码对应的 ｃａｌｌ指令。ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ是一个用汇编代码实现的函数，（ｉｎｔ）ｔ是 Ｔｒａｍｐｏｌｉｎｅ的内存地址，汇编指令ｃａｌｌ占用 ５个字节，所以要减去 ５，最后得到的 ｆｉｘｕｐ值是一个偏移量，该偏移量被汇编指令 ｃａｌｌ（０ｘｅ８）调用，方便以后跳转到 ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ中去执行。ｍｅｔｈ指向需要翻译成为本地代码的方法字节码。在 ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ中是作为参数传递给函数 ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ的（该函数调用了翻译器 Ｔｒａｎｓｌａｔｅ函数）。ｗｈｅｒｅ指向派遣表中调用方法的位置。ｗｈｅｒｅ因为和 ｍｅｔｈ在内存中是紧挨着的，所以最终它也传递给了函数 ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏ－ｌｉｎｅ。

接下来看看 ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ的巧妙之处：ｐｏｐｌ％ｅａｘ是将上面 ｍｅｔｈ的内存地址传递给％ｅａｘ，之后压栈（ｐｕｓｈ％ｅａｘ），就可以将％ｅａｘ（也就是ｍｅｔｈ的地址）作为参数传递给 ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ函数 了。ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ函数 调 用 翻 译 器（Ｔｒａｎｓｌａｔｅ方法）将字节码翻译成为本地代码，然后更新派遣表，使之指向本地代码。最后再跳转到本地代码并执行本地代码（见图 ４）。

Ｋａｆｆｅ针对其它平台也有类似的实现，虽然具体细节略有不同，但是其最终目的都是为了从 Ｔｒａｍｐｏ－ｌｉｎｅ跳转到翻译器，把字节码翻译成为本地码。

２.４  翻译器的实现原理

Ｔｒａｍｐｏｌｉｎｅ只是 Ｋａｆｆｅ在 ＪＩＴ中实现的跳板，而真正的将字节码翻译成本地代码的过程是由 Ｋａｆｆｅ的翻译器来完成的。

Ｋａｆｆｅ的 ＪＩＴ在将字节码翻译成本地代码之前，会将字节码先翻译成对应的中间码，被称作 ｉｃｏｄｅ（ｉｎｔｅｒｍｅｄｉａｔｅｃｏｄｅ）。Ｋａｆｆｅ的中间码指令集的目的是为了在 Ｋａｆｆｅ移植到一个新的体系架构过程中最大限度的获得代码重用，获得快速、高效的开发进度。

通过 Ｔｒａｍｐｏｌｉｎｅ的巧妙设置后，此时翻译器并没有真正的执行，因为这只是在类装载时期完成的，还没有真正的调用 Ｊａｖａ方法。而一旦第一次调用某个 Ｊａｖａ方法时，ＪＩＴ就会跳转到翻译器中来翻译字节码为中间码，再翻译为本地代码。翻译器在 ＪＩＴ中起着核心的作用，主要完成三个步骤：

１）字节码的分析阶段：获得当前方法所需的栈信息（比如栈的大小等）、所有局部变量的有用信息等。

２）翻译阶段：首先将单个字节码指令映射到相应的中间码，然后通过中间码生成被称为“ｓｅ－ｑｕｅｎｃｅ”对象的链表，这些链表各自对应着跟体系结构相关的本地函数，最后通过这些本地函数将中间码翻译成本地代码。

３）连接阶段：将所有生成的本地代码拷贝到一个新的空间，并且初始化连接。这里的初始化连接表示重写某些因为拷贝到新的空间造成的地址改变等信息。

３  结 束 语

不同虚拟机的执行引擎都有自己的具体实现方式，这里分析了 Ｋａｆｆｅ虚拟机在 ＪＩＴ上的实现原理。通过在不同平台上的运行效果看，Ｋａｆｆｅ的 ＪＩＴ在执行性能上还是有其优势的。

随着 Ｊａｖａ虚拟机在各种平台的应用越来越广泛，Ｊａｖａ的跨平台性也得到了广泛的认可，从而做好Ｊａｖａ虚拟机的移植工作是非常重要的。在移植中，Ｋａｆｆｅ执行引擎的移植是重要的一环，在这方面，Ｋａｆｆｅ已经做的很出色。通过本文的分析，能够为程序员理解以及移植 Ｊａｖａ虚拟机的执行引擎带来一定的参考价值。