中间语言和虚拟机漫谈Word文档格式.docx

1、这个变革大幅度降低了创造一个新语言的成本，一下子把我们推入了一个语言井喷的时代。从抽象语法树到中间语言熟悉编译器设计的读者都知道，编译的第一步是构建一个叫抽象语法树（AST）的数据结构 语法树这个概念来源于LISP）。有了这样的数据结构后，解释器和编译器在此分野。以AST为起点，解释器完全可以遍历语法树，递归执行每个子结点。IEEE POSIX （或称标准UNIX） 规定的 AWK 语言，其经典实现就是一个生成和遍历语法树的过程： . syminit（）; compile_time = 1; Node *winner ; /* root of parse tree */ yyparse（）;

2、/* generate parse tree */ if （errorflag = 0） compile_time = 0; /* switch to execution */ run（winner）; /* execution of parse tree starts here */ Awk这样的传统解释器的优点在于结构简单，开发便利。事实上许多领域专用语言都采取这种方式实现，如PostScript、Matlab、R等。解释执行的缺点也是显而易见的。首要的一点就是每次执行都需要重新生成语法树。领域专用语言或许可以忍受每次零点几秒的重复解释过程，而对于可以开发大型应用的通用编程语言来说，这一点

3、是致命的。每次重新生成语法树也意味着这样的语言难以用于资源受限系统，因为语言本身语法结构复杂，布置一个解释模块的代价往往非常高昂。为了避免解释执行的这些弊端，传统的编译器致力于只解释一次，将通用语言的语法树，直接转变为目标机器的CPU指令。传统的FORTRAN和C编译器就是如此设计的。有些编程构建，如C语言中的i+, 甚至是直接受CPU指令影响的产物。上个世纪80年代后期，随着对程序效率优化和LISP机器的研究，研究者们认识到，其实传统的编译和解释并不是对立的概念。特别的，编程语言的语法树转变可以为一种中间指令格式。这种中间指令格式贴近机器指令，可以进行运行效率优化。传统的以生成目标指令的编译

4、器，可以将中间语言简单转为机器指令。而解释器，也省却了多次的语法树生成，而直接解释相对简单的中间语言。较早在中间语言上进行探索的是MIT的LISP机器。如Thomas Knight，他的研究集中在如何在硬件上实现一个高效的LISP环境。显然，没有一个硅片可以直接运行mapcar，但设计一个支持mapcar的中间语言并不困难，只需要支持一些基本的列表操作即可。这种设计思想影响了很多后来的系统。流行的GCC编译器，从结构上来说分前端和代码生成端两部分。连接两者的中间语言RTL的基本一些指令，都可以追溯到LIPS机器的指令集。中间语言和虚拟机中间语言可用于程序优化的原因是显而易见的：这种中间格式既贴

5、近机器代码，又保存了原有程序的结构。程序优化并不是一门魔术。像循环展开，死代码消除等技术，都依赖于程序控制结构，而中间语言可以保持这样的控制结构。事实上，目前我们所知的编译优化技术，无一不是建立在结构分析之上。中间语言的出现让程序优化成为了一个独立的问题。原本单列的C程序优化, FORTRAN程序优化如今统一归结为RTL程序优化。编译器前端可以千差万别支持许多语言，但负责优化和翻译为目标代码的后端均归为一个，就此一点，就大大简化了语言编译器的设计门槛。现如今，几乎没有一个语言设计者需要考虑如何生成高效目标代码了。当然，中间语言的作用并不仅限于目标代码优化。如果我们把中间语言也当作一种语言的话，

6、不难发现中间语言甚至比原语言更加普及。 比如，Java虚拟机（JVM） 语言实际上是一个比Java语言成功许多倍的产品。JVM存在于众多Java语言不存在的地方。像Jython、Scala和JRuby这样的语言，均依赖于JVM，而非Java语言本身。语言的虚拟机的本质，是一个可以运行中间语言的机器。在实际硬件上，程序和数据是两个截然不同的概念；而对于虚拟机来讲，中间语言程序，只是虚拟机程序的输入数据罢了。这种将程序当作数据的处理方式，带来了我们熟知的许多虚拟机的优点，如跨平台特性，安全性等等。因为程序即是数据，为虚拟机读取中间语言程序方便，其指令往往都是以字节为单位，故称为字节码 （bytec

7、ode）。 相比之下，计算机的CPU指令则可长度不一，也不一定占据整数个字节。 程序是数据这个特性使得虚拟机可以做到跨平台和沙箱安全；反过来，数据是程序又使得虚拟机可以用在一些意想不到的地方，使数据更加灵活。目前通行的轮廓字体描述语言TrueType就是成功运用虚拟机来更加灵活地处理字体的一个例子。 TrueType是一种采用数学函数描述字体的矢量字体。矢量字体在理论上可以自由缩放。而实践中，因为显示器本质上是点阵的，所有的矢量字形都要经过栅格化（rasterization），将矢量轮廓近似转化为像素点的透明度。然而，这种近似并不是随意的。以汉字 “中” 为例，为保证其对称美观，我们必须约束栅

8、格化程序，保证任何时候左右两个竖线与中间一竖的距离相等，哪怕为此不惜将此字缩减或放宽一两个像素。这类约束又被称作提示（hinting）。它对字体至关重要缺少提示的矢量字体在字形较小时不可避免地会出现失真，变形和锯齿等现象。不难理解，本质上“提示”是一个以字体轮廓和字形大小为输入，以栅格数据为输出的程序。因为此，TrueType包含了一套虚拟机指令，方便字体设计者表达这种提示。可以想象，如果没有这个虚拟机的存在，设计灵活的矢量字体是不可能完成的任务。实际上，我们所见到的几乎所有的矢量字体文件，都是一个数据和程序的混合物。 从另一方面来说，每个字形都需要一个专门的“提示”，也从一个侧面说明了设计高

9、质量的中文字体之难度。基于栈，还是基于寄存器凡提到虚拟机，绕不过去的第一个问题就是这个虚拟机是基于栈的，还是基于寄存器的（有些虚拟机，如LISP机器，可以同时有栈和寄存器）？尽管这里“寄存器”和“栈”，都不一定直接对应到机器CPU的寄存器或者内存里的栈。这个问题之所以重要，因为它直接决定了虚拟机的应用场景。一般说来，基于栈的虚拟机结构相对简单，且更加适合资源受限系统。 比如上文我们说的TrueType虚拟机，结构简单，功能专一，就是基于栈的。尽管所有的计算机的存储模型都是构建在图灵机的无穷纸带模型上，实践中所有语言都或多或少依赖于栈模型。特别的，函数调用就等价于栈的推入和弹入操作，其他操作均可

10、抽象为对栈顶元素进行。相比之下，寄存器模型虽然贴近真实机器，却并不够直接：很少有高级语言直接制定寄存器如何分配的，因此编译器的作者需要考量寄存器分配问题。而基于栈的虚拟机的所有指令都可默认为对栈顶元素操作，结构简单，且暂时绕开了寄存器分配难题。基于栈的虚拟机更加适合内存和CPU处理速度等方面有限的系统。同样的源程序，在目标代码的体积上，面向栈虚拟机上生成的代码更加小。这是容易理解的：基于栈的虚拟机的指令默认对栈顶元素操作，因此指令只需为OP格式，无需OP Reg1, Reg2, Reg3等额外指定寄存器。这个设计也绕开了指令解码问题。平均上说，基于寄存器的虚拟机生成的指令的体积比基于栈的要大。

11、我们见到的许多基于栈的虚拟机，都是为资源受限系统设计的。JVM的初衷是一个运行在电视机顶盒中的小系统，后来精简版本的JVM甚至可以放到智能卡上；Forth语言的虚拟机是要用在计算机固件（Open Firmware），航空系统和嵌入式系统中；控制打印的PostScript用于高品质打印机中。很显然，机顶盒，引导固件和打印机都是资源受限的系统，这些系统中的虚拟机，不约而同都是基于栈的。值得一提的是，因为实现简单，许多并非用于受限系统的通用语言的虚拟机也是基于栈的，如Python、Ruby、.NET 的CLR等。基于寄存器的虚拟机，是为性能所生。引入寄存器假设固然关上了用于资源受限系统的门，却也打开

12、了一扇通向进一步性能优化的窗。栈虚拟机的一大缺点就是要不停地将操作数在堆和栈之间来回拷贝。比方说一个简单的三个参数的函数调用，在传递参数上就需要至少三次入栈和出栈操作，而在寄存器上只要指定三个寄存器即可。现代处理器提供的通用寄存器支持，本身就是为了减少这类值的来回拷贝。尽管有Hotspot这样的技术能够将一段栈虚拟机指令转化为基于寄存器的机器指令，可毕竟没有直接从支持寄存器的中间语言翻译直接。前面说过，保持程序的结构是优化的先决条件。失去了“指定三个值”这样的结构的栈虚拟机，需要运行时间接的推断这个操作。而直接指定这些访问结构，将值直接映射到 CPU 的寄存器，正是这类虚拟机运行效率高的要点所

13、在。Android的Dalvik, Perl的Parrot都是基于寄存器的虚拟机，而LLVM则是基于寄存器假设的中间语言。其中，为了让Android程序更加快的运行，Google不惜放弃JVM指令集，而选择将JVM指令转化为基于有限个寄存器的Dalvik指令集。Parrot和LLVM则更加自由一些，假设了无穷多个寄存器。无论是有限还是无限个寄存器，省却不必要的值拷贝是这类中间语言的最大优点。JIT和直接执行JIT（Just-in-time）是运行时的动态编译技术。不难看出，JIT是针对中间语言的将原语言的编译推迟到运行时并无意义，将中间语言的解释，部分转化为编译后的机器代码，则可以优化运行效率

14、。JIT之所以可行，一个基本假设是程序大多存在热点。D. E. Knuth三十年前观察到的一个现象: 一段FORTRAN程序中不到4%的部分往往占用超过50%的运行时间。因此，在运行时识别这样的热点并优化，可以事半功倍地提高执行效率。按照Jython作者Jim Hugunin的观测，JIT技术出现后，同样功能的程序，运行于Java虚拟机上的字节码和直接编译成二进制代码的C程序几乎一样快，有的甚至比C快。乍一看虚拟机比原生代码快，理论上是不可能的。而实践中，因为JIT编译器可以识别运行时热点做出特别优化。相比之下，静态编译器的代码优化并不能完全推断出运行时热点。而且，有些优化技术，如将虚函数调用静态化，只有在运行时才能做到。在对热点深度优化的情况下，JIT比直接生成的机器代码执行效率高并不是一件神奇的事情。引入了JIT的，以Python书写的Python执行器pypy, 运行速度要比以C实现的CPython解释器快一到五倍，就是 JIT 技术魅力的一个明证。尽管JIT技术看上去很炫，实践中也能够做到几乎和原生二进制代码速度相近，我们必须承认，这只是一种补救相对慢的中间语言解释的一种措施罢了。设计语言平台时，设计者可能因为