中间语言和虚拟机漫谈.docx
《中间语言和虚拟机漫谈.docx》由会员分享，可在线阅读，更多相关《中间语言和虚拟机漫谈.docx（4页珍藏版）》请在冰豆网上搜索。
中间语言和虚拟机漫谈
中间语言和虚拟机漫谈
文/徐宥编程语言的发展历史，总的来说，是一个从抽象机器操作逐步进化为抽象人的思维的过程。
机器操作和人的思维如一枚硬币的两面，而语言编译器就像是个双面胶，将这两面粘在一起，保证编程语言源程序和机器代码在行为上等价。
当然，人本身并不是一个完美的编译器，不能无错的将思维表达为高级语言程序，这种偏差，即Bug。
因为编译器的帮助，我们可以脱离机器细节，只关心表达思维和程序行为这一面。
编程语言的发展日新月异。
特别是随着对问题的深入理解，新的设计思想，语法构建和新的领域相关语言（DSL）层出不穷。
而硬币的另一面似乎一直波澜不惊。
这是自然的——无需关心底层架构的变化，或者目标代码生成优化等技术的进化，正是编译器带给我们的好处，因为这些细节和要解决的问题往往关系不大。
尽管所受的关注度不高，这些底层的技术一直在持续地进步。
特别是这十年来，一场大的变革正在悄悄发生。
这场变革，就是中间语言和虚拟机几乎成为了编程语言的标配——编译器不再以机器的CPU指令集作为编译目标，而是生成针对某种中间语言或虚拟机指令集的目标代码。
这场变化是深刻的，它意味着编程语言的设计者自此完全脱离了具体硬件平台的束缚，语言如何设计和如何执行成为了两个完全正交的系统。
这个变革大幅度降低了创造一个新语言的成本，一下子把我们推入了一个语言井喷的时代。
从抽象语法树到中间语言熟悉编译器设计的读者都知道，编译的第一步是构建一个叫抽象语法树（AST）的数据结构语法树这个概念来源于LISP）。
有了这样的数据结构后，解释器和编译器在此分野。
以AST为起点，解释器完全可以遍历语法树，递归执行每个子结点。
IEEEPOSIX（或称标准UNIX）规定的AWK语言，其经典实现就是一个生成和遍历语法树的过程：
...
syminit（）;
compile_time=1;
Node*winner;/*rootofparsetree*/
yyparse（）;/*generateparsetree*/
...
if（errorflag==0）{
compile_time=0;/*switchtoexecution*/
run（winner）;/*executionofparsetreestartshere*/
}
...
Awk这样的传统解释器的优点在于结构简单，开发便利。
事实上许多领域专用语言都采取这种方式实现，如PostScript、Matlab、R等。
解释执行的缺点也是显而易见的。
首要的一点就是每次执行都需要重新生成语法树。
领域专用语言或许可以忍受每次零点几秒的重复解释过程，而对于可以开发大型应用的通用编程语言来说，这一点是致命的。
每次重新生成语法树也意味着这样的语言难以用于资源受限系统，因为语言本身语法结构复杂，布置一个解释模块的代价往往非常高昂。
为了避免解释执行的这些弊端，传统的编译器致力于只解释一次，将通用语言的语法树，直接转变为目标机器的CPU指令。
传统的FORTRAN和C编译器就是如此设计的。
有些编程构建，如C语言中的i++,甚至是直接受CPU指令影响的产物。
上个世纪80年代后期，随着对程序效率优化和LISP机器的研究，研究者们认识到，其实传统的编译和解释并不是对立的概念。
特别的，编程语言的语法树转变可以为一种中间指令格式。
这种中间指令格式贴近机器指令，可以进行运行效率优化。
传统的以生成目标指令的编译器，可以将中间语言简单转为机器指令。
而解释器，也省却了多次的语法树生成，而直接解释相对简单的中间语言。
较早在中间语言上进行探索的是MIT的LISP机器。
如ThomasKnight，他的研究集中在如何在硬件上实现一个高效的LISP环境。
显然，没有一个硅片可以直接运行mapcar，但设计一个支持mapcar的中间语言并不困难，只需要支持一些基本的列表操作即可。
这种设计思想影响了很多后来的系统。
流行的GCC编译器，从结构上来说分前端和代码生成端两部分。
连接两者的中间语言RTL的基本一些指令，都可以追溯到LIPS机器的指令集。
中间语言和虚拟机中间语言可用于程序优化的原因是显而易见的：
这种中间格式既贴近机器代码，又保存了原有程序的结构。
程序优化并不是一门魔术。
像循环展开，死代码消除等技术，都依赖于程序控制结构，而中间语言可以保持这样的控制结构。
事实上，目前我们所知的编译优化技术，无一不是建立在结构分析之上。
中间语言的出现让程序优化成为了一个独立的问题。
原本单列的C程序优化,FORTRAN程序优化如今统一归结为RTL程序优化。
编译器前端可以千差万别支持许多语言，但负责优化和翻译为目标代码的后端均归为一个，就此一点，就大大简化了语言编译器的设计门槛。
现如今，几乎没有一个语言设计者需要考虑如何生成高效目标代码了。
当然，中间语言的作用并不仅限于目标代码优化。
如果我们把中间语言也当作一种语言的话，不难发现中间语言甚至比原语言更加普及。
比如，Java虚拟机（JVM）语言实际上是一个比Java语言成功许多倍的产品。
JVM存在于众多Java语言不存在的地方。
像Jython、Scala和JRuby这样的语言，均依赖于JVM，而非Java语言本身。
语言的虚拟机的本质，是一个可以运行中间语言的机器。
在实际硬件上，程序和数据是两个截然不同的概念；而对于虚拟机来讲，中间语言程序，只是虚拟机程序的输入数据罢了。
这种将程序当作数据的处理方式，带来了我们熟知的许多虚拟机的优点，如跨平台特性，安全性等等。
因为程序即是数据，为虚拟机读取中间语言程序方便，其指令往往都是以字节为单位，故称为字节码（bytecode）。
相比之下，计算机的CPU指令则可长度不一，也不一定占据整数个字节。
程序是数据这个特性使得虚拟机可以做到跨平台和沙箱安全；反过来，数据是程序又使得虚拟机可以用在一些意想不到的地方，使数据更加灵活。
目前通行的轮廓字体描述语言TrueType就是成功运用虚拟机来更加灵活地处理字体的一个例子。
TrueType是一种采用数学函数描述字体的矢量字体。
矢量字体在理论上可以自由缩放。
而实践中，因为显示器本质上是点阵的，所有的矢量字形都要经过栅格化（rasterization），将矢量轮廓近似转化为像素点的透明度。
然而，这种近似并不是随意的。
以汉字“中”为例，为保证其对称美观，我们必须约束栅格化程序，保证任何时候左右两个竖线与中间一竖的距离相等，哪怕为此不惜将此字缩减或放宽一两个像素。
这类约束又被称作提示（hinting）。
它对字体至关重要——缺少提示的矢量字体在字形较小时不可避免地会出现失真，变形和锯齿等现象。
不难理解，本质上“提示”是一个以字体轮廓和字形大小为输入，以栅格数据为输出的程序。
因为此，TrueType包含了一套虚拟机指令，方便字体设计者表达这种提示。
可以想象，如果没有这个虚拟机的存在，设计灵活的矢量字体是不可能完成的任务。
实际上，我们所见到的几乎所有的矢量字体文件，都是一个数据和程序的混合物。
从另一方面来说，每个字形都需要一个专门的“提示”，也从一个侧面说明了设计高质量的中文字体之难度。
基于栈，还是基于寄存器凡提到虚拟机，绕不过去的第一个问题就是这个虚拟机是基于栈的，还是基于寄存器的（有些虚拟机，如LISP机器，可以同时有栈和寄存器）？
尽管这里“寄存器”和“栈”，都不一定直接对应到机器CPU的寄存器或者内存里的栈。
这个问题之所以重要，因为它直接决定了虚拟机的应用场景。
一般说来，基于栈的虚拟机结构相对简单，且更加适合资源受限系统。
比如上文我们说的TrueType虚拟机，结构简单，功能专一，就是基于栈的。
尽管所有的计算机的存储模型都是构建在图灵机的无穷纸带模型上，实践中所有语言都或多或少依赖于栈模型。
特别的，函数调用就等价于栈的推入和弹入操作，其他操作均可抽象为对栈顶元素进行。
相比之下，寄存器模型虽然贴近真实机器，却并不够直接：
很少有高级语言直接制定寄存器如何分配的，因此编译器的作者需要考量寄存器分配问题。
而基于栈的虚拟机的所有指令都可默认为对栈顶元素操作，结构简单，且暂时绕开了寄存器分配难题。
基于栈的虚拟机更加适合内存和CPU处理速度等方面有限的系统。
同样的源程序，在目标代码的体积上，面向栈虚拟机上生成的代码更加小。
这是容易理解的：
基于栈的虚拟机的指令默认对栈顶元素操作，因此指令只需为OP格式，无需OPReg1,Reg2,Reg3等额外指定寄存器。
这个设计也绕开了指令解码问题。
平均上说，基于寄存器的虚拟机生成的指令的体积比基于栈的要大。
我们见到的许多基于栈的虚拟机，都是为资源受限系统设计的。
JVM的初衷是一个运行在电视机顶盒中的小系统，后来精简版本的JVM甚至可以放到智能卡上；Forth语言的虚拟机是要用在计算机固件（OpenFirmware），航空系统和嵌入式系统中；控制打印的PostScript用于高品质打印机中。
很显然，机顶盒，引导固件和打印机都是资源受限的系统，这些系统中的虚拟机，不约而同都是基于栈的。
值得一提的是，因为实现简单，许多并非用于受限系统的通用语言的虚拟机也是基于栈的，如Python、Ruby、.NET的CLR等。
基于寄存器的虚拟机，是为性能所生。
引入寄存器假设固然关上了用于资源受限系统的门，却也打开了一扇通向进一步性能优化的窗。
栈虚拟机的一大缺点就是要不停地将操作数在堆和栈之间来回拷贝。
比方说一个简单的三个参数的函数调用，在传递参数上就需要至少三次入栈和出栈操作，而在寄存器上只要指定三个寄存器即可。
现代处理器提供的通用寄存器支持，本身就是为了减少这类值的来回拷贝。
尽管有Hotspot这样的技术能够将一段栈虚拟机指令转化为基于寄存器的机器指令，可毕竟没有直接从支持寄存器的中间语言翻译直接。
前面说过，保持程序的结构是优化的先决条件。
失去了“指定三个值”这样的结构的栈虚拟机，需要运行时间接的推断这个操作。
而直接指定这些访问结构，将值直接映射到CPU的寄存器，正是这类虚拟机运行效率高的要点所在。
Android的Dalvik,Perl的Parrot都是基于寄存器的虚拟机，而LLVM则是基于寄存器假设的中间语言。
其中，为了让Android程序更加快的运行，Google不惜放弃JVM指令集，而选择将JVM指令转化为基于有限个寄存器的Dalvik指令集。
Parrot和LLVM则更加自由一些，假设了无穷多个寄存器。
无论是有限还是无限个寄存器，省却不必要的值拷贝是这类中间语言的最大优点。
JIT和直接执行JIT（Just-in-time）是运行时的动态编译技术。
不难看出，JIT是针对中间语言的——将原语言的编译推迟到运行时并无意义，将中间语言的解释，部分转化为编译后的机器代码，则可以优化运行效率。
JIT之所以可行，一个基本假设是程序大多存在热点。
D.E.Knuth三十年前观察到的一个现象:
一段FORTRAN程序中不到4%的部分往往占用超过50%的运行时间。
因此，在运行时识别这样的热点并优化，可以事半功倍地提高执行效率。
按照Jython作者JimHugunin的观测，JIT技术出现后，同样功能的程序，运行于Java虚拟机上的字节码和直接编译成二进制代码的C程序几乎一样快，有的甚至比C快。
乍一看虚拟机比原生代码快，理论上是不可能的。
而实践中，因为JIT编译器可以识别运行时热点做出特别优化。
相比之下，静态编译器的代码优化并不能完全推断出运行时热点。
而且，有些优化技术，如将虚函数调用静态化，只有在运行时才能做到。
在对热点深度优化的情况下，JIT比直接生成的机器代码执行效率高并不是一件神奇的事情。
引入了JIT的，以Python书写的Python执行器pypy,运行速度要比以C实现的CPython解释器快一到五倍，就是JIT技术魅力的一个明证。
尽管JIT技术看上去很炫，实践中也能够做到几乎和原生二进制代码速度相近，我们必须承认，这只是一种补救相对慢的中间语言解释的一种措施罢了。
设计语言平台时，设计者可能因为
升级会员 