启动速度提升10倍：Apache Dubbo 静态化 GraalVM Native Image 深度解析

Sat, 07 Oct 2023 00:00:00 +0000

摘要：本文整理自杭州有赞科技有限公司中间件技术专家、Apache Dubbo PMC华钟明在 Community Over Code 2023 大会上的分享。本篇内容主要分为五个部分：

一、GraalVM 直面Java应用在云时代的挑战
二、Dubbo 享受 AOT 带来的技术红利
三、Dubbo Native Image 的实践和示例
四、Dubbo 集成 Native Image 的原理和思考
五、Dubbo 在 Native Image 技术的未来规划

一、GraalVM 直面Java应用在云时代的挑战

云计算时代比较显著的特点包括：

基于云计算的基础设施，Java应用能够在云计算的基础设施上快速、轻松、高效的做到弹性。
基于容器化技术，系统资源切分的更加细，资源的利用率也更高了。
基于云计算的开发平台，让应用部署的更加容易，更加敏捷。

那么在云计算时代，Java应用存在哪些问题呢？

冷启动速度较慢。
应用预热时间过长，无法立即达到性能峰值。
内存、CPU等系统资源占用高。
Java构建的应用程序繁重，执行还需要具备JDK环境。

在Serverless场景上，Java的问题会尤为突出，因为Serverless不仅能简化开发场景和开发体验，还能做到极致的弹性，甚至是秒级的弹性。

上图是Datalog统计的Fast和AWS两个产品。Java语言虽然更流行，但相较于Python和Node.JS，它的占比还是比较低的。Java本身在Serverless层面，比如在做容器的调度、镜像的下载的时候，启动时间、冷启动的时间、预热时间等等，都会影响Serverless场景下它弹性扩容的时间。

下面介绍一下GraalVM，它是可以把Java应用提前编译到独立的二进制包内，这些二进制包相对于跑在JVM上它可以更小，更快的启动，不需要预热就能够达到极限的峰值，还可以减少内存和CPU的占比。

可以看到它的介绍和Java语言的应用所涉及到的问题都一一对应。GraalVM应该算是JDK的"超集"，除了包含完整的JDK发行版本外，还有GraalVM Compiler、Native image、Truffle等，甚至还涉及到多语言汇编的能力。

总结一下，GraalVM本身涉及两部分，JIT和AOT。

JIT，是在编译后的class文件、字节码文件，它会在运行时把它翻译成机器码。
AOT，它和JIT的区别是，它在编译期就能把字节码直接转化为机器码，无需在运行时再去处理。所以它的CPU和内存会相对更低。

上图左侧是一张Java生命周期的全景图。可以看到，它从JVM的启动，再到Java的main函数的启动，再到Java的应用预热，再到它的稳定期，最后到达效果，这是Java完整的生命周期的呈现。

而AOT的区别在于，它没有红色的VM。另外，JIT相对于AOT而言是没有的，也没有浅绿色的解释器。所以AOT对于JIT来说，只有内加载，GC以及它能够瞬间达到应用的稳定期。

根据右侧的图可以看出：

AOT的启动耗时相对较低，内存损耗和它打出来的二进制包相对较小。
JIT因为有及时编译的效果，所以现在极限的分值比AOT要好，比如它的极限吞吐量比AOT好。

二、Dubbo 享受 AOT 带来的技术红利

多产物形态

我们在编码之后，Soft Code的产物形态新增了。

第一种是我们传统认知上的Jar包形态，比如mvn、clean、package。第二种是Docker Image，它能轻松的帮我们直接打到镜像里面去，不用写dockerfile等文件。第三种是我们集成GraalVM后新产生的一种Native可执行文件的形态。这种形态无需JDK的环境就能启动，它能像GO一样把二进制文件直接启动。

启动耗时大幅降低

Dubbo Aot on Apache Dubbo

启动速度提升10倍：Apache Dubbo 静态化 GraalVM Native Image 深度解析

一、GraalVM 直面Java应用在云时代的挑战

二、Dubbo 享受 AOT 带来的技术红利