科普文:TaobaoVM信息收集

网上关于TaobaoVM的信息很少,只有一个简介,就没有其他信息。毕竟这是别人企业自己的jvm,不可能公开。

Taobao VM

由AliJVM团队发布。阿里,国内使用Java最强大的公司,覆盖云计算、金融、物流、电商等众多领域,需要解决高并发、高可用、分布式的复合问题。有大量的开源产品。

基于openJDK开发了自己的定制版本AlibabaJDK,简称AJDK。是整个阿里Java体系的基石。

基于openJDK Hotspot VM发布的国内第一个优化、深度定制且开源的高性能服务器版Java虚拟机。

TaobaoVM:实际上是 Hotspot 的定制版,专门为淘宝(阿里、天猫)准备的。

hotspot深度定制版,除了在性能优化方面下足了功夫,TaobaoVM还在HotSpot的基础之上大幅度扩充了一些特定的增强实现。

据说淘宝里面大概有十个人能够手写TaobaoVM,都是P9 P10级别的

  • 创新的GCIH(GCinvisible heap)技术实现了off-heap,即将生命周期较长的Java对象从heap中移到heap之外,并且Gc不能管理GCIH内部的Java对象,以此达到降低GC的回收频率和提升Gc的回收效率的目的。这样做最大的好处就是降低了GC的回收平率以及提升了GC的回收效率,并且GCIH中的对象还能够在多个Java虚拟机进程中实现共享。其他扩充技术还有利用PMU hardware的Java profiling tool和诊断协助功能等。
  • GCIH中的对象还能够在多个Java虚拟机进程中实现共享
  • 使用crc32指令实现JvM intrinsic降低JNI的调用开销
  • PMU hardware的Java profiling tool和诊断协助功能
  • 针对大数据场景的ZenGc
  • 对硬件的依赖性够,牺牲了兼容性。

taobao vm应用在阿里产品上性能高,硬件严重依赖inte1的cpu,损失了兼容性,但提高了性能。

目前已经在淘宝、天猫上线,把oracle官方VM版本全部替换了。

我最近也在看《深入理解java虚拟机》这本书,书中提到淘宝JVM,基于OpenJDK深度定制的淘宝JVM(TaobaoVM)。

下面是网络上针对TaobaoVM的一段介绍:

由于淘宝目前无疑是中国最大的Java技术应用方,那么淘宝究竟是采用什么样的技术对Java虚拟机进行优化的呢?淘宝的技术团队对Java虚拟机的优化工作其实早已不是停留在简单的参数调制上面,而是充分结合了企业自身的业务特点以及实际的应用场景,在OpenJDK的基础之上通过修改大量的HotSpot源代码,深度定制了淘宝专属的高性能Java虚拟机——TaobaoVM。

既然是结合业务特点深度定制的一款Java虚拟机,那么性能必然在某一些特定的应用场景上会比Oracle官方的HotSpot更强,如图1-8所示。但其弊端同样也非常明显,那就是无法实现通用。所以如果只是想对TaobaoVM进行研究的话,可以参考http://jvm.taobao.org中的描述编译一个TaobaoVM,但如果需要应用在实际的项目中,笔者还是建议三思而后行,否则将会得不偿失。

淘宝的技术团队通过修改大量的HotSpot源代码深度定制的TaobaoVM[ 文章完整地址:http://os.51cto.com/exp/velocity2012/ppt/wangcheng.pdf。],其实从严格意义上来说,在提升Java虚拟机性能的同时,却严重依赖物理CPU类型。也就是说,部署有TaobaoVM的服务器中,CPU全都是清一色的Intel CPU,且编译手段采用的是Intel C/CPP Compiler进行编译,以此对GC性能进行提升。除了优化编译效果外,TaobaoVM还使用了crc32指令实现JVM intrinsic降低JNI的调用开销,如图1-9所示。

除了在性能优化方面下足了功夫,TaobaoVM还在HotSpot的基础之上大幅度扩充了一些特定的增强实现。比如创新的GCIH(GC invisible heap)技术实现off-heap,这样一来就可以将生命周期较长的Java对象从heap中移至heap之外,并且GC不能管理GCIH内部的Java对象,这样做最大的好处就是降低了GC的回收平率以及提升了GC的回收效率,并且GCIH中的对象还能够在多个Java虚拟机进程中实现共享。其他扩充技术还有利用PMU hardware的Java profiling tool和诊断协助功能等。


 

有幸可以回答一下。阿里的AJVM。首先,Java 这门语言,在做http server(主要以Tomcat、Jetty为主导)的时候,会有以下差强人意(感谢@大黄蜂提醒,这个词可能用得不太好)的地方,所以阿里希望(特指2015年之前)以后的JVM有以下特点

  • session-based gc 大致就是讲理论上每个http事务,或者说是一个session结束之后做到高效的垃圾回收。这一点open jdk中的做得不太好
  • 多租户共享内存 一个JVM可以同时运行部署多个服务,让原本可能是网络调用的服务调用变成函数调用
  • 全自动的异步化主要针对原生线程池在高并发的情况下表现没有异步处理机制性能好。为了让性能在做得更好,代码的可维护性更高。
  • ZDebugger 用来本地远程观察线上的代码执行情况
  • Profiling Support 直观分析CPU,内存,IO之类的消耗
  • JIT WARM-UP减少重启服务的delay,同时能够记录上次跑的服务之前的结果,提前做优化。这个有早期找微软请求帮助。
  • 反序列化优化

总体而言就是,按照自己公司的业务痛点,主要是高并发,服务复杂,做定向的优化。对于很多业务体量没有达到这个层次的而言,可能有问题也不会被放大。

祝贺阿里加入Java 全球管理组织Java Community Process (JCP) 的最高执行委员会。

其他jvm

HotSpot VM

HotSpot历史最初由一家名为“Longview Technologies”的小公司设计。1997年,此公司被sun收购;2009年,Sun公司被甲骨文收购。
在JDK1.3版本时,HotSpot VM就成为默认虚拟机。

目前Hotspot占有绝对的市场地位,是绝对的主流

  • 不管是现在仍在广泛使用的JDK6,还是使用比例较多的JDK8中,默认的虚拟机都是HotSpot。
  • Sun/Oracle JDK和openJDK的默认虚拟机。
  • 从服务器、桌面到移动端、嵌入式都有应用。

HotSpot指的就是它的热点代码探测技术

  • 通过计数器找到最具编译价值代码,触发即时编译或栈上替换。
  • 通过编译器与解释器协同工作,在最优化的程序响应时间与最佳执行性能中取得平衡

JRockit

JRockit专注于服务器端应用。

  • 它可以不太关注程序启动速度,因此JRockit内部不包含解析器实现,全部代码都靠即时编译器编译后执行。

大量的行业基准测试显示,JRockit JVM是世界上最快的JVM。

  • 使用JRockit产品,客户已经体验到了显著的性能提高(一些超过了70%)和硬件成本的减少(达50%)。

优势:全面的Java运行时解决方案组合。

  • JRockit面向延迟敏感型应用的解决方案JRockit Real Time提供以毫秒或微秒级的JVM响应时间,适合财务、军事指挥、电信网络的需要。
  • MissionControl服务套件,它是一组以极低的开销来监控、管理和分析生产环境中的应用程序的工具。

2008年,JRockit被Oracle收购。

Oracle表达了整合两大优秀虚拟机的工作,大致在JDK8中完成。整合的方式是在HotSpot的基础上,移植JRockit的优秀特性

IBM的J9

全称:IBM Technology for Java Virtual Machine,简称IT4J,内部代号:J9。

市场定位与HotSpot接近,服务器端、桌面应用、嵌入式等多用途VM广泛用于IBM的各种Java产品。

目前,有影响力的三大商用虚拟机之一,也号称是世界上最快的Java虚拟机。

2017年左右,IBM发布了开源J9VM,命名为openJ9,交给EClipse基金会管理,也称为Eclipse OpenJ9

Azul VM

前面三大“高性能Java虚拟机”使用在通用硬件平台上这里Azu1VW和BEALiquid VM是与特定硬件平台绑定、软硬件配合的专有虚拟机I

  • 高性能Java虚拟机中的战斗机。

Azul VM是Azu1Systems公司在HotSpot基础上进行大量改进,运行于Azul Systems公司的专有硬件Vega系统上的ava虚拟机。

每个Azu1VM实例都可以管理至少数十个CPU和数百GB内存的硬件资源,并提供在巨大内存范围内实现可控的GC时间的垃圾收集器、专有硬件优化的线程调度等优秀特性。

2010年,AzulSystems公司开始从硬件转向软件,发布了自己的zing JVM,可以在通用x86平台上提供接近于Vega系统的特性。

Dalvik VM

谷歌开发的,应用于Android系统,并在Android2.2中提供了JIT,发展迅猛。

Dalvik y只能称作虚拟机,而不能称作“Java虚拟机”,它没有遵循 Java虚拟机规范

不能直接执行Java的Class文件

基于寄存器架构,不是jvm的栈架构。

执行的是编译以后的dex(Dalvik Executable)文件。执行效率比较高。

  • 它执行的dex(Dalvik Executable)文件可以通过class文件转化而来,使用Java语法编写应用程序,可以直接使用大部分的Java API等。

Android 5.0使用支持提前编译(Ahead of Time Compilation,AoT)的ART VM替换Dalvik VM

Graal VM

2018年4月,oracle Labs公开了GraalvM,号称 "Run Programs Faster Anywhere",勃勃野心。与1995年java的”write once,run anywhere"遥相呼应。

GraalVM在HotSpot VM基础上增强而成的跨语言全栈虚拟机,可以作为“任何语言”
的运行平台使用。语言包括:Java、Scala、Groovy、Kotlin;C、C++、Javascript、Ruby、Python、R等

支持不同语言中混用对方的接口和对象,支持这些语言使用已经编写好的本地库文件

工作原理是将这些语言的源代码或源代码编译后的中间格式,通过解释器转换为能被Graal VM接受的中间表示。Graal VM提供Truffle工具集快速构建面向一种新语言的解释器。在运行时还能进行即时编译优化,获得比原生编译器更优秀的执行效率

相关推荐

  1. 信息收集】 IP信息收集

    2024-07-20 04:24:02       20 阅读
  2. 收集域名信息

    2024-07-20 04:24:02       52 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-20 04:24:02       52 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-20 04:24:02       54 阅读
  3. 在Django里面运行非项目文件

    2024-07-20 04:24:02       45 阅读
  4. Python语言-面向对象

    2024-07-20 04:24:02       55 阅读

热门阅读

  1. Carousel of Combinations

    2024-07-20 04:24:02       16 阅读
  2. VUE Pinia和Vuex的比较

    2024-07-20 04:24:02       17 阅读
  3. 前端下载文件流 出现乱码 解决方案

    2024-07-20 04:24:02       17 阅读
  4. Odoo17应用、模型、字段

    2024-07-20 04:24:02       16 阅读
  5. Python使用distutils.version的StrictVersion比较版本大小

    2024-07-20 04:24:02       16 阅读
  6. GESP CCF C++ 八级认证真题 2024年6月

    2024-07-20 04:24:02       19 阅读
  7. C++ 前向声明

    2024-07-20 04:24:02       18 阅读
  8. Python-数据爬取(爬虫)

    2024-07-20 04:24:02       16 阅读
  9. 深入理解 Vue 3 组件通信

    2024-07-20 04:24:02       22 阅读