Elasticsearch:2023 年 Lucene 领域发生了什么?

作者:来自 Elastic Adrien Grand

2023 年刚刚结束,又是 Apache Lucene 开发活跃的一年。 让我们花点时间回顾一下去年的亮点。

社区

2023 年,有:

  • 5 个次要版本(9.5、9.6、9.7、9.8 和 9.9),
  • 1 个补丁版本 (9.9.1),
  • 1 个新提交者,
  • 4 名新 PMC 成员,

来自 97 位独特贡献者的 620 项提交。

向量搜索

真正的语义搜索检索和检索增强生成的承诺对大大小小的用户都极具吸引力。 因此,向量搜索成为 2023 年 Apache Lucene 的主要主题也就不足为奇了。更具体地说,在多个版本中添加了许多有趣的功能和优化:

  • 支持 int8 向量。 (Lucene 9.5)
  • 更快地合并 HNSW 图。 (Lucene 9.6)
  • 通过支持向量化 (Lucene 9.7) 和 FMA (Lucene 9.9) 加快索引、合并和查询速度。
  • 支持将向量搜索与块连接相结合。 (Lucene 9.8)
  • 支持索引时向量的自动 int8 标量量化。 (Lucene 9.9)

基数排序随处可见

索引是指以一种可以在搜索时有效访问数据的方式组织数据,这在实践中涉及大量排序。 当谈到排序时,基数排序 (radix sort) 是王道(如果适用的话!)。 Lucene 已经在一些性能敏感的地方使用基数排序有一段时间了,例如对段的术语字典进行排序。 但基数排序的使用在 2023 年进一步增加,并开始用于优化:

更快的查询评估

我们已经介绍了向量搜索的一些性能改进,但关键字搜索在 2023 年也出现了重大加速。请查看此博客,其中介绍了 9.7、9.8 和 9.9 版本中发生的主要加速。 这些改进既适用于传统关键字搜索,也适用于稀疏向量搜索,例如由学习的稀疏检索模型创建的搜索。

与 Java 虚拟机更紧密的集成

作为一个 Java 库,Lucene 很大程度上依赖于 Java 虚拟机 (JVM),并且偶尔会发布 Lucene 特别感兴趣的新功能。 特别集成了两个功能,如果你在足够现代的 JVM 版本上运行,那么它们将被自动使用:

很难划清界限,但我会在这里停下来,因为我正在努力寻找 2023 年发生的其他良好变化的共同主题。:) 请继续关注 Apache Lucene 领域上的美好 2024 年!

原文:What happened in Lucene land in 2023? — Elastic Search Labs

相关推荐

  1. 2024 Vue.js 会发生什么?

    2024-01-23 18:08:04       47 阅读
  2. 2024 Vue.js 会发生什么

    2024-01-23 18:08:04       55 阅读
  3. 2023网络安全领域新兴技术的发展特点

    2024-01-23 18:08:04       36 阅读
  4. 2023常见ElasticSearch 面试题解析!!!

    2024-01-23 18:08:04       44 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-01-23 18:08:04       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-01-23 18:08:04       106 阅读
  3. 在Django里面运行非项目文件

    2024-01-23 18:08:04       87 阅读
  4. Python语言-面向对象

    2024-01-23 18:08:04       96 阅读

热门阅读

  1. processing集训day01

    2024-01-23 18:08:04       49 阅读
  2. elasticsearch高级应用

    2024-01-23 18:08:04       52 阅读
  3. 为什么两个向量的内积等于模长乘夹角?

    2024-01-23 18:08:04       55 阅读
  4. 人工智能工程师将来有什么发展

    2024-01-23 18:08:04       58 阅读
  5. idea编译打包前端vue项目

    2024-01-23 18:08:04       51 阅读
  6. MySQL新增、管理用户,控制访问【新手向】

    2024-01-23 18:08:04       59 阅读
  7. Qt容器QVector

    2024-01-23 18:08:04       55 阅读