LLM论文:ALCE (Enabling Large Language Models to Generate Text with Citations)

这是一篇RAG领域的文章,原文在这:https://aclanthology.org/2023.emnlp-main.398.pdf

时间 [Submitted on 24 May 2023 (v1), last revised 31 Oct 2023 (this version, v2)]
背景 LLM在信息搜索、生成带引用的文本时存在幻觉问题,即事实准确性有待提升,而且用户难以验证准确性。
现有工作的不足 人工评估或商用搜索引擎,难以复现和比较不同模型
解决 提出Automatic LLM Citation Evalutation 自动化评估模型检索生成能力
创新点

1. 评估长文本生成

2. 自动评估引用质量

3. 允许为一个陈述引用多篇文章

具体工作内容:

数据集

有三个数据集,分别是

ALCE评估模型:

三方面评估

  • 流畅度——MAUVE (Pillutla et al., 2021)
  • 正确性——根据数据集特点,定制了三种评估方式,主要使用了召回率,正确率
  • 引用质量——根据数据集特点,定制了三种评估方式,主要使用了召回率,正确率

检索生成方式

  1. vanilla:提供模型可能包含答案的文章,写提示词告诉他要正确地引用
  2. summ/snippet: 不提供完整的文章而是概要版或某一段,为了减少信息损失,还结合了INTERACT,模型可以选择是否去看一个浓缩版对应的完整的文章
  3. inlinesearch: 不提供检索结果,允许模型调用搜索
  4. closebook:不提供外部文章,让模型闭卷给出答案。

相关推荐

  1. 大模型LLM论文整理

    2024-01-19 11:22:02       16 阅读
  2. 自然语言处理:大模型LLM论文整理

    2024-01-19 11:22:02       16 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-01-19 11:22:02       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-01-19 11:22:02       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-01-19 11:22:02       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-01-19 11:22:02       20 阅读

热门阅读

  1. 1.7 面试经典150题 - H指数

    2024-01-19 11:22:02       36 阅读
  2. arcgis js 4.x加载地图服务跨域配置(.Net方式)

    2024-01-19 11:22:02       33 阅读
  3. 【CSS】垂直居中的四种实现方式

    2024-01-19 11:22:02       36 阅读
  4. 离线安装python2的MySQLdb

    2024-01-19 11:22:02       35 阅读
  5. LeetCode解法汇总2171. 拿出最少数目的魔法豆

    2024-01-19 11:22:02       35 阅读
  6. 网络工程师:软件编程基础知识面试题(九)

    2024-01-19 11:22:02       33 阅读
  7. Python爬虫案例分享

    2024-01-19 11:22:02       34 阅读
  8. 前端为什么要使用枚举?(优化``if-else``版)

    2024-01-19 11:22:02       33 阅读
  9. kafka入门(八):副本

    2024-01-19 11:22:02       33 阅读
  10. Python:正则表达式之re.group()用法

    2024-01-19 11:22:02       34 阅读
  11. postgreSQL之grant

    2024-01-19 11:22:02       27 阅读
  12. linux安装Zookeeper的详细步骤

    2024-01-19 11:22:02       36 阅读