PromptBench: A Unified Library for Evaluation of Large Language Models

本文是LLM系列文章,针对《PromptBench: A Unified Library for Evaluation of Large Language Models》的翻译。

PromptBench:一个用于评估大型语言模型的统一库

摘要

大型语言模型(LLM)的评估对于评估其性能和降低潜在的安全风险至关重要。在本文中,我们介绍了PromptBench,一个用于评估LLM的统一库。它由几个研究人员可以轻松使用和扩展的关键组件组成:提示构建、提示工程、数据集和模型加载、对抗性提示攻击、动态评估协议和分析工具。PromptBench被设计为一个开放、通用和灵活的代码库,用于研究目的。它旨在促进在创建新的基准、部署下游应用程序和设计新的评估协议方面的原始研究。代码位于:https://github.com/microsoft/promptbench并将得到持续支持。

1 引言

2 PromptBench

3 结论

我们介绍了PromptBench,一个LLM评估的统一框架。该库以模块化的方式设计,允许用户通过组合不同的模型、任务和提示来构建评估管道。它还促进了几个研究方向,如提示工程、对抗性提示攻击和动态评估。我们将PromptBench视为评估真实能力和探索当前LLM边界的第一步,并相信我们库的基准和分析结果可以为设计更稳健、更人性化的模型提供启示。PromptBench是一个长期项目,将积极维护。我们欢迎所有潜在贡献者的贡献。

相关推荐

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-01-25 17:22:01       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-01-25 17:22:01       101 阅读
  3. 在Django里面运行非项目文件

    2024-01-25 17:22:01       82 阅读
  4. Python语言-面向对象

    2024-01-25 17:22:01       91 阅读

热门阅读

  1. go语言模板处理包text/template详解

    2024-01-25 17:22:01       58 阅读
  2. 数据结构_小题-1.24

    2024-01-25 17:22:01       54 阅读
  3. ASP.NET Core 中使用 WebSocket 协议进行实时通信

    2024-01-25 17:22:01       41 阅读
  4. C语言逻辑符号与数学逻辑符号的联系

    2024-01-25 17:22:01       66 阅读
  5. 使用 sorted set 实现令牌桶限流

    2024-01-25 17:22:01       63 阅读
  6. ubuntu20.04 格式化 硬盘 扩展硬盘

    2024-01-25 17:22:01       61 阅读
  7. Pytest基础

    2024-01-25 17:22:01       66 阅读
  8. 腾讯云个人服务器价格表,2024精准报价

    2024-01-25 17:22:01       75 阅读