提示工程 1—常用的大语言模型参数说明

1. 常用的大语言模型参数说明

使用提示词时,会通过 API 或直接与大语言模型进行交互。我们可以通过配置一些参数以获得不同的提示结果。调整这些设置对于提高响应的可靠性非常重要,我们可能需要进行一些实验才能找出适合您的用例的正确设置。以下是一些常见的参数设置:

1.1. Temperature(温度:翻译成惊喜度或随机度)

  • 含义: 控制生成文本的随机性。数值较低时生成的文本较为保守,更倾向于高概率的结果;数值较高则生成的文本更具多样性和创造性。
  • 使用: 用于平衡输出的预测性和惊喜性。
    • 低温度(如 0.2 - 0.5): 确定性强,适用于事实性或信息性文本。
    • 高温度(如 0.7 - 1.0): 创造性高,适合故事或创意写作。

1.2. Top-p(Nucleus Sampling)

  • 含义: 在词汇的概率分布中进行采样,仅考虑累积概率达到阈值p的词汇。模型每次生成词汇时只考虑累积概率高于特定阈值p的词汇作为候选。这意味着概率被切成一个核,只有该核内的词汇被考虑。 与 temperature 一起称为核采样的技术),可以用来控制模型返回结果的真实性。如果你需要准确和事实的答案,就把参数值调低。如果你想要更多样化的答案,就把

相关推荐

  1. 提示工程 1常用语言模型参数说明

    2024-04-26 07:44:01       14 阅读
  2. 语言模型提示工程简介

    2024-04-26 07:44:01       22 阅读
  3. 模型提示工程常用几个场景下Prompt案例

    2024-04-26 07:44:01       19 阅读
  4. 语言模型高质量提示工程技巧指南

    2024-04-26 07:44:01       31 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-04-26 07:44:01       19 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-04-26 07:44:01       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-04-26 07:44:01       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-04-26 07:44:01       20 阅读

热门阅读

  1. 部署zookeeper+kafka

    2024-04-26 07:44:01       10 阅读
  2. 【打工日常】云原生之部署私有化个人工作云盘

    2024-04-26 07:44:01       12 阅读
  3. springSecurity简单直接说明

    2024-04-26 07:44:01       11 阅读
  4. 利用滚动索引来管理海量Elasticsearch数据

    2024-04-26 07:44:01       13 阅读
  5. MySql篇

    MySql篇

    2024-04-26 07:44:01      11 阅读
  6. Dubbo 面试题(四)

    2024-04-26 07:44:01       13 阅读
  7. Rust 网络编程之 gRPC 与 Tonic 框架

    2024-04-26 07:44:01       11 阅读
  8. 【漏洞复现】SpringBlade dict-biz SQL注入漏洞

    2024-04-26 07:44:01       13 阅读
  9. Ribbon饥饿模式

    2024-04-26 07:44:01       15 阅读