softmax汇总

带温度参数的softmax:带温度参数的softmax是一种软化的softmax形式,它也以e为底数,但采用了一个额外的温度参数T。温度参数T越大,得到的概率分布会更加平滑,而T越小,则会产生更大的差异性。

优点:经过使用指数形式的Softmax函数能够将差距大的数值距离拉的更大

缺点:但是也带来了缺点,当 �� 值非常大的话,计算得到的数值也会变的非常大,数值可能会溢出。

softmax - 知乎

相关推荐

  1. Gumbel Softmax

    2024-03-13 04:48:01       13 阅读
  2. Softmax和Sigmoid

    2024-03-13 04:48:01       12 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-03-13 04:48:01       16 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-03-13 04:48:01       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-03-13 04:48:01       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-03-13 04:48:01       18 阅读

热门阅读

  1. Unity3D 多线程定时器的原理与实现详解

    2024-03-13 04:48:01       21 阅读
  2. RAG系统与LLM评判及合成数据集创建简介

    2024-03-13 04:48:01       17 阅读
  3. ms office学习记录8:Excel㈡

    2024-03-13 04:48:01       20 阅读
  4. 2024 年 AI 辅助研发趋势

    2024-03-13 04:48:01       20 阅读