深度学习学习日记4.8(上午)信息量,熵,交叉熵,相对熵,交叉熵损失函数

在这里插入图片描述
在这里插入图片描述
概率和信息量负相关 小概率事件有较大的信息量,大概率事件有较小的信息量

在这里插入图片描述
熵是概率分布的信息量期望
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
当预测结果越接近真实值,损失函数的值越接近于0。

最近更新

  1. TCP协议是安全的吗?

    2024-04-09 10:32:05       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-04-09 10:32:05       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-04-09 10:32:05       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-04-09 10:32:05       20 阅读

热门阅读

  1. 业务逻辑之业务安全

    2024-04-09 10:32:05       16 阅读
  2. MetaGPT——一个面向编程的多智能体框架

    2024-04-09 10:32:05       15 阅读
  3. V4L2驱动

    2024-04-09 10:32:05       11 阅读
  4. Ubuntu中apt使用

    2024-04-09 10:32:05       15 阅读
  5. 图论基础入门

    2024-04-09 10:32:05       15 阅读
  6. 程序员的赚钱认知觉醒(下)

    2024-04-09 10:32:05       15 阅读
  7. 大语言模型LLM《提示词工程指南》学习笔记04

    2024-04-09 10:32:05       15 阅读
  8. 使用Flowable-ui的Rest接口

    2024-04-09 10:32:05       13 阅读