逻辑回归中的损失函数

一、损失函数介绍:

  • 回归问题成本函数不同的是,逻辑回归模型(解决分类问题)的成本函数在获得损失J的时候不再用真实值y与预测值y^的差值计算损失,真实值y不再出现在公式中作为计算项,而是作为分段函数的选择项。
    在这里插入图片描述
  • 首先,该次训练损失为训练集中所有样本损失求和取平均值。
  • 其次,上述损失函数如何在不计算真实值与预测值的差值的情况下获得训练损失? 解释如下:
    • 对于第一个函数:样本标签的真实值为1时适用的损失函数
      在这里插入图片描述

      • 图像中横坐标为预测值y^,纵坐标为损失
      • 可以看到预测值越接近1,即分类越接近正确,损失越小(因为真实值为1);预测值越接近0,即分类越离谱,损失越大(因为真实值为1)。【这就非常神奇地在不计算真实值与预测值的差值的情况下获得了训练损失】**
    • 对于第二个函数:样本标签的真实值为0时适用的损失函数
      在这里插入图片描述

      • 图像中横坐标为预测值y^,纵坐标为损失
      • 可以看到预测值越接近0,即分类越接近正确,损失越小(因为真实值为0);预测值越接近1,即分类越离谱,损失越大(因为真实值为0)。【这就非常神奇地在不计算真实值与预测值的差值的情况下获得了训练损失】

二、简化上述损失函数:

我们可以将分段函数L进行简化:
在这里插入图片描述
得到最终的损失函数:
在这里插入图片描述

相关推荐

  1. 逻辑回归损失函数

    2024-07-12 15:58:02       24 阅读
  2. 逻辑回归损失函数和目标函数

    2024-07-12 15:58:02       45 阅读
  3. 神经网络损失函数(上)——回归任务

    2024-07-12 15:58:02       41 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-12 15:58:02       67 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-12 15:58:02       71 阅读
  3. 在Django里面运行非项目文件

    2024-07-12 15:58:02       58 阅读
  4. Python语言-面向对象

    2024-07-12 15:58:02       69 阅读

热门阅读

  1. Github 2024-07-09 Python开源项目日报 Top10

    2024-07-12 15:58:02       20 阅读
  2. 2.HTML学习

    2024-07-12 15:58:02       22 阅读
  3. “存算分离“和“湖仓一体“

    2024-07-12 15:58:02       17 阅读
  4. 对数据采集、数据存储和数据处理流程

    2024-07-12 15:58:02       18 阅读
  5. 7.8作业

    7.8作业

    2024-07-12 15:58:02      22 阅读
  6. 使用GeographicLib在C++中进行地理坐标转换

    2024-07-12 15:58:02       22 阅读
  7. 使用Gunicorn提高Web应用的多核并发处理能力

    2024-07-12 15:58:02       24 阅读