机器学习之局部最优和全局最优

(1)局部最优,就是在函数值空间的一个有限区域内寻找最小值;而全局最优,是在函数值空间整个区域寻找最小值问题。
(2)函数局部最小点是它的函数值小于或等于附近点的点,但是有可能大于较远距离的点。
(3)全局最小点是那种它的函数值小于或等于所有的可行点。

面试:你能解释一下梯度下降法及其在寻找全局最优解时的局限性吗?

  • 梯度下降法通过迭代沿着目标函数的负梯度方向更新参数,以寻找最小值。
  • 局限性:它可能会陷入局部最优,特别是在非凸函数中。此外,如果学习率设置不当,可能会导致收敛速度慢或者无法收敛。

相关推荐

  1. Python 机器学习 XGBoost模型构建方法

    2024-02-13 05:36:03       20 阅读
  2. 贪心算法的“左“与“右

    2024-02-13 05:36:03       33 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-02-13 05:36:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-02-13 05:36:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-02-13 05:36:03       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-02-13 05:36:03       20 阅读

热门阅读

  1. Redis中缓存问题

    2024-02-13 05:36:03       28 阅读
  2. 时间序列预测——Encoder-Decoder CNN模型

    2024-02-13 05:36:03       19 阅读
  3. re:从0开始的CSS学习之路 11. 盒子垂直布局

    2024-02-13 05:36:03       32 阅读
  4. 状态模式:灵活管理对象状态的设计策略

    2024-02-13 05:36:03       35 阅读
  5. 设计模式-状态模式 State

    2024-02-13 05:36:03       26 阅读
  6. Spark编程实验五:Spark Structured Streaming编程

    2024-02-13 05:36:03       28 阅读
  7. re:从0开始的CSS之旅 12. 轮廓、阴影、圆角

    2024-02-13 05:36:03       29 阅读
  8. django实现外键

    2024-02-13 05:36:03       29 阅读
  9. COMP 636: Web App

    2024-02-13 05:36:03       28 阅读
  10. 3.3 Binance_interface APP U本位合约行情-实时行情

    2024-02-13 05:36:03       27 阅读
  11. dolphinDB使用select筛选时间字段

    2024-02-13 05:36:03       28 阅读
  12. 【leetcode】动态规划——序列问题总结

    2024-02-13 05:36:03       31 阅读