机器学习-EM算法

  • 开发
  • 20

目录

一：最大似然估计

二：EM算法

加入隐变量

EM算法推导

1.Jensen不等式

点个赞呗！！！

 

一：最大似然估计

举个栗子：一个袋子里有很多个球，每次放回的取一个球，取了十次，其中有六次白球，4次黑球。那么就认为袋子里面取到白球的概率为6/10，黑球的概率为4/10。总的来说，极大似然估计就是用来估计模型参数的统计方法。

最大似然数学问题：

比如一个班里有一百个学生，他们的身高X={x1,x2,x3.......xn}n=100。

概率密度函数：P(xi|\theta)为抽到男生i的身高的概率（这里假设都是男生）

\theta是服从分布的参数

独立同分布：同时抽到这100个男生的概率就是他们概率的乘积

得到最大似然函数：L(\theta)=\sum_{i=1}^{100}\log{p(xi;\theta )}

得到最大似然函数后我们要求的就是参数\theta的最大值，而这个最大值就是出现这批样本的概率的最大值

我们都知道要得到参数最大值就是对这个函数求导后令导数等于零，解出参数即可。但是在这里是连乘，100个参数连乘，算起来很麻烦，所以我们对两边取对数ln，将连乘变成求和，这样就很容易算出

阅读全部

相关推荐

  3. 【机器学习】EM算法（Expectation-Maximization算法）详解

    2024-07-10 00:24:06       17 阅读

最近更新

  3. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-10 00:24:06       67 阅读

  4. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-10 00:24:06       72 阅读

  9. 在Django里面运行非项目文件

    2024-07-10 00:24:06       58 阅读

  19. Python语言-面向对象

    2024-07-10 00:24:06       69 阅读

  20. 如何分清楚常见的 Git 分支管理策略Git Flow、GitHub Flow 和 GitLab Flow

    2024-07-10 00:24:06       64 阅读

热门阅读

  1. 怎么样调整分类的阈值

    2024-07-10 00:24:06       25 阅读

  3. 数据分表和分库原理

    2024-07-10 00:24:06       20 阅读

  4. sklearn中的Pipeline：构建无缝机器学习工作流

    2024-07-10 00:24:06       23 阅读

  7. 生成式人工智能：助攻开发者还是取代开发者？

    2024-07-10 00:24:06       24 阅读

  8. VBA 批量转换xls文件

    2024-07-10 00:24:06       20 阅读

  9. 逻辑回归不是回归吗？那为什么叫回归？

    2024-07-10 00:24:06       20 阅读

  14. Linux Docker 防火墙设置 放通 MySQL(3306) Redis(6379) 端口

    2024-07-10 00:24:06       24 阅读

  26. 架构设计（1）分布式架构

    2024-07-10 00:24:06       16 阅读

  29. 总账清账(不包含客户/供应商清账)

    2024-07-10 00:24:06       18 阅读