机器学习课程复习——隐马尔可夫

2024-06-16 12:30:01
开发
8

不考计算题

Q：概率图有几种结构？条件独立性的公式？

顺序结构
发散结构
汇总结构

Q:隐马尔可夫模型理解？

概念

集合：状态集合 $Q$ 、观测集合 $V$

序列：状态序列 $I$ 、观测序列 $O$

三要素：初始状态概率向量 $\pi$ 、状态转移概率矩阵 $A$ 、观测概率矩阵 $B$

模型： $\lambda =(A,B,\pi )$

结合例题来说

状态集合 $Q$ ：三个盒子对应三种状态，盒子1、盒子2、盒子3

观测集合 $V$ ：球的两种颜色对应两种观测情况，红球、白球

状态序列 $I$ ：未知

观测序列 $O$ ：红球、白球、红球

初始状态概率向量 $\pi$ :最开始是盒子1的概率为0.2，

最开始是盒子2的概率为0.4，

最开始是盒子3的概率为0.4。

状态转移概率矩阵 $A$ ：从盒子1转移到盒子1的概率为0.5，

从盒子1转移到盒子2的概率为0.2，

从盒子1转移到盒子3的概率为0.3，

从盒子2转移到盒子1的概率为0.3，

从盒子2转移到盒子2的概率为0.5，

从盒子2转移到盒子3的概率为0.2，

从盒子3转移到盒子1的概率为0.2，

从盒子3转移到盒子2的概率为0.3，

从盒子3转移到盒子3的概率为0.5。

观测概率矩阵 $B$ ：在盒子1抽到红球的概率为0.5，

在盒子1抽到白球的概率为0.5，

在盒子2抽到红球的概率为0.4，

在盒子2抽到白球的概率为0.6，

在盒子3抽到红球的概率为0.7，

在盒子3抽到白球的概率为0.3。

$\pi$ 和 $A$ 决定了状态，即初始盒子和盒子之间怎么转移

$B$ 决定了观测，即盒子会生成怎样的球

注意

观测状态只由当前的隐藏状态决定，与前一时刻的隐藏状态没有关系，就算隐藏状态与隐藏状态之间有关系，也不关他的事。

常见应用

自然语言处理

Q：一阶马尔可夫，二阶马尔可夫，高阶马尔可夫分别是什么？

一阶马尔可夫：系统下一状态的概率仅依赖于当前状态
二阶马尔可夫：系统的下一状态依赖于最近的两个状态
高阶马尔可夫：系统的下一状态依赖于当前状态以及之前多个状态

Q：马尔可夫、隐马尔可夫、马尔可夫链、一阶马尔可夫的关系？

隐马尔可夫通常被归类为一阶马尔可夫模型的一种扩展，因为它的隐藏状态遵循一阶马尔可夫性质，即当前隐藏状态只依赖于前一个隐藏状态
隐马尔可夫假设隐藏序列是一个马儿可夫链

Q：三个基本问题？

概率计算问题：定义，给定模型 $\lambda =(A,B,\pi )$ 和观测序列 $O=(o_1,o_2,...,o_T)$ ，计算模型在 $\lambda$ 下观测序列 $O$ 出现的概率 $P(O\mid \lambda )$ ；算法，前向算法、后向算法。
学习问题:定义，已知观测序列 $O=(o_1,o_2,...,o_T)$ ，估计模型 $\lambda =(A,B,\pi )$ 参数，使得在该模型下观测序列概率 $P(O\mid \lambda )$ 最大，即用极大似然估计的方法估计参数；算法，Baum-Welch算法
预测问题：已知模型 $\lambda =(A,B,\pi )$ 和观测序列 $O=(o_1,o_2,...,o_T)$ ，求对给定观测序列条件概率 $P(I\mid O)$ 最大的状态序列 $I=(i_1,i_2,...,i_T)$ 。即给定观测序列，求最有可能的对应的状态序列.

原文地址:https://blog.csdn.net/Winkyyyyyy/article/details/139583180 本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：https://www.suanlizi.com/kf/1802196911084670976.html 如若内容造成侵权/违法违规/事实不符，请联系《酸梨子》网邮箱：1419361763@qq.com进行投诉反馈，一经查实，立即删除！

阅读全部