吴恩达机器学习笔记 二十四 决策树模型 学习过程 什么时候停止分裂 如何选择结点特征

案例:识别小猫,上面这个分类的特征 x 采用分类值(几个离散的值)

决策树最顶端的结点称根结点(root node),除了根结点和叶子结点之外的叫决策结点(decision node),最底层的叫叶子结点(leaf node),叶子结点做出预测

决策树的学习过程

确定根结点使用什么特征,分类后再选一个特征进行分类,直到分出的一组中都是同一类了结束。

问题1:怎么选择决策结点使用的特征

要选能使纯度(一个子集更接近完全是狗,或者更接近完全是猫)最大的那个

问题2:什么时候停止分裂

当一个结点完全只有一类东西时;当再分出来结点会导致树超过最大深度时(树的深度从0开始);当纯度分数的提升在一个阈值下时(再分裂也提升不了多少);当一个结点的样本数低于一个阈值时。

保持树不太深有两个原因:一是为了快,另一个是这样不太容易过拟合

 

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-03-17 21:48:02       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-03-17 21:48:02       106 阅读
  3. 在Django里面运行非项目文件

    2024-03-17 21:48:02       87 阅读
  4. Python语言-面向对象

    2024-03-17 21:48:02       96 阅读

热门阅读

  1. go的fasthttp学习~stackless的writer

    2024-03-17 21:48:02       38 阅读
  2. MySQL 索引

    2024-03-17 21:48:02       39 阅读
  3. Qt——智能指针实战

    2024-03-17 21:48:02       45 阅读
  4. spring MVC 自定义注解实现路径匹配

    2024-03-17 21:48:02       42 阅读
  5. qt之画图

    2024-03-17 21:48:02       34 阅读
  6. Spring中的bean相关问题

    2024-03-17 21:48:02       48 阅读
  7. Ts中WebSocket连接管理与维护教程

    2024-03-17 21:48:02       30 阅读