机器学习 | 机器学习基础知识

一、机器学习是什么

        计算机从数据中学习规律并改善自身进行预测的过程。

二、数据集

1、最常用的公开数据集

2、结构化数据与非结构化数据

三、任务地图

1、分类任务 Classification

• 已知样本特征
• 判断样本类别
• 二分类、多分类、多标签分类

        二分类：垃圾邮件分类、图像识别等

        多分类问题：鸢尾花分类问题

        多标签分类问题：标签间不互斥，概率和不为1        

2、回归任务 Regression

• 线性回归
• 多项式回归：一个因变量，一个或多个自变量。
• 任何函数都可以用多项式逼近。
• 逻辑回归：实际是分类，简单可并行，细节很多
  • 类似二分类，但求法不同

 三、机器学习的分类

 根据有没有老师 ~

1、监督学习 Supervised Learning

        分类和回归

        训练数据有标记

2、无监督学习 Unsupervised Learning

         训练数据未经标记

        聚类 —— K均值算法 K-means、密度聚类 DBSCAN、最大期望算法

        降维 —— 主成分分析 PCA、核方法

        关联规则学习 —— 挖掘特征间关联关系，Apriori方法、Eclat方法

3、半监督学习 Semi-supervised Learning

         少量标记学习，大量无标记数据

4、强化学习 Reinforcement Learning

        观测环境、估计状态、执行操作、获得回报或惩罚

 根据数据怎么用 ~

1、 批量学习 (Batch Learning)

        先训练再使用
        需要大量的时间和计算资源
        通常都是离线完成

2、在线学习

  根据模型怎么扩展 ~

1、基于实例的学习

        先记住训练实例，相似度计算

2、基于模型的学习

        先构建模型