感知机(perceptron)

一、感知机

1、相关概念介绍

       感知机(perceptron)是二分类的线性分类模型,属于监督学习算法。输入为实例的特征向量,输出为实例的类别(取+1和-1)。

2、(单层)感知机存在的问题

       感知机不能拟合XOR函数,它只能产生线性分割面。

3、总结

二、多层感知机

1、多层感知机思路

       多层感知机思路就是将一次不能完成学习的东西分多次进行学习。针对XOR问题就是先学一个x,再学一个y,然后再将这两次学习的结果组合起来。

2、激活函数

       激活函数不能是线性的,一定要使用非线性的激活函数,否则会造成模型坍塌。

例如,如果激活函数为:

$ \sigma \left( x \right) =x $

那么输出仍然是线性函数,其实仍然相当于一个单层的感知机

3、常见的激活函数

       ReLU函数是其中最常用的函数,因为其计算起来很快,相比于Sigmoid函数和Tanh函数来讲没有指数运算。因为指数运算较慢,因此有时候使用ReLU激活函数节约算力。

4、多类分类

4、总结

三、多层感知机从零开始实现

相关推荐

  1. 机器学习:感知--Perceptron

    2023-12-14 00:04:05       36 阅读
  2. 多层感知(Multilayer Perceptron,MLP)

    2023-12-14 00:04:05       60 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2023-12-14 00:04:05       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2023-12-14 00:04:05       106 阅读
  3. 在Django里面运行非项目文件

    2023-12-14 00:04:05       87 阅读
  4. Python语言-面向对象

    2023-12-14 00:04:05       96 阅读

热门阅读

  1. 2023.12.13 libstdc++ undefined reference to GLIBCXX

    2023-12-14 00:04:05       63 阅读
  2. 52.0/框架(详细版)

    2023-12-14 00:04:05       53 阅读
  3. Go 语言指针

    2023-12-14 00:04:05       65 阅读
  4. PHP中什么是Composer?

    2023-12-14 00:04:05       50 阅读
  5. oracle 查看统计信息

    2023-12-14 00:04:05       55 阅读
  6. vue2 vue-router引入使用详解

    2023-12-14 00:04:05       60 阅读
  7. k8s之高级调度

    2023-12-14 00:04:05       73 阅读