深度学习记录--神经网络表示及其向量化

神经网络表示

如下图

就这个神经网络图来说,它有三层,分别是输入层(Input layer),隐藏层(Hidden layer),输出层(Output layer)

对于其他的神经网络,隐藏层可以有很多层

一般来说,不把输入层算作一个标准的层,所以这是一个双层神经网络

神经网络的计算

对于每一层的每个节点,以logistic为例,每个节点会得出一个a值(y的预测值)

然后这个a值作为新的输入值进入下一层的节点,重复上一个过程

最终输出最终预测值

所以,每个节点都包含一个完整的logistic计算

如下图所示,第一层的a值代入到第二层的计算中

符号表示

从神经网络开始,出现了大量的符号,本弱鸡刚开始学也有点糊涂,经过好一番思考,才明白了每个符号的表示

层的表示

从输入层开始,每一层都需要被表示,一般用方括号上标表示第几层,注意,输入层为第0层

x^{\left [ i\right ]},i=0,1,2,...,n 

这个符号表示第i层的x值

样本表示

对于多份样本数据,一般用圆括号上标表示第几份样本数据

x^{\left ( i \right )},i=1,2,...,m

这个表示第i份样本数据,注意,每份样本数据包含了所有的特征变量(它的表示见下)

每份样本中特征变量的表示

上面说了每份样本数据包含了所有特征变量,特征变量如何表示

一般用下标表示第几个特征变量

x_{i},i=1,2,...,nx

这个表示某层第i个特征变量,nx为特征变量的总数

完整表示

x_{2}^{\left [ 1 \right ]\left ( 3 \right )}

这个表示第1层第3份样本数据中的第2个特征变量

向量化实现神经网络

之前谈了向量化,现在用完整符号表示神经网络的向量化实现,见下图

以X举例,每个大X表示每层的X数据,大X中每列表示某份样本数据,自上而下是特征变量

其他符号同理,都是用矩阵实现

最近更新

  1. TCP协议是安全的吗?

    2023-12-10 06:04:02       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2023-12-10 06:04:02       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2023-12-10 06:04:02       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2023-12-10 06:04:02       20 阅读

热门阅读

  1. docker常用命令

    2023-12-10 06:04:02       43 阅读
  2. Nmap脚本的价值和意义

    2023-12-10 06:04:02       31 阅读
  3. Memcached学习

    2023-12-10 06:04:02       35 阅读
  4. 深度学习 时间序列回归学习笔记

    2023-12-10 06:04:02       40 阅读
  5. 终于有人把tcp、http、rpc和grpc总结完整了

    2023-12-10 06:04:02       35 阅读
  6. 游戏推广常用的ChatGPT通用提示词模板

    2023-12-10 06:04:02       40 阅读
  7. ECU面临的风险介绍(含案例)

    2023-12-10 06:04:02       35 阅读
  8. 『Linux升级路』进度条小程序

    2023-12-10 06:04:02       29 阅读
  9. 2023秋招上岸必备软件测试面试题

    2023-12-10 06:04:02       38 阅读
  10. MySQL面试题总结

    2023-12-10 06:04:02       43 阅读
  11. 华为-算法---测试开发工程师----摘要牛客网

    2023-12-10 06:04:02       39 阅读
  12. PHP 安装

    2023-12-10 06:04:02       40 阅读