迁移学习基础知识

简介

使用迁移学习的优势:

1、能够快速的训练出一个理想的结果

2、当数据集较小时也能训练出理想的效果。

注意:在使用别人预训练的参数模型时,要注意别人的预处理方式。

原理:

对于浅层的网络结构,他们学习到的角点信息和纹理信息都是通用的,将学习好的浅层网络的信息迁移到新的网络中,这样新的网络也拥有了识别底层通用特征的能力,从而能加快网络学习新的数据集的高维特征。

常见的迁移学习的方式:

1、载入权重后训练所有参数 

2、载入权重后只训练最后基层参数

3、载入权重后在原网络基础上再添加一层全连接层,仅训练最后一个全连接层。

(设备有限且需要在很短时间内得到一个比较理想的结果使用第2或第3个方式;硬件设备不受限且希望得到一个最优的结果,使用第1种方式进行训练)

 

后续知识再接着补充。。。

相关推荐

  1. Python基础知识学习

    2024-04-28 09:30:01       59 阅读
  2. 【深度学习基础知识

    2024-04-28 09:30:01       42 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-04-28 09:30:01       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-04-28 09:30:01       100 阅读
  3. 在Django里面运行非项目文件

    2024-04-28 09:30:01       82 阅读
  4. Python语言-面向对象

    2024-04-28 09:30:01       91 阅读

热门阅读

  1. C# 投影(Projection)

    2024-04-28 09:30:01       32 阅读
  2. 智乃的k线段区间

    2024-04-28 09:30:01       28 阅读
  3. SQL提升

    2024-04-28 09:30:01       30 阅读
  4. react之state深入浅出

    2024-04-28 09:30:01       29 阅读
  5. 【Python快速上手(六)】

    2024-04-28 09:30:01       33 阅读
  6. 用户注册功能——责任链

    2024-04-28 09:30:01       38 阅读