phaseDNN文章解读

文章DOI: https://doi.org/10.48550/arXiv.1905.01389
作者是 Southern Methodist University 的Wei Cai 教授

A Parallel Phase Shift Deep Neural Network for Adaptive Wideband Learning
一种并行移相深度神经网络来自适应学习宽带频率信号
20190514
核心思想:通过相变技术把高频部分转化为低频部分,这样便可以提高神经网络训练过程中网络的收敛速度

感觉这篇文章的信息好少,搜不到多少资料。

摘要
PhaseDNN利用了许多DNN首先在低频范围内实现收敛的事实(这个可参考许志钦老师的主页 https://ins.sjtu.edu.cn/people/xuzhiqin/,或知乎https://zhuanlan.zhihu.com/p/571517635),因此,对于更高频率范围,并行地构建和训练一系列中等大小的DNN。
借助于频域中的相移,通过对训练数据进行简单的相位因子乘法来实现,序列中的每个DNN将被训练为在特定范围内近似目标函数的较高频率内容。
由于相移,每个DNN都达到了在低频范围内的收敛速度。因此,PhaseDNN系统能够将宽带频率学习转换为低频学习,从而允许通过频率自适应训练对宽带高维函数进行统一学习。数值结果表明,PhaseDNN能够从低频到高频均匀地学习目标函数的信息。

具体实现过程
在这里插入图片描述

背景知识​
许志钦:​
深度神经网络的频率原则: DNN首先在低频范围内实现收敛​
这个可参考许志钦老师的主页 https://ins.sjtu.edu.cn/people/xuzhiqin/,​
或知乎https://zhuanlan.zhihu.com/p/571517635​

在这里插入图片描述

应用
多种频率的信号叠加的波/高频波,使用此相移方法,把高频转为低频,实现快速收敛。​
例如:多频叠加的信号,比如可能:音频分类、时序预测

GitHub

相关推荐

  1. Dockerfile, nginx.conf文件解读

    2024-02-20 11:14:02       39 阅读
  2. 解读vue配置文件(vue.config.js)

    2024-02-20 11:14:02       62 阅读
  3. yolov5s.yaml 文件解读

    2024-02-20 11:14:02       47 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-02-20 11:14:02       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-02-20 11:14:02       101 阅读
  3. 在Django里面运行非项目文件

    2024-02-20 11:14:02       82 阅读
  4. Python语言-面向对象

    2024-02-20 11:14:02       91 阅读

热门阅读

  1. Android S - 添加按键,上报键值为0

    2024-02-20 11:14:02       46 阅读
  2. visual studio code(vs code)历史版本下载

    2024-02-20 11:14:02       55 阅读
  3. ElementUI +++ Echarts面试题&答案汇总 Echarts

    2024-02-20 11:14:02       49 阅读
  4. RabbitMQ与Spring Boot集成示例

    2024-02-20 11:14:02       139 阅读
  5. linux系统监控工具的补充内容

    2024-02-20 11:14:02       52 阅读
  6. 网络体系结构

    2024-02-20 11:14:02       57 阅读
  7. linux的IP及虚IP(附加IP)获取打印

    2024-02-20 11:14:02       51 阅读
  8. MySQL全量备份

    2024-02-20 11:14:02       43 阅读
  9. 探索单片机应用领域:从智能家居到工业自动化

    2024-02-20 11:14:02       54 阅读
  10. Qt程序设计-无边框可移动可拖拽调整大小窗体

    2024-02-20 11:14:02       51 阅读
  11. Python爬虫知识图谱

    2024-02-20 11:14:02       50 阅读