P122 神经网络压缩Network compression-purning

  • 开发
  • 34

在 边缘设备上跑时，模型太大，跑不动
、purn: 删减
在这里插入图片描述
删减以后，正确率有影响会下降
为解决这个问题，进行微调，每次只减一点参数，重复多次。 使得最后修剪后的模型跟原来的模型差别不大。

判断某一个参数是否重要，是否要去掉

在这里插入图片描述

问题：进行过修剪后不规则的网络，pytorch难以实现，也无法进行矩阵计算，在GPU上无法加速。

解决办法：修剪掉的weight ，设为0 ，这样能够进行GPU计算。 但是 这样的话，net 并没有减少
在这里插入图片描述
weight purning 不一定是有效的方法
那么 neuron purning 呢
在这里插入图片描述

为什么不直接train 小的 network
小的networ 不好 train
大的好train

阅读全部

相关推荐

  10. 【神经网络】深度神经网络

    2024-01-13 07:02:03       7 阅读

最近更新

  4. TCP协议是安全的吗?

    2024-01-13 07:02:03       18 阅读

  12. 阿里云服务器执行yum，一直下载docker-ce-stable失败

    2024-01-13 07:02:03       19 阅读

  13. 【Python教程】压缩PDF文件大小

    2024-01-13 07:02:03       18 阅读

  18. 通过文章id递归查询所有评论（xml）

    2024-01-13 07:02:03       20 阅读

热门阅读

  1. 【学习笔记】神经网络相关

    2024-01-13 07:02:03       36 阅读

  2. openal中使用现代C++智能指针管理ffmpeg中裸指针的用法

    2024-01-13 07:02:03       29 阅读

  3. 构建神经网络的流程是什么？

    2024-01-13 07:02:03       29 阅读

  7. vue3中的hook公共函数封装及运用

    2024-01-13 07:02:03       36 阅读

  8. 【小程序】微信小程序关联公众号（服务号）推送通知消息

    2024-01-13 07:02:03       41 阅读

  12. 二Dockerfile实战

    2024-01-13 07:02:03       32 阅读

  16. 【算法题】50. Pow(x, n)

    2024-01-13 07:02:03       34 阅读

  20. 【docker】Docker Stack 详细使用及注意事项

    2024-01-13 07:02:03       33 阅读

  21. Unity 鼠标点击或触摸任意拖动UGUI的方法

    2024-01-13 07:02:03       33 阅读

  23. Baumer工业相机堡盟工业相机如何通过NEOAPISDK设置硬件触发模式（C#）

    2024-01-13 07:02:03       40 阅读

  25. 50天精通Golang（第15天）

    2024-01-13 07:02:03       32 阅读

  28. mysql undo log、redo log、binlog、mvcc、Buffer Pool的关系

    2024-01-13 07:02:03       33 阅读

  29. ETL详解--数据仓库技术

    2024-01-13 07:02:03       39 阅读