Unet++(pytorch实现)

Unet++网络

Dense connection

Unet++继承了Unet的结构,同时又借鉴了DenseNet的稠密连接方式(图1中各种分支)。

作者通过各层之间的稠密连接,互相连接起来,就像Denset那样,前前后后每一个模块互相作用,每一个模块都能看到彼此,那对彼此互相熟悉,分割效果自然就会变好。

在实际分割中,一次次的下采样自然会丢掉一些细节特征,在Unet中是使用skip connection来恢复这些细节,但能否做的更好呢?Unet++就给出了答案,这种稠密连接的方式,每一层都尽量多的保存这种细节信息和全局信息,一层层之间架起桥梁互相沟通,最后共享给最后一层,实现全局信息和局部信息的保留和重构。 

deep supervision

当然,简单的将各个模块连接起来是会实现很好的效果。而我们又能发现,一个Unet++其实是很多个不同深度的Unet++叠加。那么,每一个深度的Unet++是不是就都可以输出一个loss?答案自然是可以的。

所以,作者提出了deep supervision,也就是监督每一个深度的Unet++的输出,通过一定的方式来叠加Loss(比如加权的方式),这样就得到了一个经由1、2、3、4层的Unet++的加权Loss(图2 不同深度Unet++融合)。

那么,deep supervision又有什么用呢?-剪枝

既然Unet++由多个不同深度的Unet++叠加起来,那么随意去掉一层,前向传播的梯度不会受到任何变化,但你发现Unet++第三个输出的效果和第四个输出效果差不多时,那就可以毫不犹豫删去4层深度的Unet++。比如,直接删去图3中棕色部分,就可以实现剪枝。这样,就得到了更加轻量化的网络。

模型复现

Unet++

为了更直观一些,我把代码中的所有符号都和网络结构中对应上了。

 

 

 

 

 

 

数据集准备

数据集使用Camvid数据集,可在CamVid数据集的创建和使用-pytorch中参考构建方法。

https://blog.csdn.net/yumaomi/article/details/124786867

相关推荐

  1. Spring WebSocket实现实时通信

    2024-04-14 08:32:03       37 阅读
  2. rsync+inotify实现实时同步

    2024-04-14 08:32:03       18 阅读
  3. 通讯录实现

    2024-04-14 08:32:03       35 阅读
  4. Promise实现

    2024-04-14 08:32:03       18 阅读
  5. SpringBoot集成etcd,实现实时监听,实现配置中心

    2024-04-14 08:32:03       33 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-04-14 08:32:03       17 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-04-14 08:32:03       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-04-14 08:32:03       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-04-14 08:32:03       18 阅读

热门阅读

  1. 每日一题:C语言经典例题之矩阵对角线元素之和

    2024-04-14 08:32:03       19 阅读
  2. 【数据库】MVCC

    2024-04-14 08:32:03       17 阅读
  3. VPS服务器的优势有哪些?

    2024-04-14 08:32:03       39 阅读
  4. c# Paxos算法实现

    2024-04-14 08:32:03       19 阅读
  5. Pytorch深度学习完整GPU图像分类代码

    2024-04-14 08:32:03       13 阅读
  6. 密码学基础--搞清RFC和PKCS(2)

    2024-04-14 08:32:03       13 阅读
  7. Kotlin关键字三——fun与方法

    2024-04-14 08:32:03       13 阅读
  8. 图像哈希:QSVD

    2024-04-14 08:32:03       11 阅读
  9. Android retrofit

    2024-04-14 08:32:03       13 阅读
  10. 【软件设计师知识点】七、面向对象技术

    2024-04-14 08:32:03       13 阅读
  11. 【软考】极限编程

    2024-04-14 08:32:03       14 阅读
  12. QCustomPlot移植android后实现曲线放大缩小

    2024-04-14 08:32:03       15 阅读