unet网络模型(【Unet系列】(三)Unet++网络)
导读:一、UNet++整体网络结构 Unet++主要是探索encoder和decoder需要多大的问题,以此为基础,提出了融合不同尺寸Unet结构的网络。创新点就是把不同尺寸的Uent结构融入到了一个网络里。...
一 、UNet++整体网络结构
Unet++主要是探索encoder和decoder需要多大的问题 ,以此为基础 ,提出了融合不同尺寸Unet结构的网络 。创新点就是把不同尺寸的Uent结构融入到了一个网络里 。
二 、结构的好处
(1)不管哪个深度的特征有效,都用上 ,让网络自己去学习不同深度特征的重要性 。
(2)共享了一个enconder ,也就是说 ,不需要训练一推Unet ,而是只训练一个encoder ,它的不同层次特征由不同的decoder路径来还原 。三、存在的问题
无法训练 ,因为不能进行反向传播 。解决方法有如下两种:
(1)使用短连接 。
(2)在短连接的基础上使用deep supervision 。
在图中X0,1 、X0,2 、X0,3 、X0,4后面加一个1*1的卷积核 ,相当于去监督每个分支的Unet的输出 。这样可以解决无法训练的问题 。四 、优点:
可以更容易剪枝 ,因为前面也单独有监督训练 ,可以根据速度要求来快速完成剪枝。
为什么可以剪枝?
在测试阶段,由于输入的图像只会前向传播 ,扔掉这部分对钱面的输出完全没有影响的 ,而在训练阶段,因为既有前向 ,又有后向传播 ,被剪掉的部分是会帮助其它部分做权重更新的 。即测试时,剪掉部分对剩余结构不做影响 ,训练时 ,剪掉的部分对剩余部分有影响 。(五)剪枝的好处
剪枝的好处是:如果低尺度的Uent++训练的效果和高尺度的Unet++训练的效果相当 ,则只训练低尺度的 ,这样在训练时会减少参数 ,加快训练速度。
创心域SEO版权声明:以上内容作者已申请原创保护,未经允许不得转载,侵权必究!授权事宜、对本内容有异议或投诉,敬请联系网站管理员,我们将尽快回复您,谢谢合作!