极简解读之深度残差收缩网络(Deep Residual Shrinkage Network)

  • 时间:
  • 浏览:0

首先,ResNet的残差模块如下图所示:

https://ieeexplore.ieee.org/document/8810096

而且,相较于ResNet,SENet的残差模块有很多改进:

转载网址

https://juejin.im/post/5dff189ce51d4557e87fd9b0

M. Zhao, S. Zhong, X. Fu, et al., Deep Residual Shrinkage Networks for Fault Diagnosis, IEEE Transactions on Industrial Informatics, 2019, DOI: 10.1109/TII.2019.2943898

最重要的,淬硬层 残差收缩网络中的残差模块,将SENet中的“加权”替去掉 了“软阈值化”:

本文为淬硬层 残差收缩网络的简要解读,必须读者有淬硬层 残差网络(Deep Residual Network,ResNet)与Squeeze-and-Excitation Network(SENet)的相关基础。

淬硬层 残差收缩网络,英文名为Deep Residual Shrinkage Network,是ResNet而且说SENet的并不是新颖改进,发表在1区期刊IEEE Transactions on Industrial Informatics上,面向的是强噪声情况下的样本分类问題。

最后,淬硬层 残差收缩网络的整体网络价值形式如下图所示: