是由来自Microsoft Research的4位学者提出的卷积神经网络。
残差网络的特点是容易优化，并且能够通过增加相当的深度来提高准确率。其内部的残差块使用了跳跃连接，缓解了在深度神经网络中增加深度带来的梯度消失问题。
残差的思想是去掉相同的主体部分，从而突出微小的变化。
如果把网络设计为 H(x)=F(x)+x ,如图1。我们可以转换为学习一个残差函数 F(x)=H(x)-x
