残差神经网络 残差神经网络Residual Neural Network简称ResNet属于深度学习模型的一种其核心在于让网络的每一层不直接学习预期输出而是学习与输入之间的残差关系这种网络通过添加跳跃连接即跳过某些网络层的连接来实现身份映射再与网络层的输出相加合并其运作机制与高速神经网络英语Highway network类似通过极大的正偏置权重来打开门控 这一设计使得拥有几十上百层的深度学习模型可以更易于训练增加模型深度时还能保持甚至提高准确度所谓的残差连接即直连跳过这一概念也被应用于年的长短期记忆模型LSTM Transformer模型比如BERT和GPT系列ChatGPT等AlphaGo ZeroAlphaStar英语AlphaStar software以及AlphaFold等 残差神经网络由何恺明张祥雨任少卿和孙剑开发这一成果在年的ImageNet大规模视觉识别挑战赛中夺冠