相比之下，一個遞迴神經網絡嘅細胞裏面有至少一部份嘅會有能力影響佢哋之前嗰幾層嘅人工神經細胞嘅啟動程度，，當中  可以包括同排或者後排嘅細胞喺之前時間點嘅啟動程度，令資訊能夠喺個網絡入面「遞迴」。