深層ニューラルネットワークでは、各層が高次の統計量をどのように処理するかはネットワークのアーキテクチャや学習方法によって異なります。一般的には、浅い層（入力に近い層）は低次の特徴を抽出し、深い層に進むにつれてより高次の特徴や複雑なパターンを学習します。例えば、畳み込みニューラルネットワーク（CNN）では、初めの層がエッジやテクスチャなどの低次の特徴を学習し、後の層がより抽象的な特徴やオブジェクトの概念を獲得します。また、リカレントニューラルネットワーク（RNN）では、時系列データの高次のパターンや依存関係を学習します。