ホップフィールドネットワークは全ての結合が対称的なRNNである。定常入力を必要とし、複数パターンの配列を処理しないため、汎用RNNではない。ホップフィールドネットワークは収束することを保証している。もし結合がヘッブの学習を用いて訓練されるならば、ホップフィールドネットワークは結合変化に抵抗性のある頑強な連想メモリとして機能することができる。
基本的なRNNは連続する「層」へと編成されたニューロン的ノードのネットワークであり、所定の層中の個々のノードは次の層中の全てのノードと有向（一方向）結合により結合されている。個々のノード（ニューロン）は時間変動する実数値の活性化を有する。個々の結合（シナプス）は変更可能な実数値の重みを有する。ノードは（ネットワーク外からデータを受け取る）入力ノード、（結果を得る）出力ノード、（入力から出力への途上でデータを修正する）隠れノードのいずれかである。離散時間設定における教師あり学習のため、実数値入力ベクトルの配列は入力ノードに到着する（一度に1つのベクトル）。任意の時間ステップにおいて、個々の非入力ユニットはそれに結合した全てのユニットの活性化の加重和の非線形関数としてその現在の活性化（結果）を計算する。ある時間ステップにおける一部の出力ユニットのために教師が与えられた目標活性化を提供することができる。例えば、入力配列が数字音声に対応した音声シグナルであるならば、配列の最後における最終目標出力は数字を分類するラベルとなるだろう。強化学習のセッティングでは、教師は目標シグナルを与えない。代わりに、適合度関数または報酬関数がRNNの性能を評価するために使われることがある。これは環境に影響を与えるアクチュエータに結合された出力ユニットを通してその入力ストリームに影響する。これは、進行が勝ち取った点数によって測定されるゲームをプレーするために使うことができるかもしれない。個々の配列は、全ての目標シグナルのネットワークによって計算された対応する活性化からのずれの和として誤差を生じる。膨大な配列のセットを訓練では、全誤差は全ての個別の配列の誤差の和である。
長・短期記憶（long short-term memory、LSTM）は、1997年にホッフライターとシュミットフーバーによって見出され、複数の応用領域において精度の記録を作った。2007年頃、LSTMは音声認識に革命をもたらし始め、特定の音声認識への応用において伝統的なモデルをしのいだ。2009年、コネクショニスト時系列分類（CTC）で訓練されたLSTMネットワークは、パターン認識大会で優勝した初のRNNとなった。このネットワークはつながった手書き文字認識の複数の大会で優勝した。2014年、中国の大手検索サイト百度は、伝統的な音声処理法を用いることなくSwitchboard Hub5'00音声認識ベンチマークを破るためにCTCで訓練されたRNNを用いた。LSTMはまた、大規模語彙音声認識およびテキスト音声合成を改良し、Google Androidにおいて使われた.。2015年、GoogleはCTCで訓練されたLSTMによって音声認識の劇的な性能向上が達成されたと報告され、この技術はGoogle Voice Searchで使用された。LSTMは機械翻訳、言語モデリング、多言語処理の記録を破った。畳み込みニューラルネットワーク（CNN）と組み合わされたLSTMは自動画像キャプション（短い説明文）付けを向上させた。
回帰型ニューラルネットワークは1986年のデビッド・ラメルハートの研究に基づく。ホップフィールド・ネットワークは1982年にジョン・ホップフィールドによって見出された。1993年、ニューラルヒストリー圧縮システムが、時間に展開されたRNN中で1000以上の層を必要とする「非常に深い学習」問題を解決した。
ジョージ・マーソン大学のアンドリュー・ライトとA&M大学のジョナサン・スミスが1997年に「哲学と地理学の為の社会」を出版し、三訂版や二版も発行された。そして、2009年には「倫理と場所と環境」と言う論文と纏められて、出版されたが、2011年1月には学問の発展に伴い元の独立した論文となった。
20世紀にはノルトヴァルデも2つの大戦に苦しんだ。第一次世界大戦ではこの村から兵役に招集された兵が遠い前線に投入されたのだが、第二次世界大戦では直接戦争被害を受けた。空襲の数は少なかった。連合国の空爆は戦略上重要な鉄道路線や、おそらくはシュタインフルト郡のV2ロケットの発射台と関連していた。1944年9月23日の夕方、発射直後のV2ロケットがノルトヴァルデの農場に墜落した。また、誤誘導されたドイツの対空砲の砲弾が爆発することも時折あった。ノルトヴァルデ地域で爆撃が起こるのは、ほとんどがイギリス軍爆撃機の墜落によるものであった。イギリス軍は非常に頻繁に、大規模な編隊でノルトヴァルデ上空を飛行していた。第二次世界大戦終戦後、かなり数の難民がノルトヴァルデにやって来た。これにより当時の人口は、わずかの間に 20 % 増加した。1916年にキルヒシュピール「レッケンヴェルト」に何ヘクタールもの広大な弾薬倉庫を建設する際、プロイセン軍管理部はノルトヴァルデとグレーヴェン市との境界に配慮しなかったため、その北西部がノルトヴァルデのレッケンフェルト集落に入り込んでいた（弾薬庫のブロックBにあたることから「B地区」と呼ばれた）。この土地の住民は一種の飛び地にノルトヴァルデの住民として住んでおり、グレーヴェン市の決定に対して影響力を行使できない状況に、大いに不満であった。彼らの子供たちはグレーヴェンにある学校でゲスト児童という扱いであった。ノルトヴァルデの行政当局は、毎週この地区でノルトヴァルデ住民のための対話集会を催し、署名運動を行うなどして、最終的にグレーヴェンへの合併を目指した。これは1964年1月1日に成功した。周辺の地形は、1724年/25年に建設されたマックス＝クレメンス運河の濠によって特徴付けられる。この濠はレッケンフェルトの西端に沿って伸びている。