Som chef för arméns generalstab deltog Halder i planeringen av angreppen på Polen 1939, Norge 1940, Frankrike 1940, Baltikum och Sovjetunionen 1941. Efter kontroverser med Adolf Hitler överfördes Halder till reserven 24 september 1942. Han misstänktes för delaktighet i 20 juli-attentatet mot Hitler, arresterades av Gestapo 23 juli 1944 och hölls fängslad till slutet av april 1945. Halder satt internerad i olika koncentrationsläger och fängelser, avskedades från armén 31 januari 1945 och befriades av amerikanska soldater i Dachau 30 april 1945. Hans hustru och äldsta dotter satt under slutet av kriget i Ravensbrück.