Mimo službu Halder udržoval styk s propuštěným generálem Beckem, který v tomto období připravil několik atentátů namířených na Hitlera. Po neúspěšném atentátu na Hitlera 20. července 1944 byl Halder jako podezřelý ze spiknutí vůči Hitlerovi zatčen gestapem a držen v koncentračním táboře Flossenbürg a Dachau. Spolu s ním byla dobrovolně uvězněna i jeho žena Gertruda. Koncem dubna 1945 bylo asi 140 prominentních vězňů (včetně rodinných příslušníků) převedeno z nacistických táborů do Jižního Tyrolska. 27. dubna 1945 u obce Niederdorf byly stráže SS zastaveny oddílem vojáků Wehrmachtu a vězni osvobozeni. Vojáci německé armády, upozornění na situaci telefonicky rovněž vězněným plukovníkem Bogislawem von Bonin, osvobodili vězně i kvůli faktu, že mezi nimi Haldera poznali. Většině z nich tak zachránili život, protože Heinrich Himmler strážím nařídil, aby 29. dubna vězně zlikvidovali. 4. května 1945 byl generál Halder spolu s ostatními vězni předán do rukou amerických vojsk a následné dva roky strávil ve válečném zajetí.