Under andre verdenskrig var han fange på Grini og i Sachsenhausen. I fangetiden skrev han nesten hver dag dagbok med tynn blyantskrift på små lapper. Disse lappene ble smuglet ut av leirene og senere utgitt i tre bind. Dagbøkene ble bestselgere i Norge, og er oversatt til flere språk. En av Nansens medfanger i Sachsenhausen, pensjonert arkitekt Robert Bjørka, har fortalt om hvordan dagbøkene ble til. I Sachsenhausen reddet han sammen med nordmennene Sven Roth, Per Roth og Per Græsli den lille gutten Thomas Buergenthal ("Tommy") som ble en fremstående jurist.