Adenauer vreesde dat zijn leven bedreigd werd en zocht asiel in de Abdij Maria Laach. Van de nazi's kreeg hij geen toestemming weer in Keulen te gaan wonen. In 1934 woonde hij daarom een jaar in Berlijn. Vanaf 1935 betrok hij met zijn gezin een woning in Rhöndorf. Adenauer werd verschillende keren gevangengezet door het regime. De eerste keer was na de Nacht van de Lange Messen in 1934, maar de voormalige burgemeester werd na een paar dagen vrijgelaten. In 1944 werd Adenauer opnieuw gevangengenomen, omdat hij verdacht werd van betrokkenheid bij de aanslag op Hitler door Claus Schenk von Stauffenberg. Hij had in de loop van de oorlog wel kort contact gehad met verschillende coupplegers, maar daarbij sterk de samenwerking afgehouden en het contact verbroken omdat hij geen vertrouwen had in de capaciteiten van de coupplegers. In november 1944 kwam Adenauer op vrije voeten omdat er geen bewijs was van zijn betrokkenheid bij de aanslag.