Bare kort tid etter starten av andre verdenskrig ble Boehm løst fra sin tidligere kommando, og den 21. oktober 1939 ble flagget hans som flåtesjef hentet inn. Han ble deretter permittert uten oppgaver i flere måneder. miniatyr| Admiral Hermann Boehm i Norge i januar 1943 okkupasjonen av Norge i april 1940 (Operasjon Weserübung) ble Boehm den 10. april 1940 utnevnt til kommanderende admiral i Norge, det vil si øverstkommanderende for de tyske okkupasjonsstyrkene. I denne stillingen, som han beholdt til 1943, var han stadig i konflikt med lederen av den tyske sivilforvaltningen i Norge, Gauleiter Josef Terboven (NSDAP). Motsetningen mellom de to mennene begynte da Terboven i juli 1940 forsøkte å tvinge de norske parlamentsmedlemmene til å etterkomme hans krav om å avsette det norske kongehuset under trussel om å etablere et rikesprotektorat i Norge. Boehm, som hadde betenkeligheter med dette manøveret, som han omtalte som en "komedie", lot deretter Hitler bli informert om denne planen av marinekommandanten, Erich Raeder, som forbød gjennomføringen og i stedet beordret opprettelsen av en regjering bestående av fagfolk. Senest siden september 1940 – da Terboven i en radiotale i forbindelse med dannelsen av Hitlers pålagte fagfolksregjering urettmessig beskyldte det norske parlamentet for å ha forsøkt å avsette kongen i juli, og dermed lot som om han ikke hadde noe med det å gjøre og at parlamentsmedlemmene hadde handlet på eget initiativ – var "ethvert fruktbart samarbeid" mellom ham og Terboven umulig.