Neuvostoliiton ja Saksan miehittäessä Viroa Pitka oli vuosina 1940–1944 maanpaossa Suomessa käyttäen salanimeä Schmidt. Hänen toinen vaimonsa ja molemmat poikansa teloitettiin Usollagin vankileirillä Neuvostoliitossa vuonna 1942. Pitka palasi Viroon huhtikuussa 1944 ja perusti elokuussa virolaisista kootun ”iskujoukko amiraali Pitkan” ("Löögiüksus Admiral Pitka"), joka yritti puolustaa Tallinnaa lähestyvältä puna-armeijalta. Hän katosi syyskuussa 1944 joukkojensa peräännyttyä Läänemaalle.