Fryktende for ytterligere konsekvenser, bestemte han seg for å rømme til Sverige. Der fikk han billetter for å reise den "lange veien" til Storbritannia: fly til Moskva, tog til Odessa, båt over Svartehavet, deretter skip fra Suez rundt Kapp det gode håp til Atlanterhavet, og til slutt til Glasgow i september 1941. I Storbritannia sluttet han seg til de norske væpnede styrker i eksil, hvor han tjenestegjorde som nestkommanderende for Kompani 4 av den norske brigaden. I juni 1942 ble to infanteripelotonger fra dette kompaniet sendt til et sjokktropptrening ved Fort William. I august 1942 ble Hauge gitt kommandoen over No. 5 Norwegian Troop i No. 10 (Inter-Allied) Commando, med kapteins rang. Hauge fikk tillatelse til å velge frivillige fra hele den norske brigaden, men med kjerne fra Kompani 4 som nylig hadde gjennomgått sjokktropptreningen. Enheten var opprinnelig basert i Nefyn i Wales, og gjennomgikk et standard tre ukers Commando Hardening Course i Achnacarry før de ble akseptert som kommandosoldater.