Rommetvedt meldte seg til tjeneste 9. april 1939 ved Rogaland Infanteriregiment nr. 8 (I.R. 8) og ble tildelt jegerbataljonen. Han deltok i kampene i Gloppedalsura i 1940. Etter flukten fra det tysk-okkuperte Norge ombord på fiskefartøyet Sjøleik i oktober 1941, ble han utdannet som kommandosoldat i England. Han tjenestegjorde i No. 10 (Inter-Allied) Commando, 5. tropp, hvor han senere ble troppssjef. Rommetvedt deltok på flere tokt til Norge med norske motortorpedobåter (MTB'er).