Rørholt oppnådde graden oberstløytnant i militæret, og var medlem av den illegale motstandsgruppen Milorg under den tyske okkupasjonen av Norge. Han ble medlem av den indre kretsen Rådet i mai 1943, men måtte flykte til Sverige i januar 1945. Han fortsatte motstandsarbeidet fra Stockholm frem til Norges frigjøring i mai 1945, og var medlem av reservepolitiet i Sverige. Hans sønn Bjørn, som han hadde sammen med Luise Fredrikke Lund (1891–1965), var også involvert i motstandsarbeidet som offiser i Secret Intelligence Service. Da Rørholts gruppe Skylark B ble avslørt av tyskerne i september 1941, ble Arnold Rørholt arrestert av nazistene som gissel. Han satt fengslet på Møllergata 19 fra 12. september 1941 til 23. april 1942, og deretter i Grini fangeleir til 9. november 1942.