Rains debuterte på scenen i London allerede som 11-åring. Han debuterte på Broadway i 1926 og spilte i et antall oppsetninger frem til 1934.