Taylor vokste opp på sitt fødested i Wayne County i New York, på sørkysten av Lake Ontario. Han var sønn av William Delling Taylor, som startet et garveri, og Mary Underhill. Han hadde mistet en eldre bror, Willard Underhill. Han studerte jus ved Cornell University i Ithaca og ble uteksaminert i 1894. Han vendte tilbake til Lyons og prøvde å starte et advokatfirma. Han stilte to ganger som demokratisk kandidat til , og mislyktes begge gangene.