Taylor était né dans une influente famille de planteurs qui quitta la Virginie pour le Kentucky dans son enfance. Il rejoignit l'armée de terre en 1808 et s'illustra durant la guerre anglo-américaine de 1812. Il gravit les échelons en fondant des forts le long du Mississippi et participa à la guerre de Black Hawk en 1832. Ses victoires pendant la Seconde guerre séminole le firent connaître au niveau national et lui valurent le surnom de "Old Rough and Ready" (« Vieux Rustique et Prêt »).