Taylor wurde in eine wohlhabende Pflanzer-Familie geboren und wuchs im Grenzland, der „Frontier“ von Kentucky auf. Wie sein ältester Bruder entschied sich Taylor für die Laufbahn als Offizier und trat 1808 der United States Army bei. Daneben bewirtschaftete er eigene Plantagen und betätigte sich als Bodenspekulant, so dass er am Lebensende über bedeutenden Wohlstand verfügte. Als militärischer Führer machte er erstmals während des Britisch-Amerikanischen Kriegs auf sich aufmerksam, als er 1812 Fort Harrison gegen einen Angriff der Indianer verteidigte. Nach kurzzeitiger Entlassung aus der Armee nach dem Krieg folgten mehrere dienstliche Verwendungen in der „Frontier“. In den 1830er Jahren kämpfte Taylor im Black-Hawk-Krieg und im Zweiten Seminolenkrieg, wo er 1837 bei Okeechobee die einzige offene Feldschlacht in diesem Konflikt herbeiführte. Danach kommandierte er einen das Indianer-Territorium umfassenden Militärbezirk, der am Ende des Pfades der Tränen lag. Während des Mexikanisch-Amerikanischen Kriegs führte er eine eigene Armee, mit der er die Siege bei den Schlachten von Buena Vista, Palo Alto und Monterrey errang, was ihn zum Nationalhelden machte und 1847 die Beförderung zum Generalmajor einbrachte.