Taylor ble sendt til Florida under opptakten til den andre seminolekrigen i 1837. Han bekjempet seminoleindianerne i slaget ved Okeechobeesjøen på juledagen samme år, en av de største trefningene under indianerkrigene på 1800-tallet. Taylor ble forfremmet til brigadegeneral, og overtok kommandoen over alle amerikanske styrker i Florida etter brigadegeneral Thomas Jesup i mai 1838. Taylor ble stadig mer anerkjent som militær leder, og fikk tilnavnet «Den gamle røffe og beredte», på engelsk , som spilte på hans militære meritter og sjuskete utseende. Han begynte å interessere seg for politikk, og brevvekslet med president William Henry Harrison. I mai 1841 ble han stasjonert i Arkansas som kommandant for hæravdelingen i det sørvestlige USA; vest for elven Mississippi og sør for den 37. breddegrad. Disse årene var ikke like begivenhetsrike, og Taylor brukte vel så mye tid på forretningene sine som på militære spørsmål.