I den Mexicansk-amerikanske krig gjorde han tjeneste under general Zachary Taylor i Slaget ved Palo Alto og Slaget ved Resaca de la Palma. Han gjorde senere tjeneste under general Winfield Scott og blev midlertidigt forfremmet til premierløjtnant for Slaget ved Cerro Gordo og til kaptajn for Slaget ved Contreras og Slaget ved Churubusco. Hans ældre bror, Ephraim Kirby Smith, som var kaptajn i den regulære hær, gjorde tjeneste sammen med ham i 5th U.S. Infantry i bogge kampagner med Taylor og Scott, indtil han døde af de sår, han fik i Slaget ved Molino del Rey i 1847.