Pod koniec 1862 roku Armia Missisipi została przemianowana na Armię Tennessee, a Stewart i jego brygada nadal służyli w I Korpusie tej armii. 2 czerwca 1863 roku został awansowany na dowódcę dywizji i do stopnia generała dywizji (Major General). Latem tego samego roku uczestniczył w kampanii tulluhomskiej. We wrześniu brał udział w walkach w bitwie pod Chickamaugą, gdzie 19 września został ranny w walce.