Thomas służył podczas wojny z Meksykiem, a w okresie wojny secesyjnej stanął po stronie Unii, mimo że z urodzenia był Wirgińczykiem. Odniósł jedno z pierwszych zwycięstw jankesów w tej wojnie pod Mill Springs w stanie Kentucky i odegrał ważną rolę w starciach pod Perryville i nad Stones River. Jego zawzięta obrona w bitwie pod Chickamauga w roku 1863 ocaliła armię Unii przed klęską, z której to przyczyny zyskał przydomek „Skały spod Chickamauga”. W rok później odznaczył się w tzw. III bitwie pod Chattanooga. W roku 1864 odniósł jedno ze swych największych zwycięstw w tej wojnie, pokonując armię konfederatów w bitwie pod Nashville.