Hazen beteiligte sich unter General Rosecrans im Sommer 1863 im Verband des XXI. Corps (Maj. Gen. Thomas L. Crittenden) am erfolgreichen Tullahoma-Feldzug und nahm am 20. September im Verband der Division von Generalmajor John M. Palmer an der schweren Niederlage der Union in der Schlacht am Chickamauga teil. Am Chickamauga nahmen seine Männer unter General George Henry Thomas an der Verteidigung von Snodgrass Hill teil und gehörten dann zu den Truppen, welche die konföderierten Linien auf Missionary Ridge durchbrachen. Hazens Brigade spielte auch in der Schlacht von Chattanooga im Verband des IV. Corps eine wichtige Rolle bei Browns Ferry, wo sie mit anderen Truppen von Generalmajor Joseph Hooker die blockierte Versorgungslinie für die Army of Cumberland öffnete.