Davis meldete sich im April 1861 freiwillig beim 1. Tennessee-Infanterie-Regiment. Mit dem Regiment nahm er an den Schlachten von Cheat Mountain, Shiloh, Perryville und Stones River teil. Er wurde bei Shiloh leicht und bei Perryville schwer verwundet. 1863 wurde Davis von den Coleman Scouts angeworben.