Op 25 maart 1863 werd generaal-majoor Ambrose Burnside aangesteld tot bevelhebber van het Departement of the Ohio. Hij bracht alle aanwezige eenheden samen in het XXIII Corps. Deze kreeg opnieuw de naam Army of the Ohio met Burnside als bevelhebber. Het eerste grote wapenfeit van het tweede Army of the Ohio was het afslaan van Morgans Raid, hoewel het leger nooit als één geheel werd ingezet tijdens deze veldtocht. Daarna werd het leger naar Knoxville, Tennessee verplaatst. Het IX Corps en een cavaleriedivisie werd toegevoegd. Tijdens de Knoxvilleveldtocht versloeg Burnside met zijn versterkt leger de Zuidelijken in de Slag om Fort Sanders. Na de slag stuurde hij een verzoek om te worden ontgeven uit zijn functie door ziekte. Op 9 december 1863 verving generaal-majoor John G. Foster Burnside als bevelhebber van het leger en het Departement of the Ohio.