Johnson leidde een brigade van de Army of Mississippi in de Slag bij Shiloh en op de tweede dag, 7 april 1862 kreeg hij het bevel over een divisie. Hij raakte zwaargewond door een artilleriegranaat. Na zijn herstel leidde hij een brigade in de invasie van Kentucky door generaal Braxton Bragg. Hij vocht in de Slag bij Perryville, de Slag bij Stones River, de Tullahomaveldtocht, de Slag bij Chickamauga en onder luitenant-generaal James Longstreet in de Slag om Fort Sanders.