Johnson commande une brigade de l'armée du Mississippi à la bataille de Shiloh, et le deuxième jour de la bataille, le , il devient commandant de division, mais est blessé sévèrement par une commotion due à un obus d'artillerie. Après avoir recouvré la santé, il commande sa brigade lors de l'invasion du général Braxton Bragg du Kentucky et à la bataille de Perryville, puis de Stones River et lors de la campagne de Tullahoma. À la bataille de Chickamauga, il commande une division et continue de la commander lors du siège de Knoxville sous les ordres du lieutenant général James Longstreet.