Omdat Beauregard op politiek vlak persona-non-grata werd, werd hij overgeplaatst naar Tennessee. Daar werd hij aangesteld als plaatsvervanger van generaal Albert Sidney Johnston (die geen familie was van Joseph E. Johnston) die het Army of Mississippi onder zijn bevel had. Zijn benoeming werd van kracht op 14 maart 1862. De twee generaals maakten plannen om met een geconcentreerde aanval de Noordelijke opmars via de Tennessee naar Corinth van generaal-majoor Ulysses S. Grant en generaal-majoor Don Carlos Buell tegen te houden. In de Slag bij Shiloh, die begon op 16 april 1862 voerden de Zuidelijken een verrassingsaanval uit op Grants Army of the Tennessee. De Noordelijken werden bijna verslagen. Opnieuw liet de bevelvoerende generaal de tactische leiding over aan Beauregard. De Zuidelijke massale frontale aanval liep in het honderd door een slechte aanpak van Beauregard. In plaats van ieder korps een eigen front toe te wijzen, rukten de korpsen op in linie achter elkaar waardoor de verschillende eenheden al snel in elkaars vaarwater terechtkwamen. Hierdoor kon geen geconcentreerde aanval uitgevoerd worden op de zwakke plekken in het Noordelijk front. In de late namiddag raakte Johnston dodelijk gewond. Beauregard nam onmiddellijk het algemeen bevel op zich van het leger en het departement. Toen de duisternis viel, besliste Beauregard om de aanval te staken tegen de laatste verdedigingslinie van Grant. Grant had zich teruggetrokken in een halfcirkelvormige linie met zijn rug tegen de Tennessee bij Pittsburg Landing.