W kwietniu 1862 roku Polk dowodził I Korpusem Armii Missisipi Alberta Johnstona w bitwie pod Shiloh i pozostawał na tym stanowisku przez większość roku pod dowództwem gen. Braxtona Bragga, który zajął miejsce Pierre G.T. Beauregarda pełniącego czasowo obowiązki dowódcy po śmierci Johnstona, poległego pierwszego dnia bitwy pod Shiloh.